¿Qué es un modelo transformer?
Un transformer es el diseño de red neuronal detrás de la mayoría de los modelos de lenguaje modernos. En las herramientas de chat, lee el texto por fragmentos y predice, un fragmento a la vez, qué debe venir a continuación.
Hable con un ingeniero Base de conocimiento
Qué es
Primero, el texto se divide en fragmentos pequeños llamados tokens, que a menudo son palabras completas o partes de palabras. El paso central se llama atención. Para cada token, el modelo pondera qué tan fuertemente se relaciona con los demás tokens del texto, que es como averigua a qué se refiere una palabra como "eso". Por último, califica todos los posibles tokens siguientes, elige uno de los más probables, lo agrega y repite el proceso.
Antes de poder hacer todo esto, el modelo se entrena. Se le muestran cantidades muy grandes de texto y se ajusta a sí mismo, muchas veces, hasta que sus predicciones mejoran. Por eso escribe una prosa fluida y natural, y también es la fuente de su principal debilidad. El modelo produce texto verosímil y no consulta datos verificados, así que puede afirmar algo falso con la misma voz tranquila que algo verdadero. Herramientas como Claude y ChatGPT de OpenAI están construidas así.
Por qué le importa a una empresa
- La fluidez no es exactitud: un resultado bien escrito aún puede ser incorrecto, así que los datos, las cifras y las citas requieren verificación.
- Sus datos: con un modelo alojado, su texto se envía al proveedor para procesarlo, así que decida qué puede compartirse.
- Costo: el uso suele medirse en tokens, por lo que las entradas y salidas más largas cuestan más.
- Revisión humana: una persona con conocimiento debe leer todo lo que llegue a un cliente o a un registro.
Cómo se refleja en nuestro trabajo
En nuestro trabajo de IA y automatización elegimos el modelo para cada tarea, mantenemos a una persona en el proceso para los resultados que importan y ayudamos a los clientes a decidir qué datos pueden enviarse. Para una visión más amplia de las herramientas que actúan por su cuenta, lea sobre la IA agéntica.
Servicios relacionados
IA y automatización
Automatización de flujos de trabajo y herramientas que llaman a modelos de IA con revisión integrada.
Software
Herramientas empresariales a la medida donde una persona verifica el resultado.
Más información
- Transformer en WikipediaUn panorama técnico del diseño, útil para quienes quieren más profundidad.
- Modelo de lenguaje grande en WikipediaUn panorama neutral de cómo se construyen y se usan estos modelos, útil como punto de partida.
¿Quiere resultados de IA en los que pueda confiar?
Cuéntenos la tarea. Incorporaremos verificaciones para que una persona confirme lo que importa.
Iniciar una conversación
