Что такое модель-трансформер?

Что это такое

Сначала текст разбивается на мелкие части, называемые токенами, которые часто являются целыми словами или их частями. Центральный шаг называется вниманием. Для каждого токена модель оценивает, насколько сильно он связан с другими токенами текста, и именно так она выясняет, к чему относится слово вроде «он». Наконец, она оценивает каждый возможный следующий токен, выбирает один из вероятных, добавляет его и повторяет.

Прежде чем она сможет всё это делать, модель обучается. Ей показывают очень большие объёмы текста, и она многократно подстраивается, пока её предсказания не улучшатся. Поэтому она пишет гладкую, естественную прозу, и в этом же источник её главной слабости. Модель создаёт правдоподобный текст и не обращается к проверенным фактам, поэтому может утверждать ложное тем же спокойным тоном, что и истинное. Так устроены инструменты вроде Claude и ChatGPT от OpenAI.

Почему это важно для бизнеса

• Гладкость не равна точности: хорошо написанный результат всё равно может быть неверным, поэтому факты, цифры и цитаты нужно проверять.
• Ваши данные: при использовании размещённой модели ваш текст отправляется провайдеру на обработку, поэтому решите, чем можно делиться.
• Стоимость: использование обычно измеряется в токенах, поэтому более длинные входные данные и ответы стоят дороже.
• Проверка человеком: всё, что попадает к клиенту или в учётные записи, должен прочитать знающий человек.

Как это проявляется в нашей работе

В нашей работе по ИИ и автоматизации мы выбираем модель под каждую задачу, оставляем человека в цепочке для важных результатов и помогаем клиентам решать, какие данные можно отправлять. Подробнее об инструментах, которые действуют самостоятельно, читайте об агентном ИИ.

Подробнее

• Трансформер в ВикипедииТехнический обзор архитектуры, полезный тем, кому нужна более глубокая информация.
• Большая языковая модель в ВикипедииНейтральный обзор того, как такие модели создаются и используются, полезный как отправная точка.