Как ChatGPT на самом деле строит ответы
Внутри ChatGPT нет базы готовых ответов и нет поисковика по заранее написанным фразам. Модель каждый раз заново строит текст, подбирая наиболее подходящее продолжение. Из этой простой идеи вытекает и впечатляющая гибкость, и странные ошибки.
Фото: Carl Lender, CC BY 2.0, Wikimedia Commons
Предсказание следующего фрагмента
Основа работы большой языковой модели: она получает текст и вычисляет, какой фрагмент слова, токен, скорее всего идёт дальше. Токен может быть словом, частью слова или знаком препинания. Выбрав один токен, модель добавляет его к тексту и повторяет операцию снова и снова, пока ответ не будет готов.
Важно, что это не угадывание наугад. Модель оценивает вероятности для тысяч вариантов сразу и учитывает весь предыдущий контекст: вопрос, прежние реплики, инструкции. Поэтому после фразы «столица России» она с высокой вероятностью продолжит словом «Москва», а после «дай рецепт борща» перейдёт к списку ингредиентов.
Небольшая случайность при выборе токена тоже заложена намеренно. Благодаря ей один и тот же вопрос может давать разные формулировки. Если случайность уменьшить, ответы становятся более предсказуемыми, если увеличить, более творческими и менее точными.
Никакого «понимания» в человеческом смысле заранее никто не закладывает. Модель выучивает закономерности языка и мира в том виде, как они отражены в текстах. Спорят ли исследователи, можно ли назвать это пониманием, вопрос открытый, но для практики важнее другое: результат выглядит осмысленным и часто действительно полезен.
Как модель обучают
Обучение идёт в несколько этапов. На первом модель читает огромные массивы текстов, среди которых книги, статьи, форумы, программный код, и учится предсказывать пропущенные фрагменты. За время этой тренировки она запоминает грамматику, стиль, факты, логику рассуждений и массу связей между понятиями.
Основа современных моделей: архитектура трансформер, предложенная исследователями Google в 2017 году. Её ключевая идея, механизм внимания, позволяет модели при разборе каждого слова учитывать другие слова в тексте и определять, какие из них важнее.
Но после первого этапа модель умеет лишь продолжать текст, а не вести диалог. Поэтому следующий шаг: дообучение на примерах хороших ответов и обучение с обратной связью от людей. Специалисты оценивают варианты ответов, и модель подстраивается под то, что люди считают полезным, вежливым и безопасным.
Результат: помощник, который отвечает на вопросы, а не просто продолжает фразу. Подобным путём шли и российские разработчики: GigaChat от Сбера и YandexGPT от Яндекса тоже проходят предварительное обучение на больших корпусах текстов, а затем дообучение под диалог. Подробности у каждой компании свои.
Чего модель не знает и почему ошибается
Самая известная проблема: галлюцинации. Модель может уверенно выдать несуществующую цитату, вымышленную книгу или неверную дату. Причина прямо следует из принципа работы: она стремится продолжить текст правдоподобно, а не проверить факт в справочнике.
Если в обучающих данных информации мало, модель всё равно составит ответ, который выглядит убедительно. Поэтому особенно рискованны редкие факты, свежие события, номера законов, точные цифры и ссылки на источники. Уверенный тон не означает правдивость, и это одно из главных правил при работе с ИИ.
У модели ограничена и память внутри разговора. Контекстное окно, то есть объём текста, который она одновременно «видит», конечно. В длинных диалогах ранние детали могут теряться. Между отдельными чатами модель по умолчанию ничего не помнит, если только сервис не добавил специальную функцию памяти.
Ещё одно ограничение: знания обрываются на дате окончания обучения. О более поздних событиях модель может не знать, если ей не подключили поиск в интернете или внешние источники. Условия таких функций зависят от сервиса и тарифа.
Наконец, ошибки встречаются в арифметике и логических задачах. Без вспомогательных инструментов модель может ошибиться в сложных вычислениях, потому что считает не по алгоритму калькулятора, а по статистике текста. Поэтому новые версии подключают к ней калькулятор, интерпретатор кода и другие инструменты.
Что это даёт на практике
Принцип «предсказываем продолжение» оказался на удивление универсальным. Одна и та же технология пишет письма, переводит тексты, объясняет сложные темы, составляет таблицы и помогает программистам. Разработчики отмечают, что ассистенты для написания кода заметно ускоряют рутинные задачи.
В банках языковые модели помогают сотрудникам поддержки, сортируют обращения и готовят черновики ответов. В интернет-торговле они создают описания товаров, а в маркетплейсах вроде Ozon и Wildberries участвуют в поиске и подсказках для продавцов. В медицине модели помогают оформлять документацию, хотя решения принимает врач. В юридической работе их применяют для первичного анализа текстов договоров, но проверка остаётся за специалистом.
В образовании ИИ работает репетитором и помощником для составления заданий. Алиса от Яндекса и другие голосовые ассистенты используют похожие технологии, чтобы разговор с устройством был свободнее. Всё это строится на одном механизме, только настройки и дополнительные инструменты различаются.
Как использовать модель с умом
Из понимания принципа вытекают практические правила. Во-первых, чем точнее запрос и контекст, тем лучше продолжение. Лучше указать роль, цель, формат и ограничения, чем задать расплывчатый вопрос. Во-вторых, важные факты нужно проверять, особенно цифры, ссылки и юридические нормы.
В-третьих, модель удобнее использовать как черновик и источник идей, а не как последнюю инстанцию. Она хороша для структуры текста, вариантов формулировок, сопоставления подходов. Окончательное решение всё равно остаётся за человеком.
В-четвёртых, не стоит передавать в публичные чат-боты персональные данные, пароли и коммерческую тайну. Правила хранения и использования запросов у сервисов разные, и их стоит читать в политике конфиденциальности.
Перспективы связаны с несколькими направлениями. Модели становятся мультимодальными: работают с текстом, изображениями, звуком и видео одновременно. Растёт качество рассуждений, уменьшается доля ошибок, появляются агенты, которые не только отвечают, но и выполняют цепочки действий. Но базовая логика останется похожей: статистика языка, огромный объём данных и дообучение под задачи людей.
