Куда уходит запрос к нейросети после нажатия отправки

Запрос к нейросети кажется разговором наедине, но на деле это передача текста на чужой сервер. Что с ним происходит дальше, зависит от сервиса и от настроек. Разобраться в этом проще, чем кажется.

Фото: cbowns, CC BY-SA 2.0, Flickr

Путь запроса от экрана до сервера

Когда пользователь нажимает «отправить», текст уходит на серверы компании, которая управляет сервисом. Там модель формирует ответ и возвращает его в приложение. Сама модель не «запоминает» человека, но сервис вокруг неё обычно сохраняет историю диалогов.

История нужна для удобства: чтобы вернуться к старому чату, продолжить работу и получить контекст. Параллельно данные могут храниться в журналах для безопасности, отладки и борьбы со злоупотреблениями.

Срок хранения у разных сервисов отличается. Где-то удалённые чаты исчезают через определённое время, где-то часть данных сохраняется дольше по требованиям закона или внутренним правилам. Точные сроки указаны в политике конфиденциальности, и именно её стоит читать, а не пересказы.

Отдельно стоит сказать о людях. В ряде сервисов выборочные диалоги могут просматривать сотрудники или подрядчики для улучшения качества и проверки безопасности. Это обычно прописывается в правилах, но мало кто их открывает.

Используют ли запросы для обучения моделей

Это главный вопрос, и однозначного ответа нет. Правила различаются от сервиса к сервису, а иногда и от тарифа к тарифу. У одних бесплатных версий разговоры могут применяться для улучшения модели, если пользователь не отключил такую опцию. У корпоративных и профессиональных тарифов чаще действует обратное правило: данные клиента для обучения не используются.

Многие сервисы дают переключатель в настройках, который запрещает использовать диалоги для обучения. Иногда он называется «улучшение модели для всех», иногда спрятан в разделе «данные и конфиденциальность». Название и расположение меняются, поэтому надёжнее искать по слову «конфиденциальность».

Важно понимать, что значит «обучение». Обычно это не прямое запоминание конкретного письма, а использование массивов текстов для настройки модели. Тем не менее риск утечки фрагментов через обучение обсуждается специалистами, поэтому осторожность оправдана.

Российские сервисы, например GigaChat от Сбера и нейросети Яндекса, действуют по собственным политикам и по российскому законодательству о персональных данных. Конкретные условия каждого сервиса стоит читать на его сайте.

Что реально стоит держать подальше от чата

Есть данные, которые лучше не вводить в нейросеть вообще, если нет уверенности в настройках и правилах. Сюда относятся паспортные данные, номера банковских карт и коды из СМС, пароли, сканы документов, медицинские сведения, а также чужие персональные данные.

Отдельная зона риска: рабочие материалы. Сотрудники иногда копируют в чат внутренние договоры, отчёты и исходный код, чтобы получить быстрое резюме. Для компании это может обернуться нарушением коммерческой тайны. Известны случаи, когда крупные организации в мире ограничивали использование публичных чат-ботов именно по этой причине, и многие российские компании ввели внутренние правила.

Полезная привычка: обезличивать текст перед отправкой. Вместо фамилий и названий можно писать «клиент А» и «компания Б», сумму округлять, лишние детали убирать. Смысл задачи при этом почти не страдает.

Если нужна работа именно с конфиденциальными данными, стоит смотреть на корпоративные решения с договорными гарантиями или на модели, которые запускаются на собственном оборудовании компании.

Настройки приватности, которые стоит проверить

Список универсальный, хотя названия пунктов у сервисов свои:

• Отключение использования диалогов для обучения моделей, если такая опция есть
• Режим временного или анонимного чата без сохранения истории
• Удаление старых диалогов и выгрузка собственных данных
• Проверка того, какие приложения и плагины подключены к аккаунту
• Включённая двухфакторная защита аккаунта

Про последний пункт часто забывают. Взломанный аккаунт открывает всю историю запросов, а в ней могут быть планы, переписки и рабочие данные. Защита входа не менее важна, чем настройки обучения.

Стоит помнить и про расширения для браузера и сторонние «обёртки» над нейросетями. Часть таких сервисов собирает запросы сама и хранит их по собственным правилам. Если приложение неизвестное, лучше не отправлять ему ничего важного.

Удаление чата из интерфейса не всегда означает мгновенное стирание с серверов. Реальные сроки обычно описаны в политике сервиса, и именно там их надо проверять.

Чем отличаются сервисы и куда движутся правила

Главные различия касаются четырёх вещей: где физически хранятся данные, на каких условиях они используются для обучения, как долго живут и насколько пользователь контролирует удаление. Зарубежные сервисы подчиняются законам своих стран и правилам платформы, российские обязаны соблюдать требования о хранении персональных граждан России на территории страны.

Регулирование на этом поле развивается. В мире принимаются законы об ИИ, в России обсуждаются правила использования и маркировки, поэтому условия сервисов будут обновляться. Разумно перечитывать настройки раз в несколько месяцев, особенно после крупных обновлений приложения.

Нейросети применяются в медицине, банках, образовании, логистике, и везде вопрос данных стоит одинаково остро. Банки, например, строят внутренние ИИ-системы так, чтобы информация клиентов не выходила за контур организации.

Практический вывод простой. Любой запрос стоит считать письмом, которое могут прочитать и сохранить. Если текст нельзя было бы показать постороннему человеку, его лучше не отправлять или сначала обезличить. Такая осторожность стоит несколько секунд и защищает от большинства проблем.