Отзыв написала нейросеть, и никто не заметил

Нейросеть пишет отзыв за несколько секунд, и звучит он как рассказ живого покупателя. Для маркетплейсов, карт и сайтов с рейтингами это серьёзная проблема, потому что от звёзд зависят продажи и репутация.

Фото: Santeri Viinamäki, CC BY-SA 4.0, Wikimedia Commons

Разобраться, как устроены такие тексты и чем они выдают себя, полезно каждому, кто выбирает товар или услугу по чужому мнению.

Почему подделки стали убедительнее

Раньше накрутка отзывов выглядела грубо. Одинаковые фразы, ошибки, десятки комментариев в одну минуту. Такие тексты легко находили и люди, и простые фильтры.

Языковые модели изменили картину. Они умеют писать в разном стиле, подстраиваться под тип товара и даже добавлять мелкие бытовые детали: «пришло в коробке чуть помятой, но внутри всё целое». Каждый текст получается уникальным, а значит, поиск копий уже не работает.

Кроме того, модель легко имитирует эмоции. Один отзыв будет восторженным, другой сдержанным, третий с претензией и оценкой в четыре звезды. Такая «живая» неоднородность как раз и внушает доверие.

Заказать массовую генерацию отзывов технически несложно. Для этого не нужны программисты: хватает готового сервиса или обычного чат-бота и списка товаров. Именно поэтому объёмы подделок растут, а стоимость одного фальшивого отзыва падает.

Какие признаки всё же выдают текст

Идеальных детекторов нет, но у сгенерированных отзывов есть повторяющиеся приметы. Ни одна из них не доказывает подделку сама по себе, важна совокупность.

• Слишком гладкая и правильная речь без опечаток, сленга и обрывков мысли.
• Общие слова вместо подробностей: «отличное качество, рекомендую всем», но ни слова о том, как товар использовался.
• Структура «плюсы, минусы, вывод» в каждом втором отзыве, причём минусы выглядят надуманными и несерьёзными.
• Повторяющиеся обороты и одинаковая длина текстов у разных авторов.
• Упоминание характеристик, которые взяты прямо из описания товара, без личного впечатления.

Настоящие покупатели чаще пишут о неожиданном: о запахе, о том, что не подошёл размер, о доставке, о соседе, которому понравилось больше. Именно такие несовершенные детали трудно подделать массово.

Как читать отзывы на площадках

Самый надёжный подход: смотреть не на среднюю оценку, а на распределение. У товара с реальной историей обычно есть и пятёрки, и тройки, и единицы. Если почти все оценки максимальные, а текстов много и они похожи, это повод насторожиться.

Стоит обращать внимание на даты. Если за короткий период появилось много отзывов, а до этого было тихо, возможна накрутка. Полезно и прочитать негативные отзывы: в них чаще всего конкретные проблемы, которые сложнее выдумать.

На Ozon, Wildberries, Яндекс Маркете и в сервисах с картами организаций обычно есть метки вроде «подтверждённая покупка» и фотографии от покупателей. Эти признаки полезны, но не абсолютны: условия и механики на каждой площадке меняются, поэтому их стоит уточнять в правилах самого сервиса.

Ещё один приём: сопоставить мнения на разных площадках. Если на одном сайте товар хвалят все, а на другом и в профильных сообществах пишут о браке, перекос очевиден.

Хороший отзыв отвечает на вопрос «что именно произошло», а не на вопрос «понравилось ли».

Как с этим борются сами площадки

Крупные платформы давно применяют машинное обучение для модерации. Алгоритмы смотрят не только на текст, но и на поведение: как давно создан аккаунт, что человек покупал раньше, с каких устройств заходил, не связан ли с группой других аккаунтов, которые ставят одинаковые оценки.

Такой подход надёжнее, чем попытка отличить «человеческий» текст от «машинного». Сам текст теперь почти не показатель, а вот сеть связей и привычек поддельных аккаунтов остаётся уязвимой.

Отдельная сторона вопроса: законодательство. Ложная реклама и заведомо недостоверные отзывы могут считаться нарушением, а у площадок есть собственные правила и санкции для продавцов. За подробностями о конкретных последствиях стоит обращаться к актуальным нормам и к юристу, общие выводы здесь неуместны.

Платформы пока не раскрывают, какие именно сигналы используют, и это понятно: описание фильтров помогло бы мошенникам их обходить. Поэтому от пользователя ждут внимательности, а не слепого доверия к звёздам.

Где ИИ помогает, а не обманывает

Те же технологии работают и на стороне защиты. Нейросети анализируют большие массивы отзывов и выделяют типичные темы: что хвалят, что ругают, на что жалуются чаще всего. Некоторые площадки уже внедряют такие функции: например, Wildberries, по сообщениям СМИ, добавил ИИ-фильтры, которые группируют отзывы по свойствам товара, таким как размер, запах или цвет, чтобы не заставлять читать сотни комментариев.

В других отраслях ИИ тоже ловит подделки. Банки используют модели для выявления подозрительных операций, страховые компании проверяют заявления на признаки мошенничества, а сервисы доставки анализируют аномалии в заказах. Логика везде одна: искать не конкретную фразу, а отклонение от нормального поведения.

В медиа нейросети помогают отслеживать вбросы и ботов в обсуждениях, в образовании проверяют работы на заимствования, в медицине сверяют снимки с эталонами. Каждая из этих задач требует сочетания машины и человека, и отзывы не исключение.

Что будет дальше

Гонка между генерацией и обнаружением, скорее всего, продолжится. Текст станет ещё правдоподобнее, поэтому внимание сместится на проверку личности автора и подтверждение факта покупки. Возможно, на первый план выйдут видеоотзывы с реальным использованием товара, хотя и они уже подвержены подделке с помощью генерации видео.

Вероятно, ценность получат отзывы, которые привязаны к проверенному аккаунту и реальной сделке. Платформы всё чаще будут показывать, на чём основан рейтинг, и ограничивать влияние новых или подозрительных профилей.

Пока что полезная привычка проста: читать отзывы с фотографиями, искать конкретику, сравнивать источники и не принимать решение по одной красивой оценке. Тогда даже очень убедительный текст от нейросети теряет часть силы.

Итог такой: фальшивые отзывы заметить трудно, но возможно, если смотреть на детали, на динамику оценок и на поведение площадки. Универсального детектора нет, зато есть набор простых проверок, которые заметно снижают риск ошибиться с покупкой.