Эксперты рассказали, как распознать такие фальшивки самому.

Благодаря интернету можно лучше изучить любой товар или услугу перед тем, как их приобретать. Особенно в этом помогают отзывы. Хорошая новость — их может написать кто угодно, поэтому они помогают узнать не рекламную, а реальную информацию о часах, ресторане или гостинице.

Плохая новость — их может написать кто угодно, в том числе продавец товара с десяти анонимных аккаунтов. Или кто-то по его заказу. Или — и это главное нововведение последнего времени — нейросеть, которая способна генерировать фальшивые отзывы в любых количествах.

О новой чуме интернета, от которой сейчас страдает прежде всего американский рынок, рассказало издание The Associated Press. Главная проблема — такие отзывы стоят гораздо дешевле, поэтому их можно писать быстрее и в больших объемах.

По данным издания, такие отзывы уже можно встретить в любой сфере коммерческих предложений: от отелей и ресторанов до услуг ремонтника, врача или учителя пианино. По данным аналитиков, в американском интернете такие отзывы начали появляться с середины 2023 года, и их число только растет. Поэтому, несмотря на разные ситуации, аналогичного явления можно ожидать и на российском рынке.

Исследовательская компания The Transparency Company изучила 73 миллиона отзывов и пришла к выводу, что 14% из них фальшивые, а 2,3 миллиона, скорее всего, были созданы с использованием искусственного интеллекта.

Это очень, очень удобный инструмент для таких мошенников.Мори Блэкман

руководитель The Transparency Company

Другие исследователи также отмечали взрывной рост фальшивых отзывов к мобильным приложениям, услугам компаний, занимающихся ремонтом гаражных дверей, дизайнерам сумок и многим другим бизнесам.

Эксперты также отмечают, что фальшивые отзывы появляются и на крупных авторитетных платформах, и распознать сам факт взаимодействия нейросети с порталом владельцы сайтов, к сожалению, не в состоянии.

Есть еще одна деталь, которая все усложняет: эксперты отмечают, что сам факт использования искусственного интеллекта для написания отзыва не означает, что отзыв фальшивый. Некоторым людям трудно писать тексты, или они чересчур увлечены ИИ, поэтому даже для краткого обзора товара они используют нейросеть, чтобы облечь свои мысли в более литературную форму.

Еще одна причина — пользователи, которые не знают английского, просят нейросеть перевести их отзыв на английский, чтобы больше людей могли его прочитать, а в тексте не оказалось ошибок.

Что предпринимают компании?

На данный момент крупные компании ограничиваются тем, что включают текст об ИИ в лицензионные соглашения. Например, Amazon и Trustpilot допускают использование нейросетей в случаях, если сгенерированный ими текст выражает оценку пользователя, который размещает отзыв.

А вот сайт для поиска услуг Yelp допускает только размещение текста, написанного вручную — компания заявила, что активно вкладывается в методы обнаружения и удаления генеративного контента.

Эксперты объясняют, что ИИ — инструмент, который можно использовать в обе стороны: он способен не только создавать фальшивые отзывы, но еще и выявлять их гораздо успешнее, чем это могут сделать люди. Таким образом, возможно, ситуация вскоре стабилизируется, и нейросети будут выявлять такие отзывы настолько же быстро, как они будут создаваться.

Кроме того, с октября в США принят закон, по которому за фальшивые отзывы организацию или пользователя могут оштрафовать (как за умышленное размещение недостоверной информации) — и в этом случае огромное количество сгенерированных нейросетью отзывов становится большим риском, так как чем больше фальшивок, тем выше сумма штрафа.

Крупные компании также утверждают, что активно борются с фальшивыми отзывами вручную и с помощью специальных программ. Впрочем, у некоторых пользователей это вызывает усмешку — к примеру, один из участников группы активистов Fake Review Watch (борцы за честные отзывы) иронизирует: «Если эти компании так стремятся искоренить фальшивые отзывы, почему я, обычный парень, в любой день могу найти сотни и тысячи фальшивок?».

Как выявить сгенерированный отзыв?

Главное, конечно — это вопрос, что делать конкретному пользователю прямо сейчас — и как не попасть на удочку мошенников.

Согласно исследованию Йельского университета, многие люди не могут с достаточной успешностью выявлять генеративные тексты (особенно созданные с помощью новейших нейросетей), а если отзыв очень короткий, он способен обмануть кого угодно.

Тем не менее, эксперты предлагают обращать внимание на следующие «красные флажки»:

• чересчур эмоциональные отзывы;
• категорические позитивные или негативные оценки;
• отзывы, в которых название продукта или модели постоянно приводится в полном виде;
• длина — обычно искусственные отзывы длиннее «человеческих»;
• наличие общих фраз, избыточной структуры и клишированных оборотов.

Поделиться ссылкой: