ChatGPT начал выдавать ссылки на мошеннические сайты, замаскированные под известные интернет-магазины. Пользователи, которые доверились рекомендациям чат-бота и оформляли заказы, лишались денег, а их платежные данные оказывались в руках злоумышленников. Об этом сообщила британская газета The Guardian со ссылкой на сервис обнаружения мошенничества Ask Silver.
Среди фейковых ресурсов — копии сайтов британского производителя обуви Russell & Bromley и сети магазинов товаров для дома Dunelm. Примечательно, что Russell & Bromley в январе прекратил самостоятельную работу и был поглощен компанией Next. Мошенники воспользовались ситуацией: люди продолжают искать оригинальный сайт бренда, а в выдаче ИИ появляются подделки.

Схема называется «отравление ИИ» — злоумышленники размещают в интернете фиктивные страницы, которые копируют дизайн легальных магазинов. Языковые модели индексируют эти ресурсы и в итоге рекомендуют их как настоящие.
Эксперты напоминают: доверять ссылкам из чат-бота так же опасно, как переходить по ссылкам из спам-писем. Признаки мошеннического сайта всегда одни и те же — подозрительный адрес, неправдоподобные скидки, нет нормальных контактов, просят оплату банковским переводом. OpenAI удалила часть проблемных ссылок после жалоб, однако проблема системная: пока люди все активнее используют ИИ для шопинга, мошенники будут адаптироваться под этот канал.