Индикатор загрузки
Загрузка...

Дипфейки Гитлера и Бен Ладена заполонили TikTok после дропа нового ИИ-инструмента

Время на прочтение: < 1 мин.

Спустя месяц после дропа нового инструмента для генерации ИИ-людей в TikTok, в CNN случайно обнаружили ошибку в модерации выпущенных видео. Из-за косяка разработчиков пользователи смогли озвучивать речи Гитлера и Бен Ладена, а также давать людям советы пить отбеливатель от имени врачей.

Дипфейк
Источник: скриншот репортажа CNN

«Техническая ошибка, которую мы уже устранили, позволила критически малому количеству пользователей создавать контент, используя внутреннюю тестовую версию инструмента в течение нескольких дней. Если бы CNN попробовал загрузить вредоносный контент, его бы запретили из-за нарушение политики платформы», — прокомментировал ситуацию представитель TikTok. 

Однако на деле журналист агентства Джон Сарлин смог беспрепятственно загрузить неотслеживаемые и немаркированные видео, в том числе и ролик с чтением отрывков из «Майн Кампфа» Гитлера.

Изначально новый инструмент для генерации видео с людьми — Symphony Digital Avatars — был предназначен только для рекламных аккаунтов, но почему-то стал доступен для всех пользователей.

Фичу быстро свернули после публикации обвинений в некачественной модерации. При этом вопрос маркировки контента, созданного искусственным интеллектом, так и остался открытым. 

ИИ-инструменты все прочнее входят в обиход пользователей, поднимая все больше этических вопросов. Так, в начале июня Илон Маск озаботился проблемой утечки данных из-за встраивания ChatGPT в новую версию iOS. А российские СМИ испугались падения объемов трафика на сайтах из-за запуска сервиса Яндекса — Нейро. 

Поделиться с друзьями!

TraffNews

Traffnews фокусирует внимание на самом сочном и полезном контенте. Мы предлагаем интересные публикации о трафике, арбитраже и заработке в интернете. Статьи, инструкции, гайды, статистика, мнения, кейсы - все это вы найдете в нашей ленте. Мы, словно LEGO, публикуем разные блоки контента, которые формируют один крупный поток качественной информации для арбитражников и маркетологов. Только авторские материалы. Только честные и объективные оценки. Только рабочие кейсы и инструменты. Все это бесплатно, доступно и просто.

0 комментариев

Ваш адрес email не будет опубликован. Обязательные поля помечены *