Расизм и прямой антисемитизм на Tiktok, с VEO 3. Как экстремисты получают пропаганду в Интернете, реакция социальной сети
Согласно отчету, опубликованному The Google, более расистские и антисемитские короткие видеоролики, по-видимому, с помощью VEO 3 от Google, были интенсивно распространяются на Tiktok.
Некоторые из этих клипов собрали сотни тысяч или даже миллионы мнений, несмотря на официальную политику социальной сети против речи зачинщиков.
Согласно исследованию, анализируемые видеоролики имели максимальную продолжительность восьми секунд, лимит, в настоящее время наложенный VEO 3 для открытого видеоконтента, и содержал такие этикетки, как «#Veo» или прямые упоминания модели искусственного интеллекта, пишет Mashable.
Кроме того, были особые признаки автоматического генерации: искажения, бессмысленные тексты и визуальные ошибки.
Примером Media Matters является клип под названием «Средний вафельный дом в Атланте», в котором ресторан был населен обезьянами, которые бросали дыни и носили жареные куриные ведра, четкий расистский образ.
Во время экрана, сделанного исследователями, на видео было более 622 000 просмотров. Другое видео с подсказкой «Я спросил ИИ:« Средний опыт Spirit Airlines », показывающий обезьян, вторгающихся в салон в самолет. Он накопил не менее 835 000 просмотров.
Tiktok удалил проблемы с проблемами
Представители Tiktok подтвердили, что они удалили учетные записи, указанные в отчете, некоторые из них уже запрещены до ее публикации.
«Мы активно применяем строгие правила против поведения речи и ненависти, и мы устранили учетные записи, упомянутые в отчете», — сказал представитель платформы, сообщил представитель платформы.
Тем не менее, отчет привлекает внимание к текущим ограничениям автоматической модерации, особенно в отношении контента, генерируемого искусственным интеллектом.
Комментарии к этим видео указали, что многие пользователи не только сообщили о контенте, но даже подтвердили его. Комментатор написал: «Все их жесты … в исправлении …», имея в виду поведение карикатуры в видео.
Каковы риски контента, генерируемого ИИ
VEO 3, видео генератор, который вы разработали Google, недавно получили похвал за реализм контента, который он может производить, но случаи, представленные в СМИ, поднимают серьезные вопросы о оскорбительном использовании технологий.
Хотя Google не упоминался непосредственно в реакциях тиктока, ожидается, что общественное давление определит официальную позицию, касающуюся ответственности компаний, которые разрабатывают такие инструменты.
В контексте, в котором короткие, легко распределенные и высокоэффективные клипы могут быстро способствовать распространению расовых или антисемитских стереотипов, контроль над использованием визуального ИИ становится приоритетом.
