Британский регулятор расследует дело X по поводу сексуальных изображений в Гроке

Британский регулятор СМИ начал расследование в отношении компании X Илона Маска в понедельник, чтобы определить, нарушают ли сексуализированные дипфейковые изображения, созданные чат-ботом Grok AI, его обязанность защищать людей в Великобритании от контента, который может быть незаконным, сообщает Reuters.

«Поступают весьма тревожные сообщения о том, что чат-бот Grok AI компании X используется для создания и обмена изображениями раздетых людей (что может означать злоупотребление интимными изображениями или порнографией) и сексуализированными изображениями детей, что может означать материалы о сексуальном насилии над детьми», — говорится в заявлении Ofcom.

Регулятор вынужден принять меры после того, как премьер-министр Кейр Стармер заявил, что изображения, созданные Гроком, были «отвратительными» и «незаконными».

X Маска должен «взять Грока под контроль», заявил Стармер в четверг, добавив, что Ofcom пользуется полной поддержкой правительства для принятия мер.

Создание или распространение интимных изображений без согласия или материалов о сексуальном насилии над детьми, в том числе изображений сексуального характера, созданных с помощью искусственного интеллекта, запрещено в Великобритании.

Кроме того, технологические платформы не должны допускать, чтобы пользователи из Великобритании сталкивались с незаконным контентом, и должны удалять его, как только им о нем становится известно.

X также был осужден в других странах за эту функцию, которая позволяет создавать изображения женщин и несовершеннолетних в откровенной одежде.

Французские власти передали X прокурорам и регулирующим органам, назвав контент «явно незаконным», а индийские власти также потребовали объяснений.

X ограничил эту функцию платными пользователями. На прошлой неделе компания заявила, что удаляет весь незаконный контент с платформы и навсегда блокирует связанные с ним учетные записи.

«Любой, кто использует Grok или поощряет его создавать незаконный контент, пострадает от тех же последствий, как если бы он загружал незаконный контент», — заявили в компании.

Отвечая недавно на эту тему, xAI ответил агентству Reuters: «Старые СМИ лгут».

Ofcom расследует, не смог ли X оценить риск того, что люди в Великобритании увидят незаконный контент, и принял ли он во внимание риск для детей.

Ofcom заявил, что в наиболее серьезных случаях несоблюдения он может попросить суд обязать «провайдеров платежных услуг или рекламодателей прекратить свои услуги с платформы» или заставить интернет-провайдеров заблокировать доступ к британскому сайту.

X не сразу ответил на просьбу прокомментировать расследование Ofcom.