Русская пропаганда дается по искусственному интеллекту «от Тема». Как им удалось сделать дезинформационное цунами с бесплатными инструментами
В новом отчете раскрывается тревожная масштаба проруссийской кампании дезинформации, которая использует бесплатные и легкодоступные инструменты для производства манипулятивного контента.
Кампания, известная как перегрузка перегрузки или матришка, активна в 2023 году и неоднократно ассоциировалась с российским правительством такими организациями, как Microsoft и Институт стратегического диалога.
Кампания касается аудитории со всего мира, но ее главная цель остается Украина. В период с сентября 2024 года до 2025 года исследователи определили взрывное увеличение объема содержания продукта: 587 уникальных материалов, от изображений и обработанных видео до QR-кодов и ложных сайтов, пишет проводную публикацию.
Большинство из них генерируются с помощью ИИ, в тактике, называемой объединением контента, практически в том же повествовании транслируется в нескольких формах и языках, чтобы максимизировать их влияние.
Масштабируемая пропаганда, многоязычная и сложная
Согласно отчету Reset Tech организации (Великобритания) и проверьте первое место (Финляндия), тактика отмечает поворотный момент: пропаганда становится все более и более масштабируемой, быстрой и диверсифицированной.
«Разнообразие типов контента застало меня врасплох», — говорит исследователь Александра Атанасова из Reset Tech. «Они начали объединять слои различного контента, текста, изображения, голоса, чтобы решить одни и те же темы с разных сторон», — добавила она.
Кампания использует не персонализированные инструменты, а коммерческие инструменты доступны бесплатно. Например, FLA AI, генератор текстового изображения, разработанный немецкой компанией Bhankest Labs, был идентифицирован как вероятный источник для многочисленных ложных изображений, распределенных сетью, некоторые из которых изображают так называемые насильственные восстания мусульманских иммигрантов в Берлине или Париже.
Голос некоторых публичных людей также был клонирован с ИИ для манипулирования видео. В одном случае учитель французского был преобразован в ложный портеризм для немецкого правого экстремизма, хотя первоначальный материал был о академической премии.
Такие поддельные клипы резко увеличились с 150 с июня 2023 года, июль 2024 года по 367 в ближайшие восемь месяцев.
Распределительные сети и парадоксальная тактика
Сгенерированный контент распространяется более чем 600 телеграммных каналов, учетных записей X и Bluesky BOT, а также через Tiktok, где только 13 учетных записей удалось собрать 3 миллиона просмотров, прежде чем они станут умеренными. Тикток отреагировал быстро, но на x исследователи замечают «минимальные действия», несмотря на многочисленные уведомления.
Необычная тактика, используемая в результате операции перегрузки, заключается в том, чтобы отправлять непосредственно изготовленные материалы в организации, проверяющие средства массовой информации и организации по проверке фактов, запрашивая «проверку».
Реальная цель состоит в том, что эти материалы упоминаются даже в разборке, появление в классической прессе, даже помеченном как ложное, дает известность и дополнительное распределение.
По оценкам, более 170 000 таких электронных писем были отправлены 240 получателям с сентября 2024 года.
Воздействие и будущее борьбы против дезинформации ИИ
Хотя многие из ложных сайтов, созданных кампанией, не привлекают значительного трафика, агрессивное продвижение в социальных сетях может иногда привести поддельный контент к результатам поиска Google.
Согласно American Sunlight Project, российские дезинформационные сети уже производят не менее 3 миллионов статей в год, проникнув в результаты, предлагаемые чат -ботами, такими как CHATGPT или Google Gemini. «Они уже нашли рецепт, который работает. Я точно знаю, что они делают», — предупреждает Атанасова.
