Как женщина обнаружила созданные при ней дипфейки и чем опасна эта технология

Аманда Агилар, журналистка из Калифорнии, недавно стала жертвой страшного мошенничества, когда технология дипфейков использовалась для создания фейковых видеороликов на основе ее постов в Instagram. Этот инцидент поднимает важные вопросы о цифровой безопасности и растущем влиянии искусственного интеллекта на нашу жизнь.

Как работает технология дипфейков

Дипфейки — это передовая технология, основанная на искусственном интеллекте, которая позволяет манипулировать изображениями и видео, изображая людей в ситуациях или позах, в которых они никогда не бывали. В случае с Амандой Агилар мошенник использовал подлинное видео из Instagram, чтобы создать фальшивый, очень реалистичный клип, в котором она, казалось, говорила.

Целью мошенника было убедить мужчину, Джона Пулидо, что он общается с Агиларом в романтических целях. В связи с этим мошенник создал фейковый аккаунт в Facebook, используя реальные фотографии журналиста, и прислал дипфейковые видео в подтверждение своих утверждений. Пулидо, первоначально убежденный в подлинности материалов, заподозрил подозрения, когда его спросили о личных данных, таких как доход. После нескольких проверок он открыл правду – все это была хорошо спланированная афера.

Аманда была шокирована всей ситуацией, признавшись, что «страшно», как кто-то мог взять личный контент и использовать его для создания таких убедительных фейков.

Как защититься от дипфейков

Технология дипфейков быстро развивается, и количество атак такого типа растет. По словам Виджая Баласубраманяна, генерального директора компании по цифровой безопасности, за последний период количество таких атак выросло на 1400%. В нем поясняется, что онлайн-платформы должны взять на себя ответственность за внедрение инструментов, способных автоматически обнаруживать контент, созданный искусственным интеллектом.

Обычные пользователи могут проверить подлинность взаимодействия несколькими способами:

1. Запросить прямой видеозвонок – В отличие от заранее записанного видео, прямой эфир сложнее подделать, хотя и не невозможно.
2. Обратите внимание на необычные детали – Странные паузы в речи или жесты, не синхронизированные со звуком, могут быть признаками дипфейка.
3. Проверьте спонтанные реакции – Побуждает человека совершать непредсказуемые жесты, например, проводить рукой перед лицом. Такие действия ИИ сложнее воспроизвести, и ошибки могут стать заметными.

Аманда Агилар, тронутая этим опытом, решила быть более избирательной в том, что она публикует в Интернете. Этот урок также должен заставить вас задуматься о цифровом воздействии и о том, как предотвратить несанкционированное использование вашего контента.

Развитие технологии дипфейков представляет собой серьезный вызов цифровой безопасности, и образование в этой области имеет важное значение. Будьте в курсе и будьте бдительны, чтобы не стать жертвой подобного мошенничества.