Поразительная угроза ИИ для банков и критической инфраструктуры вызвала срочную реакцию США

Американские власти срочно организовали встречу глав крупнейших банков США. Встречу организовали министр финансов США Скотт Бессант и председатель Федеральной резервной системы Джером Пауэлл. Поводом для столь необычного сбора стало появление новой модели искусственного интеллекта (ИИ) компании Anthropic — Claude Mythos.

В ходе встречи были обсуждены риски для финансовой системы. Состоялись беседы с топ-менеджерами крупнейших американских банков — от Goldman Sachs до Bank of America. Единственным руководителем крупного банковского учреждения, который не смог присутствовать, был Джейми Даймон из JPMorgan Chase. Цель — идеи о том, как усилить защиту банков от Клода Мифоса, Bloomberg, Financial Times и отчета CNBC.

Ошибки прошлого – проблемы будущего

В чем опасность — эта модель ИИ предназначена для написания программного кода. Но со временем он стал настолько хорош, что развил «сверхъестественную» способность обнаруживать и использовать уязвимости программного обеспечения лучше, чем большинство опытных хакеров во всем мире. Claude Mythos может обнаруживать уязвимости практически в любой программной системе, включая те, которые оставались незамеченными на протяжении десятилетий. В ходе тестов, проведенных с помощью Claude Mythos, он обнаружил тысячи серьезных уязвимостей во всех ведущих операционных системах и веб-браузерах. Некоторым из этих недостатков безопасности уже 27 лет, и до сих пор их создатели и хакеры оставались совершенно незамеченными.

Понятно, почему США запаниковали на самом высоком уровне – если такой инструмент попадет не в те руки, он может нанести чрезвычайный ущерб банкам, коммуникациям и критической инфраструктуре.

На этом фоне российский диктатор Владимир Путин поручил разработать национальный план внедрения искусственного интеллекта в России. Искусственный интеллект формирует все сферы деятельности РФ, включая оборону, заявил Путин в ходе совещания по развитию искусственного интеллекта. По его словам, суверенитет и само существование России зависят от ее способности справиться с быстрыми технологическими изменениями. Российские технологии искусственного интеллекта должны быть конкурентоспособными на глобальном уровне и обладать необходимым уровнем суверенитета, настаивал он, отмечая, что за рубежом делается много инвестиций в искусственный интеллект и в армию и достигаются «значительные результаты». И все это — в то время как в России полностью заблокировали единственный успешный российский проект в сфере социальных сетей, а именно: Telegram: