Вашингтон запретил госорганам использовать ИИ Anthropic

Администрация президента США Дональда Трампа обязала госорганы прекратить использование технологии искусственного интеллекта Anthropic (Claude).

Вашингтон также принял дополнительные санкционные меры, что привело к необычному публичному конфликту между правительством и компанией по поводу безопасности искусственного интеллекта, сообщает Associated Press со ссылкой на БТА.

Трамп, министр обороны Пит Хегсет и другие представители администрации раскритиковали Anthropic в социальных сетях за то, что она не позволила военным неограниченно использовать свои технологии к вчерашнему сроку. Они обвиняют компанию в угрозе национальной безопасности после того, как ее генеральный директор Дарио Амодей отказался отступить из-за опасений, что ее продукция может быть использована таким образом, что нарушит ее гарантии.

Хегсет охарактеризовал компанию как «риск цепочки поставок» — определение, которое обычно применяется к иностранным противникам, которые могут поставить под угрозу ее ключевые партнерские отношения.

Anthropic предупредила, что обратится в суд по поводу этой оговорки. Компания подчеркнула, что хочет получить от Пентагона четкие гарантии того, что ее чат-бот Claude AI не будет использоваться для массовой слежки за американцами или в полностью автономных системах вооружения.

В то же время конкурент Anthropic, Open AI Сэма Альтмана, со своим основным продуктом ChatGPT объявил, что заключил соглашение с Министерством обороны США, которое позволит использовать его модель искусственного интеллекта под «определенными гарантиями», сообщают мировые агентства.

«Два наших наиболее важных принципа безопасности — это запрет массовой слежки на национальном уровне и ответственность человека за применение силы, включая автономные системы вооружения», — написал Альтман на платформе X.

Пентагон «поддерживает эти принципы, отражает их в законодательстве и политике, и мы включили их в наше соглашение», — заявил Альтман в своем посте, цитируемом БТА.

«Мы также введем технические меры безопасности, чтобы гарантировать, что наши модели будут функционировать должным образом — об этом также просило военное министерство», — добавил он.

Компания отправит своих инженеров в Пентагон для обеспечения безопасности моделей искусственного интеллекта, которые будут развернуты «только в облачных сетях».