Новый кошмар безопасности Сэма Альтмана

OpenClaw — виртуальный агент с искусственным интеллектом (ИИ), который способствовал распродаже акций компаний-разработчиков программного обеспечения на сумму 2 триллиона долларов. долларов на Уолл-стрит, теперь находится в руках OpenAI. Это победа генерального директора Сэма Альтмана с точки зрения уловления духа времени, но теперь перед ним стоит трудная задача сделать эту замечательную новую форму генеративного искусственного интеллекта, которая не только говорит, но и действует, достаточно безопасной для использования предприятиями. Это может занять больше времени, чем предполагает рынок, пишет редактор Bloomberg Парми Олсон.

Альтман не одинок. Лаборатории искусственного интеллекта, такие как Anthropic и Google Alphabet, конкурируют за создание агентов, способных действовать независимо, и все они сталкиваются с одним и тем же основным препятствием: чем более могущественным вы делаете агента, тем более рискованным он становится.

На прошлой неделе Альтман объявил, что нанимает Питера Стейнбергерачтобы «возглавить следующее поколение личных агентов», назвав австрийского создателя OpenClaw «гением».

OpenClaw — это система с открытым исходным кодом, которая работает на компьютере и может получать команды через приложения для обмена сообщениями, такие как WhatsApp, Telegram или Slack. Его возможности замечательны. Люди доверяют ему управление своей электронной почтой, управление интеллектуальными устройствами дома, автоматизацию своего бизнеса, торговлю криптовалютами и, в одном случае, создание игры во время сна.

Широкие возможности агентов ИИ опровергают популяризированную венчурным капиталистом Марком Андриссеном идею о том, что «программное обеспечение пожирает мир». Теперь ИИ может просто проглотить программное обеспечение. Например, если вы платите за подписку на инструмент мониторинга цен, который отслеживает сайты конкурентов вашего бизнеса, эту услугу можно заменить одной инструкцией для ИИ-агента. Старшие разработчики, такие как Стейнбергер, часто имеют полдюжины агентов, работающих одновременно в качестве цифровых сотрудников, и теперь могут назначить одного из них координатором «роя» других.

OpenClaw также вдохновил волну экспериментов и стал самым быстрорастущим проектом на сайте обмена открытым исходным кодом Github. Акции Raspberry Pi почти удвоились на прошлой неделе на слухах о том, что недорогие компьютеры компании будут использоваться для управления агентами. Кто-то даже создал форум наподобие Reddit для тысяч ботов. где они могут «поговорить» друг с другомсоздавая тревожный уголок Интернета, который, по крайней мере на данный момент, кажется лишенным машинного сознания.

Но по мере того, как популярность OpenClaw — ранее известного как Clawdbot и Moltbot — росла, росли и проблемы безопасности. Любой, кто использует систему на своем компьютере, предоставляет ей привилегированный доступ к своим файлам, электронной почте, календарю и приложениям. Если хакер взломает OpenClaw, он унаследует весь доступ.

Тогда возникает вопрос, как это было создано. Стейнбергер начал разработку OpenClaw только в конце прошлого года, по сути обсуждая с агентами ИИ вопросы голосового кодирования, а затем быстро публикуя результаты без полной проверки. «Я создаю код, который не читаю», — говорит он в подкасте.

Исследовательская фирма Gartner предупредила компании, что OpenClaw представляет «неприемлемую» угрозу безопасности, и рекомендовала им немедленно заблокировать весь трафик, связанный с платформой. Исследователи Cisco Systems назвали это «абсолютным кошмаром». Генеральный директор Meta Platforms недавно посоветовал своей команде не устанавливать OpenClaw на свои ноутбуки, поскольку они рискуют потерять работу.

Теперь OpenAI необходимо найти способ превратить «абсолютный кошмар» безопасности OpenClaw в то, что можно будет продавать корпоративным клиентам. Решение Альтмана сохранить OpenClaw в качестве независимого фонда является разумным, поскольку оно ограничивает ответственность, сохраняя при этом популярность бренда. Но ему все еще приходится иметь дело с более широкими рисками, связанными с разрешением автономной системе читать ваши файлы и отправлять сообщения от вашего имени.

Клод Коворк из Anthropic, предлагающий более безопасную, но более ограниченную версию агентов OpenClaw, показывает, что возможен более осторожный подход. Компания запускает своих агентов на виртуальной машине в безопасном режиме с ограниченным доступом к сети.

И не все считают, что проблемы безопасности непреодолимы. Гавриэль Коэн, израильский разработчик, создавший альтернативу OpenClaw под названием NanoClaw, говорит, что ключевым решением является «изоляция контейнера», которая гарантирует, что каждый агент имеет доступ только к тем данным, которые вы им явно предоставляете. Подход аналогичен подходу Anthropic, но реализован по-другому. «Сложность состоит в том, чтобы построить систему таким образом, чтобы дефолты были безопасными» для людей, которые не понимают рисков, говорит он. Например, если вы свяжете своего агента с неправильным чатом WhatsApp, каждый в этой группе сможет управлять вашим компьютером.

Несмотря на опасения по поводу безопасности, Коэн говорит, что финтех-компания с оборотом в 5 миллиардов долларов уже обратилась к нему с просьбой разместить агентов для своих сотрудников.

Некоторые разработчики сравнивают OpenClaw и его альтернативы, такие как NanoClaw и более легкий PicoClaw, с первыми днями Интернета, который был небезопасным по своей конструкции, но со временем стал безопаснее. То же самое может произойти и с агентами ИИ, хотя нет никаких гарантий безопасности для тех, кто находится на пути разрушительной силы, которую агенты могут оказывать на многие профессиональные роли и в бизнес по разработке программного обеспечения.

Как долго продлится эта суматоха, зависит от того, насколько быстро Альтман и такие предприниматели, как Коэн, смогут сделать агентов одновременно безопасными и безопасными для ничего не подозревающих пользователей. Любой эксперт по кибербезопасности скажет вам, что вторую проблему решить сложнее всего.