Google сделал опасный поворот и направился в ИИ в военных целях

Эра «Нет зла» Google уже за ней. После замены девиза «Не будьте Blate» в 2018 году на более мягкое «поступило правильные вещи», управление алфавитной компанией теперь отменяет одну из наиболее важных этических позиций компании по использованию ее искусственного интеллекта (ИИ) от Военные, Парми Олсон пишет о Bloomberg.

На этой неделе компания удалила свое обязательство не использовать ИИ для оружия или наблюдения — обещание, которое существует с 2018 года. Компания Demis Hassabis написала в блоге, я объясняю это изменение, объясняя его как неизбежный прогресс, а не какой -то компромисс.

«ИИ становится таким же широко распространенным, как мобильные телефоны», — пишет Хасабис. «Он развивается быстро».

Однако идея о том, что этические принципы также должны «развиваться» с рынком, неверна. Да, мы живем во все более сложном геополитическом ландшафте, как описывает Хасабис, но отказ от кодекса этика, как и для войны, может привести к последствиям, которые выходят за рамки контроля.

Если вы передаете искусственный интеллект на поле битвы, вы можете получить автоматизированные системы, которые встречаются друг с другом на скорости машины без времени для дипломатии. Война может стать более смертельной, поскольку конфликты могут разоблачить, прежде чем люди примут участие вмешаться. И идея «чистой» автоматизированной битвы может подтолкнуть больше военных лидеров, хотя системы искусственного интеллекта делают много ошибок и могут вызвать смерть гражданских лиц.

Автоматизированное принятие решений -реальная проблема здесь. В отличие от предыдущей технологии, которая сделала армию более эффективной или мощной, системы искусственного интеллекта могут принципиально изменить, что (или что) принимает решение занять человеческую жизнь.

Также беспокоит все, что из всех хасабиса, он подписывает оправдание решения Google. Он «пел совершенно другую песню» в 2018 году, когда компания установила свои принципы для ИИ и присоединился к более чем 2400 человек в этой области, которые поместили свои имена под обещание не работать над автономным оружием.

Менее чем через десять лет это обещание не особенно подсчитано. Уильям Фицджеральд, бывший член политической команды Google и соучредителя рабочих агентства, политической и коммуникационной компании, говорит, что Google подвергается сильному давлению, чтобы в течение многих лет заключать военные контракты.

Он вспоминает, что бывший заместитель министра обороны США Патрик Шанахан посетил Sunwywil, штат Калифорния, штаб-квартиру облачного бизнеса Google, в то время как сотрудники департамента строили инфраструктуру, необходимую для работы над сверхсекретными военными проектами с Пентагоном. Надежда на контракты была отличной.

Фицджеральд помог остановить это. Он организовал протесты компанией против Project Maven, сделка, которую Google завершил министерством обороны для разработки ИИ для анализа кадров беспилотников. Тогда сотрудники гиганта боялись, что это может привести к автоматической прицеле. Около 4000 сотрудников подписали петицию, в которой говорилось, что «Google не должен иметь дело с войной» и около дюжины оставшихся в знак протеста. В конце концов, Google уступил и не продлил контракт.