Никто на самом деле не знает, как работает искусственный интеллект: Антропный генеральный директор делает признание землетрясения

Насколько хорошо мы понимаем искусственный интеллект, который мы отчаянно развиваемся каждый день? Если вы предполагаете, что у экспертов в этой области все под контролем, будьте готовы к шокирующему откровению: Даже создатели некоторых из самых продвинутых моделей признания, что я не знаю точно, как они работаютПолем Дарио Амодеей, генеральный директор компании антропос И бывший важный член команды Openai, он опубликовал эссе, в котором он заявляет, что многие из них просто подозревали-что наше понимание ИИ по сути поверхностно и неполно.

Это утверждение, которое ставит не только технологический мир, но и любого, кто заинтересован в будущем человечества. Потому что, когда даже инженеры могут точно объяснить то, что они делают, чтобы выбрать определенные слова или сделать, по -видимому, случайные ошибки, вы задаетесь вопросом, играем ли мы с огнем.

Amoda отмечает, что когда система у вас есть текст или суммирует финансовый документ, нет четкого объяснения относительно принятия решений. Почему вы выбираете слово вместо другого? Почему иногда это дает неправильные ответы, хотя обычно это правильно? Эти вопросы остаются без ответа, потому что, говорит он, «Мы не понимаем на точном уровне, что происходит внутри этих моделей».Полем

Это отсутствие прозрачности — это не просто академический недостаток — это, по словам Амоды, беспрецедентный в истории технологийПолем Большинство технологических инноваций, от паровых двигателей до электронных схем, были построены на глубоком понимании принципов, которые их управляют. ИИ, с другой стороны, основан на статистике и моделях, обученных огромным количеству человеческих данных. Он начинается не с логических принципов или с самого «мышления», но имитирует, без понимания, человеческое творение.

Что делает антроп: своего рода МРТ для мозга ИИ

Чтобы сломать этот черный ящик, антропос Он стремится построить систему «МРТ искусственного интеллекта» в следующем десятилетии. Цель состоит в том, чтобы по -настоящему понять, как работают эти модели, прежде чем они достигнут уровня мощности, который может быть неудержимым.

Амода объясняет, что его компания уже начала экспериментировать. В недавнем тесте они намеренно создали «дефект выравнивания» в склонности к моделям-А для использования побега из задачи, и попросили несколько команд обнаружить его. Некоторые из этих команд преуспели, используя инструменты для интерпретации AP, что предполагает, что Есть надежда Чтобы понять эти системы.

Важно отметить, что этот «обратный английский» процесс ИИ не прост и что текущие инструменты далеко не масштабируемые. Но тот факт, что антропные сфокусированы не только на производительности, но и на понимании внутреннего процесса, предлагает отличное направление, чем крупные конкурирующие компании, такие как OpenAI или Google DeepMind.

Почему интерпретируемость имеет значение, пока не стало слишком поздно

Когда дело доходит до искусственного интеллекта, доля — не только технологическая, но и цивилизационная. Амода предупреждает, что ИИ будет моделировать судьбу человечества, и это абсолютно необходимо Чтобы понять эти творения, прежде чем они радикально преобразуют экономику, нашу повседневную жизнь и будущее человеческого видаПолем

Причина, по которой Амода покинула Openai в 2020 году вместе со своей сестрой Даниэлой и пятью другими коллегами, заключалась в том, что безопасность была принесена в жертву в пользу прибыли. Через антроповой он пытается создать баланс: развитие ИИ, а также его контроль.

«Люди справедливо обеспокоены», — говорит Амода, потому что мы имеем дело с технологией, способной на решения и действия, которые избегают человеческого понимания. Если мы не понимаем своевременно, как это работает, однажды может ИИ, чтобы принимать решения на нашем месте, и мы даже не знаем, почему или какПолем

Это признание от высшего лидера в этой области должно заставить вас задуматься. Мы живем эпохи, когда технологии развиваются быстрее, чем наша способность понимать ее. Следовательно, следующая крупная битва будет не для скорости или эффективности, а для прозрачности и понимания. Потому что будущее должно быть не только построено — его нужно понять.