Искусственный интеллект: для кого вы действительно работаете? Что говорит изобретатель www

В мире, где искусственный интеллект становится все более и более присутствующим в нашей жизни, Тим Бернерс-Ли, изобретатель World Web Web, поднимает важный вопрос: для кого вы работаете? На конференции Southwest Southwest (SXSW) в Остине, штат Техас, Бернерс-Ли обратил внимание на решающий аспект-если эти системы предназначены для обслуживания интересов пользователей или только компаний, которые их разрабатывают.

В то время как крупные корпорации соревнуются в гонке с суперинтеллигенностью, Бернерс-Ли предупреждает, что коллективные усилия по стандартизации и регулированию вас, как это произошло в 1990-х годах с разработкой Интернета.

Одним из самых больших рисков генеративного искусственного интеллекта является то, что нынешние модели создаются частными компаниями, каждая из которых имеет свои финансовые цели. Бернерс-Ли сравнивает эту ситуацию с такими профессиями, как медицина или закон, где специалисты обязаны действовать в интересах своих клиентов. Вместо этого помощник, который помогает вам купить продукт или планировать отпуск, может иметь скрытые интересы.

Насколько беспристрастно чат -бот? Если вы попросите их найти лучшее предложение для продукта, вы направите вас к идеальному варианту для вас или к тому, который приносит наибольшую прибыль компании, которая его создала?

Бернерс-Ли призывает пользователей быть критическими и задавать фундаментальный вопрос: «Для кого вы работаете?». ИИ должен быть разработан таким образом, чтобы расставить приоритеты в потребностях и предпочтениях пользователей, а не только увеличения прибыли задних компаний.

Прошлые уроки: как был построен интернет

Чтобы лучше понять, чего не хватает сегодня в области ИИ, Бернерс-Ли делает параллель с началом Всемирной паутины. В 1990 -х годах такие компании, как Microsoft и Netscape, сотрудничали с исследователями и активистами для разработки общих стандартов в консорциуме World Wide Web (W3C). Это сотрудничество было необходимо для создания открытого Интернета и доступного для всех.

В отличие от этого, в настоящее время компании ИИ попадают в жесткую конкуренцию, каждый из которых пытается связаться с первой с надписью, не сотрудничая для регулирования и этики ИИ.

Бернерс-Ли предполагает, что индустрия ИИ должна следовать примеру других областей, таких как ядерная физика, где международные институты, такие как CERN, координируют исследования и навязывают четкие правила.

Вам нужен консорциум, у вас есть?

Если вы будете продолжать развиваться без общих правил и стандартов, риски для пользователей будут расти. Без аналогичной организации W3C или CERN технологии могли бы служить интересам крупных компаний, а не интересов общества.

Бернерс-Ли предлагает создать глобальную организацию, которая устанавливает этические и прозрачные принципы, так что разработка этой технологии полезна для всех. В отсутствие такой инициативы будущее может быть отмечено отсутствием доверия, экономических манипуляций и предвзятых решений.

Наконец, сообщение Бернерса-Ли ясное: пользователи должны быть бдительными, задавать вопросы и убедиться, что взаимодействие ИИ работает для них, а не против них.