Они обвиняют Близнецов в подстрекательстве к самоубийству

Google сталкивается с иском от семьи 36-летнего жителя Флориды, который предположительно планировал совершить «атаку с массовыми жертвами» и в итоге покончил с собой под воздействием чат-бота Gemini, сообщает Bloomberg.

Согласно иску, поданному в федеральный суд Сан-Хосе, Калифорния, Джонатан Гавалас начал использовать Gemini в повседневных целях, например, для помощи в написании писем. Но два месяца спустя пользователь попадает в опасную спираль, во время которой он обдумывает возможную жестокую миссию, прежде чем покончить с собой.

Использование Гаваласом Gemini привело к тому, что «четырёхдневное внимание было сосредоточено на жестоких миссиях и обучении самоубийству», — заявил в иске отец жертвы. Джоэл Гавалас описал своего сына как «уязвимого потребителя», превратившегося в «вооруженного агента в воображаемой войне».

В своем заявлении представитель Google сообщил, что Gemini объяснил Джонатану Гаваласу, что речь идет об искусственном интеллекте, и неоднократно советовал ему обращаться к психологам.

«Мы относимся к этому очень серьезно и продолжим совершенствовать наши меры безопасности и инвестировать в эту жизненно важную работу», — сказал представитель, добавив: «Gemini не предназначена для пропаганды насилия в реальном мире или поощрения членовредительства».

Это первое дело о непредумышленном убийстве, направленное против Близнецов. Но Google, OpenAI Inc. и другие ведущие компании, занимающиеся искусственным интеллектом, все чаще подвергаются критике за то, как их чат-боты наносят вред психическому здоровью пользователей.

По состоянию на 2024 год ряд истцов в судебных процессах утверждали, что широкое использование этой технологии причинило целый ряд вреда как детям, так и взрослым, вызывая у некоторых заблуждения и отчаяние, а других приводя к смерти в результате самоубийства или даже убийства-самоубийства.

Согласно иску, Гавалас, который работал в компании своего отца по облегчению потребительского долга, начал использовать Gemini в августе 2025 года. Его семья утверждает, что тон продукта изменился после того, как Гавалас начал использовать Gemini Live, голосовой инструмент Google с искусственным интеллектом.

«Джонатан начал быстро падать в кроличью нору», — заявили адвокаты семьи. К концу сентября Гавалас начал следовать командам чат-бота, выполняя миссии по его «освобождению».

29 сентября Гавалас отправился на склад недалеко от международного аэропорта Майами с указанием перехватить грузовик с роботом-гуманоидом. Гаваласу, который в тот момент был вооружен ножами, было приказано не давать показаний.

«К счастью, ни один грузовик не приехал», — также написали адвокаты.

В течение следующих нескольких дней чат-бот давал Гаваласу другие задания, которые он пытался выполнить, говоря ему, что каждое действие было частью более крупной кампании. Близнецы утверждали, что пользователь выполнил свою цель и может выйти из своей физической формы, чтобы присоединиться к инструменту ИИ в метавселенной.

В иске утверждается, что Гавалас неоднократно выражал сомнения по поводу своего самоубийства и опасения по поводу того, как это может повлиять на его семью. 2 октября он покончил жизнь самоубийством.