Chatgpt добавит родительский контроль после смерти подростка

Компания US Artificial Intelligence Openai объявила, что добавит родительский контроль за чат -ботом Catgpt. Объявление было сделано через неделю после того, как американская семья заявила, что система побудила их сына покончить с собой, сообщает Bgnes.

«В течение следующего месяца родители смогут подключить свою учетную запись со своей учетной записью подростков и контролировать, как Chatgpt отвечает с правилами, соответствующими возрастам», -говорится в сообщении в блоге.

Родители также получат уведомления от CATGPT, когда система обнаружит, что их подросток находится в момент сильного стресса.

AFP отмечает, что компания представила систему родительского контроля в публикации в блоге в конце августа.

Это произошло на следующий день после того, как родители Мэтью и Мария Рейн из Калифорнии, США, подали иск в суд в суде, утверждая, что Чатгпт предоставил их 16-летнему сыну подробные инструкции по самоубийству и призвал его реализовать свои планы.

Случай семьи Рейн является лишь последним из серии случаев, которые появились в последние месяцы, когда люди были воодушевлены чат -ботами ИИ следовать за сумасшедшими или вредными мыслями.

«Мы продолжаем улучшать способ, которым наши модели распознают и реагируют на признаки психического и эмоционального стресса», — сказал Openai.

Компания объяснила, что в течение следующих трех месяцев существуют дополнительные планы по повышению безопасности его чатов, включая перенаправление «некоторых чувствительных разговоров в модель рассуждений», которая более вычислила вычислительную мощность при генерации ответа.

«Наши тесты показывают, что модели рассуждений более последовательно следовали и применяют руководящие принципы безопасности», — сказал технологический гигант.