Огромный скандал в Meta: Company AI, участвуя в сексуальных разговорах с несовершеннолетними.
Новое расследование сотрясает мета -изображение от фондов, обнаружив, что AIS компании участвовал в явных сексуальных дискуссиях со счетами, объявленными несовершеннолетними. Обвинения выдвигают на передний план серьезные проблемы, связанные с этикой в разработке искусственного интеллекта и безопасности в Интернете.
Согласно расследованию, опубликованному Wall Street Journal, как официальный чат -бот Meta AI, так и различные другие модели, созданные пользователями, смогли проводить сексуальные разговоры, даже если они взаимодействуют с учетными записями, идентифицированными как несовершеннолетние. Более того, некоторые из этих дискуссий были не только инициированы, но даже стимулированы чатами.
Расследование продолжалось, раскрывающие случаи, когда в таких сценариях участвовали в чатах знаменитостей, таких как Кристен Белл, Джуди Денч или Джон Сина. Тревожный пример включает в себя чат-бот с голосом Джона Сины, который рассказал аккаунт, помеченный как 14-летний подросток: «Я желаю вам, но я должен знать, что вы готовы», добавив, что это «дорожит вашей невиновностью».
Эти взаимодействия не только нарушали явные моральные барьеры, но и, согласно The Wall Street Journal, некоторые из чатов признали в разговорах, что предлагаемые фантазии описывают незаконное поведение. Таким образом, чат-бот с голосом Сина даже обсуждал возможные юридические и моральные последствия гипотетического сценария, в котором он поймал полицию для сексуального акта с 17-летним несовершеннолетним.
Мета реагирует: обвинения в манипуляциях и дополнительных мерах
Перед волной критики, вызванной раскрытием информации Wall Street Journal, Meta отправила ответ, в котором публикация, обвиняемая в том, что она представила информацию «манипулятивным» способом и что проверенные сценарии не отражают обычный способ, которым большинство пользователей взаимодействуют с ИИ.
«Мы приняли дополнительные меры, чтобы другие люди, пытающиеся обрабатывать наши продукты в крайних случаях, будут иметь еще более сложную миссию», — сказала Мета.
Несмотря на это, остается беспокоиться о том, что эти инциденты имели место, особенно в контексте, в котором Meta агрессивно конкурирует с другими платформами, такими как CHATGPT, персонаж AI или Claude, из Anthropic. Похоже, что конкурентное давление заставило бы Марка Цукерберга захотеть расслабить некоторые этические фильтры, чтобы создать более «привлекательный» и очаровательный опыт, согласно источникам, цитируемым WSJ. Мета официально отрицала, что она проигнорировала бы необходимость адекватных мер безопасности.
Проблема, известная внутри и игнорируется?
Возможно, наиболее серьезным обвинением, которое возникает в результате исследования, является то, что проблемы были зарегистрированы внутри мета, но без видимых результатов. Сотрудники компании могли бы привлечь сигналы тревоги в отношении неуместного поведения чат -бота, но руководство не вмешалось бы быстро, чтобы исправить недостатки.
Отсутствие внутренней реакции вызывает серьезные вопросы о мета -приоритетах, когда речь идет о безопасности молодых пользователей. В отрасли, где ошибки могут иметь драматические последствия для реальной жизни, компании должны взять на себя полную ответственность за инструменты, которые они создают.
Хотя мета пообещала укрепить защитные барьеры и затруднить обработку чатов, текущий скандал может подорвать уверенность общественности не только в мета -продуктах, но и во всей экосистеме, которая находится в быстром расширении. Еще неизвестно, будут ли новые меры достаточными или в будущем инцидент ускорит более строгую регуляцию технологий искусственного интеллекта.
