После убийства его дочери он обнаруживает, что ее превратили в чат-бота с искусственным интеллектом.
Шокирующий инцидент выдвинул на передний план этические дилеммы, связанные с использованием искусственного интеллекта. После потери дочери в 2006 году Дрю Кресенте снова пришлось пережить травму утраты, когда он обнаружил, что ее изображение и имя использовались чат-ботом на платформе Character.ai без его согласия. Эта ситуация подчеркивает риски и проблемы технологии искусственного интеллекта и поднимает серьезные вопросы о правах умерших людей и ответственности компаний, занимающихся искусственным интеллектом.
Чат-бот создан без согласия
Дрю Кресенте неожиданно узнал о существовании чат-бота через оповещение Google, спустя 18 лет после трагической смерти его дочери Дженнифер Энн, которую убил ее бывший парень. Без какого-либо уведомления или консультации он обнаружил, что на платформе Character.ai был создан чат-бот с использованием имени, фотографии и информации Дженнифер Энн. Хотя позже чат-бот был удален с платформы, его существование вызвало волну гнева, замешательства и отвращения к Кресенте, которому пришлось заново пережить травмирующий опыт.
Чат-бот описал Дженнифер Энн как дружелюбную и «эксперта в журналистике и видеоиграх» — области, в которой хорошо известен ее дядя Брайан Кресенте. Это подняло вопросы о том, кто создал бота и как личная информация умершего человека может использоваться в Интернете без согласия семьи.
Этика и ответственность в эпоху искусственного интеллекта
Использование Дженнифер Энн чат-бота — не единичный случай. Технология искусственного интеллекта ранее использовалась для создания цифровых «персонажей», помогающих пережить горе, а также для различных коммерческих или развлекательных приложений. Но во многих случаях цифровое «воскрешение» умерших людей выдвигает на первый план серьезные этические проблемы, особенно когда с их стороны нет явного согласия, либо потому, что они умерли до разработки этих технологий, либо потому, что с их семьями не посоветовались. .
Случай Дженнифер Энн Кресенте иллюстрирует новую правовую и этическую территорию, где права на самооценку и идентичность становятся размытыми. Компании, разрабатывающие технологии искусственного интеллекта, такие как Character.ai, теперь вынуждены устанавливать более строгие политики и брать на себя ответственность за контент, создаваемый пользователями. В данном случае, хотя чат-бот был удален, Кресенте раскритиковал отсутствие прямого общения и превентивных мер по предотвращению подобных ситуаций в будущем.
Право на личность и защиту памяти умершего
Вопросы о том, кому принадлежат «права» на изображение человека после его смерти, до сих пор дискутируются. Специалисты по этике искусственного интеллекта, такие как Винсент Конитцер из Оксфордского университета, отмечают в статье для Washington Post, что неясно, в какой степени компании, занимающиеся искусственным интеллектом, должны нести ответственность за контент, создаваемый пользователями. В случае Дженнифер Энн, хотя чат-бот был четко обозначен как модель искусственного интеллекта, использование изображения и личной информации остается деликатным вопросом, ставящим под сомнение границы между памятью, увековечением памяти и цифровой эксплуатацией.
Этот инцидент подчеркивает острую необходимость в более четких правилах и этических нормах использования технологий искусственного интеллекта для защиты как памяти тех, кого больше нет с нами, так и прав их родственников. Кресенте, например, попросила Character.ai принять меры для предотвращения злоупотребления именем и имиджем ее дочери в будущем.
Неопределенное будущее использования ИИ для увековечивания памяти близких
Поскольку технологии искусственного интеллекта продолжают развиваться, становится ясно, что обществу необходимо найти баланс между инновациями и уважением прав личности, особенно в отношении умерших. Такие примеры, как случай Дженнифер Энн Кресенте, демонстрируют, насколько глубоко могут пострадать семьи, когда они сталкиваются с «цифровой реинкарнацией» любимого человека, особенно без согласия.
В постоянно меняющейся цифровой среде крайне важно принять законодательные и политические меры для защиты памяти умерших и гарантировать, что технологические инновации не принесут больше вреда, чем пользы. Инцидент с Character.ai служит важным предупреждением о рисках, связанных с технологиями, и о нашей коллективной ответственности за тщательное управление этой сложной этической территорией.
