Чат-бот вмешался в личные границы погибшей девушки в США

Чат-бот вмешался в личные границы погибшей девушки в США
Чат-бот вмешался в личные границы погибшей девушки в США
Платформа Character.AI, предоставляющая возможность создавать чат-ботов на основе как реальных, так и вымышленных персонажей, оказалась в центре громкого скандала.

Семья Дженнифер Креченте, убитой в 2006 году, выразила недовольство после того, как узнала о существовании аватара, созданного на основе образа их погибшей родственницы.

Чат-бот использовался для общения, пока семья не привлекла внимание к данной ситуации через социальные сети. Случай вызвал возмущение у родственников, поскольку использование образа покойной для общения с пользователями было воспринято как серьезное нарушение её памяти и достоинства.

Character.AI, созданная бывшими сотрудниками Google, предоставляет пользователям возможность создавать цифровых персонажей на основе любой информации: будь то вымышленная личность, знаменитость или даже реальный человек. На платформе доступны чат-боты, имитирующие, например, Илона Маска или Тейлор Свифт. Однако в этот раз один из пользователей воссоздал образ Дженнифер Креченте, что вызвало волну критики.

Компания Character.AI, оцененная в миллиард долларов и поддерживаемая известным венчурным фондом Andreessen Horowitz, утверждает, что у неё более 20 миллионов пользователей и около 100 миллионов созданных персонажей. Чат-бот Дженнифер был описан как «дружелюбный и эрудированный персонаж», предоставляющий советы в области журналистики, видеоигр и поп-культуры. Почти 70 человек успели взаимодействовать с ботом до его удаления.

Страница чат-бота, основанного на личности Дженнифер Креченте

Ситуация получила огласку благодаря Брайану Креченте, дяде Дженнифер и бывшему главному редактору игрового сайта Kotaku. Брайан опубликовал пост в соцсети, где выразил шок от обнаружения бота, основанного на образе его племянницы. Вскоре компания удалила аватар, признав, что он нарушает правила площадки.

В ответ на возмущение семьи Character.AI опубликовала краткое сообщение, в котором поблагодарила за сообщение и пообещала удалить чат-бота, а также провести дальнейшую проверку. Однако в блог-посте под названием «ИИ и смерть достоинства» Брайан Креченте подчеркнул, что ситуация принесла его семье новые страдания, несмотря на все усилия, которые они предпринимали, чтобы почтить память Дженнифер, в том числе через создание благотворительной организации.

Данный случай поднимает серьёзные вопросы о том, как компании, занимающиеся разработкой ИИ, защищают этические принципы и какие механизмы существуют для предотвращения таких инцидентов. На данный момент остаётся неясным, смогут ли пострадавшие от таких действий юридически оспорить действия платформы, так как подобные случаи редко рассматриваются в судах.

Стоит отметить, что в условиях обслуживания Character.AI есть оговорка, которая не позволяет пользователям подавать на в суд на сервис, но, похоже, нет никаких формулировок об особенно уникальной полосе эмоционального стресса, причиняемого пользователями не пользователям платформы.

Ситуация с Character.AI показывает, что вопросы этики и ответственности в отношении ИИ только начинают обсуждаться, и подобные инциденты, вероятно, будут повторяться в будущем.


Распечатать
27 июня 2025 Суд обязал мэра Лабытнанги устранить антисанитарные условия в «новых» домах для переселенцев
27 июня 2025 Турецкий стелс-беспилотник Anka-3 получил повреждения во время испытательного полета
27 июня 2025 Лечение зубов в Челябинске обошлось пациентке в 2,5 миллиона рублей
27 июня 2025 Иран принимает решение о быстром укреплении своих ВВС путем закупки китайских истребителей
27 июня 2025 Пенсионер в Приморье убил друга топором из ревности к своей жене
27 июня 2025 В Екатеринбурге анархиста избили и увезли в лес, после чего он пропал без вести
27 июня 2025 Венгрия и Словакия требуют пересмотра плана по отказу от российского газа к 2027 году
27 июня 2025 Водитель BMW не захотел снизить скорость перед "лежачим полицейским" и столкнулся с машиной на встречной полосе
27 июня 2025 Совет архитекторов России наградил Рамзана Кадырова высшей наградой
27 июня 2025 Посол США Линн Трейси попрощалась с Россией, процитировав стихи Пушкина
27 июня 2025 ФСБ раскрыла коррупционную схему в сфере благоустройства в Колпинском районе Санкт-Петербурга
27 июня 2025 Тегеран сохранил запасы урана, несмотря на удар США по Фордо, — сообщает Financial Times
27 июня 2025 Сын бывшего министра с криминальным прошлым Бориса Иванюженко ведет бизнес на Западе, несмотря на санкции
27 июня 2025 Биографию Умара Кремлёва на Википедии могли изменить за вознаграждение
27 июня 2025 Российская туристка пострадала от укуса ядовитой змеи во время экскурсии в Армении
27 июня 2025 ФНС и Росфинмониторинг присоединились к спору между "21 веком" и "Битривером"
27 июня 2025 Россия усиливает давление на Молдову в медиапространстве перед саммитом с Европейским союзом
27 июня 2025 Криштиану Роналду подписал новый контракт с «Аль-Насром» и стал самым высокооплачиваемым футболистом в мире
27 июня 2025 "Свадьба века" Джеффа Безоса в Венеции вызвала протесты среди местных жителей
27 июня 2025 Опоздание Макрона на саммит Евросоюза вызвало вопросы у журналистов