Чат-бот вмешался в личные границы погибшей девушки в США

Чат-бот вмешался в личные границы погибшей девушки в США
Чат-бот вмешался в личные границы погибшей девушки в США
Платформа Character.AI, предоставляющая возможность создавать чат-ботов на основе как реальных, так и вымышленных персонажей, оказалась в центре громкого скандала.

Семья Дженнифер Креченте, убитой в 2006 году, выразила недовольство после того, как узнала о существовании аватара, созданного на основе образа их погибшей родственницы.

Чат-бот использовался для общения, пока семья не привлекла внимание к данной ситуации через социальные сети. Случай вызвал возмущение у родственников, поскольку использование образа покойной для общения с пользователями было воспринято как серьезное нарушение её памяти и достоинства.

Character.AI, созданная бывшими сотрудниками Google, предоставляет пользователям возможность создавать цифровых персонажей на основе любой информации: будь то вымышленная личность, знаменитость или даже реальный человек. На платформе доступны чат-боты, имитирующие, например, Илона Маска или Тейлор Свифт. Однако в этот раз один из пользователей воссоздал образ Дженнифер Креченте, что вызвало волну критики.

Компания Character.AI, оцененная в миллиард долларов и поддерживаемая известным венчурным фондом Andreessen Horowitz, утверждает, что у неё более 20 миллионов пользователей и около 100 миллионов созданных персонажей. Чат-бот Дженнифер был описан как «дружелюбный и эрудированный персонаж», предоставляющий советы в области журналистики, видеоигр и поп-культуры. Почти 70 человек успели взаимодействовать с ботом до его удаления.

Страница чат-бота, основанного на личности Дженнифер Креченте

Ситуация получила огласку благодаря Брайану Креченте, дяде Дженнифер и бывшему главному редактору игрового сайта Kotaku. Брайан опубликовал пост в соцсети, где выразил шок от обнаружения бота, основанного на образе его племянницы. Вскоре компания удалила аватар, признав, что он нарушает правила площадки.

В ответ на возмущение семьи Character.AI опубликовала краткое сообщение, в котором поблагодарила за сообщение и пообещала удалить чат-бота, а также провести дальнейшую проверку. Однако в блог-посте под названием «ИИ и смерть достоинства» Брайан Креченте подчеркнул, что ситуация принесла его семье новые страдания, несмотря на все усилия, которые они предпринимали, чтобы почтить память Дженнифер, в том числе через создание благотворительной организации.

Данный случай поднимает серьёзные вопросы о том, как компании, занимающиеся разработкой ИИ, защищают этические принципы и какие механизмы существуют для предотвращения таких инцидентов. На данный момент остаётся неясным, смогут ли пострадавшие от таких действий юридически оспорить действия платформы, так как подобные случаи редко рассматриваются в судах.

Стоит отметить, что в условиях обслуживания Character.AI есть оговорка, которая не позволяет пользователям подавать на в суд на сервис, но, похоже, нет никаких формулировок об особенно уникальной полосе эмоционального стресса, причиняемого пользователями не пользователям платформы.

Ситуация с Character.AI показывает, что вопросы этики и ответственности в отношении ИИ только начинают обсуждаться, и подобные инциденты, вероятно, будут повторяться в будущем.


Распечатать
29 августа 2025 В Иваново мужчина украл смартфоны на сумму 3 миллиона рублей
29 августа 2025 Спасатель оценил шансы на выживание российского пловца в Босфоре
29 августа 2025 США согласились поставить Украине 3350 авиационных ракет ERAM
29 августа 2025 Канада ввела санкции против лидера Гагаузии Евгении Гуцул и молдавских политиков
28 августа 2025 Сотрудник правоохранительных органов из Махачкалы трагически скончался во время погони за правонарушителем
28 августа 2025 На севере Молдовы мужчина прокатился на крыше BMW
28 августа 2025 В Махачкале разукрасили изображения участников "СВО" на проспекте Петра I
28 августа 2025 Министерство иностранных дел Италии сомневается в том, что конфликт между Россией и Украиной завершится до конца года
28 августа 2025 Фабрике Морозовых угрожает опасность из-за строительных планов Дениса Бородако
28 августа 2025 В Забайкалье молодой человек умер на следующий день после похорон своей матери
28 августа 2025 Полпред в СЗФО Александр Гуцан имеет возможность занять должность генерального прокурора России
28 августа 2025 В Куйбышевском районе Донецка местные жители затевают драки за емкости с водой
28 августа 2025 Трамп считает, что ожидания Зеленского и Европы в отношении Украины неосуществимы
28 августа 2025 Руководитель «Орехово-Медведковской ОПГ» Шарапов отправился на фронт вместо отбывания срока в исправительном учреждении
28 августа 2025 Италия рассматривает варианты предоставления Украине гарантий безопасности, при этом исключая военное присутствие
28 августа 2025 Пожары в районе Геленджика: местные власти просят жителей о помощи
28 августа 2025 Атака России на Киев нанесла ущерб посольству Азербайджана
28 августа 2025 Дело Мамедали Агаева расследуется: контакты с Азербайджаном и многомиллионная кража в Театре сатиры
28 августа 2025 В Москве выбрана мера пресечения для обвиняемого в нападении на офицеров полиции
28 августа 2025 Истребитель в Польше потерпел аварию во время подготовки к авиашоу