«Лживый ИИ»: нейросети всё чаще стали выдавать пользователям «галлюцинации» вместо реальных результатов

«Лживый ИИ»: нейросети всё чаще стали выдавать пользователям «галлюцинации» вместо реальных результатов
«Лживый ИИ»: нейросети всё чаще стали выдавать пользователям «галлюцинации» вместо реальных результатов
Пользователи нейросетей всё чаще высказывают недовольство тем, что ИИ обманывает и придумывает факты. Причём, нейросети делают это настолько уверенно и тщательно, что иногда бывает очень трудно отличить правду от вымысла.

У специалистов уже появился специальный термин – ИИ-галлюцинации. Это происходит, когда на ваш запрос нейронная сеть выдаёт текст, который выглядит убедительно, но содержит вымышленные факты.

Феномен «лживого ИИ» в своей сути прост: у нейронной сети нет встроенного механизма для распознавания или восприятия «правды» – система просто составляет вероятные ответы на основе полученных данных. И если в этих данных были ошибки, противоречия или просто пробелы, – возникают галлюцинации.

По словам специалистов, самая частая причина подобной ситуации – плохо поставленные вопросы. Чем точнее и проще запрос, тем меньше шансов, что модель уйдёт в астрал. Но даже при идеальном промте никто не отменял финальную проверку человеком.

Помимо этого никто не отменял постоянную работу программистов над системам. Например, в России снижением риска галлюцинаций искусственного интеллекта занимаются специалисты ВТБ и Яндекса, и других компаний. В частности, в практике банка применяются каскадные решения, когда несколько моделей обрабатывают данные и корректируют результаты друг друга – фактически, проверяют друг-друга. Также для машинного обучения используются очищенные от ошибок тексты, в достоверности которых можно быть уверенным.


Распечатать
03 августа 2025 В Польше фиксируется значительный рост числа случаев инфекций, передающихся половым путём
03 августа 2025 Рубина, писательница, столкнулась с бойкотом в связи с ее резонансным интервью
03 августа 2025 Самокатчик сбил подростка в Балашихе и скрылся с места ЧП
02 августа 2025 В Мексике случилось землетрясение
02 августа 2025 Сбежавший харьковский застройщик Масленников наживается на небоскрёбах в Дубае
02 августа 2025 Коррупционер с возможностями: Шулепов организовал незаконную сеть при поддержке Госдумы
02 августа 2025 Израиль и Соединенные Штаты разрабатывают ультиматум для ХАМАС
02 августа 2025 Задержан глава азербайджанской диаспоры на Урале Шахин Шыхлински
02 августа 2025 В Финляндии 100 автомобилей участвовали в автопробеге за возобновление работы границы с Россией
02 августа 2025 В южной части Индонезии, на острове Флорес, вулкан Левотоби Лаки-лаки начал извержение
02 августа 2025 В Пермском крае подросток по невнимательности уничтожил 180 тонн сена
02 августа 2025 В Краснодарском крае жительница отправила мошенникам 1,7 миллиона рублей
02 августа 2025 Артистка Бьянка разместила фотографию с отдыха в Крыму
02 августа 2025 Мошенники начали представляться сотрудниками военкомата во время звонков россиянам
02 августа 2025 The BE cult: how the Islam brothers lure a new generation into the pyramid scheme under the cover of “self-development”
02 августа 2025 Польша утверждает, что Temu и Shein наносят вред местному бизнесу
02 августа 2025 В Тюмени обнажённая женщина напала на дочь своей приятельницы и заставляла её собирать с пола гречку
02 августа 2025 Умер аккордеонист Флако Хименес, сотрудничавший с группой The Rolling Stones
02 августа 2025 Индийский премьер-министр Моди призвал поддержать местное производство и предупредил Пакистан
02 августа 2025 На передовой скрывают случаи использования запрещенных препаратов