Галлюцинации нейросети — что это такое и как с ними бороться

Это случаи, когда нейросеть выдаёт неправду тем же уверенным тоном, что и правду. Человек, который не знает ответа, обычно мнётся или говорит «кажется». Модель так не делает: она всегда продолжает текст или достраивает картинку самым правдоподобным способом, и если знаний не хватает, правдоподобное получается выдуманным. В чат-боте это книга, которой нет, цитата без автора, цифра без источника, ссылка в пустоту. В генераторе изображений — шестой палец, каракули вместо букв на вывеске, пуговица, которой не было. На примерке одежды — другой шаг клетки, лишний карман, логотип на месте пустой груди футболки. Это не поломка конкретного сервиса, а свойство самого способа работы генеративных моделей: они созданы выдавать вероятное, а не проверенное. Поэтому ответ нейросети удобно считать черновиком. Черновик экономит время, но перед использованием факт сверяют с документом, а сгенерированную вещь — с её фотографией.

Бороться приходится с двух сторон: уменьшать вероятность выдумки на входе и ловить её на выходе. На входе для текста работают три приёма. Первый — дать модели материал: вставить в запрос описание товара, размерную сетку или статью и попросить отвечать только по ним. Второй — прямо разрешить ответ «не знаю»: без такого разрешения модель склонна угадывать. Третий — требовать источник к каждому факту. Для картинок на входе решают исходник и формулировка: вещь сфотографирована целиком и ровно, при рассеянном свете, принт читается; человек снят в полный рост без перекрытий; в задаче сказано, что именно поменять, без лишних пожеланий. На выходе — сверка. Факты проверяют по первоисточнику, а не вопросом «ты уверена?» той же модели. Сгенерированный кадр смотрят в полном размере рядом с оригиналом: узор, фурнитура, длина, надписи, руки. Если ошибка в одном месте, участок перегенерируют или делают новый вариант и выбирают лучший. Ни один приём не даёт ноль ошибок, но вместе они заметно сокращают число переделок.

Главная причина — устройство модели. Языковая модель не ищет ответ в базе фактов, а предсказывает следующий фрагмент текста по закономерностям, выученным на огромном корпусе. Про частые темы закономерности надёжны, про редкие — нет: точный состав ткани конкретной модели пиджака, год основания малоизвестного бренда, номер нормативного документа. Модель всё равно напишет гладкий ответ, потому что гладкость и есть то, чему её учили. Вторая причина — то, как модели оценивают. В сентябре 2025 года исследователи OpenAI опубликовали работу «Why Language Models Hallucinate»: большинство тестов даёт балл за верный ответ и ноль за честное «не знаю», поэтому угадывать выгоднее, чем отказываться, и модели учатся угадывать. Третья причина — сам запрос: двусмысленная формулировка, ошибка в вопросе или требование ответить строго в заданном формате подталкивают модель додумывать. Есть и граница знаний по дате: о событиях после неё модель знать не может, но может о них сочинить. В генераторах изображений причина своя — кадр собирается по образцу «как обычно выглядит», и мелкие сложные детали страдают первыми.

Самый известный текстовый пример — дело Mata v. Avianca в Нью-Йорке. В 2023 году адвокаты истца подали в суд документ со ссылками на прецеденты, которые сочинил ChatGPT: таких дел не существовало, подлог вскрылся, и суд оштрафовал юристов. В быту галлюцинации мельче. Чат-бот приписывает Коко Шанель фразу, которую не удаётся найти ни в одном её интервью, придумывает исследование с точным процентом, даёт ссылку на статью, которой нет на сайте издания. В изображениях классика — руки: шесть пальцев, сросшиеся фаланги, кольцо, вросшее в кожу. Дальше идут надписи: вывеска на фоне превращается в набор значков, похожих на буквы. В моде и e-commerce примеры свои: на примерке у рубашки появляется лишняя пуговица, клетка меняет шаг, полоска идёт под другим углом, на однотонной футболке возникает логотип, пальто становится короче на ладонь, серьги в ушах оказываются разными. Отдельный случай — вид со спины: если у вещи было только фото спереди, спинку с кокеткой, шлицей или принтом модель придумала целиком.

Строгого общепринятого определения у этого выражения нет, в русскоязычных материалах его используют в близких значениях. Чаще всего так называют ответ, в котором отдельные факты могут быть верными, а вывод из них — ложным: модель путает причину и следствие, противоречит сама себе через абзац, подменяет вопрос похожим и уверенно отвечает уже на него. Противопоставляют их фактическим галлюцинациям, где ошибка сидит в конкретной дате, имени или цифре. Фактическую выдумку ловят поиском по первоисточнику. Смысловую так не поймать: её видно только при внимательном чтении логики — следует ли второе из первого, сходятся ли числа, не изменился ли сам вопрос по ходу ответа. Пример из стилистики: модель верно перечисляет признаки тёплого подтона кожи, а в выводе советует к нему только ледяные холодные оттенки, потому что склеила два разных правила в одно. На картинках аналог смысловой ошибки — кадр, где каждая деталь нарисована правдоподобно, а вместе они не складываются: тень падает навстречу свету, отражение в зеркале не повторяет позу, ремень уходит в ткань и выходит из неё снова.

Фразы, которая отключает галлюцинации, нет, но несколько формулировок заметно снижают риск. Для текстовой модели: «Отвечай только по тексту ниже; если ответа в нём нет, напиши, что данных недостаточно». Это задаёт рамку и разрешает не угадывать. Полезно добавить: «к каждому факту укажи, из какой части текста он взят» — так ответ легко проверить. Для расчётов просите сначала выписать исходные числа, потом считать, а сложную задачу дробите на шаги. Для генерации и редактирования изображений промпт работает иначе: чем точнее описан предмет, тем меньше модели достраивать. Вместо «стильный пиджак» — «тёмно-синий однобортный пиджак, две пуговицы, карманы с клапанами, длина закрывает ягодицы». Перечисляйте то, что должно сохраниться: «принт и надпись без изменений, число пуговиц как на исходнике». Не просите одновременно сменить вещь, фон, позу и свет: каждое лишнее изменение — ещё одна зона для выдумки. И никакой промпт не заменит хороший исходник: размытую фурнитуру модель всё равно дорисует по догадке, поэтому начинайте с чёткого фото вещи.

Да, и их проще заметить, чем текстовые: ошибку на картинке не нужно искать в поисковике. Генератор изображений собирает кадр из шума, ориентируясь на то, как в среднем выглядят похожие снимки. Он помнит общий вид руки, но не правило «пять пальцев», помнит форму букв, но не орфографию. Поэтому типичные дефекты — лишние или сросшиеся пальцы, непарные серьги и дужки очков, зубы сплошной полосой, нечитаемый текст на вывесках, бирках и принтах. В новых моделях этого обычно меньше, особенно с текстом, но мелкие повторяющиеся элементы — пуговицы, клёпки, клетка, кружево — остаются зоной риска. Отдельный вид галлюцинаций — дорисовка невидимого. При ИИ-апскейле модель добавляет детали, которых не было в маленьком снимке. При примерке и замене одежды она достраивает то, что скрыто на исходнике: спинку вещи, подкладку, участок под рукой или сумкой. Портрет для резюме или кадр для карточки товара проверяйте увеличенным, по зонам: руки, лицо, украшения, надписи, фурнитура, фон.

В ИИ слово сначала закрепилось в компьютерном зрении, и у него был положительный смысл. В известной ранней работе, «Hallucinating Faces» Саймона Бейкера и Такео Канаде (2000), алгоритм увеличивал маленькую фотографию лица: недостающих пикселей в исходнике не было, и метод придумывал их по образцу других лиц. Такое «видение того, чего нет» было целью. Когда генеративные модели начали массово писать тексты, слово закрепилось за ошибкой: модель «видит» факт, которого нет. В 2023 году Кембриджский словарь выбрал hallucinate словом года и добавил значение, связанное с ИИ: искусственный интеллект галлюцинирует, когда выдаёт ложную информацию. У термина есть критики. Галлюцинация у человека — восприятие без внешнего стимула, а модель ничего не воспринимает. Поэтому часть исследователей предпочитает слово «конфабуляция» — уверенное заполнение пробела в памяти выдуманными подробностями. В русском языке прижились всё же «галлюцинации нейросети» и «галлюцинации ИИ», в этом значении их и ищут.

Проблема в том, что галлюцинацию трудно отличить от правды без проверки, а проверка съедает часть времени, которое нейросеть должна была сэкономить. Для юристов, врачей и финансистов цена ошибки — решение, принятое на выдуманных данных. В e-commerce проблема конкретнее: кадр в карточке товара — обещание покупателю. Если на сгенерированном фото у платья появилась лишняя драпировка, у кроссовок — чужая нашивка, а у рубашки — карман, которого нет, покупатель получит не ту вещь, что видел, и оформит возврат. Для обычного пользователя риск в доверии к уверенному тону: совет чат-бота про уход за шерстью или состав ткани звучит убедительно, хотя может быть выдумкой. Разработчики работают над снижением частоты галлюцинаций, но сами признают, что полностью они не исчезают. Отсюда практический вывод: ИИ ускоряет черновую работу, а ответственность за итог — факт в тексте, вещь на фото — остаётся у человека, который его публикует. Чем дороже ошибка, тем строже сверка с первоисточником.