Почему нейросети галлюцинируют: 6 причин простыми словами

Нейросети галлюцинируют, потому что учатся продолжать текст правдоподобно, а не проверять факты. Если нужного факта в данных нет или он встретился один раз, модель не всегда говорит «не знаю». Чаще она достраивает ответ. А тесты, по которым модели сравнивают, нередко поощряют такую догадку.

Ниже мы разберем шесть причин, примеры российских сервисов и правила проверки.

Что такое галлюцинация нейросети?

Галлюцинация - это уверенный, правдоподобный и ложный ответ модели: выдуманная дата, цитата или ссылка.

От обычной ошибки и честного «не знаю» она отличается тоном и конкретикой:

• Ошибка: модель попыталась ответить и промахнулась.
• Отказ: модель говорит «не знаю» или просит уточнить вопрос.
• Галлюцинация: модель выдает конкретику (имя, дату, цитату) и подает ее как факт.

Намерения обмануть у модели нет, поэтому точнее говорить «конфабуляция» - заполнение пробелов правдоподобной выдумкой.

Откуда берутся выдуманные ответы?

В обучающих текстах нет пометок «верно/неверно». Редкие факты почти не запоминаются. Тесты поощряют догадки, а модель ошибочно «узнает» имя. Сам вопрос может толкать к выдумке, а сложные задачи даются хуже. Причины складываются и усиливают друг друга. Ниже разберем каждую из шести причин по порядку.

Причина 1. Модель учится на языке, а не на проверенных фактах

Языковая модель - это программа, которая продолжает текст. Сначала идет предобучение: модель читает огромные массивы текстов и перенимает их закономерности. Пометок «это правда, а это нет» там нет. Грамматику и устойчивые знания вроде «Москва - столица России» модель усваивает хорошо.

Суть в том, что у случайных фактов нет шаблона. Исследователи OpenAI и Georgia Tech (2025) сравнивают это с попыткой угадать день рождения питомца по фотографии. Алгоритм может быть сколько угодно умным, закономерности там нет.

Причина 2. Редкие факты почти невозможно выучить

Частые факты модель запоминает. С «длинным хвостом» хуже: так называют редкие сведения, которые встречаются в данных единицы раз. Например, дата рождения малоизвестного человека, номер договора, точное название статьи.

Авторы OpenAI доказали: после предобучения доля галлюцинаций не меньше доли фактов, которые встретились в данных ровно один раз. Их пример: если 20% дат рождения попались однократно, базовая модель ошибется минимум в 20% таких вопросов (OpenAI, Georgia Tech, 2025). Это нижняя граница для базовых моделей, а не для готовых чат-ботов.

Причина 3. Тесты поощряют угадывание

Модели сравнивают по тестам с баллами. Устроены они как школьная контрольная: за верный ответ дают балл, а за «не знаю» и за ошибку одинаково ставят ноль. Школьнику выгодно отвечать наугад: вдруг повезет. Модель привыкает к тому же.

Эти баллы нужны разработчикам: по ним составляют рейтинги моделей и решают, какая версия лучше. Поэтому модели дообучают так, чтобы они набирали больше баллов, а значит, и чаще рискуют с ответом.

OpenAI проверила 10 популярных тестов. Девять из них не дают баллов за честное «не знаю» (OpenAI, Georgia Tech, 2025). В результате модель, которая смело отвечает на все подряд, нередко набирает больше баллов, чем осторожная, хотя ошибается заметно чаще. Такой пример OpenAI привела в системной карте GPT-5 (2025).

Выход, который предлагает OpenAI, - изменить правила тестов: уверенная ошибка должна стоить модели больше баллов, чем честное «не знаю».

GEO/AI-продвижение

Адаптируем сайт под нейровыдачу.
Будьте первыми в ответах нейросетей.

Оставить заявку →

Причина 4. Модель «узнает» имя, но не знает человека

Исследователи Anthropic заглянули внутрь модели Claude 3.5 Haiku и увидели, как она решает, отвечать на вопрос или нет. По умолчанию модель осторожна: если данных мало, она говорит «не знаю». Но если имя кажется ей знакомым, срабатывает «механизм узнавания», и осторожность отключается.

Это проверили на вымышленном человеке по имени Michael Batkin. Сначала модель честно отказалась отвечать. Тогда исследователи искусственно включили у нее ощущение «я это знаю», и она сразу сообщила, что он играет в шахматы. Такое бывает и само по себе: имя звучит знакомо, фактов о человеке нет, и модель сама дописывает его биографию (Anthropic, 2025).

Причина 5. Вопрос может толкать к выдумке

Иногда сам запрос подталкивает нейросеть к выдуманному ответу. Вот несколько примеров таких ситуаций. Это иллюстрации, а не результаты исследования:

• «Назови точную дату регистрации компании X». Если у модели нет нужных данных, она может назвать правдоподобную дату вместо того, чтобы признать, что не знает ответа.
• «Найди пять научных статей по теме». Без доступа к источникам модель может придумать названия, авторов и даже DOI - уникальный идентификатор научной публикации.
• «Продолжи: “Согласно исследованию 2019 года…”». Такая формулировка уже предполагает, что исследование существует. Нейросеть может продолжить фразу и описать несуществующую работу.

Модель умеет оформлять ссылки так, что они выглядят убедительно. Но правильное оформление не подтверждает существование публикации. Название, авторов и сам источник нужно проверить отдельно.

Причина 6. Сложные задачи даются хуже

Нейросети могут ошибаться, когда для ответа нужно последовательно связать несколько фактов. Например, чтобы найти дедушку в большой родословной, сначала нужно определить отца человека, а затем найти отца его отца.

В теоретической работе Peng, Narayanan и Papadimitriou (2024) исследователи показали ограничения одного слоя трансформера, одного из элементов нейросети: при большом количестве вариантов он не всегда способен надежно решать подобные задачи. При этом часть доказательств опирается на недоказанные гипотезы. Вывод касается одного слоя, поэтому переносить его на все возможности чат-ботов нельзя.

Такие цепочки моделям все же доступны. Например, Anthropic показала, как Claude связывает два факта: «Даллас находится в Техасе» и «столица Техаса находится в Остине». Так модель определяет столицу штата, в котором расположен Даллас.

Ошибки встречаются и в задачах, которые человеку кажутся элементарными. В статье OpenAI приводится пример: модель DeepSeek-V3 десять раз спрашивали, сколько букв D в слове DEEPSEEK. Она отвечала «две» или «три», хотя правильный ответ: одна.

Одна из причин в том, что нейросеть обрабатывает текст фрагментами, а не последовательно читает каждую букву. Поэтому даже уверенный ответ на простой вопрос о подсчете букв может оказаться неверным.

Можно ли верить объяснениям нейросети?

Не всегда. Нейросеть может подробно объяснить решение, но это еще не значит, что она получила ответ именно таким способом.

В 2025 году Anthropic проверила это на сложной задаче: модель попросили вычислить косинус большого числа. Она показала последовательный расчет. Однако, изучив работу модели изнутри, исследователи не нашли признаков того, что она действительно выполнила описанные вычисления.

В другом тесте модели заранее подсказали ответ. После этого она составила шаги решения так, чтобы они приводили к нему.

Это не означает, что любое объяснение нейросети выдумано. Но подробный и убедительный текст сам по себе не подтверждает правильность решения. Важные расчеты и выводы стоит проверять отдельно.

Как ошибаются российские нейросети: GigaChat и Алиса AI?

Яндекс прямо предупреждает, что ответы Алисы AI могут содержать неточности. Сбер разработал GigaSearch, чтобы отвечать на вопросы о фактах с помощью поиска. Публичная статистика по доле галлюцинаций у обеих систем пока не найдена. При оценке их работы важно учитывать актуальные версии.

GigaChat. В обзоре ранней версии «Т-Журнал» отмечал, что сильная сторона модели связана с творческими задачами. В ответах на вопросы о фактах она могла ошибаться, а разработчики называли такие ответы «творческими».

Сбер также описал на Хабре GigaSearch. Эта система строит ответы по результатам поиска, чтобы уменьшить количество выдуманных фактов и использовать более свежую информацию. Позднее появились новые версии, включая GigaChat 2.0, поэтому выводы о ранней модели нельзя автоматически переносить на них.

Алиса AI. Согласно справке Яндекса, система подбирает подходящие страницы и составляет ответ со ссылками на источники. Она использует источники всегда, кроме задач по созданию текстов и изображений, а также вычислений. При этом Яндекс предупреждает: ответ может содержать неточности.

Один из таких случаев описан в блоге Unisender. Эксперт по речевым технологиям Сергей Пименов рассказал, что Алиса AI указала его как контакт Яндекса по SpeechKit, хотя он не работает в компании. По его предположению, нейросеть нашла его статью о SpeechKit с указанием Telegram и ошибочно связала автора с Яндексом.

Как не попасть на выдумку нейросети?

Коротко: задавайте конкретные вопросы и просите нейросеть прямо говорить, когда она не уверена в ответе. Не требуйте ссылки, если у модели нет доступа к поиску или нужной базе: она может их выдумать. Факты, цифры и ссылки проверяйте по первоисточникам, особенно перед важными решениями. Поиск помогает снизить риск ошибок, но не исключает их.

При подготовке публикаций проверяйте каждое имя, дату, цифру, цитату и ссылку. Для статистики найдите исходное исследование и убедитесь, что оно подтверждает приведенные данные. Все проверки нужно завершить до публикации.

Что еще спрашивают о галлюцинациях нейросетей?

Галлюцинация - это ложь?

Нет. Ложь предполагает намерение обмануть, а у модели его нет. Она генерирует самое правдоподобное продолжение текста. Поэтому точнее говорить «конфабуляция», а не «соврала».

Можно ли убрать галлюцинации полностью?

Нет. По данным OpenAI, точность не достигнет 100%: часть вопросов не имеет ответа в доступных данных. Но галлюцинации не неизбежны. Модель может отвечать «не знаю», если не уверена.

Решает ли проблему подключенный поиск?

Снижает риск, но не снимает. Исследователи OpenAI отмечают: пока тесты награждают догадки, модель гадает и тогда, когда поиск не дал уверенного ответа. Ссылки все равно надо открывать.

Алиса AI или GigaChat ошибаются реже?

Сопоставимых публичных цифр мы не нашли и сравнивать «в процентах» не будем. Оба сервиса предупреждают о неточностях, а Алиса AI показывает источники. Любой факт проверяйте сами.

Как понять, что ответ выдуман?

Проверьте имя, дату и ссылку по независимому источнику. Подозрительна конкретика без источника, особенно в редких фактах. Если ссылка не открывается или публикации нет, это галлюцинация.