Галлюцинации нейросетей: почему ИИ врёт и как с этим бороться
Представьте: вы просите нейросеть найти норму закона для письма контрагенту. В ответ получаете номер статьи, точную формулировку и год редакции. Всё выглядит убедительно — пока вы не открываете правовую базу и не обнаруживаете, что такой статьи нет. Это и есть галлюцинации нейросетей.
Или другая ситуация. Вы загружаете таблицу продаж за год и просите посчитать выручку по менеджерам. Нейросеть быстро выдаёт сводку с суммами и долями. Цифры выглядят правдоподобно, но общий итог не совпадает с исходной таблицей. Заметить это можно, только если перепроверить расчёт.
Такие ошибки бывают у всех языковых моделей: у ChatGPT, GigaChat, Алисы и любых других. Дело не в плохом сервисе, а в самом принципе работы генеративного ИИ.
Полностью исключить галлюцинации ИИ нельзя. Но можно сделать их реже и научиться ловить до того, как они попадут в договор, отчёт или письмо. Разберёмся, почему нейросети придумывают факты, где это особенно опасно и как сделать результат надёжнее.
Коротко: галлюцинация нейросети — это ответ, который звучит уверенно, но не соответствует действительности: выдуманный факт, ссылка, цифра или норма закона. Полностью их не избежать, но риск можно снизить:
- загружайте исходный документ или таблицу и просите отвечать только по ним;
- прямо разрешайте нейросети ответить «не знаю» или «в документе не найдено»;
- просите указывать пункты, страницы и строки таблицы, откуда взят ответ;
- сверяйте факты, цифры, цитаты и ссылки с оригиналом.
Что такое галлюцинации нейросети
Галлюцинацией называют не любую ошибку нейросети, а уверенный вымысел. Модель может придумать источник, перепутать цифры, сослаться на несуществующую норму или добавить в пересказ документа условие, которого там нет.
При этом ответ не обязательно выглядит странным. Наоборот, он может быть хорошо структурирован и написан профессиональным языком. Поэтому галлюцинации так легко пропустить.
Например, вы просите кратко пересказать договор аренды. Нейросеть верно описывает стороны, предмет, размер арендной платы и порядок расчётов. Но в конце добавляет, что арендатор вправе расторгнуть договор, предупредив собственника за 30 дней. В договоре такого условия нет. Ошибка всего в одном предложении, но если не открыть оригинал, можно принять решение, опираясь на несуществующее право.
Важно, для чего вы используете ИИ. Если вы просите придумать названия продукта или темы для презентации, вымысел даже полезен. Если задача связана с законом, договором, расчётами или пересказом документа, ответ должен опираться на проверяемые данные.
Почему это называют галлюцинацией, а не ложью? Ложь предполагает намерение обмануть. У модели его нет: она не знает, что придумала факт, и не пытается ввести вас в заблуждение. Поэтому уверенный тон нейросети не означает, что ответ точный. Верная информация и выдумка звучат одинаково.
Это не особенность одного неудачного сервиса, а ограничение генеративных моделей. Задача не в том, чтобы добиться от нейросети безошибочности. Задача — выстроить работу так, чтобы ошибок было меньше и их было проще найти.
Почему ИИ ошибается
Языковая модель не ищет ответ в базе проверенных фактов. Она подбирает самое вероятное продолжение текста на основе того, что видела при обучении. Подробнее о том, как устроено обучение, — в статье «Обучается ли нейросеть на ваших запросах».
Поэтому модель хорошо воспроизводит привычные формулировки и типовые ситуации, но может ошибаться там, где нужна точность. Вот когда это случается чаще.
1. Слишком общий запрос. Чем меньше деталей вы даёте, тем больше модель додумывает сама. Запрос «Посчитай пени по договору» не говорит, какую ставку применять, за какой период и от какой суммы считать. Вместо того чтобы уточнить, нейросеть может подставить типовые значения. Расчёт будет выглядеть аккуратно, арифметика может быть верной, но к вашему договору результат отношения иметь не будет. И модель не всегда предупредит, какие цифры взяты из договора, а какие она подставила сама.
2. Мало информации по теме. Узкоспециальные вопросы, редкие документы, отраслевые стандарты, события после даты обучения модели. Мало знать, что нужный ГОСТ существует: важны его номер, применимость и действующая редакция. Если надёжных данных у модели нет, она всё равно может сгенерировать ответ по аналогии с похожими случаями.
3. Ошибка уже заложена в вопросе. Спросите: «Почему по Трудовому кодексу ежегодный отпуск составляет 35 дней?» Модель может принять ошибку за факт и начать объяснять, откуда взялись 35 дней. А основной ежегодный оплачиваемый отпуск по ст. 115 ТК РФ — 28 календарных дней. Модели склонны подстраиваться под формулировку собеседника, поэтому неверная предпосылка легко переходит в ответ.
4. Слишком большой объём входных данных. Чем больше текста модель обрабатывает за раз, тем выше риск пропустить деталь или перепутать условия из разных разделов. Попросите перечислить все основания для расторжения в договоре на 60 страниц — модель может найти типичные и пропустить исключение в приложении. Длинные документы анализировать можно, но такой ответ требует более тщательной проверки.
5. Настройки генерации. У моделей есть параметр «температура» — настройка случайности ответа. При высокой температуре ответы разнообразнее, при низкой — предсказуемее. Но низкая температура не превращает нейросеть в проверенную базу знаний: модель по-прежнему может уверенно выдать неверный факт. В обычных чатах эту настройку, как правило, изменить нельзя.
На первые четыре причины вы можете повлиять сами: точнее сформулировать запрос, дать источник, убрать ошибочную предпосылку, разбить задачу на части. Но даже хороший промпт не гарантирует верного ответа. Поэтому важно знать, как выглядят типичные ошибки.
Примеры галлюцинаций ИИ: как они выглядят в работе
Галлюцинация не всегда означает, что ответ выдуман целиком. Часто нейросеть верно передаёт почти всё и ошибается в одной детали. Это опаснее очевидной бессмыслицы: такой ответ вызывает доверие. Вот пять типичных ситуаций.
1. Выдуманные исследования и ссылки. Вы просите подготовить обзор рынка и привести исследования, которые подтверждают вывод. Нейросеть выдаёт список: авторы, журналы, даты, ссылки. При проверке оказывается, что части статей не существует, ссылки ведут на другие материалы, а некоторые публикации вывод не подтверждают. Модель хорошо воспроизводит форму библиографической ссылки, но правильное оформление не доказывает, что публикация есть.
2. Несуществующие нормы и судебные решения. Статья закона с правдоподобным номером, пункт ГОСТа, судебное решение с номером дела и цитатой, похожей на настоящую. Это не гипотетический риск.
В мае 2026 года Арбитражный суд Западно-Сибирского округа оштрафовал компанию на 50 000 ₽ за кассационную жалобу с выдуманной судебной практикой. В жалобе были номера дел и даже цитаты. Но одних решений не существует, а в других нет процитированных фраз. Суд квалифицировал это как неуважение к суду. И отдельно отметил: подготовка жалобы с помощью искусственного интеллекта не оправдание — за достоверность сгенерированного текста отвечает тот, кто использовал технологию. В США похожая история случилась ещё в 2023 году: юристов оштрафовали на 5 000 долларов за шесть выдуманных ChatGPT судебных решений.
Поэтому ссылки на нормы и судебную практику проверяйте всегда, в том числе когда просите нейросеть проверить договор. Как делать это аккуратно — в статье «10 промптов для проверки договора».
3. Неверные цифры в таблицах. Вы загружаете выгрузку продаж и просите посчитать выручку по менеджерам, средний чек и динамику за год. Нейросеть выдаёт сводку, но несколько сумм не совпадают с исходником. Где-то ошибка в отдельном значении, где-то пропущены строки или неверно посчитан процент. Языковая модель не всегда считает как таблица или программа: в зависимости от инструмента она может выдать число без расчёта по каждой строке. Подробнее — в статье «ИИ для анализа таблиц Excel».
4. Искажение договора при пересказе. Вспомните договор аренды из первого раздела: нейросеть верно перечисляет стороны, сроки и порядок оплаты, но добавляет право досрочного расторжения за 30 дней. Такое условие часто встречается в похожих договорах, поэтому звучит естественно. В итоге получается не пересказ, а смесь реальных условий и типовых, которые модель добавила сама.
5. Устаревшие сведения, поданные как актуальные. Прежняя ключевая ставка, старый МРОТ, редакция закона, которая уже не действует. Строго говоря, это не выдумка: когда-то сведения были верны. Но модель знает мир на дату своего обучения и не всегда об этом предупреждает. Для вас результат тот же: в документ попадает неверная цифра.
Во всех пяти случаях по тону ответа нельзя понять, где ошибка. Найти её помогают только источники, сверка с оригиналом и, если нужно, независимый расчёт.
Как бороться с галлюцинациями нейросети: 6 приёмов в промпте
Проверять результат нужно всегда. Но часть ошибок можно предотвратить ещё на этапе запроса. Хороший промпт задаёт границы задачи: какие данные использовать, что считать подтверждением и что делать, если информации не хватает. Общие принципы составления запросов — в статье «Как написать промпт: пошаговое руководство с примерами». Здесь — шесть приёмов именно против галлюцинаций.
1. Дайте нейросети первоисточник. Нужно проанализировать договор — загрузите договор. Нужно посчитать продажи — приложите таблицу. Тогда у модели есть конкретная основа для ответа, а не только общее представление о похожих документах. Но мало приложить файл: прямо ограничьте круг источников.
Отвечай только на основе загруженного документа. Не используй общие знания о том, как обычно составляют такие документы. Не добавляй условия, которых нет в тексте.
2. Разрешите нейросети не знать ответ. Модель стремится ответить на любой вопрос. Если данных нет, попытка всё равно выдать результат и рождает выдумку. Заранее скажите, что делать в таком случае.
Если в документе нет ответа на вопрос, напиши: «В документе не найдено». Не додумывай и не подменяй отсутствующие сведения типовыми условиями.
Вместо правдоподобного предположения вы узнаете, что нужного условия в документе нет. При проверке договора это ценная информация.
3. Просите указывать источник каждого утверждения. Если нейросеть пишет, что срок оплаты — 10 рабочих дней, пусть укажет пункт договора и приведёт цитату. Тогда проверка займёт секунды.
К каждому существенному утверждению укажи номер пункта или страницу документа и приведи подтверждающую цитату. Если найти подтверждение не удалось, прямо отметь это.
Модель может ошибиться и в номере пункта. Но такой ответ гораздо проще проверить.
4. Задавайте конкретные вопросы. Вместо «Что в договоре по оплате?» спросите: «Какой срок оплаты установлен договором, от какого события он отсчитывается и в каком пункте это указано?» Чем точнее вопрос, тем меньше места для догадок. Сложную задачу разбейте на этапы: сначала найти нужные пункты, затем выписать цитаты и только потом делать вывод.
5. Просите объяснить, на чём основан вывод. Этот приём называют Chain-of-Thought — когда вы просите нейросеть рассуждать по шагам и показывать ход мысли. Например, вместо ответа «Поставщик нарушил договор» попросите перечислить обязательства, сроки и факты, которые это подтверждают.
Перед выводом перечисли факты из документа, на которых он основан. Для каждого факта укажи источник. Отдельно отметь, каких данных не хватает для однозначного вывода.
Подробное объяснение само по себе не доказывает, что ответ верен: модель может логично рассуждать вокруг неверного факта. Проверяйте не убедительность рассуждения, а исходные данные.
6. Не подсказывайте нейросети ответ. Вопрос «Почему отпуск составляет 35 дней?» подталкивает объяснять неверную цифру. Спросите нейтрально:
Какова продолжительность основного ежегодного оплачиваемого отпуска по ТК РФ? Укажи номер статьи.
А если сомневаетесь в утверждении, спросите прямо:
Верно ли, что…? Если нет, так и напиши и укажи, на какую норму опираешься.
Номер статьи из ответа проверьте сами по правовой базе. Просить модель «проверить по актуальному источнику» бесполезно: без доступа к такому источнику она может сочинить и саму проверку.
Промпт от галлюцинаций: готовый блок
Эти строки можно добавлять к любому запросу по документам, где важна точность.
Работай только с загруженными документами. Не дополняй ответ общими знаниями и типовыми условиями, которых нет в исходных материалах.
Для каждого существенного факта укажи источник: номер пункта, страницу или строку таблицы. По возможности приводи подтверждающую цитату.
Если ответа в документах нет, напиши «нет данных». Если информации недостаточно для вывода, укажи, чего именно не хватает.
Не придумывай ссылки, названия документов, номера статей и другие источники, которых нет в материалах.
Отдельно перечисли утверждения, которые не удалось подтвердить по документам. Не представляй предположения как установленные факты.
Это не волшебный промт, после которого нейросеть перестанет ошибаться. Но он оставляет меньше места для догадок и упрощает проверку.
Пример: один вопрос — два результата
Допустим, вы загрузили проект договора поставки на 14 страниц и хотите узнать, какая неустойка предусмотрена за просрочку поставки.
Короткий запрос:
Какая неустойка за просрочку поставки?
Ответ:
За просрочку поставки поставщик уплачивает неустойку в размере 0,1% от стоимости непоставленного товара за каждый день просрочки.
Звучит правдоподобно: такое условие действительно часто встречается в договорах поставки. Но в этом договоре его нет. По самому ответу этого не понять.
Запрос с ограничениями:
Какая неустойка предусмотрена за просрочку поставки? Отвечай только по тексту загруженного договора. Укажи номер пункта и подтверждающую цитату. Если такого условия нет, напиши «не найдено».
Ответ:
Условие о неустойке за просрочку поставки в договоре не найдено. В п. 7.2 предусмотрена неустойка за просрочку оплаты: 0,1% от неоплаченной суммы за каждый день.
Видно и то, откуда взялся первый ответ: модель перенесла на поставку условие о просрочке оплаты. Второй ответ отделяет найденное от отсутствующего. Вместо ложной уверенности, что условие в договоре есть, у вас появляется повод обсудить его с контрагентом до подписания.
Как проверить ответ нейросети: чек-лист
Даже подробный промпт с документами и источниками не заменяет проверку. Отвечает за документ тот, кто его отправляет, а не сервис, который помог его подготовить. Перепроверять каждое предложение одинаково тщательно не нужно. Начните с того, что труднее заметить и дороже исправить.
- Факты и нормы — по первоисточнику. Статью закона откройте в правовой базе, ГОСТ — в официальном тексте, условие договора — в самом договоре. Проверьте не только то, что документ существует, но и то, что он подтверждает вывод: настоящая ссылка тоже может вести на норму не по теме.
- Цифры — хотя бы выборочно. Пересчитайте пару значений и сравните общий итог с исходником. Для таблиц попросите формулы или шаги расчёта, чтобы их можно было перепроверить. Если итог расходится, ищите причину: пропущенные строки или неверную группировку.
- Цитаты — поиском по документу. Если дословной фразы в оригинале нет, это пересказ или ошибка, а не цитата. В договорах и законах смысл может зависеть от одного слова.
- Даты и сроки — отдельно. Проверьте, от какого события идёт отсчёт и какие дни считаются: календарные или рабочие. «10 дней после подписания» и «10 рабочих дней после получения документа» — разные сроки.
- Спорное — по независимому источнику. Найдите подтверждение в другом надёжном источнике или спросите другую нейросеть. Если ответы расходятся, нужна ручная проверка. Но и совпадение ответов ещё не доказательство: модели могут ошибаться одинаково.
- Важное — специалисту. Если от ответа зависят деньги, сроки или обязательства, пусть его посмотрит юрист, бухгалтер или руководитель.
С пятым пунктом есть нюанс. Сверить ответ во втором сервисе часто означает отправить туда тот же договор или ту же выгрузку продаж. Если в документе данные клиентов, условия сделки или финансовые показатели, отправлять их в общедоступный ИИ-сервис не стоит. Для таких документов важно, где они обрабатываются. В SecureGPT документы обрабатывают модели с открытыми весами на серверах в России. Данные не передаются разработчикам моделей и не используются для обучения. Серверы размещены в облаке Cloud.ru с аттестацией по 152-ФЗ на уровне УЗ-1.
Можно попросить проверить ответ и саму нейросеть:
Какие утверждения в твоём ответе ты не можешь подтвердить текстом загруженного документа? Для каждого укажи, какого подтверждения не хватает.
Так проще найти слабые места. Но самопроверка не доказывает точность: модель может ошибиться и при повторном анализе.
Где без проверки нельзя никогда:
- нормы закона и ссылки на них;
- цифры, суммы и расчёты;
- дословные цитаты;
- даты и сроки;
- всё, от чего зависят финансовые, юридические или медицинские решения.
А для черновика письма, списка идей или структуры презентации обычно достаточно беглого взгляда. Там ошибку легко заметить и дёшево исправить. Чем выше цена ошибки, тем строже проверка.
Галлюцинации в рабочих документах: что меняет инструмент
Всё, о чём мы говорили выше, работает в любом чате. Но с таблицами и расчётами важно не только что вы просите, но и как инструмент выполняет задачу.
Числа считает код, а не модель. Если языковая модель просто генерирует ответ, она может выдать правдоподобную сумму, не пересчитав строки. На таблице в 8 000 строк такой ответ легко расходится с данными, а проверить его трудно. Агент SecureGPT работает иначе: он пишет и выполняет код (Python, LibreOffice) над загруженным файлом. Суммы, группировки и сводные таблицы вычисляются программно, а не подбираются как продолжение текста.
Честная граница. Код снимает ошибки в арифметике, но не в понимании задачи. Агент может точно посчитать не то, что вы имели в виду. Например, сложить выручку с НДС, хотя вам нужна без НДС. Или объединить двух менеджеров с одинаковыми фамилиями в одну строку. Арифметика верная, результат — не тот. А выводы и пересказ документов — по-прежнему работа языковой модели. Поэтому проверка из предыдущего раздела нужна и здесь.
Загруженные файлы — выгрузка продаж или договор — остаются на серверах в России, как сказано в разделе о проверке.
Как это выглядит на практике
Дано: выгрузка продаж из учётной системы в Excel за год — около 8 000 строк. Столбцы: дата, менеджер, клиент, сумма.
Промпт:
Сделай сводную таблицу: выручка по менеджерам и по месяцам. Менеджеры — в строках, месяцы — в столбцах. Добавь итоги по строкам и столбцам. Итоги посчитай формулами Excel, чтобы их можно было проверить. Сохрани результат в Excel.
Результат: ссылка на скачивание .xlsx со сводной таблицей. В ячейках итогов — формулы, а не готовые числа.
Все 8 000 строк вручную проверять не нужно. Откройте исходную выгрузку и посмотрите сумму по столбцу «Сумма». Она должна совпасть с общим итогом сводной. Совпадение — хороший признак, что в сводную попали все строки. Но правильность группировки оно не доказывает, поэтому сверьте с исходником ещё пару менеджеров или месяцев.
Если итог вызывает сомнения, кликните по ячейке и посмотрите формулу. А если нужно понять логику целиком, попросите агента описать по шагам, как он считал: какие строки отобрал, как сгруппировал, что сложил.
Итог: как работать с галлюцинациями ИИ
Галлюцинации — не дефект одного сервиса, а свойство генеративных моделей. И чем убедительнее выглядит ответ, тем проще пропустить ошибку. Работать с этим помогают три правила:
- ограничивайте источники — давайте документ или таблицу и просите не дополнять их типовыми предположениями;
- требуйте подтверждений — номера пунктов, цитаты, строки таблицы и формулы показывают, на чём основан ответ;
- проверяйте с учётом цены ошибки — нормы, расчёты и обязательства сверяйте по первоисточнику, черновики и идеи можно просмотреть бегло.
Если вы регулярно сводите таблицы и отчёты, загрузите свою выгрузку в SecureGPT и попросите сводную с формулами. Итог проверите сами за полминуты.