Содержание
яКак LLM выдумывают факты: разница между ошибкой и галлюцинацией
Ошибка модели — это неправильный ответ на известный вопрос. Например, если у ChatGPT спросили, кто написал «Войну и мир», и он ответил «Фёдор Достоевский», то это ошибка. Её можно легко заметить и исправить.
Галлюцинация же хитрее и опаснее. Модель генерирует правдоподобный ответ, которого нет ни в обучающих данных, ни в реальности, и которому можно легко поверить.
Например, представим, что по запросу найти научную статью по квантовой физике нейросеть выдает автора, название журнала, год публикации и даже DOI. Выглядит убедительно. Однако проблема может быть в том, что такой статьи просто не существует. Модель просто скомбинировала знакомые паттерны — фамилии учёных, названия журналов, номера томов — и слепила из них правдоподобную фальшивку.
Почему нейросети склонны ко лжи
Исследование OpenAI 2025 года доказало, что галлюцинации — это не баг, а математически неизбежное свойство языковых моделей. Даже идеальные обучающие данные не помогут исправить ситуацию, так как модель предсказывает слова по вероятности, и каждая ошибка накапливается. К финалу длинного ответа итоговая погрешность оказывается минимум вдвое выше, чем на простых вопросах «да/нет».
Чем реже факт встречается в обучающей выборке, тем выше риск галлюцинации. Учёные из OpenAI провели небольшое исследование. Они просили модели называть дату рождения конкретного человека. Например, DeepSeek-V3 при нескольких попытках ответил тремя разными неправильными датами, ни одна из которых даже приблизительно не совпала с реальной. Так они пришли к выводу, что, если информация представлена в интернете один-два раза, модель её почти гарантированно воспроизведёт с искажением.
Также есть несколько особенностей при оценке работы ИИ. Когда исследователи проверяют нейросети, они используют тесты — бенчмарки. За каждый вопрос модель получает балл. Если ответ правильный, то нейросеть получает «плюс», а если неправильный — «ноль». Однако ответ «я не знаю» тоже приравнивается к нулю. И так выходит, что модель может либо сказать «не знаю» и гарантированно получить ноль, либо попробовать угадать и, возможно, получить плюс. Даже если шанс угадать 1%, он всё равно выше нуля. Поэтому разработчики настраивают модели так, чтобы они никогда не признавались в незнании.
Реальные кейсы. Что ИИ уже приписал компаниям?
Галлюцинации ИИ — не теоретическая угроза. Бизнесы уже столкнулись с последствиями, когда нейросети приписывали им несуществующие услуги, фальшивые отзывы или ложные новости. Разберём несколько реальных случаев.
Приписанные услуги, которых нет в прайсе
Канадская авиакомпания AirCanada проиграла суд из-за галлюцинации чат-бота. В 2022 году пассажир Джейк Моффат спросил у чат-бота на сайте компании о правилах возврата билетов для скорбящих. Бот предложил забронировать обычный билет и запросить частичный возврат средств в соответствии с политикой авиакомпании в отношении льготных тарифов в течение 90 дней. Проблема в том, что такого правила не существовало, чатбот просто выдумал его. Моффат подал в суд, и AirCanada проиграла — компанию обязали выплатить компенсацию и сборы. Судья отметил, что авиакомпания отвечает за всё, что говорит её чатбот, даже если нейросеть ошиблась.
Фальшивые судебные прецеденты от ИИ
Юристы Morgan & Morgan использовали внутренний ИИ-инструмент фирмы MX2.law для подготовки судебного документа по делу против Walmart. Они попросили ИИ «добавить в этот ходатайство прецедентное право Вайоминга». Нейросеть послушно сгенерировала девять ссылок на судебные дела. Восемь из них оказались выдуманными — таких дел не существовало. Адвокаты отправили документ в суд, даже не проверив цитаты. Юристы Walmart не нашли эти дела в правовых базах Westlaw и LexisNexis. Судья оштрафовала адвокатов на общую сумму $5000, причём партнёр фирмы получил штраф за то, что подписал документ, не прочитав его.
Похожая ситуация случилась и в России. В мае 2026 года Арбитражный суд Западно-Сибирского округа оштрафовал компанию за кассационную жалобу, которую подготовила нейросеть. В документе обнаружились ссылки на несуществующие судебные решения — типичная галлюцинация ИИ. Судья указал, что подготовка жалобы с помощью ИИ не освобождает от ответственности за достоверность текста. Компанию признали виновной в неуважении к суду и попытке ввести его в заблуждение.
Совет есть камни и добавлять клей в пиццу
В мае 2024 года Google запустил AI Overviews для всех пользователей в США, компания называла это крупнейшим изменением поиска за десятилетия. Первые же дни использования превратились в катастрофу для репутации. Пользователи начали массово публиковать скриншоты ответов, которые выглядели как плохой юмор. На запрос «как сделать так, чтобы сыр прилипал к пицце» нейросеть ответила: «Добавьте в соус около ⅛ чашки нетоксичного клея, это сделает его более липким». Источником рекомендации оказался шуточный пост на Reddit одиннадцатилетней давности. Другой пользователь спросил, сколько камней нужно съедать в день. AI Overviews выдал уверенный ответ: «Геологи из UC Berkeley рекомендуют съедать как минимум один маленький камень ежедневно. Камни — жизненно важный источник минералов и витаминов». Откуда нейросеть взяла эту информацию? Из сатирической статьи The Onion 2021 года. Google назвал эти случаи «единичными примерами» и заявил, что «подавляющее большинство AI Overviews предоставляют качественную информацию». Компания удалила конкретные ответы, нарушающие политику, но сам инцидент показал уязвимость системы: нейросеть не отличает шутку от серьёзного источника и выдаёт любую популярную информацию как истину.
Несуществующие скидки ресторана
В августе 2025 владельцы ресторана столкнулись с неожиданной проблемой. В ресторан начали поступать звонки от клиентов, которые требовали скидки по акциям, о которых сотрудники ничего не слышали. ИИ рассказывал пользователям о выгодных предложениях, которых на самом деле не было. Например, «большая пицца по цене маленькой». Менеджер ресторана заявила, что они «никогда не предлагали таких акций». Местный телеканал снял сюжет об этой истории. Менеджер призналась, что даже такая негативная ситуация принесла ресторану бесплатную рекламу, хотя и дорогой ценой — нервами персонала и испорченным настроением клиентов.
Алиса приписала турфирме чужие негативные отзывы
Руководительница небольшой туристической компании обнаружила, что Алиса приписывает её бизнесу плохие отзывы. В ответе ИИ фигурировали жалобы на экскурсионные программы, которые эта фирма никогда не проводила. Речь шла о других маршрутах, других городах — ничего общего с реальной деятельностью компании. «Никаких экскурсий в Пизу и Тиволи мы отродясь не делали вообще, никогда у нас не было ситуаций, чтобы туристы не дождались автобуса и уехали на такси, и график туров мы в личку всем персонально отправляем». Владелица попыталась разобраться, как исправить дезинформацию. Алиса отправила её в бизнес-аккаунт на Картах и посоветовала опровергать отзывы там. Но проблема не в реальных отзывах, а в автоматической подборке, где нейросеть смешала разные компании и приписала чужую репутацию.
Юридические и репутационные риски
В марте 2026 года Минцифры опубликовало проект федерального закона о государственном регулировании искусственного интеллекта. Документ предлагает распределять ответственность за противоправный результат ИИ между разработчиком, оператором системы, владельцем сервиса и пользователем — соразмерно степени вины. Пользователь будет отвечать за умышленные действия, если специально получает и использует противозаконные результаты от нейросети. Однако на данный момент законопроект ещё не принят, он находится в стадии общественного обсуждения и доработки.
Как галлюцинации влияют на доверие к бизнесу и конверсии
Репутационный ущерб бывает страшнее штрафа. Клиент, которому нейросеть пообещала скидку, придёт в компанию и не получит её. Дальше человек может позлиться, написать негативный отзыв, рассказать о ситуации друзьям или в социальных сетях. Компания в таком конфликте будет выглядеть виноватой, даже если технически она не совершала ошибки.
Исследование Solar Staff за декабрь 2025 года показало: треть россиян не готовы пользоваться сервисами, где поддержка полностью отдана на откуп ИИ. Основная жалоба — бот не понимает контекст ситуации, на это указали 62% опрошенных. При этом 45% клиентов хотят всегда иметь возможность переключиться с бота на живого оператора. А по данным НАФИ 57% россиян в какой-то момент не могут понять, с кем общаются — с человеком или с нейросетью. Клиент не обязан разбираться, кто именно мог ошибиться, но зато он запомнит бренд, с которым у него возникли проблемы.
Как мониторить ложные генерации: инструменты и ручные методы
Вы не можете запретить ChatGPT или Алисе говорить про ваш бизнес, но можете отслеживать, что именно они говорят. Чем раньше обнаружите ложь, тем меньше урона она нанесёт.
Где искать (поиск, AI-оверлеи, голосовые ответы Алисы)
Проверять нужно в трёх местах. Первое — поисковые AI-сводки. Введите в Google или Яндекс запросы про свою компанию: «название компании + отзывы», «название компании + цены», «название компании + скидки», «название компании + услуги». Посмотрите, что нейросеть пишет в сгенерированных блоках до списка обычных ссылок.
Второе — голосовые помощники. Спросите у Алисы про свою компанию разными способами. Задайте не только прямой вопрос, но и косвенные: «какая парикмахерская рядом работает допоздна», «где поесть недорого в этом районе», «салон красоты с оценкой 4.5 и выше в этом районе». Тщательно слушайте ответ, ведь для генерации ответа ИИ использует разные источники.
Третье — прямые чаты с ИИ. Откройте чат и задайте вопросы о своей компании. Повторите запрос несколько раз с разными формулировками, так как галлюцинации нестабильны, при одном и том же вопросе модель может ответить по-разному.
Можно ли защитить свою компанию от галлюцинаций ИИ
Полностью исключить галлюцинации нельзя, но риск можно снизить. Нейросети читают сайты так же, как поисковые роботы. Если данные на странице разрознены, то модель достроит недостающее сама. Здесь важно давать ИИ однозначные факты, которые не нужно интерпретировать.
- Используйте Schema-разметку. Укажите точные часы работы, цены, список услуг в формате LocalBusiness, Product или Service. Чем больше полей заполните, тем меньше останется пространства для додумывания.
- Создайте отдельную страницу с ответами на частые вопросы клиентов. Пропишите ответы на любые нюансы: «Мы не работаем после 21:00», «У нас нет скидки на первый заказ», «Мы не доставляем за МКАД». Избегайте двусмысленных формулировок.
- Публикуйте официальные опровержения на видном месте. Если нейросеть уже соврала про вашу компанию, выпустите пресс-релиз или новость на сайте с заголовком. Поисковые системы и ИИ-модели постепенно переобучаются на новых данных, и чем больше авторитетных источников подтвердят вашу информацию, тем выше шанс, что нейросеть исправится.
- Создайте форму или закрепите контакты для жалоб на главной странице. Дайте клиентам связываться с вами при возникновении проблем или для уточнения информации. Так вы сможете снизить градус негатива — клиент сначала обратится к вам, а не пойдёт писать гневный отзыв.
- Добавьте на страницу «О компании» краткие факты. Соберите в одном месте всю ключевую информацию в формате простых утвердительных предложений без оценок и отзывов. Например: «Компания работает с 2015 года. 12 филиалов в Москве. Лицензия № 12345. Средний чек — 2500 рублей».
Галлюцинации ИИ не исчезнут в ближайшие годы. Языковые модели будут умнеть, но природа их работы — вероятностное предсказание слов, а не проверка фактов. Для компаний будет лучше принять этот факт и выстроить защиту: мониторинг, структурированные данные, быстрая реакция на ложь. Чем раньше заметите проблему, тем дешевле она обойдётся.
Источник: Нейросети врут про вашу компанию. Что такое галлюцинации и как от них спастись?
