— Из этого текста нужно срочно убрать слово «костёр`. Оно не имеет отношения к продвижению интернет-бизнеса.*

— А где ты увидел здесь слово «костёр`?*

— Нигде. Я ошибся. Спасибо, что поправили.

Это реальный диалог с нейросетью. И он отлично иллюстрирует главную проблему ИИ-контента: модель генерирует уверенный, связный, но неверный ответ. Такие ошибки называют галлюцинациями искусственного интеллекта (AI hallucinations).

Разбираемся, почему это происходит, чем опасно для SEO и как снизить риски.

Что такое галлюцинации ИИ

Языковая модель может:

Придумать несуществующие книги, фильмы, исследования, даты.

Сослаться на выдуманные источники, прецеденты, законы.

Исказить реальные события или статистику, подав это как факт.

Термин «галлюцинация — по аналогии с человеком. На деле ИИ ничего не «чудится. Он статистически предсказывает текст, который выглядит правдоподобно, но не соответствует реальности.

Почему ИИ «врёт`: три причины

1. Обучение на больших и «грязных` данных

Модели обучаются на текстах из интернета: статьи, форумы, соцсети, блоги. Проблемы:

Много устаревшей, противоречивой и ошибочной информации.

Модель не различает «факт и «мнение — видит только паттерны токенов.

Если ложь повторялась много раз, ИИ воспроизводит её как истину.

2. Предсказание токенов, а не проверка фактов

LLM последовательно предсказывает наиболее вероятные следующие токены. Поэтому:

Ответ может быть лингвистически безупречным, но ложным по содержанию.

Модель не «понимает` истинность — она оптимизирует правдоподобие текста.

3. Ограничение по дате знаний

У каждой модели есть knowledge cutoff — дата, после которой она не знает реальных событий. Если модель не подключена к поиску или актуальной базе, вместо «я не знаю` она генерирует правдоподобный ответ на основе старых паттернов.

Реальные примеры

Юристы и выдуманные прецеденты. В США, Франции, Австралии юристы использовали ИИ для подготовки документов и ссылались на несуществующие судебные прецеденты. По данным на 2025 год — несколько сотен дел с ИИ-ошибками. Доверившиеся нейронкам специалисты получили штрафы и санкции от судов.

Громкие события. После попытки убийства Трампа в июле 2024 года одни модели отказывались отвечать, другие заявляли, что инцидента якобы не было.

Выдуманные книги и исследования. Нейросети регулярно придумывают названия книг и авторов, генерируют «статистику` без источников, ссылаются на статьи, которые никогда не публиковались.

Чем это опасно для SEO и бизнеса

Для маркетинга:

Ошибочные данные в статьях, кейсах, лендингах подрывают доверие.

Неверные цифры ведут к репутационным потерям и спорам с клиентами.

Для SEO и GEO:

Поисковики и ИИ-агрегаторы всё чаще используют контент сайтов как источник для ответов. Если на вашем сайте выдуманные факты, непроверенные утверждения или устаревшие данные — доверие к домену падает в глазах алгоритмов и пользователей.

GEO (Generative Engine Optimization) теперь включает не только ключи и структуру, но и фактологическую точность, наличие проверяемых источников, согласованность данных с авторитетными ресурсами.

Как снизить риск галлюцинаций

1. Требуйте источники и проверяйте их.

Правило: нет источника — нет доверия. При работе с ChatGPT, Perplexity, GigaChat просите ссылки на первоисточники, открывайте и проверяйте. Если источник не указан — считайте утверждение потенциально ложным.

2. Используйте RAG.

RAG (Retrieval-Augmented Generation) — подход, при котором модель сначала ищет информацию в доверенной базе знаний, затем генерирует ответ по найденному. Ответы привязаны к реальным документам, снижается вероятность выдумок.

3. Ограничивайте область знаний модели.

Подключайте только проверенные источники (официальные документы, внутренняя база знаний). Отключайте «общий интернет`, если архитектура позволяет.

4. Внедряйте пост-проверку контента.

Перед публикацией ИИ-текста прогоняйте через факт-чекинг (ручной или автоматизированный), используйте перекрёстные источники. Для SEO-статей одна выдуманная дата или ссылка может испортить доверие ко всему материалу.

5. Не доверяйте ИИ в критичных темах.

Особенно осторожно в темах: медицина, юриспруденция, финансы, безопасность. Здесь ошибка обойдётся дорого — и репутационно, и юридически.

Чек-лист: как работать с ИИ без галлюцинаций

Требуем источники на каждое важное утверждение.

Проверяем ссылки вручную перед публикацией.

Не используем нейромодели для критичных тем без экспертной проверки.

Для бизнес-задач рассматриваем RAG или дообучение на надёжных данных.

Внедряем пост-проверку контента.

Отслеживаем, как наш контент используется в ИИ-ответах поисковиков.

Виталий Вилисов, интернет-маркетолог