Сократите галлюцинации ИИ в текстах: подсказки и рабочие процессы

Как выглядят галлюцинации в тексте, созданном с помощью ИИ

Галлюцинации происходят, когда ИИ пишет что-то уверенное и конкретное, но это неверно или выдумано. Опасность в тоне: предложение может читаться как проверенный факт, даже если это лишь догадка.

Их часто выдаёт «слишком аккуратная» детализация. В черновике внезапно появляются точные числа, конкретные даты или идеальные цитаты, которых вы не давали. Модель может сослаться на исследование, книгу или эксперта, которого не существует.

Типичные признаки:

• Выдуманная статистика (например, "72% компаний увидели рост в 3.4 раза") без источника.
• Неверные имена, должности или организации, которые звучат правдоподобно.
• Вымышленные цитаты в кавычках без отслеживаемого происхождения.
• Чёткие временные линии и даты, которые не соответствуют реальности.
• Уверенные утверждения о причинно-следственных связях ("X вызывает Y"), когда доказательства неочевидны.

Это происходит потому, что языковые модели предсказывают вероятные последовательности слов. Когда у модели недостаточно информации, она заполняет пробелы тем, что подходит под паттерн «хорошей статьи». Подсказки, которые просят авторитетности ("вставь статистику" или "добавь цитату") без предоставления источников, подталкивают модель к домыслам.

Цель не в идеале. Она в том, чтобы рискованные утверждения либо были подкреплены доказательствами, либо явно помечены как непроверенные. Надёжный процесс делает черновик полезным и позволяет вам контролировать, что заявляется как факт.

Простое правило: если утверждение может повлиять на решение, репутацию или соответствие требованиям, считайте его высоким риском и требуйте источник, прежде чем оставлять это в тексте.

Сначала определите объём, аудиторию и лимиты для утверждений

Чтобы уменьшить галлюцинации, начните до первой подсказки. Подскажите модели, что ей разрешено говорить, чего нужно избегать и для кого она пишет. Чёткие пределы упрощают проверку черновика и сильно уменьшают вероятность "изобретения".

Напишите простой «бюджет утверждений». Речь не о трусости, а об явности.

• Разрешено: простые объяснения, определения и суммирование предоставленных источников.
• Разрешено: явно помеченные мнения (только если вы их запросили).
• Запрещено: статистика, рейтинги, именованные цитаты или "по данным X", если вы не предоставили исходник.
• Запрещено: даты, юридические/медицинские советы или цены, если нет одобренного референса.
• Обязательно: всё сомнительное помечать как "требует проверки", а не угадывать.

Определите читателя в одном предложении. Пример: "Занятый маркетинг-менеджер, нетехнический, читает с мобильного, хочет практический чеклист." Эта одна строчка меняет тон и выбор слов сильнее, чем большинство стилевых подсказок.

Задайте границы по объёму, чтобы модель не смешивала контексты:

• География: глобально, только США, только ЕС или конкретная страна.
• Время: "по состоянию на 2025" или "только последние 12 месяцев".
• Источники: "используй только вставленные источники" или "только внутренние заметки".

Наконец, заранее выберите тип вывода (раздел блога, новостная сводка, запись в глоссарии). Когда это расплывчато, модели склонны заполнять текст деталями и догадками.

Используйте подсказки с приоритетом источников (source-first)

Если вы сначала даёте ИИ написать, а потом попросите обосновать, вы приглашаете уверенное выдумывание. Переверните порядок: заставьте модель собрать доказательства до того, как она начнёт утверждать.

Начните с запроса плана источников, а не черновика. Цель — небольшой набор источников (или заплаток), на которые модель обязана опираться при написании.

Простой паттерн source-first

Используйте двухэтапный запрос: сначала источники, затем текст. Зафиксируйте, что при написании можно опираться только на эти источники.

1. Попросите список источников из 5–8 пунктов максимум, для каждого укажите: заголовок, автор/организация, дата и что он поддерживает.
2. Требуйте ключ цитирования для каждого источника (S1, S2 и т. д.).
3. Только после этого просите черновик, который ссылается на S1–S8 после каждого фактического утверждения.
4. Если модель не может найти или вывести источник, она должна написать: "No source" и перейти дальше.

Метка "No source" — именно цель. Она выделяет то, что нужно проверить, и блокирует модель от выдумывания правдоподобной ссылки.

Заставьте использовать строгий формат цитирования (даже если вы проверите позже)

Выберите жёсткий, скучный формат, чтобы быстро просматривать:

• Предложение с утверждением заканчивается [S#] или [No source]
• Цитаты должны включать говорящего, контекст и [S#]
• Цифры и даты — с [S#]

Пример (можно вставить в любой инструмент или API-вызов):

Task: Write a 700-word section.
Step 1: Propose 6 sources (S1-S6). For each: title, publisher, date, what it supports.
Step 2: Draft the section using ONLY S1-S6. After every factual claim add [S#].
If you cannot support a claim, write [No source] and do not guess.
Output: sources list, then draft.

Ограничьте высокорисковые утверждения (статистика, имена, цитаты, даты)

Большинство галлюцинаций прячутся в деталях, которые звучат убедительно: проценты, даты запуска, рейтинги «топ 10» и точные цитаты. Обращайтесь с ними как с высокорисковыми утверждениями и задавайте дополнительные правила.

Практичная защита простая: если в черновике появляются числа, даты, рейтинги, имена или цитаты, они должны идти с проверяемым источником. Если источника нет — модель должна убрать деталь или пометить её как неизвестную.

Полезные ограничения, которые можно встроить в подсказки:

• Числа и даты: разрешать только при наличии выдержки из источника или проверенной заметки. В противном случае писать "нет подтверждённой цифры" и продолжать.
• Рейтинги и утверждения «лучший»: запрещать "#1", "ведущий" и "наиболее популярный", если вы не предоставили методику ранжирования и источник.
• Точные цитаты: требовать копипаст из источника. Никаких цитатоподобных парафразов.
• Имена и исследования: запрещать выдумывать людей, институты, опросы и строки «исследование показывает», если вы не предоставили детали исследования.
• Фичи продукта: описывать только то, что явно указано в ваших заметках. Если сомневаетесь — помечать как неизвестное.

Метки неопределённости делают черновики пригодными к использованию без притворства. Попросите модель тегировать рискованные утверждения как confirmed, likely или unknown. Разрешайте likely только если модель объясняет, почему (например, "на основе предоставленного фрагмента изменений").

Повторяемый рабочий процесс для черновиков с низким уровнем галлюцинаций

Самый большой выигрыш — в последовательности. Используйте один и тот же небольшой рабочий процесс каждый раз, чтобы проверка не была делом на потом.

Быстрый цикл, который всё ещё ловит рискованные вещи:

1. План с типами утверждений. Отметьте каждую точку как контекст/определение, мнение/интерпретация или проверяемый факт.
2. Сначала пишите разделы с низким риском. Сформулируйте определения и фон перед тем, как добавлять статистику, имена, цитаты, даты или списки «лучших инструментов».
3. Вытяните список утверждений. Вынесите каждое фактическое утверждение в короткую таблицу: само утверждение, почему оно важно и какой источник его подтвердит.
4. Проверьте, отредактируйте, затем перепишите затронутые части. Добавьте подтверждённые детали, удалите слабые утверждения и перепишите только то, что изменилось.
5. Финальный проход на предмет уверенности и недостающих ссылок. Если предложение вызывает у читателя реакцию "Правда?", ему нужна ссылка или более мягкая формулировка.

Пример: если в черновике стоит "Google подтвердил X в 2023 году", список утверждений заставит вас уточнить: какое именно объявление, какая дата и где это зафиксировано? Если не сможете ответить быстро — смягчите или удалите утверждение.

Помечайте непроверяемые утверждения, не замедляя работу

Редактирование замедляется, когда каждое предложение превращается в судебный процесс. Более быстрый подход — заставить черновик сам отмечать, что нужно проверить, а затем проверять только высокорисковые строки.

Вместо общего требования "будь точным" попросите модель помечать неопределённость. Если она не видела источник, ей нельзя звучать уверенно.

Используйте яркие заполнители, которые заметны при редактировании:

• [VERIFY] — факты, которые вы проверите (числа, даты, утверждения типа "первый/единственный/самый")
• [SOURCE NEEDED] — утверждения, требующие конкретной ссылки
• [UNSURE] — вещи, которые могут быть правдой, но не были в предоставленных материалах
• [QUOTE?] — для любых цитат или приписываемых фраз

Затем выполните второй проход, который перепишет помеченные строки в более безопасной форме.

Пример: "Acme запустилась в 2018 и теперь обслуживает 10 000 клиентов." Если у вас нет источника, перепишите: "Acme запустилась в [VERIFY: год запуска] и обслуживает [VERIFY: число клиентов]." Безопасная альтернатива: "Acme растёт с момента запуска и обслуживает клиентов в нескольких регионах." Менее эффектно, но не вводит в заблуждение.

При просмотре меток действуйте быстро:

• Удаляйте, если деталь приятна, но не обязательна.
• Смягчайте, если суть важна, а точность — нет.
• Исследуйте, если утверждение центрально.
• Заменяйте на наблюдаемое или чётко источенное.

Лёгкие артефакты, которые упрощают контроль качества

Можно снизить уровень галлюцинаций, не создавая громоздкий процесс. Хитрость — хранить несколько маленьких артефактов вместе с черновиком, чтобы проверка шла быстро.

Простая таблица утверждений

Держите рядом с черновиком небольшую таблицу (даже в заметке). Каждый раз, когда модель делает фактическое утверждение, запишите его и решите, что делать дальше:

• Утверждение (одно предложение)
• Уровень риска (низкий/средний/высокий)
• Источник (название/автор/дата или "нет пока")
• Статус (проверено, требуется источник, удалить, перефразировать)
• Заметки (что проверить, какую формулировку смягчить)

Если не удаётся подтвердить "Компания X запустилась в 2017", считайте это высоким риском и перепишите абзац так, чтобы текст работал, даже если дата изменится.

Лог цитирований, который можно переиспользовать

Отдельно от черновика ведите список проверенных источников. Со временем это станет вашей полкой надёжных ссылок и уменьшит искушение принимать выдумки модели.

Держите его простым: название источника, для чего он годится и ограничения (например, "годится для определений, не для рыночной статистики").

Список красных флагов и короткий сценарий проверки

Красные флаги требуют второго взгляда: суперлативы ("лучший"), точная статистика, имена людей/компаний, цитаты, даты и утверждения "первый/единственный/наиболее".

Короткий сценарий проверки достаточен:

• Просканируйте текст на красные флаги и выделите их.
• Сопоставьте каждое выделение с таблицей утверждений.
• Требуйте источник для всего высокорискового.
• Если источника нет — смягчите, обобщите или удалите.
• Подтвердите, что финальный текст соответствует объёму и аудитории.

Ошибки, которые пропускают галлюцинации

Галлюцинации обычно появляются, когда модели разрешают заполнять пробелы, и никто этого не замечает. Большая часть решения — убрать эти пробелы.

Типичные ловушки:

• Подсказки вроде "напиши экспертную статью" без ссылок или исходных материалов.
• Запросы "отраслевые статистики" без указания отчёта, набора данных или регистра.
• Переписывания, которые гонятся за яркостью и невольно меняют годы, имена или степень уверенности.
• Подсказки, смешивающие временные рамки и темы (прошлые тренды, текущие цены, прогнозы) без чётких границ.
• Отсутствие правила для случаев, когда источник отсутствует.

Если нужны статистики, требуйте конкретный тип источника (названный отчёт, публичный набор данных, годовой отчёт) и заставляйте заменять на "неизвестно", если данных нет.

Быстрый чек-лист перед публикацией

Перед публикацией относитесь к черновику как к набору утверждений, а не набору предложений.

Прочитайте для смысла. Затем просканируйте на высокорисковые детали: числа, даты, рейтинги, цитаты и всё слишком конкретное.

• Числа, даты и рейтинги: добавьте источник, на который можно указать, или переформулируйте в общих выражениях (или удалите).
• Цитаты и приписывания: если не можете проверить — удалите или превратите в безымянный парафраз.
• Имена и орфография: проверьте людей, компании и названия продуктов. Одна неверная буква может создать фейковую сущность.
• Проверка объёма: убедитесь, что утверждения соответствуют заявленному региону и временным рамкам.
• Обработка неопределённости: всё, что нельзя быстро проверить, перепишите, пометьте ("вариабельно") или удалите.

Практичный приём: помечайте сомнительные строки как [VERIFY] во время правки. Если в конце остались метки [VERIFY], материал не готов.

Пример: как превратить рискованный черновик в материал с проверенными источниками

Представьте, что вы готовите пост про личные финансы: "Стоит ли платить ипотеку досрочно или инвестировать?" Здесь ИИ часто даёт уверенные утверждения о доходностях, инфляции, налоговых правилах и исторических средних.

Рассматривайте задачу как source-first, а не творческую. Начните с короткой, но строгой подсказки:

Task: Write a 900-word blog post for US readers deciding between extra mortgage payments vs investing.
Scope: General education only. No personal advice.
Allowed claims: Only claims supported by the sources I provide.
High-risk claims (must be cited): rates of return, inflation, tax rules, dates, named products, quotes.
Citations: After any sentence with a high-risk claim, add [S1], [S2], etc.
If a claim cannot be supported: mark it as [UNVERIFIED] and suggest what source is needed.
Sources:
S1: (paste a trusted explainer)
S2: (paste IRS page excerpt or official guidance excerpt)
S3: (paste a reputable calculator methodology page excerpt)

Затем следуйте строгому потоку:

• Сначала план (только заголовки) и подтвердите, что у каждого раздела есть хотя бы один прикреплённый источник.
• Пишите черновик с встроенными цитатами, используя [UNVERIFIED], если нужно.
• Сформируйте таблицу утверждений: копируйте каждое высокорисковое предложение в двухколоночную таблицу (Утверждение, Тег источника).
• Проверьте: сопоставьте каждое утверждение с выдержкой источника.
• Перепишите: уберите, сузьте или смягчите всё, что не подтверждается.

Типичная рискованная строка: "Рынок акций даёт 10% в год в среднем." Если ваши источники этого не подтверждают, перепишите, чтобы избежать мнимой точности: "Долгосрочные доходности варьируются по периодам, и годовая доходность не гарантирована. [UNVERIFIED: нужен конкретный источник и период]" Или замените на более узкое, источенное утверждение (например, "Некоторые долгосрочные исследования приводят средние показатели за определённые периоды. [S1]").

Следующие шаги: создайте повторяемый пайплайн

Самый быстрый способ снизить галлюцинации — перестать считать каждый пост разовой задачей. Сохраняйте лучшие подсказки как шаблоны с одинаковыми барьерами: разрешённые источники, запрещённые типы утверждений и правила маркировки неопределённости.

Если вы публикуете в масштабе, полезно, чтобы ваши инструменты поддерживали одинаковую структуру черновиков, правок и обновлений. GENERATED (generated.app) — один пример платформы, которая может генерировать контент через API, помогать с полировкой и переводами и поддерживать согласованный рабочий процесс для черновиков и ревизий.