Правило источника истины снижает риск галлюцинаций ИИ: каждое существенное утверждение должно опираться на основной и актуальный источник, прежде чем его представят как факт. Модель может объяснить подтверждение, но не назначает источник главным, не усредняет противоречащие записи и не превращает отсутствие данных в положительный ответ. Если источник не подтверждает утверждение, система должна обозначить ограничение, передать вопрос владельцу или отказаться от ответа.
Назначьте источник каждому типу утверждений
Начните с типов фактов. Цена может храниться в каталоге, состояние клиента в системе управления клиентами, обязательство в подписанном договоре, а рабочее решение в утверждённом журнале. Красиво оформленный документ и часто пересылаемая таблица не становятся главными, пока ответственный владелец не назначил их для конкретной цели.
Создайте реестр, который связывает тип утверждения и компанию с основной системой, владельцем, правилами определения актуальности, уровнем конфиденциальности и порядком разрешения конфликтов. Добавьте точные идентификаторы и допустимые варианты названий, чтобы похожие клиенты, продукты и юридические лица не смешивались. Реестр должен проверяться без доверия к ответу модели.
Производный индекс хранит ссылку на реестр и источник. Он ранжирует кандидатов, но подтверждение читается из текущей записи и сверяется с ожидаемой версией. Три теста перед внедрением ИИ помогают оценить готовность, но не доказывают, что основные источники выбраны верно в конкретной организации.
Полномочия источника всегда ограничены областью. Региональный прайс может быть актуальным для одного рынка и неверным для другого. Подписанный договор регулирует отношения с одним клиентом, а шаблон годится только для создания черновика. Выбор должен учитывать тип факта, компанию, цель и время.
Показывайте конфликт и отсутствие данных
Представьте актуальный прайс, который противоречит старому шаблону предложения. Нельзя спрашивать модель, какая формулировка звучит увереннее. Система распознаёт разные уровни полномочий, использует текущий прайс для цены и помечает шаблон на исправление, если устаревшее значение может ввести будущего читателя в заблуждение.
Если два допустимых основных источника расходятся, покажите конфликт, обе ссылки, даты действия и владельца решения. Не объединяйте значения и не скрывайте спор расплывчатой фразой. Пока конфликт не разрешён, действие с серьёзными последствиями должно остановиться.
Запись утверждения может хранить нормализованный факт, источник, поле или фрагмент, хеш, время получения, компанию, решение по правилам доступа и статус. Статусы различают прямое подтверждение, допустимый вывод, конфликт, отсутствие данных и запрет. Отказ становится предусмотренным исходом, а не аварией модели.
Три вопроса перед покупкой ИИ помогают определить владельца и ценность. Они не служат доказательством точности или соответствия нового решения без отдельного протокола проверки.
Проверьте отказ от неподтверждённого ответа
В проверочный набор включите старый популярный файл, похожие названия компаний, отсутствующее поле, конфликт двух текущих записей, источник вне прав пользователя и вывод, выходящий за пределы текста. До запуска укажите допустимый основной источник и разрешённую формулировку.
Проверяйте существенные ответы со ссылками на действующие источники, обнаруженные конфликты, заблокированные положительные утверждения без опоры, отклонённые старые ссылки и исправления после обновления. Тяжёлые ошибки рассматривайте отдельно от стиля. Короткое сообщение о нехватке данных может быть правильным.
Проверьте составное утверждение. Одна часть ответа может прямо следовать из прайса, а другая быть выводом о выгоде для клиента. Система должна разделить их основания и не прикрывать неподтверждённую часть общей ссылкой. Во внешнем тексте разрешено только то, что действительно доказано.
Нужен и тест на цитату вне контекста. Подходящее предложение из документа может относиться к прошлому периоду, исключению или другому продукту. Вместе с фрагментом проверяются заголовок раздела, область действия, дата и связанный идентификатор.
Владелец источника получает список конфликтов, а не поток всех ответов. Запись должна содержать минимум сведений для решения и предполагаемое влияние. После исправления источника затронутые ответы находят по сохранённым ссылкам и проверяют адресно.
Материал о том, почему RAG не работает при сломанном поиске, раскрывает связанную проблему. Он не является показателем числа галлюцинаций или публичным примером работы этой архитектуры.
После разрешения конфликта обновите основную систему или реестр, сбросьте затронутые записи индекса и повторите проверочные примеры. Исправление только инструкции модели оставляет причину на месте. Ремонт выполняется там, где контролируются полномочия и доказательства.
Частые вопросы
Владелец области назначает основную систему для каждого типа фактов и разбирает противоречия, которые нельзя снять правилами поиска.
Сохраняйте приоритет источника, его версию, дату действия, сведения о конфликте и ссылку. Вместе они объясняют, почему одна запись подтвердила факт, а другую отклонили или передали владельцу.
Нужно показать обе ссылки, даты действия и владельца решения, а действие с серьёзными последствиями остановить до разрешения конфликта.
Сохраните сам факт, источник и версию, подтверждающее поле или фрагмент, время получения, компанию, решение по правилам и статус: подтверждено, конфликт, нет данных или запрещено.
MYOD.IT оказывает услуги интеграции ИИ и публикует практические материалы, не обещая измеримую точность без опубликованного примера. Спроектировать правила источников и безопасный отказ можно через целевую страницу внедрения ИИ MYOD.IT.
