Практическое руководство по подготовке корпоративных данных: Качество корпуса для RAG: критерии приёмки. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.
Где находится в архитектуре RAG
Типовой pipeline (конвейер) начинается с источников, проходит через извлечение текста, очистку, разбиение на чанки и индексирование. На запросе система преобразует вопрос, находит кандидатов, при необходимости объединяет лексический и векторный поиск, выполняет reranking (переранжирование) и передаёт проверенный контекст языковой модели. Результат должен сопровождаться источниками и техническими сигналами качества.
Как внедрять
Возьмите репрезентативные документы, сохраните структуру и метаданные, проверьте пропуски парсинга, версии и дедупликацию. Каждый этап должен оставлять технический отчёт.
- Опишите задачу. Кто задаёт вопрос, из каких документов должен прийти ответ и что считается ошибкой.
- Соберите тестовый набор. Включите простые, неоднозначные, временные и намеренно неразрешимые вопросы.
- Настройте базовую линию. Зафиксируйте модель, индекс, chunking (разбиение на чанки), top‑k и промпт.
- Изменяйте по одному фактору. Иначе невозможно определить источник улучшения или деградации.
- Добавьте контроль в production (промышленной эксплуатации). ACL (права доступа), журналирование, цитирование, мониторинг и обратную связь.
Практический пример
Например, для задачи «Качество корпуса для RAG: критерии приёмки» команда фиксирует вопрос, ожидаемый источник, retrieved chunks (чанки), конфигурацию индекса и итоговый ответ. Улучшение принимается только тогда, когда оно воспроизводится на всём наборе и не нарушает права доступа.
Что измерять
| Слой | Проверка | Красный флаг |
|---|---|---|
| Индексирование | доля успешно обработанных документов, свежесть | тихие пропуски и устаревшие версии |
| Retrieval / поиск | Recall@k, MRR, nDCG, попадание источника | ответ верен случайно, нужного фрагмента нет |
| Генерация | faithfulness (соответствие источнику), answer relevance (релевантность ответа), полнота цитат | утверждения без подтверждения контекстом |
| Продукт | успешность парсинга, доля пропусков, свежесть, дубли и coverage metadata (метаданные) | рост красивых ответов без бизнес‑эффекта |
Ограничения и типичные ошибки
Потеря заголовков и таблиц, индексирование дублей, старых версий и документов без владельца.
Чек‑лист готовности
- есть владелец корпуса и правила обновления
- определены права доступа на уровне документов или chunks
- собран versioned evaluation set (версионируемый тестовый набор)
- ответ содержит проверяемые цитаты
- система умеет честно отказаться
- метрики retrieval (поиска контекста) отделены от метрик генерации
Источник и дальнейшее чтение: docs.llamaindex.ai ↗