Раздел базы знаний

Оценка RAG

Метрики retrieval (поиска контекста) и generation (генерации), RAGAS, тестовые наборы и мониторинг.

Оценка RAG
Раздел RAGDataОценка RAG
ВсеМетрика 13Инструмент 6Руководство 5Метод 4Термин 1Сравнение 1
01
Инструмент

RAGAS: набор метрик для RAG

Метрики, тестовый набор и интерпретация результатов: RAGAS: набор метрик для RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
02
Метод

A/B‑тест RAG‑конфигураций

Метрики, тестовый набор и интерпретация результатов: A/B‑тест RAG‑конфигураций. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
03
Метрика

Answer relevance (релевантность ответа): отвечает ли система на вопрос

Метрики, тестовый набор и интерпретация результатов: Answer relevance (релевантность ответа): отвечает ли система на вопрос. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
04
Инструмент

Arize Phoenix для tracing и evaluation (оценка качества)

Метрики, тестовый набор и интерпретация результатов: Arize Phoenix для tracing и evaluation (оценка качества). Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
05
Метрика

Context precision в RAG

Метрики, тестовый набор и интерпретация результатов: Context precision в RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
06
Метрика

Context recall в RAG

Метрики, тестовый набор и интерпретация результатов: Context recall в RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
07
Инструмент

DeepEval для тестов LLM и RAG

Метрики, тестовый набор и интерпретация результатов: DeepEval для тестов LLM и RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
08
Метрика

Faithfulness (соответствие источнику): подтверждён ли ответ контекстом

Метрики, тестовый набор и интерпретация результатов: Faithfulness (соответствие источнику): подтверждён ли ответ контекстом. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
09
Термин

Golden dataset и эталонные источники

Метрики, тестовый набор и интерпретация результатов: Golden dataset и эталонные источники. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
11
Инструмент

Langfuse для наблюдаемости RAG

Метрики, тестовый набор и интерпретация результатов: Langfuse для наблюдаемости RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
12
Инструмент

LangSmith для трассировки RAG

Метрики, тестовый набор и интерпретация результатов: LangSmith для трассировки RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
13
Метод

LLM-as-a-judge для RAG: польза и риски

Метрики, тестовый набор и интерпретация результатов: LLM-as-a-judge для RAG: польза и риски. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
14
Метрика

MRR: позиция первого релевантного фрагмента

Метрики, тестовый набор и интерпретация результатов: MRR: позиция первого релевантного фрагмента. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
15
Метрика

nDCG для качества ранжирования

Метрики, тестовый набор и интерпретация результатов: nDCG для качества ранжирования. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
17
Метрика

Precision@k в RAG

Метрики, тестовый набор и интерпретация результатов: Precision@k в RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
19
Инструмент

TruLens для трассировки и оценки RAG

Метрики, тестовый набор и интерпретация результатов: TruLens для трассировки и оценки RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
21
Руководство

Как оценивать RAG по слоям

Метрики, тестовый набор и интерпретация результатов: Как оценивать RAG по слоям. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
22
Руководство

Как собрать тестовый набор вопросов для RAG

Метрики, тестовый набор и интерпретация результатов: Как собрать тестовый набор вопросов для RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
23
Метрика

Корректность и полнота цитат

Метрики, тестовый набор и интерпретация результатов: Корректность и полнота цитат. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
24
Руководство

Мониторинг дрейфа корпуса и вопросов

Метрики, тестовый набор и интерпретация результатов: Мониторинг дрейфа корпуса и вопросов. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
25
Руководство

Оценка RAG на русскоязычном корпусе

Метрики, тестовый набор и интерпретация результатов: Оценка RAG на русскоязычном корпусе. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
26
Метрика

Разложение задержки RAG по этапам

Метрики, тестовый набор и интерпретация результатов: Разложение задержки RAG по этапам. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
27
Руководство

Регрессионные тесты после изменения индекса

Метрики, тестовый набор и интерпретация результатов: Регрессионные тесты после изменения индекса. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
28
Метод

Синтетическая генерация вопросов для evaluation (оценка качества)

Метрики, тестовый набор и интерпретация результатов: Синтетическая генерация вопросов для evaluation (оценка качества). Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →
30
Метод

Экспертная оценка ответов RAG

Метрики, тестовый набор и интерпретация результатов: Экспертная оценка ответов RAG. Материал связывает технические решения с измеримым качеством retrieval (поиск контекста), ответа и бизнес‑процесса.

Открыть материал →