Для генерации оценивайте правильность, полноту, обоснованность источниками и следование формату. Retrieval-метрики показывают качество найденного контекста, но не итогового ответа.
Чем оценивали качество генерации (не ретрив)?
Для генерации оценивайте правильность, полноту, обоснованность источниками и следование формату. Retrieval-метрики показывают качество найденного контекста, но не итогового ответа.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Для генерации оценивайте правильность, полноту, обоснованность источниками и следование формату. Retrieval-метрики показывают качество найденного контекста, но не итогового ответа.
Опишите реальную rubric, контрольный набор и участие экспертов или проверенного judge. Отдельно учитывайте выдуманные факты, неверные цитаты и лишние отказы. Автоматическое сходство с эталоном может штрафовать корректный парафраз и пропускать содержательную ошибку.