Если нужно обучить LLM не отвечать при отсутствии информации в контексте, как это сделать?

Обучайте различать ответимые и неответимые вопросы: при недостатке контекста нужен явный отказ или уточнение. В наборе должны быть оба типа, включая правдоподобные, но неподтверждённые ответы.

Сначала проверьте инструкции и retrieval, затем при необходимости используйте SFT с корректными примерами отказа. Измеряйте неподтверждённые ответы и избыточные отказы на отдельной выборке. Штраф за любую ошибку может привести к отказу на всё; ссылки на источник тоже нужно проверять.