Как вы обычно проверяете качество и релевантность данных перед обучением LoRA?

Перед LoRA проверяют соответствие данных целевой задаче, качество ответов, дубли, утечки и формат обучения. Важнее небольшой релевантный набор, чем большой объём противоречивых примеров.

Выделите независимые train/validation/test с учётом пользователей, документов и времени. Проверьте шаблон диалога, роли, длины, обрезание и маскирование loss. Вручную просмотрите стратифицированную выборку, сложные случаи и ошибочные метки. Зафиксируйте происхождение и разрешённое использование данных. Пилот сравните с базовой моделью на неизменном тесте: обучение может улучшить стиль, но ухудшить фактическую точность.