В чём разница между pre-training, fine-tuning и alignment LLM?

Pre-training формирует базовые языковые представления на большом корпусе, fine-tuning адаптирует модель к задачам или домену, alignment направляет её поведение к заданным предпочтениям и ограничениям.

Эти понятия пересекаются: instruction tuning может быть частью alignment, а работа с предпочтениями — отдельным этапом post-training. Важно различать цель, данные и loss, а не только порядок запуска. Ни один этап не гарантирует правдивость всех ответов; после изменения нужна оценка целевых сценариев и регрессий.