Назовите фактическую loss и структуру обучающих примеров: пары, тройки или группы кандидатов. Например, contrastive loss сближает релевантные пары относительно негативов.
Какую функцию потерь использовали при дообучении эмбеддера?
Назовите фактическую loss и структуру обучающих примеров: пары, тройки или группы кандидатов. Например, contrastive loss сближает релевантные пары относительно негативов.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Назовите фактическую loss и структуру обучающих примеров: пары, тройки или группы кандидатов. Например, contrastive loss сближает релевантные пары относительно негативов.
Покажите, как формировались позитивы и hard negatives, учитывались ложные негативы и выбиралась temperature. Если использовали in-batch negatives, объясните их допущения. Выбор loss обосновывается retrieval-метриками, а не только уменьшением training loss.