Какова формула Margin Loss?

Margin Loss — это функция потерь, часто используемая в задачах ранжирования и обучения с парными примерами. Формула обычно выглядит так:

[ L = \max(0, m - s_{pos} + s_{neg}) ]

где:

• (m) — margin (порог), положительное число,
• (s_{pos}) — оценка (скор) положительного (правильного) примера,
• (s_{neg}) — оценка отрицательного (неправильного) примера.

Идея в том, чтобы положительный пример имел оценку выше отрицательного минимум на величину (m). Если это условие нарушается, функция потерь возвращает положительное значение, иначе — 0.

Пример на Python:

import torch

def margin_loss(s_pos, s_neg, margin=1.0):
    return torch.clamp(margin - s_pos + s_neg, min=0)