Для трёх взаимоисключающих классов тональности обычно используют categorical cross-entropy по logits и одному правильному классу. Softmax превращает logits в распределение вероятностей.
Какую loss-функцию использовать для классификации тональности на три класса?
Для трёх взаимоисключающих классов тональности обычно используют categorical cross-entropy по logits и одному правильному классу. Softmax превращает logits в распределение вероятностей.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Для трёх взаимоисключающих классов тональности обычно используют categorical cross-entropy по logits и одному правильному классу. Softmax превращает logits в распределение вероятностей.
При целочисленных метках подходит sparse-вариант той же потери; многие библиотеки принимают logits и вычисляют log-softmax внутри, поэтому заранее применять softmax не требуется. При дисбалансе можно рассмотреть веса классов, проверив precision/recall по каждому классу. Если объекту разрешено несколько независимых меток одновременно, это уже multi-label задача с sigmoid и binary cross-entropy, не обычная трёхклассовая тональность.