В каком виде LLM классифицирует запрос — что именно она возвращает для выбора сценария?

Большие языковые модели (LLM) для классификации запроса обычно возвращают либо:

• Классификационный меток (label) — например, категорию или сценарий, к которому относится запрос.
• Вероятности (confidence scores) для каждого возможного класса, что позволяет выбрать наиболее подходящий сценарий.

Внутренне LLM может выдавать распределение вероятностей по классам, а на выходе API обычно возвращается наиболее вероятный класс или список с вероятностями.

Пример ответа классификатора:

{
  "intent": "book_flight",
  "confidence": 0.92
}

Это позволяет системе определить, какой сценарий обработки запроса запускать дальше.