Streaming API передаёт результат частями по мере готовности, не дожидаясь формирования всего ответа. Клиент может показывать данные постепенно и раньше реагировать на них.
Что такое streaming API?
Streaming API передаёт результат частями по мере готовности, не дожидаясь формирования всего ответа. Клиент может показывать данные постепенно и раньше реагировать на них.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Streaming API передаёт результат частями по мере готовности, не дожидаясь формирования всего ответа. Клиент может показывать данные постепенно и раньше реагировать на них.
Поток может использовать SSE, WebSocket или другой транспорт. Нужны обработка разрыва, завершения, ошибок и обратного давления. Получение первого фрагмента ещё не означает успешность всей операции; streaming не обязательно уменьшает полное время вычисления.