Задания обрабатывает отдельный worker, связывая чанки и финальный результат с operation ID. Состояние должно сохраняться независимо от долгого HTTP-запроса.
Кто должен читать задания из очереди и отправлять их в LLM, а также как публиковать чанки и финальные результаты ответа обратно в очередь?
Задания обрабатывает отдельный worker, связывая чанки и финальный результат с operation ID. Состояние должно сохраняться независимо от долгого HTTP-запроса.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Задания обрабатывает отдельный worker, связывая чанки и финальный результат с operation ID. Состояние должно сохраняться независимо от долгого HTTP-запроса.
Worker проверяет доступ и статус, захватывает lease, вызывает провайдера вне долгих DB-locks и публикует нумерованные чанки. Финал фиксируют идемпотентно до подтверждения задания; повторная доставка не должна списывать квоту дважды. Нужны heartbeat, отмена, защита от позднего результата и восстановление подписчика по сохранённому финалу.