Читайте поток частями через fetch и ReadableStream либо SSE, но не вставляйте необработанный HTML модели напрямую в DOM.
Как на клиенте реализовать стриминг ответа и отображение HTML, сгенерированного LLM?
Читайте поток частями через fetch и ReadableStream либо SSE, но не вставляйте необработанный HTML модели напрямую в DOM.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Читайте поток частями через fetch и ReadableStream либо SSE, но не вставляйте необработанный HTML модели напрямую в DOM.
Кусок сети может оборвать UTF-8 или тег, поэтому используйте потоковый декодер и буферизацию. Безопаснее передавать структурированные блоки или Markdown, затем очищать разрешённую разметку. Нужны отмена, обработка обрыва и ограниченная частота рендера; модель не является доверенным источником HTML.