В этой подборке вопросы сгруппированы по формату «System Design», чтобы подготовку можно было вести от базовых тем к практическим задачам. В подборке чаще встречаются темы: backend, api, database.
Точное кеширование помогает только при повторении идентичных запросов в совместимом контексте. В диалоге одинаковая фраза может требовать разных ответов, поэтому простой ключ по тексту опасен.
Сначала согласуйте цель: максимальная выручка при ограничении на заполняемость или иной явный компромисс. Начните с прогноза спроса и простого ценового baseline, не с немедленного сложного RL.
Сначала разделите задержку на очередь, retrieval, инструменты и генерацию, а память — на веса, KV-cache и рабочие буферы. Оптимизация зависит от измеренного узкого места.
Задача — ранжировать блоки главной страницы с глобальным ограничением на повтор контента, а не заново рекомендовать отдельные items. Ценность блока меняется после выбора уже показанных объектов.
Актуальность RAG обеспечивается инкрементальным обновлением индекса и управлением версиями, а не только свежестью embedding-модели. Изменения и удаления исходных документов должны доходить до поиска.
Разделите технические метрики, события предсказаний и отложенные метки. Их собирают через наблюдаемые pipeline, а алерты строят по SLO, качеству данных и подтверждённым отклонениям.
Начните с одного управляемого агента и ограниченных read-only инструментов к БД. Мультиагентность нужна только при доказанной сложности, а не как обязательная часть ответа по данным.
Мониторинг ML/LLM включает доступность, latency, ошибки, очередь, ресурсы и стоимость, а также качество входов и результатов. Технически успешный HTTP-ответ может содержать плохой прогноз.
Опишите оркестратор как управление состоянием, выбором следующего шага и завершением задачи. Название фреймворка не определяет, будет ли работа одношаговой или циклической.
Задайте бюджет контекста: сохраняйте недавние сообщения, компактное состояние задачи и только релевантную историю. Старые tool results и повторяющиеся документы не нужно отправлять целиком каждый раз.
Семантический поиск сам по себе не устанавливает актуальное состояние событий. Для новостного RAG нужны своевременное обновление источников, временные метаданные и проверка того, что именно означает вопрос.
Опишите путь от события pull request до опубликованного результата: webhook, очередь, обработчик, интеграция с репозиторием и deployment. Отдельно обозначьте, какие компоненты реализовали лично.