Какова размерность логитов и как из них получается токен?
Для языковой модели logits обычно имеют форму [batch, sequence, vocabulary]. При генерации берут вектор последней позиции и выбирают следующий token ID по правилу декодирования.
Читать ответПодготовка к интервью
50 вопросов с собеседований в LifePay
Что проверяют на интервью
Подборка объединяет вопросы, отмеченные на этапах интервью в LifePay. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: concurrency, async, mobile.
Каталог
Для языковой модели logits обычно имеют форму [batch, sequence, vocabulary]. При генерации берут вектор последней позиции и выбирают следующий token ID по правилу декодирования.
Читать ответВыход голов внимания объединяется и проходит выходную проекцию, residual-связь и нормализацию в порядке выбранной архитектуры. Затем применяется позиционный feed-forward блок с другой residual-связью.
Читать ответОпишите фактические ограничения RAG: доступ к документам, обработка персональных данных, допустимые провайдеры, хранение и аудит. Комплаенс должен обеспечиваться системой, а не одним prompt.
Читать ответНазовите измеренную задержку retrieval и полного ответа отдельно, желательно медиану и p95. Время до первого токена также не равно времени завершения всей генерации.
Читать ответНа каждом шаге авторегрессивная LLM вычисляет logits по словарю для следующего токена. После правил декодирования выбирается token ID, который добавляется в последовательность.
Читать ответТочное кеширование помогает только при повторении идентичных запросов в совместимом контексте. В диалоге одинаковая фраза может требовать разных ответов, поэтому простой ключ по тексту опасен.
Читать ответАлгоритм проверки скобок корректен для строк из скобок; ошибка находится в тесте: для «{[]}» ожидается True, а не False. Поэтому последний assert падает.
Читать ответНачните с одного управляемого агента и ограниченных read-only инструментов к БД. Мультиагентность нужна только при доказанной сложности, а не как обязательная часть ответа по данным.
Читать ответИспользуйте стек открывающих скобок. Каждая закрывающая должна соответствовать верхней; после обработки всех символов стек обязан быть пуст.
Читать ответПосле embedding lookup обычно получается тензор [batch, sequence, d_model]. Decoder-слои преобразуют его через causal self-attention и feed-forward-блоки с residual-связями и нормализацией.
Читать ответИсходники превращаются в версионированный контейнерный образ, CI проверяет его и публикует в registry. Kubernetes разворачивает реплики, а Service и входной маршрутизатор доставляют им трафик.
Читать ответСначала разделите задержку на очередь, retrieval, prefill и генерацию. Ускорение модели не поможет, если основное время уходит на внешний инструмент или перегруженную очередь.
Читать ответ