Подборка объединяет вопросы, отмеченные на этапах интервью в GravityField. Здесь можно понять структуру технической проверки и заранее повторить связанные темы.
В RAG (Retrieval-Augmented Generation) re-ranker — это компонент, который переоценивает и сортирует документы или фрагменты, извлечённые из базы знаний, чтобы выбрать наиболее релевантные для генерации ответа.
Организация human eval LLM-ответов в команде требует системного подхода для получения объективной и воспроизводимой оценки качества моделей. Вот ключевые шаги:
Adversarial training — это метод повышения устойчивости моделей машинного обучения к атакам, при которых входные данные намеренно модифицируются с целью обмануть модель (adversarial examples).
Dueling DQN — это улучшение алгоритма Deep Q-Network (DQN) в области обучения с подкреплением. Основная идея в том, что оценка качества действия (Q-value) разлагается на две части:
CUTLASS (CUDA Templates for Linear Algebra Subroutines and Solvers) — это библиотека от NVIDIA, предназначенная для высокопроизводительных вычислений на GPU с использованием CUDA.
При сильном дисбалансе классов стандартные метрики, такие как точность (accuracy), могут вводить в заблуждение, так как модель может просто предсказывать преобладающий класс и иметь высокий показатель.
Модели распознавания строк, такие как CRNN и TrOCR, используются для оптического распознавания текста (OCR), особенно когда нужно распознать текст в изображениях или документах.
Safety classifier на выходе диалога — это компонент, который оценивает, насколько ответ или действие системы безопасны и не содержат нежелательного, вредоносного или неподобающего контента.