Подготовка к интервью
41 вопрос с собеседований в Сбер лабс
Что проверяют на интервью
Подборка объединяет вопросы, отмеченные на этапах интервью в Сбер лабс. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: security, information security.
Каталог
Margin Loss — это функция потерь, часто используемая в задачах ранжирования и обучения с парными примерами. Формула обычно выглядит так:
Читать ответSparse attention — это техника в области нейросетей, особенно в трансформерах, которая позволяет уменьшить вычислительную сложность механизма внимания (attention).
Читать ответНовые веса появляются в процессе обучения модели, когда происходит обновление параметров на основе входных данных и функции потерь.
Читать ответПри работе с CUDA часто забывают освобождать память, выделенную на GPU, после использования данных.
Читать ответВ Retrieval-Augmented Generation (RAG) для построения индекса обычно используют векторные представления (эмбеддинги) документов или фрагментов текста. Основные шаги:
Читать ответMargin Loss и Triplet Loss — это функции потерь, используемые для обучения моделей с задачей обучения эмбеддингов, например, в задачах распознавания лиц или поиска похожих объектов.
Читать ответПозиционное кодирование в трансформерах — это способ добавить информацию о порядке элементов последовательности, так как сами трансформеры не имеют встроенного механизма учёта позиции токенов.
Читать ответМеханизм внимания (attention) в классических трансформерах имеет квадратичную сложность по длине последовательности, так как вычисляется матрица внимания размером L×L (где L — длина входа).
Читать ответКвантизация — это процесс преобразования непрерывного диапазона значений в дискретный набор уровней.
Читать ответОтсечка (threshold) в машинном обучении — это пороговое значение, которое используется для принятия решения на основе выходных данных модели.
Читать ответПозиционные эмбеддинги добавляют информацию о позиции токена в последовательности к самим эмбеддингам слов, чтобы модель могла учитывать порядок элементов, так как трансформеры не имеют встроенного порядка.
Читать ответКоординация между LLM-агентами (агентами на базе больших языковых моделей) обычно происходит через обмен сообщениями и распределение задач.
Читать ответ