Подборка объединяет вопросы, отмеченные на этапах интервью в Альфа-Банк. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: devops, infrastructure, database.
Prefix caching в инференсе больших языковых моделей (LLM) — это техника оптимизации, при которой промежуточные вычисления для уже обработанных токенов сохраняются и повторно используются при генерации следующего токена.
Roofline model — это визуальный инструмент для оценки производительности вычислительных систем, особенно полезный при оптимизации программ под GPU и CUDA.
В BERT токен — это минимальная единица текста, на которую модель разбивает входную последовательность для обработки. Токены могут быть словами, частями слов или даже отдельными символами.
Meta-learners — это подходы в каузальном выводе и uplift-моделировании, которые позволяют оценивать индивидуальный причинный эффект (например, влияние лечения) с помощью стандартных моделей машинного обучения.
Stemming и lemmatization — это методы нормализации слов в информационном поиске (IR), которые помогают привести разные формы слова к единой базовой форме для улучшения поиска и анализа текста.
Pre-LN и Post-LN — это варианты расположения слоя нормализации (Layer Normalization) в архитектуре трансформеров, влияющие на стабильность и сходимость обучения.
Графовые нейронные сети (GNN) в молекулярном дизайне используются для моделирования и предсказания свойств молекул, которые естественно представляются в виде графов: атомы — это узлы, связи между ними — ребра.
В такой ситуации важно честно оценить возможности и риски. Если задача требует 5-6 часов, а до конца рабочего дня осталось 2.5 часа, то выполнить её полностью в пятницу невозможно.
Great Expectations — это инструмент для автоматизации проверки качества данных. Он помогает создавать, управлять и выполнять тесты (expectations) для данных, чтобы убедиться, что они соответствуют заданным требованиям.