Подборка объединяет вопросы, отмеченные на этапах интервью в Сбер лабс. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: security, information security.
Если эталонных ответов нет, а есть только документы и контекст, оценка системы и создание эталонных ответов требует подхода с использованием экспертного знания и автоматизации:
Автоматическая оценка качества мультиагентной системы (МАС) обычно включает количественные метрики, отражающие эффективность взаимодействия агентов и достижение общей цели.
В контексте сложности attention, особенно в трансформерах, n обычно обозначает длину входной последовательности — количество токенов или элементов, над которыми вычисляется внимание.
Для оптимизации больших языковых моделей (LLM) используются различные библиотеки и инструменты, которые помогают уменьшить потребление ресурсов, ускорить инференс и упростить развертывание. Вот некоторые из них:
Реранкер — это модель, которая используется для переоценки и уточнения результатов, полученных от базового ранжирования (например, поисковой системы или рекомендательной системы).
Margin Loss — это функция потерь, которая используется для обучения моделей с целью максимизации зазора (margin) между правильными и неправильными классами.
В NLP (обработке естественного языка) используются различные метрики для оценки качества моделей в задачах классификации, генерации текста, перевода и др. Основные из них:
Трансформеры получили преимущество благодаря архитектуре, основанной на механизме внимания (attention), который позволяет эффективно обрабатывать последовательности данных без рекурсии или свёрток.