Что такое Residual Connection (остаточные связи)?
Residual connection (остаточное соединение) — это архитектурный приём в глубоких нейронных сетях, при котором вход слоя добавляется к его выходу, минуя основной блок преобразований.
Читать ответПодготовка к интервью
9 вопросов с собеседований в Ниармедик Ваш Доктор Рядом
Что проверяют на интервью
Подборка объединяет вопросы, отмеченные на этапах интервью в Ниармедик Ваш Доктор Рядом. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: statistics, data analysis.
Каталог
Residual connection (остаточное соединение) — это архитектурный приём в глубоких нейронных сетях, при котором вход слоя добавляется к его выходу, минуя основной блок преобразований.
Читать ответПри распределении данных по батчам для оценки статистик с учётом сезонности и нагрузки важно сохранить временную структуру и равномерно покрыть все сезонные паттерны.
Читать ответАвтокорреляция (ACF, Autocorrelation Function) — это мера зависимости временного ряда с его собственными значениями, сдвинутыми на определённое количество шагов (лагов).
Читать ответPrompt compression — это техники сокращения или оптимизации входных запросов (prompt) для больших языковых моделей (LLM), чтобы уменьшить их длину и повысить эффективность без потери качества ответа. Основные приёмы:
Читать ответExperience replay buffer — это структура данных, используемая в обучении с подкреплением (reinforcement learning), которая хранит прошлые переходы агента (состояние, действие, награда, следующее состояние).
Читать ответФункция выживаемости S(t) в анализе выживаемости — это вероятность того, что объект или субъект переживёт время t, то есть событие (например, отказ, смерть, поломка) не произойдёт до момента времени t. Формально:
Читать ответБольшие веса могут означать, что модель слишком сильно реагирует на отдельные признаки, что снижает её устойчивость.
Читать ответБустинг — это метод ансамблирования, который строит сильную модель путем последовательного обучения серии слабых моделей (обычно деревьев решений).
Читать ответALBERT (A Lite BERT) — это облегчённая версия модели BERT, разработанная для уменьшения размера и ускорения обучения без существенной потери качества.
Читать ответ