Как dropout помогает избежать переобучения в нейросетях?
Dropout — это техника регуляризации в нейросетях, которая помогает избежать переобучения, случайным образом "выключая" (обнуляя) часть нейронов во время обучения.
Читать ответПодготовка к интервью
10 вопросов с собеседований в ПАО Газпром нефть
Что проверяют на интервью
Подборка объединяет вопросы, отмеченные на этапах интервью в ПАО Газпром нефть. Здесь можно понять структуру технической проверки и заранее повторить связанные темы. В подборке чаще встречаются темы: python, api, frontend.
Каталог
Dropout — это техника регуляризации в нейросетях, которая помогает избежать переобучения, случайным образом "выключая" (обнуляя) часть нейронов во время обучения.
Читать ответContrastive learning на графах — это метод обучения представлений узлов или графов, который основывается на сравнении положительных и отрицательных пар примеров для выявления значимых признаков.
Читать ответFFN-слой (Feed-Forward Network) в трансформере — это двухслойная полностью связная нейронная сеть, которая применяется отдельно к каждому элементу последовательности после слоя внимания (attention).
Читать ответHyDE (Hypothetical Document Embeddings) — это метод, используемый в системах с большими языковыми моделями (LLM) и Retrieval-Augmented Generation (RAG).
Читать ответОсновные способы предобработки признаков включают:
Читать ответДля файнтюнинга BERT под задачу классификации обычно берут выход из специального токена [CLS], который используется моделью для агрегации информации о всей последовательности.
Читать ответВ Python параметры передаются по ссылке на объект (pass-by-object-reference). Это означает, что функция получает ссылку на объект, а не копию значения. Однако поведение зависит от изменяемости объекта:
Читать ответSDXL (Stable Diffusion XL) архитектурно отличается от SD 1.5 несколькими ключевыми аспектами:
Читать ответВ Random Forest глубина деревьев обычно выбирается достаточно большой, чтобы деревья могли хорошо разделять данные и захватывать сложные зависимости.
Читать ответActive learning в компьютерном зрении — это метод, при котором модель выбирает наиболее информативные или неопределённые примеры из неразмеченных данных для последующей разметки человеком.
Читать ответ