Низкая загрузка GPU при почти занятой памяти не доказывает, что проблема в вычислениях. Сначала профилируйте ожидание данных, CPU-препроцессинг, передачи и синхронизации, сравнив с быстрым запуском.
В TTS-пайплайне обучение стало в три раза медленнее, загрузка GPU 20%, память GPU 90%. Как искать проблему?
Низкая загрузка GPU при почти занятой памяти не доказывает, что проблема в вычислениях. Сначала профилируйте ожидание данных, CPU-препроцессинг, передачи и синхронизации, сравнив с быстрым запуском.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Низкая загрузка GPU при почти занятой памяти не доказывает, что проблема в вычислениях. Сначала профилируйте ожидание данных, CPU-препроцессинг, передачи и синхронизации, сравнив с быстрым запуском.
Проверьте изменения длительности аудио, padding, batch size, dataloader, диска и сети. Занятую память могут давать веса, optimizer state и зарезервированный кеш. Разделите время загрузки и шага обучения; на маленькой фиксированной выборке исключите I/O. Не увеличивайте число workers вслепую, если уже упираетесь в CPU или storage.