Расскажите о разработке платформы для аренды GPU: какие были технические сложности или нестандартные вызовы?

Опишите реальные сложности своей GPU-платформы, отделяя инфраструктурные задачи от собственного вклада.

Возможные области — выделение ресурсов, изоляция арендаторов, квоты, учёт времени и восстановление сбоев, но выбирайте только то, с чем работали. Объясните ограничение, принятое решение и способ проверки, не приписывая себе всю платформу.