Как секрет появляется в LLM Gateway при использовании Kubernetes и интеграции с хранилищем секретов?

Обычно интеграция получает секрет из внешнего хранилища под ограниченной identity и предоставляет pod через Secret или смонтированный файл; точная цепочка зависит от выбранного оператора.

Gateway читает значение из env или файла, а не из frontend и не из образа контейнера. Нужны минимальные права, защищённое хранение и план ротации; обновление env работающего процесса само не произойдёт. CSI-подключение может предоставлять файл без обязательного сохранения копии в Kubernetes Secret. Без конфигурации нельзя назвать конкретный механизм вашего кластера.

Источник: kubernetes.io.