[имя] спросил: Почему JVM потребляет память сверх heap, если мы установили лимит -Xmx?

Да, такая ситуация возможна. В Java приложение использует не только Heap (кучу) для хранения объектов, но и другие области памяти, которые не учитываются в размере Heap:

• Метаспейс (Metaspace) — хранит метаданные классов.
• Стековые области (Stack) — для каждого потока выделяется стек для вызовов методов и локальных переменных.
• Нативная память — выделяется через JNI, NIO буферы, DirectByteBuffer и др.
• Кэш и другие внутренние структуры JVM.

Поэтому общие затраты памяти процесса JVM могут значительно превышать размер Heap, установленный параметром -Xmx.

Например, если задать -Xmx512m, Heap не превысит 512 МБ, но общая память процесса может быть 700 МБ и больше из-за вышеперечисленных областей.

Это важно учитывать при мониторинге и настройке памяти Java-приложений.