RPS был 500 — как замеряли максимальный RPS, проводили ли нагрузочное тестирование?

Разделите наблюдавшиеся 500 RPS и максимальную устойчивую пропускную способность. Максимум определяется нагрузочным тестом с ограничениями по задержке и ошибкам, а не только счётчиком запросов.

Уточните состав запросов, число экземпляров, длительность теста, объём данных и зависимости. Постепенно увеличивайте нагрузку и смотрите p95/p99, ошибки, CPU, память, пулы соединений и очередь.

Пик на несколько секунд не равен устойчивому RPS. Если нагрузочный тест не проводили, скажите, что 500 — эксплуатационная метрика, и укажите её источник. Для репрезентативности нужны похожие на production сценарии, прогрев и контроль генератора нагрузки, который сам может стать узким местом.