Каковы трудности реализации распределенной системы кэширования и как их можно преодолеть?

Основные сложности распределённого кеша — устаревшие данные, горячие ключи, массовые промахи, отказы узлов и перемещение данных. Каждая требует явной политики.

Используйте TTL с разбросом, версионирование и инвалидацию, объединение одновременных загрузок и ограничение давления на источник. Определите допустимую устарелость и поведение при недоступности кеша. Кеш не должен незаметно превращаться в единственное хранилище данных, если такой гарантии нет.