Что делает функция compose и как она применяется, в частности при работе с React/HOC?

Compose объединяет функции справа налево: compose(f, g)(x) эквивалентно f(g(x)). Для HOC это последовательное оборачивание компонента.

Например, compose(withAuth, withTheme)(Page) соответствует withAuth(withTheme(Page)). Порядок влияет на доступные props и поведение обёрток. Контракт простой композиции обычно предполагает согласованные входные и выходные типы; пустой набор часто возвращает identity.