Как поступить, если ячейки таблицы станут сложнее и компонент будет разрастаться? Какие изменения можно внести, например выделить отдельный компонент Cell, принимающий cell из библиотеки?

Выделите Cell с ясным контрактом, отделите форматирование от действий и оставьте таблице координацию строк, колонок и состояния.

Адаптер библиотечного cell может вызывать нужный renderer, а доменные ячейки — работать с минимальными props. Не передавайте весь store в каждую клетку без необходимости. Проверьте стабильность keys, доступность и стоимость render; декомпозиция сама по себе не гарантирует ускорение.