В каких случаях лучше использовать SQL, а в каких NoSQL?

Выбор определяется моделью данных и операциями: SQL удобен для связей и транзакций, а конкретная NoSQL-модель — для подходящих ей паттернов доступа.

Начните с запросов, требований к согласованности, объёма и схемы обновления. Документная БД подходит для агрегатов-документов, key-value — для доступа по ключу, графовая — для связей и обходов. NoSQL не означает отсутствие схемы или транзакций вообще, а SQL не запрещает масштабирование. Сравнивайте конкретные СУБД и эксплуатационные ограничения, а не только названия классов.