Что происходит, когда вызывается новое Activity? Освобождается ли память от старого?

Создается новый экземпляр Activity, вызываются его lifecycle-методы: onCreate(), onStart(), onResume().

Память от старого Activity не освобождается сразу. Оно переходит в состояние Stopped (onPause(), onStop()) и остается в памяти до тех пор, пока система не решит выгрузить его, если потребуется место для других компонентов или если пользователь явно закроет приложение.