После того как attention дал выходной вектор, что происходит дальше в Transformer-блоке?

Выход голов внимания объединяется и проходит выходную проекцию, residual-связь и нормализацию в порядке выбранной архитектуры. Затем применяется позиционный feed-forward блок с другой residual-связью.

В post-norm нормализация стоит после сложения, в pre-norm — перед подслоем; нельзя смешивать эти схемы. FFN независимо преобразует скрытый вектор каждой позиции, обычно расширяя и затем сжимая размерность. В decoder также может быть cross-attention к encoder.