Что такое handshake в контексте работы протокола WebSocket?

Handshake согласует открытие WebSocket-соединения. В классическом HTTP/1.1 варианте клиент просит Upgrade, а сервер подтверждает переход ответом 101.

Сервер проверяет запрос и формирует Sec-WebSocket-Accept из клиентского ключа; могут согласовываться subprotocol и расширения. После успешного перехода обмен идёт WebSocket frames, а не обычными HTTP-ответами на каждое сообщение. Handshake не заменяет аутентификацию; для HTTP/2 существуют другие механизмы установления.

Источник: developer.mozilla.org.