Что такое сопряжённые распределения и зачем они удобны?

Сопряжённые распределения — это пары распределений, при которых апостериорное распределение принадлежит тому же семейству, что и априорное, после обновления на основе наблюдаемых данных.

Это удобно, потому что позволяет аналитически вычислять апостериорное распределение без сложных численных методов, что значительно упрощает байесовский вывод.

Например, если априорное распределение параметра — бета-распределение, а данные — биномиальные, то апостериорное распределение также будет бета-распределением с обновлёнными параметрами.

В задачах машинного обучения и байесовских моделях использование сопряжённых распределений ускоряет обучение и упрощает вычисления, что особенно важно в Gaussian Processes (GP) и Bayesian Optimization (BO).