Вариационные байесовские методы

Математические методы, используемые в байесовском выводе и машинном обучении

Вариационные байесовские методы — это семейство методов аппроксимации трудноразрешимых интегралов , возникающих при байесовском выводе и машинном обучении . Они обычно используются в сложных статистических моделях , состоящих из наблюдаемых переменных (обычно называемых «данными»), а также неизвестных параметров и скрытых переменных , с различными видами отношений между тремя типами случайных величин , которые могут быть описаны графической моделью . Как это типично для байесовского вывода, параметры и скрытые переменные группируются вместе как «ненаблюдаемые переменные». Вариационные байесовские методы в основном используются для двух целей:

1. Обеспечить аналитическую аппроксимацию апостериорной вероятности ненаблюдаемых переменных, чтобы сделать статистические выводы по этим переменным.
2. Получить нижнюю границу предельного правдоподобия (иногда называемого доказательством ) наблюдаемых данных (т. е. предельной вероятности данных с учетом модели с маргинализацией, выполняемой по ненаблюдаемым переменным). Обычно это используется для выбора модели , общая идея заключается в том, что более высокая предельная вероятность для данной модели указывает на лучшее соответствие данных этой моделью и, следовательно, большую вероятность того, что рассматриваемая модель была той, которая сгенерировала данные. (См. также статью о байесовском факторе .)

В первой цели (аппроксимации апостериорной вероятности) вариационный Байес является альтернативой методам выборки Монте-Карло , в частности, методам Монте-Карло с цепью Маркова , таким как выборка Гиббса , для использования полностью байесовского подхода к статистическому выводу по сложным распределениям , которые трудно оценить напрямую или по образцу . В частности, в то время как методы Монте-Карло обеспечивают численную аппроксимацию точной апостериорной функции с использованием набора выборок, вариационный Байес обеспечивает локально оптимальное, точное аналитическое решение для аппроксимации апостериорной функции.

Вариационный Байес можно рассматривать как расширение алгоритма максимизации ожидания (EM) от максимальной апостериорной оценки (оценка MAP) единственного наиболее вероятного значения каждого параметра до полностью байесовской оценки, которая вычисляет (приблизительно) все апостериорное распределение. параметров и скрытых переменных. Как и в EM, он находит набор оптимальных значений параметров и имеет ту же переменную структуру, что и EM, основанную на наборе взаимосвязанных (взаимозависимых) уравнений, которые не могут быть решены аналитически.

Для многих приложений вариационный Байес дает решения, сравнимые по точности с выборкой Гиббса, но с большей скоростью. Однако получение набора уравнений, используемых для итеративного обновления параметров, часто требует большого объема работы по сравнению с получением сопоставимых уравнений выборки Гиббса. Это справедливо даже для многих моделей, которые концептуально довольно просты, как показано ниже в случае базовой неиерархической модели только с двумя параметрами и без скрытых переменных.

Математический вывод

Проблема

В вариационном выводе апостериорное распределение по набору ненаблюдаемых переменных с учетом некоторых данных аппроксимируется так называемым вариационным распределением . ${\displaystyle \mathbf {Z} =\{Z_{1}\dots Z_{n}\}}$ ${\displaystyle \mathbf {X} }$ ${\displaystyle Q(\mathbf {Z} ):}$

${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )\approx Q(\mathbf {Z} ).}$

Распределение ограничено принадлежностью к семейству распределений более простой формы, чем (например, семейству гауссовых распределений), выбранному с целью сделать его похожим на истинное апостериорное . ${\displaystyle Q(\mathbf {Z} )}$ ${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )}$ ${\displaystyle Q(\mathbf {Z} )}$ ${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )}$

Сходство (или несходство) измеряется с помощью функции несходства, и, следовательно, вывод выполняется путем выбора распределения , которое минимизирует . ${\displaystyle d(Q;P)}$ ${\displaystyle Q(\mathbf {Z} )}$ ${\displaystyle d(Q;P)}$

Дивергенция КЛ

Наиболее распространенный тип вариационного Байеса использует расхождение Кульбака – Лейблера (KL-дивергенцию) Q от P в качестве функции несходства. Этот выбор делает эту минимизацию осуществимой. KL-дивергенция определяется как

${\displaystyle D_{\mathrm {KL} }(Q\parallel P)\triangleq \sum _{\mathbf {Z} }Q(\mathbf {Z} )\log {\frac {Q(\mathbf {Z} )}{P(\mathbf {Z} \mid \mathbf {X} )}}.}$

Обратите внимание, что Q и P перевернуты, чего можно было ожидать. Такое использование обратной КЛ-дивергенции концептуально похоже на алгоритм максимизации ожидания . (Другое использование KL-дивергенции приводит к алгоритму распространения ожиданий .)

несговорчивость

Вариационные методы обычно используются для формирования аппроксимации:

${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )={\frac {P(\mathbf {X} \mid \mathbf {Z} )P(\mathbf {Z} )}{P(\mathbf {X} )}}={\frac {P(\mathbf {X} \mid \mathbf {Z} )P(\mathbf {Z} )}{\int _{\mathbf {Z} }P(\mathbf {X} ,\mathbf {Z} ')\,d\mathbf {Z} '}}}$

Маргинализация для вычисления знаменателя обычно неразрешима, потому что, например, пространство поиска комбинаторно велико. Поэтому мы ищем аппроксимацию, используя . ${\displaystyle \mathbf {Z} }$ ${\displaystyle P(\mathbf {X} )}$ ${\displaystyle \mathbf {Z} }$ ${\displaystyle Q(\mathbf {Z} )\approx P(\mathbf {Z} \mid \mathbf {X} )}$

Нижняя граница доказательств

Учитывая , что KL-дивергенция, указанная выше, также может быть записана как ${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )={\frac {P(\mathbf {X} ,\mathbf {Z} )}{P(\mathbf {X} )}}}$

${\displaystyle D_{\mathrm {KL} }(Q\parallel P)=\sum _{\mathbf {Z} }Q(\mathbf {Z} )\left[\log {\frac {Q(\mathbf {Z} )}{P(\mathbf {Z} ,\mathbf {X} )}}+\log P(\mathbf {X} )\right]=\sum _{\mathbf {Z} }Q(\mathbf {Z} )\left[\log Q(\mathbf {Z} )-\log P(\mathbf {Z} ,\mathbf {X} )\right]+\sum _{\mathbf {Z} }Q(\mathbf {Z} )\left[\log P(\mathbf {X} )\right]}$

Поскольку – константа относительно и поскольку – распределение, мы имеем ${\displaystyle P(\mathbf {X} )}$ ${\displaystyle \mathbf {Z} }$ ${\displaystyle \sum _{\mathbf {Z} }Q(\mathbf {Z} )=1}$ ${\displaystyle Q(\mathbf {Z} )}$

${\displaystyle D_{\mathrm {KL} }(Q\parallel P)=\sum _{\mathbf {Z} }Q(\mathbf {Z} )\left[\log Q(\mathbf {Z} )-\log P(\mathbf {Z} ,\mathbf {X} )\right]+\log P(\mathbf {X} )}$

которое согласно определению ожидаемого значения (для дискретной случайной величины ) можно записать следующим образом

${\displaystyle D_{\mathrm {KL} }(Q\parallel P)=\mathbb {E} _{\mathbf {Q} }\left[\log Q(\mathbf {Z} )-\log P(\mathbf {Z} ,\mathbf {X} )\right]+\log P(\mathbf {X} )}$

который можно переставить так, чтобы он стал

${\displaystyle \log P(\mathbf {X} )=D_{\mathrm {KL} }(Q\parallel P)-\mathbb {E} _{\mathbf {Q} }\left[\log Q(\mathbf {Z} )-\log P(\mathbf {Z} ,\mathbf {X} )\right]=D_{\mathrm {KL} }(Q\parallel P)+{\mathcal {L}}(Q)}$

Поскольку логарифмическое свидетельство фиксировано относительно , ​​максимизация конечного члена минимизирует отклонение KL от . При соответствующем выборе , становится возможным вычисление и максимизация. Следовательно, у нас есть как аналитическое приближение для апостериорного значения , так и нижняя оценка логарифмической очевидности (поскольку KL-дивергенция неотрицательна). ${\displaystyle \log P(\mathbf {X} )}$ ${\displaystyle Q}$ ${\displaystyle {\mathcal {L}}(Q)}$ ${\displaystyle Q}$ ${\displaystyle P}$ ${\displaystyle Q}$ ${\displaystyle {\mathcal {L}}(Q)}$ ${\displaystyle Q}$ ${\displaystyle P(\mathbf {Z} \mid \mathbf {X} )}$ ${\displaystyle {\mathcal {L}}(Q)}$ ${\displaystyle \log P(\mathbf {X} )}$

Нижняя граница известна как (отрицательная) вариационная свободная энергия по аналогии с термодинамической свободной энергией , поскольку ее также можно выразить как отрицательную энергию плюс энтропию . Этот термин также известен как нижняя граница доказательств , сокращенно ELBO , чтобы подчеркнуть, что это нижняя граница логарифмической достоверности данных. ${\displaystyle {\mathcal {L}}(Q)}$ ${\displaystyle \operatorname {E} _{Q}[\log P(\mathbf {Z} ,\mathbf {X} )]}$ ${\displaystyle Q}$ ${\displaystyle {\mathcal {L}}(Q)}$

Доказательства

С помощью обобщенной теоремы Пифагора о дивергенции Брегмана , частным случаем которой является KL-дивергенция, можно показать, что: ^{[1] [2]}

Обобщенная теорема Пифагора для расходимости Брегмана ^[2]

${\displaystyle D_{\mathrm {KL} }(Q\parallel P)\geq D_{\mathrm {KL} }(Q\parallel Q^{*})+D_{\mathrm {KL} }(Q^{*}\parallel P),\forall Q^{*}\in {\mathcal {C}}}$

где – выпуклое множество и равенство имеет место, если: ${\displaystyle {\mathcal {C}}}$

${\displaystyle Q=Q^{*}\triangleq \arg \min _{Q\in {\mathcal {C}}}D_{\mathrm {KL} }(Q\parallel P).}$

В этом случае глобальный минимизатор с можно найти следующим образом: ^[1] ${\displaystyle Q^{*}(\mathbf {Z} )=q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})q^{*}(\mathbf {Z} _{2})=q^{*}(\mathbf {Z} _{2}\mid \mathbf {Z} _{1})q^{*}(\mathbf {Z} _{1}),}$ ${\displaystyle \mathbf {Z} =\{\mathbf {Z_{1}} ,\mathbf {Z_{2}} \},}$

${\displaystyle q^{*}(\mathbf {Z} _{2})={\frac {P(\mathbf {X} )}{\zeta (\mathbf {X} )}}{\frac {P(\mathbf {Z} _{2}\mid \mathbf {X} )}{\exp(D_{\mathrm {KL} }(q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})\parallel P(\mathbf {Z} _{1}\mid \mathbf {Z} _{2},\mathbf {X} )))}}={\frac {1}{\zeta (\mathbf {X} )}}\exp \mathbb {E} _{q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})}\left(\log {\frac {P(\mathbf {Z} ,\mathbf {X} )}{q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})}}\right),}$

в котором нормировочная константа равна:

${\displaystyle \zeta (\mathbf {X} )=P(\mathbf {X} )\int _{\mathbf {Z} _{2}}{\frac {P(\mathbf {Z} _{2}\mid \mathbf {X} )}{\exp(D_{\mathrm {KL} }(q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})\parallel P(\mathbf {Z} _{1}\mid \mathbf {Z} _{2},\mathbf {X} )))}}=\int _{\mathbf {Z} _{2}}\exp \mathbb {E} _{q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})}\left(\log {\frac {P(\mathbf {Z} ,\mathbf {X} )}{q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})}}\right).}$

На практике этот термин часто называют нижней границей доказательства ( ELBO ), поскольку ^[1] , как показано выше. ${\displaystyle \zeta (\mathbf {X} )}$ ${\displaystyle P(\mathbf {X} )\geq \zeta (\mathbf {X} )=\exp({\mathcal {L}}(Q^{*}))}$

Поменяв местами роли и мы можем итеративно вычислить аппроксимированные и истинные маргинальные значения модели и соответственно. Хотя эта итерационная схема гарантированно сходится монотонно, ^[1] сходящаяся схема является лишь локальным минимизатором . ${\displaystyle \mathbf {Z} _{1}}$ ${\displaystyle \mathbf {Z} _{2},}$ ${\displaystyle q^{*}(\mathbf {Z} _{1})}$ ${\displaystyle q^{*}(\mathbf {Z} _{2})}$ ${\displaystyle P(\mathbf {Z} _{1}\mid \mathbf {X} )}$ ${\displaystyle P(\mathbf {Z} _{2}\mid \mathbf {X} ),}$ ${\displaystyle Q^{*}}$ ${\displaystyle D_{\mathrm {KL} }(Q\parallel P)}$

Если ограниченное пространство ограничено независимым пространством, то есть приведенная выше итерационная схема станет так называемым приближением среднего поля, как показано ниже. ${\displaystyle {\mathcal {C}}}$ ${\displaystyle q^{*}(\mathbf {Z} _{1}\mid \mathbf {Z} _{2})=q^{*}(\mathbf {Z_{1}} ),}$ ${\displaystyle Q^{*}(\mathbf {Z} )=q^{*}(\mathbf {Z} _{1})q^{*}(\mathbf {Z} _{2}),}$

Приближение среднего поля

Обычно предполагается, что вариационное распределение факторизуется по некоторому разделу скрытых переменных, т.е. для некоторого разделения скрытых переменных на , ${\displaystyle Q(\mathbf {Z} )}$ ${\displaystyle \mathbf {Z} }$ ${\displaystyle \mathbf {Z} _{1}\dots \mathbf {Z} _{M}}$

${\displaystyle Q(\mathbf {Z} )=\prod _{i=1}^{M}q_{i}(\mathbf {Z} _{i}\mid \mathbf {X} )}$

С помощью вариационного исчисления (отсюда и название «вариационный Байес») можно показать , что «лучшее» распределение для каждого из факторов (с точки зрения распределения, минимизирующего КЛ-расхождение, как описано выше) удовлетворяет: ^[3] ${\displaystyle q_{j}^{*}}$ ${\displaystyle q_{j}}$

${\displaystyle q_{j}^{*}(\mathbf {Z} _{j}\mid \mathbf {X} )={\frac {e^{\operatorname {E} _{q_{-j}^{*}}[\ln p(\mathbf {Z} ,\mathbf {X} )]}}{\int e^{\operatorname {E} _{q_{-j}^{*}}[\ln p(\mathbf {Z} ,\mathbf {X} )]}\,d\mathbf {Z} _{j}}}}$

где — математическое ожидание логарифма совместной вероятности данных и скрытых переменных, взятое по всем переменным, не входящим в разбиение: для вывода распределения см. лемму 4.1 из ^[4] . ${\displaystyle \operatorname {E} _{q_{-j}^{*}}[\ln p(\mathbf {Z} ,\mathbf {X} )]}$ ${\displaystyle q^{*}}$ ${\displaystyle q_{j}^{*}(\mathbf {Z} _{j}\mid \mathbf {X} )}$

На практике мы обычно работаем в терминах логарифмов, т.е.:

${\displaystyle \ln q_{j}^{*}(\mathbf {Z} _{j}\mid \mathbf {X} )=\operatorname {E} _{q_{-j}^{*}}[\ln p(\mathbf {Z} ,\mathbf {X} )]+{\text{constant}}}$

Константа в приведенном выше выражении связана с константой нормализации (знаменатель в приведенном выше выражении для ) и обычно восстанавливается при проверке, поскольку остальную часть выражения обычно можно распознать как распределение известного типа (например, гауссово , гамма-распределение) . , и т. д.). ${\displaystyle q_{j}^{*}}$

Используя свойства ожиданий, выражение обычно можно упростить до функции фиксированных гиперпараметров предшествующих распределений скрытых переменных и ожиданий (а иногда и более высоких моментов , таких как дисперсия ) скрытых переменных, не входящих в текущий раздел (т. е. скрытые переменные, не включенные в ). Это создает круговые зависимости между параметрами распределений переменных в одном разделе и ожиданиями переменных в других разделах. Это, естественно, предполагает итерационный алгоритм, очень похожий на EM ( алгоритм максимизации ожидания ), в котором ожидания (и, возможно, более высокие моменты) скрытых переменных инициализируются каким-то образом (возможно, случайным образом), а затем параметры каждого распределения вычисляется, в свою очередь, с использованием текущих значений ожиданий, после чего ожидание вновь вычисленного распределения устанавливается соответствующим образом в соответствии с вычисленными параметрами. Алгоритм такого типа гарантированно сходится . ^[5] ${\displaystyle \operatorname {E} _{q_{-j}^{*}}[\ln p(\mathbf {Z} ,\mathbf {X} )]}$ ${\displaystyle \mathbf {Z} _{j}}$

Другими словами, для каждого из разбиений переменных, упростив выражение распределения по переменным разбиения и исследовав функциональную зависимость распределения от рассматриваемых переменных, обычно можно определить семейство распределения (что, в свою очередь, определяет значение константы). Формула для параметров распределения будет выражаться через гиперпараметры предыдущих распределений (которые являются известными константами), а также через ожидания функций переменных в других разделах. Обычно эти ожидания можно упростить до функций ожиданий самих переменных (т.е. средств ); иногда также появляются ожидания квадратов переменных (которые могут быть связаны с дисперсией переменных) или ожидания более высоких степеней (т.е. более высоких моментов ). В большинстве случаев распределения других переменных будут принадлежать к известным семействам, и можно найти формулы для соответствующих ожиданий. Однако эти формулы зависят от параметров этих распределений, которые, в свою очередь, зависят от ожиданий относительно других переменных. В результате формулы для параметров распределения каждой переменной могут быть выражены как серия уравнений со взаимными нелинейными зависимостями между переменными. Обычно решить эту систему уравнений напрямую не представляется возможным. Однако, как описано выше, зависимости предполагают простой итерационный алгоритм, который в большинстве случаев гарантированно сходится. Пример сделает этот процесс более понятным.

Формула двойственности для вариационного вывода

Наглядная иллюстрация алгоритма вариационного вывода координат по формуле двойственности ^[4]

Следующая теорема называется формулой двойственности для вариационного вывода. ^[4] Это объясняет некоторые важные свойства вариационных распределений, используемых в вариационных методах Байеса.

Теорема. Рассмотрим два вероятностных пространства и с . Предположим, что существует общая доминирующая вероятностная мера такая, что и . Пусть обозначает любую случайную величину с действительным знаком, на которой удовлетворяет . Тогда имеет место равенство ${\displaystyle (\Theta ,{\mathcal {F}},P)}$ ${\displaystyle (\Theta ,{\mathcal {F}},Q)}$ ${\displaystyle Q\ll P}$ ${\displaystyle \lambda }$ ${\displaystyle P\ll \lambda }$ ${\displaystyle Q\ll \lambda }$ ${\displaystyle h}$ ${\displaystyle (\Theta ,{\mathcal {F}},P)}$ ${\displaystyle h\in L_{1}(P)}$

${\displaystyle \log E_{P}[\exp h]={\text{sup}}_{Q\ll P}\{E_{Q}[h]-D_{\text{KL}}(Q\parallel P)\}.}$

Далее, верхняя грань в правой части достигается тогда и только тогда, когда выполняется

${\displaystyle {\frac {q(\theta )}{p(\theta )}}={\frac {\exp h(\theta )}{E_{P}[\exp h]}},}$

почти наверняка по вероятностной мере , где и обозначают производные Радона-Никодима вероятностных мер и по соответствен- но. ${\displaystyle Q}$ ${\displaystyle p(\theta )=dP/d\lambda }$ ${\displaystyle q(\theta )=dQ/d\lambda }$ ${\displaystyle P}$ ${\displaystyle Q}$ ${\displaystyle \lambda }$

Базовый пример

Рассмотрим простую неиерархическую байесовскую модель, состоящую из набора наблюдений iid из гауссовского распределения с неизвестными средним значением и дисперсией . ^[6] Ниже мы подробно рассмотрим эту модель, чтобы проиллюстрировать работу вариационного метода Байеса.

Для математического удобства в следующем примере мы работаем с точки зрения точности — то есть обратной величины дисперсии (или в многомерном гауссове, обратной ковариационной матрице ) — а не самой дисперсии. (С теоретической точки зрения точность и дисперсия эквивалентны, поскольку между ними существует взаимно однозначное соответствие .)

Математическая модель

Мы размещаем сопряженные априорные распределения на неизвестном среднем значении и точности , т.е. среднее значение также соответствует распределению Гаусса, а точность соответствует гамма-распределению . Другими словами: ${\displaystyle \mu }$ ${\displaystyle \tau }$

${\displaystyle {\begin{aligned}\tau &\sim \operatorname {Gamma} (a_{0},b_{0})\\\mu |\tau &\sim {\mathcal {N}}(\mu _{0},(\lambda _{0}\tau )^{-1})\\\{x_{1},\dots ,x_{N}\}&\sim {\mathcal {N}}(\mu ,\tau ^{-1})\\N&={\text{number of data points}}\end{aligned}}}$

Гиперпараметры и в предыдущих распределениях фиксированы и имеют заданные значения . Им можно задать небольшие положительные числа, чтобы получить широкие априорные распределения, указывающие на незнание априорных распределений и . ${\displaystyle \mu _{0},\lambda _{0},a_{0}}$ ${\displaystyle b_{0}}$ ${\displaystyle \mu }$ ${\displaystyle \tau }$

Нам даны точки данных , и наша цель — вывести апостериорное распределение параметров и ${\displaystyle N}$ ${\displaystyle \mathbf {X} =\{x_{1},\ldots ,x_{N}\}}$ ${\displaystyle q(\mu ,\tau )=p(\mu ,\tau \mid x_{1},\ldots ,x_{N})}$ ${\displaystyle \mu }$ ${\displaystyle \tau .}$

Совместная вероятность

Совместную вероятность всех переменных можно переписать как

${\displaystyle p(\mathbf {X} ,\mu ,\tau )=p(\mathbf {X} \mid \mu ,\tau )p(\mu \mid \tau )p(\tau )}$

где отдельные факторы

${\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{n=1}^{N}{\mathcal {N}}(x_{n}\mid \mu ,\tau ^{-1})\\p(\mu \mid \tau )&={\mathcal {N}}\left(\mu \mid \mu _{0},(\lambda _{0}\tau )^{-1}\right)\\p(\tau )&=\operatorname {Gamma} (\tau \mid a_{0},b_{0})\end{aligned}}}$

где

${\displaystyle {\begin{aligned}{\mathcal {N}}(x\mid \mu ,\sigma ^{2})&={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{\frac {-(x-\mu )^{2}}{2\sigma ^{2}}}\\\operatorname {Gamma} (\tau \mid a,b)&={\frac {1}{\Gamma (a)}}b^{a}\tau ^{a-1}e^{-b\tau }\end{aligned}}}$

Факторизованное приближение

Предположим, что , т.е. что апостериорное распределение разлагается на независимые факторы для и . Этот тип предположения лежит в основе вариационного байесовского метода. Истинное апостериорное распределение на самом деле не учитывает этот фактор (на самом деле, в этом простом случае известно, что это гауссово-гамма-распределение ), и, следовательно, результат, который мы получим, будет аппроксимацией. ${\displaystyle q(\mu ,\tau )=q(\mu )q(\tau )}$ ${\displaystyle \mu }$ ${\displaystyle \tau }$

Вывод q ( µ )

Затем

${\displaystyle {\begin{aligned}\ln q_{\mu }^{*}(\mu )&=\operatorname {E} _{\tau }\left[\ln p(\mathbf {X} \mid \mu ,\tau )+\ln p(\mu \mid \tau )+\ln p(\tau )\right]+C\\&=\operatorname {E} _{\tau }\left[\ln p(\mathbf {X} \mid \mu ,\tau )\right]+\operatorname {E} _{\tau }\left[\ln p(\mu \mid \tau )\right]+\operatorname {E} _{\tau }\left[\ln p(\tau )\right]+C\\&=\operatorname {E} _{\tau }\left[\ln \prod _{n=1}^{N}{\mathcal {N}}\left(x_{n}\mid \mu ,\tau ^{-1}\right)\right]+\operatorname {E} _{\tau }\left[\ln {\mathcal {N}}\left(\mu \mid \mu _{0},(\lambda _{0}\tau )^{-1}\right)\right]+C_{2}\\&=\operatorname {E} _{\tau }\left[\ln \prod _{n=1}^{N}{\sqrt {\frac {\tau }{2\pi }}}e^{-{\frac {(x_{n}-\mu )^{2}\tau }{2}}}\right]+\operatorname {E} _{\tau }\left[\ln {\sqrt {\frac {\lambda _{0}\tau }{2\pi }}}e^{-{\frac {(\mu -\mu _{0})^{2}\lambda _{0}\tau }{2}}}\right]+C_{2}\\&=\operatorname {E} _{\tau }\left[\sum _{n=1}^{N}\left({\frac {1}{2}}(\ln \tau -\ln 2\pi )-{\frac {(x_{n}-\mu )^{2}\tau }{2}}\right)\right]+\operatorname {E} _{\tau }\left[{\frac {1}{2}}(\ln \lambda _{0}+\ln \tau -\ln 2\pi )-{\frac {(\mu -\mu _{0})^{2}\lambda _{0}\tau }{2}}\right]+C_{2}\\&=\operatorname {E} _{\tau }\left[\sum _{n=1}^{N}-{\frac {(x_{n}-\mu )^{2}\tau }{2}}\right]+\operatorname {E} _{\tau }\left[-{\frac {(\mu -\mu _{0})^{2}\lambda _{0}\tau }{2}}\right]+\operatorname {E} _{\tau }\left[\sum _{n=1}^{N}{\frac {1}{2}}(\ln \tau -\ln 2\pi )\right]+\operatorname {E} _{\tau }\left[{\frac {1}{2}}(\ln \lambda _{0}+\ln \tau -\ln 2\pi )\right]+C_{2}\\&=\operatorname {E} _{\tau }\left[\sum _{n=1}^{N}-{\frac {(x_{n}-\mu )^{2}\tau }{2}}\right]+\operatorname {E} _{\tau }\left[-{\frac {(\mu -\mu _{0})^{2}\lambda _{0}\tau }{2}}\right]+C_{3}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right\}+C_{3}\end{aligned}}}$

В приведенном выше выводе и относятся к значениям, постоянным по отношению к . Обратите внимание, что этот термин не является функцией и будет иметь одно и то же значение независимо от значения . Следовательно, в строке 3 мы можем объединить его с постоянным членом в конце. То же самое делаем в строке 7. ${\displaystyle C}$ ${\displaystyle C_{2}}$ ${\displaystyle C_{3}}$ ${\displaystyle \mu }$ ${\displaystyle \operatorname {E} _{\tau }[\ln p(\tau )]}$ ${\displaystyle \mu }$ ${\displaystyle \mu }$

Последняя строка представляет собой просто квадратичный многочлен от . Поскольку это логарифм , мы можем видеть, что это распределение является гауссовым . ${\displaystyle \mu }$ ${\displaystyle q_{\mu }^{*}(\mu )}$ ${\displaystyle q_{\mu }^{*}(\mu )}$

С помощью определенного количества утомительных математических вычислений (расширение квадратов внутри фигурных скобок, выделение и группировка членов, включающих и завершающих квадрат над ), мы можем получить параметры распределения Гаусса: ${\displaystyle \mu }$ ${\displaystyle \mu ^{2}}$ ${\displaystyle \mu }$

${\displaystyle {\begin{aligned}\ln q_{\mu }^{*}(\mu )&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right\}+C_{3}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{\sum _{n=1}^{N}(x_{n}^{2}-2x_{n}\mu +\mu ^{2})+\lambda _{0}(\mu ^{2}-2\mu _{0}\mu +\mu _{0}^{2})\right\}+C_{3}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{\left(\sum _{n=1}^{N}x_{n}^{2}\right)-2\left(\sum _{n=1}^{N}x_{n}\right)\mu +\left(\sum _{n=1}^{N}\mu ^{2}\right)+\lambda _{0}\mu ^{2}-2\lambda _{0}\mu _{0}\mu +\lambda _{0}\mu _{0}^{2}\right\}+C_{3}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\mu ^{2}-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\mu +\left(\sum _{n=1}^{N}x_{n}^{2}\right)+\lambda _{0}\mu _{0}^{2}\right\}+C_{3}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\mu ^{2}-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\mu \right\}+C_{4}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\mu ^{2}-2\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)(\lambda _{0}+N)\mu \right\}+C_{4}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\left(\mu ^{2}-2\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)\mu \right)\right\}+C_{4}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\left(\mu ^{2}-2\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)\mu +\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)^{2}-\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)^{2}\right)\right\}+C_{4}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\left(\mu ^{2}-2\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)\mu +\left({\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)^{2}\right)\right\}+C_{5}\\&=-{\frac {\operatorname {E} _{\tau }[\tau ]}{2}}\left\{(\lambda _{0}+N)\left(\mu -{\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)^{2}\right\}+C_{5}\\&=-{\frac {1}{2}}(\lambda _{0}+N)\operatorname {E} _{\tau }[\tau ]\left(\mu -{\frac {\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}}{\lambda _{0}+N}}\right)^{2}+C_{5}\end{aligned}}}$

Обратите внимание, что все вышеперечисленные шаги можно сократить, используя формулу суммы двух квадратичных дробей .

Другими словами:

${\displaystyle {\begin{aligned}q_{\mu }^{*}(\mu )&\sim {\mathcal {N}}(\mu \mid \mu _{N},\lambda _{N}^{-1})\\\mu _{N}&={\frac {\lambda _{0}\mu _{0}+N{\bar {x}}}{\lambda _{0}+N}}\\\lambda _{N}&=(\lambda _{0}+N)\operatorname {E} _{\tau }[\tau ]\\{\bar {x}}&={\frac {1}{N}}\sum _{n=1}^{N}x_{n}\end{aligned}}}$

Вывод q(τ)

Вывод аналогичен вышеизложенному, хотя для краткости мы опускаем некоторые детали. ${\displaystyle q_{\tau }^{*}(\tau )}$

${\displaystyle {\begin{aligned}\ln q_{\tau }^{*}(\tau )&=\operatorname {E} _{\mu }[\ln p(\mathbf {X} \mid \mu ,\tau )+\ln p(\mu \mid \tau )]+\ln p(\tau )+{\text{constant}}\\&=(a_{0}-1)\ln \tau -b_{0}\tau +{\frac {1}{2}}\ln \tau +{\frac {N}{2}}\ln \tau -{\frac {\tau }{2}}\operatorname {E} _{\mu }\left[\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right]+{\text{constant}}\end{aligned}}}$

Возведя обе стороны в степень, мы увидим, что это гамма-распределение . Конкретно: ${\displaystyle q_{\tau }^{*}(\tau )}$

${\displaystyle {\begin{aligned}q_{\tau }^{*}(\tau )&\sim \operatorname {Gamma} (\tau \mid a_{N},b_{N})\\a_{N}&=a_{0}+{\frac {N+1}{2}}\\b_{N}&=b_{0}+{\frac {1}{2}}\operatorname {E} _{\mu }\left[\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right]\end{aligned}}}$

Алгоритм расчета параметров

Подведем итоги предыдущих разделов:

${\displaystyle {\begin{aligned}q_{\mu }^{*}(\mu )&\sim {\mathcal {N}}(\mu \mid \mu _{N},\lambda _{N}^{-1})\\\mu _{N}&={\frac {\lambda _{0}\mu _{0}+N{\bar {x}}}{\lambda _{0}+N}}\\\lambda _{N}&=(\lambda _{0}+N)\operatorname {E} _{\tau }[\tau ]\\{\bar {x}}&={\frac {1}{N}}\sum _{n=1}^{N}x_{n}\end{aligned}}}$

и

${\displaystyle {\begin{aligned}q_{\tau }^{*}(\tau )&\sim \operatorname {Gamma} (\tau \mid a_{N},b_{N})\\a_{N}&=a_{0}+{\frac {N+1}{2}}\\b_{N}&=b_{0}+{\frac {1}{2}}\operatorname {E} _{\mu }\left[\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right]\end{aligned}}}$

В каждом случае параметры распределения по одной из переменных зависят от ожиданий, принятых по отношению к другой переменной. Мы можем расширить ожидания, используя стандартные формулы для математических ожиданий моментов гауссовского и гамма-распределений:

${\displaystyle {\begin{aligned}\operatorname {E} [\tau \mid a_{N},b_{N}]&={\frac {a_{N}}{b_{N}}}\\\operatorname {E} \left[\mu \mid \mu _{N},\lambda _{N}^{-1}\right]&=\mu _{N}\\\operatorname {E} \left[X^{2}\right]&=\operatorname {Var} (X)+(\operatorname {E} [X])^{2}\\\operatorname {E} \left[\mu ^{2}\mid \mu _{N},\lambda _{N}^{-1}\right]&=\lambda _{N}^{-1}+\mu _{N}^{2}\end{aligned}}}$

Применение этих формул к приведенным выше уравнениям в большинстве случаев тривиально, но уравнение для требует больше работы: ${\displaystyle b_{N}}$

${\displaystyle {\begin{aligned}b_{N}&=b_{0}+{\frac {1}{2}}\operatorname {E} _{\mu }\left[\sum _{n=1}^{N}(x_{n}-\mu )^{2}+\lambda _{0}(\mu -\mu _{0})^{2}\right]\\&=b_{0}+{\frac {1}{2}}\operatorname {E} _{\mu }\left[(\lambda _{0}+N)\mu ^{2}-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\mu +\left(\sum _{n=1}^{N}x_{n}^{2}\right)+\lambda _{0}\mu _{0}^{2}\right]\\&=b_{0}+{\frac {1}{2}}\left[(\lambda _{0}+N)\operatorname {E} _{\mu }[\mu ^{2}]-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\operatorname {E} _{\mu }[\mu ]+\left(\sum _{n=1}^{N}x_{n}^{2}\right)+\lambda _{0}\mu _{0}^{2}\right]\\&=b_{0}+{\frac {1}{2}}\left[(\lambda _{0}+N)\left(\lambda _{N}^{-1}+\mu _{N}^{2}\right)-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\mu _{N}+\left(\sum _{n=1}^{N}x_{n}^{2}\right)+\lambda _{0}\mu _{0}^{2}\right]\\\end{aligned}}}$

Затем мы можем записать уравнения параметров следующим образом, без каких-либо ожиданий:

${\displaystyle {\begin{aligned}\mu _{N}&={\frac {\lambda _{0}\mu _{0}+N{\bar {x}}}{\lambda _{0}+N}}\\\lambda _{N}&=(\lambda _{0}+N){\frac {a_{N}}{b_{N}}}\\{\bar {x}}&={\frac {1}{N}}\sum _{n=1}^{N}x_{n}\\a_{N}&=a_{0}+{\frac {N+1}{2}}\\b_{N}&=b_{0}+{\frac {1}{2}}\left[(\lambda _{0}+N)\left(\lambda _{N}^{-1}+\mu _{N}^{2}\right)-2\left(\lambda _{0}\mu _{0}+\sum _{n=1}^{N}x_{n}\right)\mu _{N}+\left(\sum _{n=1}^{N}x_{n}^{2}\right)+\lambda _{0}\mu _{0}^{2}\right]\end{aligned}}}$

Обратите внимание, что между формулами для и существуют циклические зависимости . Это, естественно, предполагает EM -подобный алгоритм: ${\displaystyle \lambda _{N}}$ ${\displaystyle b_{N}}$

1. Вычислите и используйте эти значения для вычисления и ${\displaystyle \sum _{n=1}^{N}x_{n}}$ ${\displaystyle \sum _{n=1}^{N}x_{n}^{2}.}$ ${\displaystyle \mu _{N}}$ ${\displaystyle a_{N}.}$
2. Инициализируйте каким-либо произвольным значением. ${\displaystyle \lambda _{N}}$
3. Используйте текущее значение вместе с известными значениями других параметров для вычисления . ${\displaystyle \lambda _{N},}$ ${\displaystyle b_{N}}$
4. Используйте текущее значение вместе с известными значениями других параметров для вычисления . ${\displaystyle b_{N},}$ ${\displaystyle \lambda _{N}}$
5. Повторяйте последние два шага до тех пор, пока не произойдет сходимость (т. е. пока ни одно из значений не изменится более чем на небольшую величину).

Затем у нас есть значения гиперпараметров аппроксимирующих распределений апостериорных параметров, которые мы можем использовать для вычисления любых желаемых свойств апостериорного показателя — например, его среднего значения и дисперсии, 95%-ной области с самой высокой плотностью (наименьший интервал, включающий 95 % от общей вероятности) и т. д.

Можно показать, что этот алгоритм гарантированно сходится к локальному максимуму.

Отметим также, что апостериорные распределения имеют ту же форму, что и соответствующие априорные распределения. Мы этого не предполагали; единственное предположение, которое мы сделали, заключалось в том, что распределения факторизуются, и форма распределений получается естественным образом. Оказывается (см. ниже), что тот факт, что апостериорные распределения имеют ту же форму, что и априорные распределения, является не совпадением, а общим результатом всякий раз, когда априорные распределения являются членами экспоненциального семейства , что имеет место для большинства стандартные дистрибутивы.

Дальнейшее обсуждение

Пошаговый рецепт

В приведенном выше примере показан метод, с помощью которого выводится вариационно-байесовская аппроксимация апостериорной плотности вероятности в данной байесовской сети :

1. Опишите сеть с помощью графической модели , идентифицируя наблюдаемые переменные (данные) и ненаблюдаемые переменные ( параметры и скрытые переменные ) и их условные распределения вероятностей . Затем вариационный Байес построит аппроксимацию апостериорной вероятности . Основное свойство аппроксимации состоит в том, что это факторизованное распределение, т.е. произведение двух или более независимых распределений по непересекающимся подмножествам ненаблюдаемых переменных. ${\displaystyle \mathbf {X} }$ ${\displaystyle {\boldsymbol {\Theta }}}$ ${\displaystyle \mathbf {Z} }$ ${\displaystyle p(\mathbf {Z} ,{\boldsymbol {\Theta }}\mid \mathbf {X} )}$
2. Разделите ненаблюдаемые переменные на два или более подмножества, на основе которых будут получены независимые факторы. Для этого не существует универсальной процедуры; создание слишком большого количества подмножеств дает плохую аппроксимацию, а создание слишком малого количества делает всю вариационную процедуру Байеса неразрешимой. Обычно первое разделение заключается в разделении параметров и скрытых переменных; часто этого достаточно, чтобы получить приемлемый результат. Предположим, что разделы называются . ${\displaystyle \mathbf {Z} _{1},\ldots ,\mathbf {Z} _{M}}$
3. Для данного разбиения запишите формулу наилучшего аппроксимирующего распределения, используя основное уравнение . ${\displaystyle \mathbf {Z} _{j}}$ ${\displaystyle q_{j}^{*}(\mathbf {Z} _{j}\mid \mathbf {X} )}$ ${\displaystyle \ln q_{j}^{*}(\mathbf {Z} _{j}\mid \mathbf {X} )=\operatorname {E} _{i\neq j}[\ln p(\mathbf {Z} ,\mathbf {X} )]+{\text{constant}}}$
4. Заполните формулу совместного распределения вероятностей , используя графическую модель. Любые условные распределения компонентов, которые не включают ни одну из переменных, можно игнорировать; они будут свернуты в постоянный член. ${\displaystyle \mathbf {Z} _{j}}$
5. Упростите формулу и примените оператор ожидания, следуя приведенному выше примеру. В идеале это должно упроститься до ожиданий основных функций переменных, которых нет в (например, первого или второго необработанных моментов , ожидания логарифма и т. д.). Чтобы вариационная процедура Байеса работала хорошо, эти ожидания обычно должны быть выражены аналитически как функции параметров и/или гиперпараметров распределений этих переменных. Во всех случаях эти математические ожидания являются константами по отношению к переменным в текущем разделе. ${\displaystyle \mathbf {Z} _{j}}$
6. Функциональная форма формулы относительно переменных текущего раздела указывает на тип распределения. В частности, возведение формулы в степень генерирует функцию плотности вероятности (PDF) распределения (или, по крайней мере, что-то пропорциональное ей с неизвестной константой нормализации ). Чтобы весь метод был управляемым, должна быть возможность распознать функциональную форму как принадлежащую известному распределению. Для преобразования формулы в форму, соответствующую PDF известного распределения, могут потребоваться значительные математические манипуляции. Когда это возможно, константа нормализации может быть восстановлена ​​по определению, а уравнения для параметров известного распределения могут быть получены путем извлечения соответствующих частей формулы.
7. Когда все ожидания могут быть аналитически заменены функциями переменных, не входящих в текущее разбиение, а PDF-файл приведен в форму, позволяющую идентифицировать его с известным распределением, результатом является набор уравнений, выражающих значения оптимальных параметров как функции параметры переменных в других разделах.
8. Когда эту процедуру можно применить ко всем разделам, результатом является набор взаимосвязанных уравнений, определяющих оптимальные значения всех параметров.
9. Затем применяется процедура типа максимизации ожидания (EM), выбирающая начальное значение для каждого параметра и повторяющаяся серия шагов, где на каждом этапе мы циклически просматриваем уравнения, обновляя каждый параметр по очереди. Это гарантированно сходится.

Наиболее важные моменты

Из-за всех математических манипуляций легко потерять общую картину. Важные вещи:

1. Идея вариационного Байеса состоит в том, чтобы построить аналитическую аппроксимацию апостериорной вероятности набора ненаблюдаемых переменных (параметров и скрытых переменных) по данным. Это означает, что форма решения аналогична другим методам байесовского вывода , таким как выборка Гиббса — то есть распределение, которое стремится описать все, что известно о переменных. Как и в других байесовских методах – но в отличие, например, от максимизации ожидания (EM) или других методов максимального правдоподобия – оба типа ненаблюдаемых переменных (т.е. параметры и скрытые переменные) обрабатываются одинаково, т.е. как случайные величины . Оценки переменных затем можно получить стандартными байесовскими способами, например, вычислив среднее значение распределения для получения одноточечной оценки или выведя достоверный интервал , область с наибольшей плотностью и т. д.
2. «Аналитическая аппроксимация» означает, что можно записать формулу апостериорного распределения. Формула обычно состоит из произведения известных распределений вероятностей, каждое из которых факторизуется по набору ненаблюдаемых переменных (т.е. оно условно независимо от других переменных с учетом наблюдаемых данных). Эта формула не является истинным апостериорным распределением, а является его приближением; в частности, оно, как правило, довольно близко согласуется в самые низкие моменты ненаблюдаемых переменных, например среднего значения и дисперсии .
3. Результатом всех математических манипуляций является (1) идентичность распределений вероятностей, составляющих факторы, и (2) взаимозависимые формулы для параметров этих распределений. Фактические значения этих параметров вычисляются численно с помощью поочередной итерационной процедуры, очень похожей на EM.

По сравнению с максимизацией ожидания (EM)

Вариационный Байес (ВБ) часто сравнивают с максимизацией ожидания (ЕМ). Реальная численная процедура очень похожа, поскольку обе представляют собой чередующиеся итерационные процедуры, которые последовательно сходятся к оптимальным значениям параметров. Начальные шаги по получению соответствующих процедур также отчасти схожи: оба начинаются с формул для плотностей вероятности и оба включают значительное количество математических манипуляций.

Однако существует ряд различий. Самое главное — то , что вычисляется.

• EM вычисляет точечные оценки апостериорного распределения тех случайных величин, которые можно отнести к категории «параметров», но только оценки фактических апостериорных распределений скрытых переменных (по крайней мере, в «мягком EM», и часто только тогда, когда скрытые переменные дискретны). ). Вычисленные точечные оценки представляют собой моды этих параметров; никакой другой информации нет.
• VB, с другой стороны, вычисляет оценки фактического апостериорного распределения всех переменных, как параметров, так и скрытых переменных. Когда необходимо получить точечные оценки, обычно используется среднее значение , а не мода, как это обычно бывает в байесовском выводе. При этом параметры, рассчитанные в VB, не имеют того же значения, что и в EM. EM сама вычисляет оптимальные значения параметров сети Байеса. VB вычисляет оптимальные значения параметров распределений, используемых для аппроксимации параметров и скрытых переменных сети Байеса. Например, типичная модель гауссовой смеси будет иметь параметры для среднего значения и дисперсии каждого из компонентов смеси. ЭМ будет напрямую оценивать оптимальные значения этих параметров. Однако VB сначала подгонит распределение к этим параметрам — обычно в форме априорного распределения , например , обратного гамма-распределения в нормальном масштабе — и затем вычислит значения параметров этого априорного распределения, то есть, по сути, гиперпараметров . В этом случае VB вычислит оптимальные оценки четырех параметров обратного гамма-распределения в нормальном масштабе, которое описывает совместное распределение среднего значения и дисперсии компонента.

Более сложный пример

Модель байесовской смеси Гаусса с использованием пластинчатых обозначений . Меньшие квадраты обозначают фиксированные параметры; большие кружки обозначают случайные величины. Заполненные фигуры обозначают известные значения. Индикация [K] означает вектор размера K ; [ D , D ] означает матрицу размера D × D ; Только K означает категориальную переменную с K результатами. Волнистая линия, идущая от z и заканчивающаяся перекладиной, указывает на переключатель — значение этой переменной выбирает для других входящих переменных, какое значение использовать из массива возможных значений size- K .

Представьте себе модель байесовской смеси Гаусса , описываемую следующим образом: ^[7]

${\displaystyle {\begin{aligned}\mathbf {\pi } &\sim \operatorname {SymDir} (K,\alpha _{0})\\\mathbf {\Lambda } _{i=1\dots K}&\sim {\mathcal {W}}(\mathbf {W} _{0},\nu _{0})\\\mathbf {\mu } _{i=1\dots K}&\sim {\mathcal {N}}(\mathbf {\mu } _{0},(\beta _{0}\mathbf {\Lambda } _{i})^{-1})\\\mathbf {z} [i=1\dots N]&\sim \operatorname {Mult} (1,\mathbf {\pi } )\\\mathbf {x} _{i=1\dots N}&\sim {\mathcal {N}}(\mathbf {\mu } _{z_{i}},{\mathbf {\Lambda } _{z_{i}}}^{-1})\\K&={\text{number of mixing components}}\\N&={\text{number of data points}}\end{aligned}}}$

Примечание:

• SymDir() — это симметричное распределение Дирихле размерности с гиперпараметром для каждого компонента, установленным на . Распределение Дирихле является сопряженным априорным по отношению к категориальному распределению или полиномиальному распределению . ${\displaystyle K}$ ${\displaystyle \alpha _{0}}$
• ${\displaystyle {\mathcal {W}}()}$— это распределение Уишарта , которое является сопряженным априором матрицы точности (обратной ковариационной матрицы ) для многомерного распределения Гаусса .
• Mult() — это полиномиальное распределение по одному наблюдению (эквивалентно категориальному распределению ). Пространство состояний представляет собой представление «один из K», т. е. -мерный вектор, в котором один из элементов равен 1 (определяющий идентичность наблюдения), а все остальные элементы равны 0. ${\displaystyle K}$
• ${\displaystyle {\mathcal {N}}()}$- это распределение Гаусса , в данном случае именно многомерное распределение Гаусса .

Интерпретация вышеуказанных переменных следующая:

• ${\displaystyle \mathbf {X} =\{\mathbf {x} _{1},\dots ,\mathbf {x} _{N}\}}$— это набор точек данных, каждая из которых представляет собой -мерный вектор, распределенный в соответствии с многомерным распределением Гаусса . ${\displaystyle N}$ ${\displaystyle D}$
• ${\displaystyle \mathbf {Z} =\{\mathbf {z} _{1},\dots ,\mathbf {z} _{N}\}}$представляет собой набор скрытых переменных, по одной на каждую точку данных, определяющих, какому компоненту смеси принадлежит соответствующая точка данных, с использованием векторного представления «один из K» с компонентами для , как описано выше. ${\displaystyle z_{nk}}$ ${\displaystyle k=1\dots K}$
• ${\displaystyle \mathbf {\pi } }$– пропорции смешивания компонентов смеси. ${\displaystyle K}$
• ${\displaystyle \mathbf {\mu } _{i=1\dots K}}$и укажите параметры ( среднее значение и точность ), связанные с каждым компонентом смеси. ${\displaystyle \mathbf {\Lambda } _{i=1\dots K}}$

Совместную вероятность всех переменных можно переписать как

${\displaystyle p(\mathbf {X} ,\mathbf {Z} ,\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } )=p(\mathbf {X} \mid \mathbf {Z} ,\mathbf {\mu } ,\mathbf {\Lambda } )p(\mathbf {Z} \mid \mathbf {\pi } )p(\mathbf {\pi } )p(\mathbf {\mu } \mid \mathbf {\Lambda } )p(\mathbf {\Lambda } )}$

где отдельные факторы

${\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mathbf {Z} ,\mathbf {\mu } ,\mathbf {\Lambda } )&=\prod _{n=1}^{N}\prod _{k=1}^{K}{\mathcal {N}}(\mathbf {x} _{n}\mid \mathbf {\mu } _{k},\mathbf {\Lambda } _{k}^{-1})^{z_{nk}}\\p(\mathbf {Z} \mid \mathbf {\pi } )&=\prod _{n=1}^{N}\prod _{k=1}^{K}\pi _{k}^{z_{nk}}\\p(\mathbf {\pi } )&={\frac {\Gamma (K\alpha _{0})}{\Gamma (\alpha _{0})^{K}}}\prod _{k=1}^{K}\pi _{k}^{\alpha _{0}-1}\\p(\mathbf {\mu } \mid \mathbf {\Lambda } )&=\prod _{k=1}^{K}{\mathcal {N}}(\mathbf {\mu } _{k}\mid \mathbf {\mu } _{0},(\beta _{0}\mathbf {\Lambda } _{k})^{-1})\\p(\mathbf {\Lambda } )&=\prod _{k=1}^{K}{\mathcal {W}}(\mathbf {\Lambda } _{k}\mid \mathbf {W} _{0},\nu _{0})\end{aligned}}}$

где

${\displaystyle {\begin{aligned}{\mathcal {N}}(\mathbf {x} \mid \mathbf {\mu } ,\mathbf {\Sigma } )&={\frac {1}{(2\pi )^{D/2}}}{\frac {1}{|\mathbf {\Sigma } |^{1/2}}}\exp \left\{-{\frac {1}{2}}(\mathbf {x} -\mathbf {\mu } )^{\rm {T}}\mathbf {\Sigma } ^{-1}(\mathbf {x} -\mathbf {\mu } )\right\}\\{\mathcal {W}}(\mathbf {\Lambda } \mid \mathbf {W} ,\nu )&=B(\mathbf {W} ,\nu )|\mathbf {\Lambda } |^{(\nu -D-1)/2}\exp \left(-{\frac {1}{2}}\operatorname {Tr} (\mathbf {W} ^{-1}\mathbf {\Lambda } )\right)\\B(\mathbf {W} ,\nu )&=|\mathbf {W} |^{-\nu /2}\left\{2^{\nu D/2}\pi ^{D(D-1)/4}\prod _{i=1}^{D}\Gamma \left({\frac {\nu +1-i}{2}}\right)\right\}^{-1}\\D&={\text{dimensionality of each data point}}\end{aligned}}}$

Предположим, что . ${\displaystyle q(\mathbf {Z} ,\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } )=q(\mathbf {Z} )q(\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } )}$

Тогда ^[8]

${\displaystyle {\begin{aligned}\ln q^{*}(\mathbf {Z} )&=\operatorname {E} _{\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } }[\ln p(\mathbf {X} ,\mathbf {Z} ,\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } )]+{\text{constant}}\\&=\operatorname {E} _{\mathbf {\pi } }[\ln p(\mathbf {Z} \mid \mathbf {\pi } )]+\operatorname {E} _{\mathbf {\mu } ,\mathbf {\Lambda } }[\ln p(\mathbf {X} \mid \mathbf {Z} ,\mathbf {\mu } ,\mathbf {\Lambda } )]+{\text{constant}}\\&=\sum _{n=1}^{N}\sum _{k=1}^{K}z_{nk}\ln \rho _{nk}+{\text{constant}}\end{aligned}}}$

где мы определили

${\displaystyle \ln \rho _{nk}=\operatorname {E} [\ln \pi _{k}]+{\frac {1}{2}}\operatorname {E} [\ln |\mathbf {\Lambda } _{k}|]-{\frac {D}{2}}\ln(2\pi )-{\frac {1}{2}}\operatorname {E} _{\mathbf {\mu } _{k},\mathbf {\Lambda } _{k}}[(\mathbf {x} _{n}-\mathbf {\mu } _{k})^{\rm {T}}\mathbf {\Lambda } _{k}(\mathbf {x} _{n}-\mathbf {\mu } _{k})]}$

Возведение в степень обеих частей формулы доходности ${\displaystyle \ln q^{*}(\mathbf {Z} )}$

${\displaystyle q^{*}(\mathbf {Z} )\propto \prod _{n=1}^{N}\prod _{k=1}^{K}\rho _{nk}^{z_{nk}}}$

Требование, чтобы это было нормализовано, в конечном итоге требует, чтобы сумма была равна 1 по всем значениям , что дает ${\displaystyle \rho _{nk}}$ ${\displaystyle k}$

${\displaystyle q^{*}(\mathbf {Z} )=\prod _{n=1}^{N}\prod _{k=1}^{K}r_{nk}^{z_{nk}}}$

где

${\displaystyle r_{nk}={\frac {\rho _{nk}}{\sum _{j=1}^{K}\rho _{nj}}}}$

Другими словами, является продуктом полиномиальных распределений для одного наблюдения и факторов по каждому отдельному , который распределяется как полиномиальное распределение для одного наблюдения с параметрами для . ${\displaystyle q^{*}(\mathbf {Z} )}$ ${\displaystyle \mathbf {z} _{n}}$ ${\displaystyle r_{nk}}$ ${\displaystyle k=1\dots K}$

Кроме того, отметим, что

${\displaystyle \operatorname {E} [z_{nk}]=r_{nk}\,}$

что является стандартным результатом для категориальных распределений.

Теперь, рассматривая фактор , обратите внимание, что он автоматически учитывается из -за структуры графической модели, определяющей нашу модель гауссовой смеси, которая указана выше. ${\displaystyle q(\mathbf {\pi } ,\mathbf {\mu } ,\mathbf {\Lambda } )}$ ${\displaystyle q(\mathbf {\pi } )\prod _{k=1}^{K}q(\mathbf {\mu } _{k},\mathbf {\Lambda } _{k})}$

Затем,

${\displaystyle {\begin{aligned}\ln q^{*}(\mathbf {\pi } )&=\ln p(\mathbf {\pi } )+\operatorname {E} _{\mathbf {Z} }[\ln p(\mathbf {Z} \mid \mathbf {\pi } )]+{\text{constant}}\\&=(\alpha _{0}-1)\sum _{k=1}^{K}\ln \pi _{k}+\sum _{n=1}^{N}\sum _{k=1}^{K}r_{nk}\ln \pi _{k}+{\text{constant}}\end{aligned}}}$

Взяв экспоненту от обеих частей, мы признаем распределение Дирихле ${\displaystyle q^{*}(\mathbf {\pi } )}$

${\displaystyle q^{*}(\mathbf {\pi } )\sim \operatorname {Dir} (\mathbf {\alpha } )\,}$

где

${\displaystyle \alpha _{k}=\alpha _{0}+N_{k}\,}$

где

${\displaystyle N_{k}=\sum _{n=1}^{N}r_{nk}\,}$

Окончательно

${\displaystyle \ln q^{*}(\mathbf {\mu } _{k},\mathbf {\Lambda } _{k})=\ln p(\mathbf {\mu } _{k},\mathbf {\Lambda } _{k})+\sum _{n=1}^{N}\operatorname {E} [z_{nk}]\ln {\mathcal {N}}(\mathbf {x} _{n}\mid \mathbf {\mu } _{k},\mathbf {\Lambda } _{k}^{-1})+{\text{constant}}}$

Группируя и считывая члены, включающие и , результатом является распределение Гаусса-Вишарта, определяемое формулой ${\displaystyle \mathbf {\mu } _{k}}$ ${\displaystyle \mathbf {\Lambda } _{k}}$

${\displaystyle q^{*}(\mathbf {\mu } _{k},\mathbf {\Lambda } _{k})={\mathcal {N}}(\mathbf {\mu } _{k}\mid \mathbf {m} _{k},(\beta _{k}\mathbf {\Lambda } _{k})^{-1}){\mathcal {W}}(\mathbf {\Lambda } _{k}\mid \mathbf {W} _{k},\nu _{k})}$

учитывая определения

${\displaystyle {\begin{aligned}\beta _{k}&=\beta _{0}+N_{k}\\\mathbf {m} _{k}&={\frac {1}{\beta _{k}}}(\beta _{0}\mathbf {\mu } _{0}+N_{k}{\bar {\mathbf {x} }}_{k})\\\mathbf {W} _{k}^{-1}&=\mathbf {W} _{0}^{-1}+N_{k}\mathbf {S} _{k}+{\frac {\beta _{0}N_{k}}{\beta _{0}+N_{k}}}({\bar {\mathbf {x} }}_{k}-\mathbf {\mu } _{0})({\bar {\mathbf {x} }}_{k}-\mathbf {\mu } _{0})^{\rm {T}}\\\nu _{k}&=\nu _{0}+N_{k}\\N_{k}&=\sum _{n=1}^{N}r_{nk}\\{\bar {\mathbf {x} }}_{k}&={\frac {1}{N_{k}}}\sum _{n=1}^{N}r_{nk}\mathbf {x} _{n}\\\mathbf {S} _{k}&={\frac {1}{N_{k}}}\sum _{n=1}^{N}r_{nk}(\mathbf {x} _{n}-{\bar {\mathbf {x} }}_{k})(\mathbf {x} _{n}-{\bar {\mathbf {x} }}_{k})^{\rm {T}}\end{aligned}}}$

Наконец, обратите внимание, что этим функциям требуются значения , которые используют , который, в свою очередь, определяется на основе , и . Теперь, когда мы определили распределения, по которым берутся эти ожидания, мы можем вывести для них формулы: ${\displaystyle r_{nk}}$ ${\displaystyle \rho _{nk}}$ ${\displaystyle \operatorname {E} [\ln \pi _{k}]}$ ${\displaystyle \operatorname {E} [\ln |\mathbf {\Lambda } _{k}|]}$ ${\displaystyle \operatorname {E} _{\mathbf {\mu } _{k},\mathbf {\Lambda } _{k}}[(\mathbf {x} _{n}-\mathbf {\mu } _{k})^{\rm {T}}\mathbf {\Lambda } _{k}(\mathbf {x} _{n}-\mathbf {\mu } _{k})]}$

${\displaystyle {\begin{aligned}\operatorname {E} _{\mathbf {\mu } _{k},\mathbf {\Lambda } _{k}}[(\mathbf {x} _{n}-\mathbf {\mu } _{k})^{\rm {T}}\mathbf {\Lambda } _{k}(\mathbf {x} _{n}-\mathbf {\mu } _{k})]&=D\beta _{k}^{-1}+\nu _{k}(\mathbf {x} _{n}-\mathbf {m} _{k})^{\rm {T}}\mathbf {W} _{k}(\mathbf {x} _{n}-\mathbf {m} _{k})\\\ln {\widetilde {\Lambda }}_{k}&\equiv \operatorname {E} [\ln |\mathbf {\Lambda } _{k}|]=\sum _{i=1}^{D}\psi \left({\frac {\nu _{k}+1-i}{2}}\right)+D\ln 2+\ln |\mathbf {W} _{k}|\\\ln {\widetilde {\pi }}_{k}&\equiv \operatorname {E} \left[\ln |\pi _{k}|\right]=\psi (\alpha _{k})-\psi \left(\sum _{i=1}^{K}\alpha _{i}\right)\end{aligned}}}$

Эти результаты приводят к

${\displaystyle r_{nk}\propto {\widetilde {\pi }}_{k}{\widetilde {\Lambda }}_{k}^{1/2}\exp \left\{-{\frac {D}{2\beta _{k}}}-{\frac {\nu _{k}}{2}}(\mathbf {x} _{n}-\mathbf {m} _{k})^{\rm {T}}\mathbf {W} _{k}(\mathbf {x} _{n}-\mathbf {m} _{k})\right\}}$

Их можно преобразовать из пропорциональных в абсолютные значения путем нормализации так, чтобы сумма соответствующих значений равнялась 1. ${\displaystyle k}$

Обратите внимание, что:

1. Уравнения обновления для параметров , , и переменных и зависят от статистики , , и , а эта статистика, в свою очередь, зависит от . ${\displaystyle \beta _{k}}$ ${\displaystyle \mathbf {m} _{k}}$ ${\displaystyle \mathbf {W} _{k}}$ ${\displaystyle \nu _{k}}$ ${\displaystyle \mathbf {\mu } _{k}}$ ${\displaystyle \mathbf {\Lambda } _{k}}$ ${\displaystyle N_{k}}$ ${\displaystyle {\bar {\mathbf {x} }}_{k}}$ ${\displaystyle \mathbf {S} _{k}}$ ${\displaystyle r_{nk}}$
2. Уравнения обновления параметров переменной зависят от статистики , которая, в свою очередь, зависит от . ${\displaystyle \alpha _{1\dots K}}$ ${\displaystyle \mathbf {\pi } }$ ${\displaystyle N_{k}}$ ${\displaystyle r_{nk}}$
3. Уравнение обновления для имеет прямую круговую зависимость от , и , а также косвенную круговую зависимость от , и через и . ${\displaystyle r_{nk}}$ ${\displaystyle \beta _{k}}$ ${\displaystyle \mathbf {m} _{k}}$ ${\displaystyle \mathbf {W} _{k}}$ ${\displaystyle \nu _{k}}$ ${\displaystyle \mathbf {W} _{k}}$ ${\displaystyle \nu _{k}}$ ${\displaystyle \alpha _{1\dots K}}$ ${\displaystyle {\widetilde {\pi }}_{k}}$ ${\displaystyle {\widetilde {\Lambda }}_{k}}$

Это предполагает итеративную процедуру, которая чередует два этапа:

1. E-шаг, который вычисляет значение, используя текущие значения всех других параметров. ${\displaystyle r_{nk}}$
2. M-шаг, который использует новое значение для вычисления новых значений всех остальных параметров. ${\displaystyle r_{nk}}$

Обратите внимание, что эти шаги тесно связаны со стандартным алгоритмом EM для получения максимального правдоподобия или максимального апостериорного (MAP) решения для параметров модели гауссовой смеси . Обязанности на этапе E близко соответствуют апостериорным вероятностям скрытых переменных с учетом данных, т.е. вычисление статистики , и близко соответствует вычислению соответствующей статистики «мягкого подсчета» по данным; и использование этой статистики для вычисления новых значений параметров близко соответствует использованию мягких подсчетов для вычисления новых значений параметров в обычной ЭМ по модели гауссовой смеси. ${\displaystyle r_{nk}}$ ${\displaystyle p(\mathbf {Z} \mid \mathbf {X} )}$ ${\displaystyle N_{k}}$ ${\displaystyle {\bar {\mathbf {x} }}_{k}}$ ${\displaystyle \mathbf {S} _{k}}$

Распределения экспоненциального семейства

Обратите внимание, что в предыдущем примере, когда предполагалось, что распределение по ненаблюдаемым переменным разлагается на распределения по «параметрам» и распределения по «скрытым данным», полученное «лучшее» распределение для каждой переменной находилось в том же семействе, что и соответствующее предварительное распределение по переменной. Это общий результат, который справедлив для всех предыдущих распределений, полученных из экспоненциального семейства .

Смотрите также

• Вариационная передача сообщений : модульный алгоритм вариационного байесовского вывода.
• Вариационный автоэнкодер : искусственная нейронная сеть, принадлежащая к семействам вероятностных графических моделей и вариационных байесовских методов.
• Алгоритм максимизации ожидания : родственный подход, который соответствует частному случаю вариационного байесовского вывода.
• Обобщенная фильтрация : вариационная схема фильтрации для нелинейных моделей в пространстве состояний.
• Вариационное исчисление : область математического анализа, занимающаяся максимизацией или минимизацией функционалов.
• Максимальная дискриминация по энтропии: это система вариационного вывода, которая позволяет вводить и учитывать дополнительные ограничения с большой маржой ^[9].

Рекомендации

1. Tran, Вьет Хунг (2018). «Вариационный байесовский вывод копулы с помощью информационной геометрии». arXiv : 1803.10998 [cs.IT].
2. Адамчик, Мартин (2014). «Информационная геометрия расхождений Брегмана и некоторые приложения в рассуждениях нескольких экспертов». Энтропия . 16 (12): 6338–6381. Бибкод : 2014Entrp..16.6338A. дои : 10.3390/e16126338 .
3. Нгуен, Дуй (15 августа 2023 г.). «ГЛУБОКОЕ ВВЕДЕНИЕ В ВАРИАЦИОННОЕ ЗАМЕЧАНИЕ». ССНР  4541076 . Проверено 15 августа 2023 г.
4. Ли, Се Юн (2021). «Сэмплер Гиббса и вариационный вывод по координатному восхождению: теоретико-множественный обзор». Коммуникации в статистике - теория и методы . 51 (6): 1–21. arXiv : 2008.01006 . дои : 10.1080/03610926.2021.1921214. S2CID  220935477.
5. Бойд, Стивен П.; Ванденберге, Ливен (2004). Выпуклая оптимизация (PDF) . Издательство Кембриджского университета. ISBN 978-0-521-83378-3. Проверено 15 октября 2011 г.
6. Бишоп, Кристофер М. (2006). «Глава 10». Распознавание образов и машинное обучение . Спрингер. ISBN 978-0-387-31073-2.
7. Нгуен, Дуй (15 августа 2023 г.). «ГЛУБОКОЕ ВВЕДЕНИЕ В ВАРИАЦИОННОЕ ЗАМЕЧАНИЕ». ССНР  4541076 . Проверено 15 августа 2023 г.
8. Нгуен, Дуй (15 августа 2023 г.). «ГЛУБОКОЕ ВВЕДЕНИЕ В ВАРИАЦИОННОЕ ЗАМЕЧАНИЕ». ССНР  4541076 . Проверено 15 августа 2023 г.
9. Сотириос П. Чацис, «Бесконечные машины дискриминации с максимальной энтропией с марковским переключением», Proc. 30-я Международная конференция по машинному обучению (ICML). Журнал исследований машинного обучения: материалы семинаров и конференций, том. 28, нет. 3, стр. 729–737, июнь 2013 г.

Внешние ссылки

• Онлайн-учебник Дэвида Маккея «Теория информации, вывод и алгоритмы обучения» представляет собой введение в вариационные методы (стр. 422).
• Учебное пособие по вариационному Байесу. Фокс К. и Робертс С. 2012. Обзор искусственного интеллекта, номер документа : 10.1007/s10462-011-9236-8.
• Репозиторий вариационно-байесовского репозитория. Репозиторий исследовательских работ, программного обеспечения и ссылок, связанных с использованием вариационных методов для приближенного байесовского обучения до 2003 года.
• Вариационные алгоритмы для приблизительного байесовского вывода, автор М. Дж. Бил, включают сравнение EM с вариационным байесовским EM и выводы нескольких моделей, включая вариационные байесовские HMM.
• Возможно, стоит прочитать «Общее объяснение вариационного вывода» Джейсона Эйснера перед более математически подробным рассмотрением.
• Вариационный байесовский вывод копулы с помощью информационной геометрии (pdf), Тран, В.Х., 2018. Эта статья в первую очередь написана для студентов. С помощью дивергенции Брегмана статья показывает, что вариационный Байес — это просто обобщенная пифагорейская проекция истинной модели на произвольно коррелированное (связку) пространство распределения, из которого независимое пространство является лишь частным случаем.
• Подробное введение в заметку о вариационном Байесе. Нгуен, Д. 2023 г.