Алгоритм Метрополиса–Гастингса

Алгоритм Монте-Карло

Алгоритм Метрополиса-Гастингса выбирает нормальное одномерное апостериорное распределение вероятностей.

В статистике и статистической физике алгоритм Метрополиса–Гастингса представляет собой метод Монте-Карло с цепями Маркова (MCMC) для получения последовательности случайных выборок из распределения вероятностей , из которого прямая выборка затруднена. Новые выборки добавляются в последовательность в два этапа: сначала предлагается новая выборка на основе предыдущей выборки, затем предложенная выборка либо добавляется в последовательность, либо отклоняется в зависимости от значения распределения вероятностей в этой точке. Полученная последовательность может быть использована для аппроксимации распределения (например, для генерации гистограммы ) или для вычисления интеграла (например, ожидаемого значения ).

Алгоритмы Метрополиса–Гастингса и другие алгоритмы MCMC обычно используются для выборки из многомерных распределений, особенно когда число измерений велико. Для одномерных распределений обычно существуют другие методы (например, адаптивная выборка с отклонением ), которые могут напрямую возвращать независимые выборки из распределения, и они свободны от проблемы автокоррелированных выборок, которая присуща методам MCMC.

История

Алгоритм назван частично в честь Николаса Метрополиса , первого соавтора статьи 1953 года под названием «Уравнение расчета состояний с помощью быстрых вычислительных машин» , написанной совместно с Арианной В. Розенблут , Маршаллом Розенблут , Августой Х. Теллер и Эдвардом Теллером . В течение многих лет алгоритм был известен просто как алгоритм Метрополиса . ^{[1] [2]} В статье был предложен алгоритм для случая симметричных распределений предложений, но в 1970 году У. К. Гастингс расширил его на более общий случай. ^[3] Обобщенный метод в конечном итоге был идентифицирован обоими названиями, хотя первое использование термина «алгоритм Метрополиса-Гастингса» неясно.

Существуют некоторые разногласия относительно заслуги в разработке алгоритма Метрополиса. Метрополис, который был знаком с вычислительными аспектами метода, ввел термин «Монте-Карло» в более ранней статье со Станиславом Уламом и возглавлял группу в Теоретическом отделе, которая спроектировала и построила компьютер MANIAC I, использовавшийся в экспериментах в 1952 году. Однако до 2003 года не было подробного отчета о разработке алгоритма. Незадолго до своей смерти Маршалл Розенблут посетил конференцию 2003 года в LANL, посвященную 50-летию публикации 1953 года. На этой конференции Розенблут описал алгоритм и его развитие в презентации под названием «Генезис алгоритма Монте-Карло для статистической механики». ^[4] Дальнейшие исторические разъяснения сделаны Губернатисом в журнальной статье 2005 года ^[5], в которой рассказывается о конференции, посвященной 50-летию. Розенблют ясно дает понять, что он и его жена Арианна выполнили эту работу, и что Metropolis не принимала никакого участия в разработке, кроме предоставления компьютерного времени.

Это противоречит рассказу Эдварда Теллера, который в своих мемуарах утверждает, что пять авторов статьи 1953 года работали вместе «днями (и ночами)». ^[6] Напротив, подробный рассказ Розенблута приписывает Теллеру решающее, но раннее предложение «использовать преимущества статистической механики и брать ансамблевые средние вместо того, чтобы следовать детальной кинематике ». Это, говорит Розенблут, заставило его задуматься об обобщенном подходе Монте-Карло — теме, которую, по его словам, он часто обсуждал с Джоном фон Нейманом . Арианна Розенблут рассказала (Губернатис в 2003 году), что Августа Теллер начала работу над компьютером, но что сама Арианна взяла ее на себя и написала код с нуля. В устной истории, записанной незадолго до его смерти, ^[7] Розенблут снова приписывает Теллеру постановку исходной проблемы, себе ее решение, а Арианне — программирование компьютера.

Описание

Алгоритм Метрополиса–Гастингса может извлекать выборки из любого распределения вероятностей с плотностью вероятности , при условии, что мы знаем функцию, пропорциональную плотности , и значения могут быть вычислены. Требование, что должно быть только пропорционально плотности, а не точно равно ей, делает алгоритм Метрополиса–Гастингса особенно полезным, поскольку он устраняет необходимость вычисления коэффициента нормализации плотности, что часто чрезвычайно сложно на практике. ${\displaystyle P(x)}$ ${\displaystyle f(x)}$ ${\displaystyle P}$ ${\displaystyle f(x)}$ ${\displaystyle f(x)}$

Алгоритм Метрополиса–Гастингса генерирует последовательность значений выборки таким образом, что по мере производства все большего количества значений выборки распределение значений все ближе приближается к желаемому распределению. Эти значения выборки производятся итеративно таким образом, что распределение следующей выборки зависит только от текущего значения выборки, что делает последовательность выборок цепью Маркова . В частности, на каждой итерации алгоритм предлагает кандидата для следующего значения выборки на основе текущего значения выборки. Затем с некоторой вероятностью кандидат либо принимается, и в этом случае значение-кандидат используется в следующей итерации, либо отклоняется, и в этом случае значение-кандидат отбрасывается, а текущее значение повторно используется в следующей итерации. Вероятность принятия определяется путем сравнения значений функции текущего и значения-кандидата выборки относительно желаемого распределения. ${\displaystyle f(x)}$

Метод, используемый для предложения новых кандидатов, характеризуется распределением вероятностей (иногда пишется ) нового предложенного образца с учетом предыдущего образца . Это называется плотностью предложения , функцией предложения или распределением скачков . Обычным выбором для является гауссово распределение с центром в , так что точки, близкие к , с большей вероятностью будут посещены следующими, превращая последовательность образцов в гауссовское случайное блуждание . В оригинальной статье Метрополиса и др. (1953) было предложено, чтобы было равномерным распределением, ограниченным некоторым максимальным расстоянием от . Возможны также более сложные функции предложения, такие как функции Гамильтона Монте-Карло , Ланжевена Монте-Карло или предобусловленного Кранка–Николсона . ${\displaystyle g(x\mid y)}$ ${\displaystyle Q(x\mid y)}$ ${\displaystyle x}$ ${\displaystyle y}$ ${\displaystyle g(x\mid y)}$ ${\displaystyle y}$ ${\displaystyle y}$ ${\displaystyle g(x\mid y)}$ ${\displaystyle y}$

В качестве иллюстрации ниже описан алгоритм Метрополиса — частный случай алгоритма Метрополиса–Гастингса, в котором функция предложения симметрична.

Алгоритм Метрополиса (симметричное распределение предложений)

Пусть будет функцией, пропорциональной желаемой функции плотности вероятности (т.е. целевому распределению) ^[a] . ${\displaystyle f(x)}$ ${\displaystyle P(x)}$

1. Инициализация: Выберите произвольную точку, которая будет первым наблюдением в выборке, и выберите функцию предложения . В этом разделе предполагается, что является симметричным; другими словами, он должен удовлетворять . ${\displaystyle x_{t}}$ ${\displaystyle g(x\mid y)}$ ${\displaystyle g}$ ${\displaystyle g(x\mid y)=g(y\mid x)}$
2. Для каждой итерации t :
   • Предложите кандидата для следующей выборки, выбрав его из распределения . ${\displaystyle x'}$ ${\displaystyle g(x'\mid x_{t})}$
   • Рассчитайте коэффициент принятия , который будет использоваться для принятия или отклонения кандидата ^[b] . Поскольку f пропорционален плотности P , мы имеем, что . ${\displaystyle \alpha =f(x')/f(x_{t})}$ ${\displaystyle \alpha =f(x')/f(x_{t})=P(x')/P(x_{t})}$
   • Принять или отклонить :
     • Генерация равномерного случайного числа . ${\displaystyle u\in [0,1]}$
     • Если , то примите кандидата, установив , ${\displaystyle u\leq \alpha }$ ${\displaystyle x_{t+1}=x'}$
     • Если , то отклонить кандидата и установить вместо него . ${\displaystyle u>\alpha }$ ${\displaystyle x_{t+1}=x_{t}}$

Этот алгоритм действует, случайным образом пытаясь перемещаться по пространству выборки, иногда принимая перемещения, а иногда оставаясь на месте. Обратите внимание, что коэффициент принятия указывает, насколько вероятен новый предложенный образец по отношению к текущему образцу в соответствии с распределением, плотность которого равна . Если мы попытаемся перейти в точку, которая более вероятна, чем существующая точка (т. е. точку в области с более высокой плотностью, соответствующую ), мы всегда примем перемещение. Однако если мы попытаемся перейти в менее вероятную точку, мы иногда будем отклонять перемещение, и чем больше относительное падение вероятности, тем больше вероятность, что мы отклоним новую точку. Таким образом, мы будем стремиться оставаться в (и возвращать большое количество образцов) областях с высокой плотностью , при этом лишь изредка посещая области с низкой плотностью. Интуитивно понятно, что именно поэтому этот алгоритм работает и возвращает образцы, которые следуют желаемому распределению с плотностью . ${\displaystyle \alpha }$ ${\displaystyle P(x)}$ ${\displaystyle P(x)}$ ${\displaystyle \alpha >1\geq u}$ ${\displaystyle P(x)}$ ${\displaystyle P(x)}$

По сравнению с алгоритмом, подобным адаптивной выборке с отклонением ^[8] , которая напрямую генерирует независимые выборки из распределения, алгоритмы Метрополиса–Гастингса и другие алгоритмы MCMC имеют ряд недостатков:

• Образцы автокоррелированы . Даже если в долгосрочной перспективе они правильно следуют , набор соседних образцов будет коррелировать друг с другом и не будет правильно отражать распределение. Это означает, что эффективные размеры выборки могут быть значительно ниже количества фактически взятых образцов, что приводит к большим ошибкам. ${\displaystyle P(x)}$
• Хотя цепь Маркова в конечном итоге сходится к желаемому распределению, начальные образцы могут следовать совсем другому распределению, особенно если начальная точка находится в области низкой плотности. В результате обычно необходим период обкатки ^[9] , когда начальное количество образцов отбрасывается.

С другой стороны, большинство простых методов выборки с отклонением страдают от « проклятия размерности », когда вероятность отклонения экспоненциально возрастает как функция количества измерений. Метод Метрополиса–Гастингса, наряду с другими методами MCMC, не имеет этой проблемы в такой степени и, таким образом, часто является единственным доступным решением, когда количество измерений распределения, подлежащего выборке, велико. В результате методы MCMC часто являются методами выбора для получения выборок из иерархических байесовских моделей и других статистических моделей с высокой размерностью, используемых в настоящее время во многих дисциплинах.

В многомерных распределениях классический алгоритм Метрополиса–Хастингса, описанный выше, включает выбор новой многомерной точки выборки. Когда число измерений велико, поиск подходящего распределения прыжков для использования может быть сложным, поскольку различные отдельные измерения ведут себя очень по-разному, а ширина прыжка (см. выше) должна быть «точно правильной» для всех измерений одновременно, чтобы избежать чрезмерно медленного смешивания. Альтернативный подход, который часто работает лучше в таких ситуациях, известный как выборка Гиббса , включает выбор новой выборки для каждого измерения отдельно от других, а не выборку выборки для всех измерений сразу. Таким образом, проблема выборки из потенциально высокоразмерного пространства будет сведена к набору проблем для выборки из малой размерности. ^[10] Это особенно применимо, когда многомерное распределение состоит из набора отдельных случайных величин , в которых каждая переменная обусловлена ​​только небольшим числом других переменных, как это имеет место в большинстве типичных иерархических моделей . Затем отдельные переменные выбираются по одной за раз, причем каждая переменная обусловлена ​​самыми последними значениями всех остальных. Для выбора этих отдельных образцов могут использоваться различные алгоритмы в зависимости от точной формы многомерного распределения: некоторые возможности включают методы адаптивной отбраковки , ^[8] алгоритм выборки Метрополиса с адаптивным отбраковкой, ^[11] простой одномерный шаг Метрополиса–Гастингса или срезовую выборку .

Формальное выведение

Целью алгоритма Метрополиса–Гастингса является генерация набора состояний в соответствии с желаемым распределением . Для достижения этого алгоритм использует марковский процесс , который асимптотически достигает уникального стационарного распределения ^{[ сломанный якорь ]} такого, что . ^[12] ${\displaystyle P(x)}$ ${\displaystyle \pi (x)}$ ${\displaystyle \pi (x)=P(x)}$

Марковский процесс однозначно определяется его вероятностями перехода , вероятностью перехода из любого заданного состояния в любое другое заданное состояние . Он имеет уникальное стационарное распределение , когда выполняются следующие два условия: ^[12] ${\displaystyle P(x'\mid x)}$ ${\displaystyle x}$ ${\displaystyle x'}$ ${\displaystyle \pi (x)}$

1. Существование стационарного распределения : должно существовать стационарное распределение . Достаточным, но не необходимым условием является детальное равновесие , которое требует, чтобы каждый переход был обратимым: для каждой пары состояний вероятность нахождения в состоянии и перехода в состояние должна быть равна вероятности нахождения в состоянии и перехода в состояние , . ${\displaystyle \pi (x)}$ ${\displaystyle x\to x'}$ ${\displaystyle x,x'}$ ${\displaystyle x}$ ${\displaystyle x'}$ ${\displaystyle x'}$ ${\displaystyle x}$ ${\displaystyle \pi (x)P(x'\mid x)=\pi (x')P(x\mid x')}$
2. Уникальность стационарного распределения : стационарное распределение должно быть уникальным. Это гарантируется эргодичностью марковского процесса, которая требует, чтобы каждое состояние (1) было апериодическим — система не возвращается в то же самое состояние через фиксированные интервалы; и (2) было положительно рекуррентным — ожидаемое число шагов для возврата в то же самое состояние конечно. ${\displaystyle \pi (x)}$

Алгоритм Метрополиса–Гастингса включает проектирование марковского процесса (путем построения вероятностей перехода), который удовлетворяет двум вышеуказанным условиям, так что его стационарное распределение выбирается равным . Вывод алгоритма начинается с условия детального баланса : ${\displaystyle \pi (x)}$ ${\displaystyle P(x)}$

${\displaystyle P(x'\mid x)P(x)=P(x\mid x')P(x'),}$

который переписывается как

${\displaystyle {\frac {P(x'\mid x)}{P(x\mid x')}}={\frac {P(x')}{P(x)}}.}$

Подход заключается в разделении перехода на два подшага: предложение и принятие-отклонение. Распределение предложения — это условная вероятность предложения состояния при заданном , а распределение принятия — это вероятность принятия предложенного состояния . Вероятность перехода можно записать как их произведение: ${\displaystyle g(x'\mid x)}$ ${\displaystyle x'}$ ${\displaystyle x}$ ${\displaystyle A(x',x)}$ ${\displaystyle x'}$

${\displaystyle P(x'\mid x)=g(x'\mid x)A(x',x).}$

Подставляя это соотношение в предыдущее уравнение, имеем

${\displaystyle {\frac {A(x',x)}{A(x,x')}}={\frac {P(x')}{P(x)}}{\frac {g(x\mid x')}{g(x'\mid x)}}.}$

Следующий шаг в выводе — выбрать коэффициент принятия, который удовлетворяет условию выше. Одним из распространенных вариантов является выбор Metropolis:

${\displaystyle A(x',x)=\min \left(1,{\frac {P(x')}{P(x)}}{\frac {g(x\mid x')}{g(x'\mid x)}}\right).}$

Для данного коэффициента принятия Metropolis условие выполняется либо либо , либо. ${\displaystyle A}$ ${\displaystyle A(x',x)=1}$ ${\displaystyle A(x,x')=1}$

Таким образом, алгоритм Метрополиса–Гастингса можно записать следующим образом:

1. Инициализировать
   1. Выберите начальное состояние . ${\displaystyle x_{0}}$
   2. Набор . ${\displaystyle t=0}$
2. Итерировать
   1. Сгенерировать случайное состояние-кандидат в соответствии с . ${\displaystyle x'}$ ${\displaystyle g(x'\mid x_{t})}$
   2. Рассчитайте вероятность принятия . ${\displaystyle A(x',x_{t})=\min \left(1,{\frac {P(x')}{P(x_{t})}}{\frac {g(x_{t}\mid x')}{g(x'\mid x_{t})}}\right)}$
   3. Принять или отклонить :
      1. сгенерировать равномерное случайное число ; ${\displaystyle u\in [0,1]}$
      2. если , то принять новое состояние и установить ; ${\displaystyle u\leq A(x',x_{t})}$ ${\displaystyle x_{t+1}=x'}$
      3. если , то отклонить новое состояние и скопировать старое состояние вперед . ${\displaystyle u>A(x',x_{t})}$ ${\displaystyle x_{t+1}=x_{t}}$
   4. Приращение : установлено . ${\displaystyle t=t+1}$

При условии выполнения указанных условий эмпирическое распределение сохраненных состояний будет приближаться к . Количество итераций ( ), требуемых для эффективной оценки , зависит от количества факторов, включая связь между и распределением предложения и желаемой точностью оценки. ^[13] Для распределения в дискретных пространствах состояний оно должно быть порядка времени автокорреляции марковского процесса. ^[14] ${\displaystyle x_{0},\ldots ,x_{T}}$ ${\displaystyle P(x)}$ ${\displaystyle T}$ ${\displaystyle P(x)}$ ${\displaystyle P(x)}$

Важно отметить, что в общей задаче неясно, какое распределение следует использовать или какое количество итераций необходимо для правильной оценки; оба параметра являются свободными параметрами метода, которые необходимо подбирать под конкретную рассматриваемую задачу. ${\displaystyle g(x'\mid x)}$

Использование в численном интегрировании

Распространенное использование алгоритма Метрополиса–Гастингса — вычисление интеграла. В частности, рассмотрим пространство и распределение вероятностей по , . Метрополис–Гастингс может оценить интеграл вида ${\displaystyle \Omega \subset \mathbb {R} }$ ${\displaystyle P(x)}$ ${\displaystyle \Omega }$ ${\displaystyle x\in \Omega }$

${\displaystyle P(E)=\int _{\Omega }A(x)P(x)\,dx,}$

где — (измеримая) функция интереса. ${\displaystyle A(x)}$

Например, рассмотрим статистику и ее распределение вероятностей , которое является маргинальным распределением . Предположим, что цель состоит в оценке для на хвосте . Формально можно записать как ${\displaystyle E(x)}$ ${\displaystyle P(E)}$ ${\displaystyle P(E)}$ ${\displaystyle E}$ ${\displaystyle P(E)}$ ${\displaystyle P(E)}$

${\displaystyle P(E)=\int _{\Omega }P(E\mid x)P(x)\,dx=\int _{\Omega }\delta {\big (}E-E(x){\big )}P(x)\,dx=E{\big (}P(E\mid X){\big )}}$

и, таким образом, оценка может быть выполнена путем оценки ожидаемого значения индикаторной функции , которая равна 1, когда и нулю в противном случае. Поскольку находится на хвосте , вероятность нарисовать состояние с на хвосте пропорциональна , что мало по определению. Алгоритм Метрополиса–Гастингса может быть использован здесь для выборки (редких) состояний с большей вероятностью и, таким образом, увеличения количества выборок, используемых для оценки на хвостах. Это можно сделать, например, с помощью распределения выборки в пользу этих состояний (например, с ). ${\displaystyle P(E)}$ ${\displaystyle A_{E}(x)\equiv \mathbf {1} _{E}(x)}$ ${\displaystyle E(x)\in [E,E+\Delta E]}$ ${\displaystyle E}$ ${\displaystyle P(E)}$ ${\displaystyle x}$ ${\displaystyle E(x)}$ ${\displaystyle P(E)}$ ${\displaystyle P(E)}$ ${\displaystyle P(E)}$ ${\displaystyle \pi (x)}$ ${\displaystyle \pi (x)\propto e^{aE}}$ ${\displaystyle a>0}$

Пошаговые инструкции

Три цепи Маркова, работающие на 3D- функции Розенброка с использованием алгоритма Метрополиса–Гастингса. Цепи сходятся и смешиваются в области, где функция высока. Примерное положение максимума было подсвечено. Красные точки — это те, которые остались после процесса выжигания. Более ранние были отброшены.

Предположим, что последнее выбранное значение равно . Чтобы следовать алгоритму Метрополиса–Гастингса, мы далее рисуем новое состояние предложения с плотностью вероятности и вычисляем значение ${\displaystyle x_{t}}$ ${\displaystyle x'}$ ${\displaystyle g(x'\mid x_{t})}$

${\displaystyle a=a_{1}a_{2},}$

где

${\displaystyle a_{1}={\frac {P(x')}{P(x_{t})}}}$

- это вероятностное (например, байесовское апостериорное) отношение между предлагаемым образцом и предыдущим образцом , и ${\displaystyle x'}$ ${\displaystyle x_{t}}$

${\displaystyle a_{2}={\frac {g(x_{t}\mid x')}{g(x'\mid x_{t})}}}$

- отношение плотности предложения в двух направлениях (от к и обратно). Оно равно 1, если плотность предложения симметрична. Тогда новое состояние выбирается в соответствии со следующими правилами. ${\displaystyle x_{t}}$ ${\displaystyle x'}$ ${\displaystyle x_{t+1}}$

Если ${\displaystyle a\geq 1{:}}$

${\displaystyle x_{t+1}=x',}$

еще:

${\displaystyle x_{t+1}={\begin{cases}x'&{\text{with probability }}a,\\x_{t}&{\text{with probability }}1-a.\end{cases}}}$

Цепь Маркова запускается с произвольного начального значения , и алгоритм выполняется в течение многих итераций, пока это начальное состояние не будет «забыто». Эти образцы, которые отбрасываются, известны как burn-in . Оставшийся набор принятых значений представляет собой образец из распределения . ${\displaystyle x_{0}}$ ${\displaystyle x}$ ${\displaystyle P(x)}$

Алгоритм работает лучше всего, если плотность предложения соответствует форме целевого распределения , из которого прямая выборка затруднена, то есть . Если используется гауссовская плотность предложения , параметр дисперсии должен быть настроен в течение периода обкатки. Обычно это делается путем вычисления скорости принятия , которая является долей предложенных образцов, которая принимается в окне последних образцов. Желаемая скорость принятия зависит от целевого распределения, однако было теоретически показано, что идеальная скорость принятия для одномерного гауссовского распределения составляет около 50%, уменьшаясь до около 23% для -мерного гауссова целевого распределения. ^[15] Эти руководящие принципы могут хорошо работать при выборке из достаточно регулярных байесовских апостериорных данных, поскольку они часто следуют многомерному нормальному распределению, что можно установить с помощью теоремы Бернштейна-фон Мизеса . ^[16] ${\displaystyle P(x)}$ ${\displaystyle g(x'\mid x_{t})\approx P(x')}$ ${\displaystyle g}$ ${\displaystyle \sigma ^{2}}$ ${\displaystyle N}$ ${\displaystyle N}$

Если слишком мало, цепь будет перемешиваться медленно (т. е. скорость принятия будет высокой, но последовательные образцы будут медленно перемещаться по пространству, и цепь будет сходиться только медленно к ). С другой стороны, если слишком велико, скорость принятия будет очень низкой, поскольку предложения, скорее всего, попадут в области с гораздо более низкой плотностью вероятности, поэтому будет очень малым, и снова цепь будет сходиться очень медленно. Обычно распределение предложений настраивается таким образом, чтобы алгоритмы принимали порядка 30% всех образцов — в соответствии с теоретическими оценками, упомянутыми в предыдущем абзаце. ${\displaystyle \sigma ^{2}}$ ${\displaystyle P(x)}$ ${\displaystyle \sigma ^{2}}$ ${\displaystyle a_{1}}$

Байесовский вывод

MCMC можно использовать для получения выборок из апостериорного распределения статистической модели. Вероятность принятия определяется как: где — вероятность , априорная плотность вероятности и (условная) вероятность предложения. ${\displaystyle P_{acc}(\theta _{i}\to \theta ^{*})=\min \left(1,{\frac {{\mathcal {L}}(y|\theta ^{*})P(\theta ^{*})}{{\mathcal {L}}(y|\theta _{i})P(\theta _{i})}}{\frac {Q(\theta _{i}|\theta ^{*})}{Q(\theta ^{*}|\theta _{i})}}\right),}$ ${\displaystyle {\mathcal {L}}}$ ${\displaystyle P(\theta )}$ ${\displaystyle Q}$

Смотрите также

• Генетические алгоритмы
• Методы частиц среднего поля
• Метрополис легкий транспорт
• Метрополис с множественными попытками
• Параллельная закалка
• Последовательный Монте-Карло
• Имитация отжига

Ссылки

1. Калос, Малвин Х.; Уитлок, Паула А. (1986). Методы Монте-Карло, том I: Основы . Нью-Йорк: Wiley. С. 78–88.
2. Тирни, Люк (1994). «Цепи Маркова для исследования апостериорных распределений». Анналы статистики . 22 (4): 1701–1762. doi :10.1214/aos/1176325750.
3. Hastings, WK (1970). «Методы выборки Монте-Карло с использованием цепей Маркова и их применение». Biometrika . 57 (1): 97–109. Bibcode : 1970Bimka..57...97H. doi : 10.1093/biomet/57.1.97. JSTOR  2334940. Zbl  0219.65008.
4. MN Rosenbluth (2003). «Происхождение алгоритма Монте-Карло для статистической механики». Труды конференции AIP . 690 : 22–30. Bibcode : 2003AIPC..690...22R. doi : 10.1063/1.1632112.
5. JE Gubernatis (2005). "Маршалл Розенблут и алгоритм Метрополиса". Физика плазмы . 12 (5): 057303. Bibcode : 2005PhPl...12e7303G. doi : 10.1063/1.1887186.
6. Теллер, Эдвард. Мемуары: Путешествие в науку и политику двадцатого века . Perseus Publishing , 2001, стр. 328
7. Розенблют, Маршалл. «Устная история стенограммы». Американский институт физики
8. Gilks, WR; Wild, P. (1992-01-01). «Адаптивная отбраковка выборки для выборки Гиббса». Журнал Королевского статистического общества. Серия C (Прикладная статистика) . 41 (2): 337–348. doi :10.2307/2347565. JSTOR  2347565.
9. Байесовский анализ данных . Гельман, Эндрю (2-е изд.). Бока-Ратон, Флорида: Chapman & Hall / CRC. 2004. ISBN 978-1584883883. OCLC  51991499.{{cite book}}: CS1 maint: others (link)
10. Ли, Се Юн (2021). «Сэмплер Гиббса и вариационный вывод с восхождением координат: обзор теории множеств». Communications in Statistics - Theory and Methods . 51 (6): 1549–1568. arXiv : 2008.01006 . doi : 10.1080/03610926.2021.1921214. S2CID  220935477.
11. Gilks, WR; Best, NG ; Tan, KKC (1995-01-01). «Адаптивное отклонение выборки метрополии в выборке Гиббса». Журнал Королевского статистического общества. Серия C (Прикладная статистика) . 44 (4): 455–472. doi :10.2307/2986138. JSTOR  2986138.
12. Роберт, Кристиан; Каселла, Джордж (2004). Статистические методы Монте-Карло. Springer. ISBN 978-0387212395.
13. Рафтери, Адриан Э. и Стивен Льюис. «Сколько итераций в сэмплере Гиббса?» в Bayesian Statistics 4. 1992.
14. Ньюман, MEJ; Баркема, GT (1999). Методы Монте-Карло в статистической физике . США: Издательство Оксфордского университета. ISBN 978-0198517979.
15. Робертс, GO; Гельман, А.; Гилкс, В.Р. (1997). «Слабая сходимость и оптимальное масштабирование алгоритмов случайного блуждания Метрополиса». Ann. Appl. Probab. 7 (1): 110–120. CiteSeerX 10.1.1.717.2582 . doi :10.1214/aoap/1034625254.  
16. Шмон, Себастьян М.; Ганьон, Филипп (2022-04-15). «Оптимальное масштабирование алгоритмов случайного блуждания Метрополиса с использованием байесовской асимптотики большой выборки». Статистика и вычисления . 32 (2): 28. doi :10.1007/s11222-022-10080-8. ISSN  0960-3174. PMC 8924149. PMID 35310543  . 

Примечания

1. В оригинальной статье Метрополиса и др. (1953) рассматривалось распределение Больцмана , поскольку конкретным рассматриваемым приложением было интегрирование уравнений состояния методом Монте-Карло в физической химии ; расширение Гастингса было обобщено на произвольное распределение . ${\displaystyle f}$ ${\displaystyle f}$
2. В оригинальной статье Метрополиса и др. (1953) фактически было распределением Больцмана , поскольку оно применялось к физическим системам в контексте статистической механики (например, распределение микросостояний с максимальной энтропией для заданной температуры при тепловом равновесии). Следовательно, отношение принятия само по себе было экспоненциальной функцией разности параметров числителя и знаменателя этого отношения. ${\displaystyle f}$

Дальнейшее чтение

• Бернд А. Берг . Моделирование Монте-Карло на основе цепей Маркова и их статистический анализ . Сингапур, World Scientific , 2004.
• Чиб, Сиддхартха; Гринберг, Эдвард (1995). «Понимание алгоритма Метрополиса–Гастингса». Американский статистик , 49(4), 327–335.
• Дэвид Д. Л. Мин и До Ле Мин. «Понимание алгоритма Гастингса». Коммуникации в статистике — Моделирование и вычисления, 44:2 332–349, 2015
• Болстад, Уильям М. (2010) Понимание вычислительной байесовской статистики , John Wiley & Sons ISBN 0-470-04609-0