Фильтр частиц

Тип алгоритмов Монте-Карло для обработки сигналов и статистического вывода

Фильтры частиц, или последовательные методы Монте-Карло, представляют собой набор алгоритмов Монте-Карло , используемых для поиска приближенных решений задач фильтрации для нелинейных систем в пространстве состояний, таких как обработка сигналов и байесовский статистический вывод . ^[1] Задача фильтрации состоит в оценке внутренних состояний в динамических системах , когда производятся частичные наблюдения и случайные возмущения присутствуют как в датчиках, так и в динамической системе. Цель состоит в том, чтобы вычислить апостериорные распределения состояний марковского процесса , учитывая зашумленные и частичные наблюдения. Термин «фильтры частиц» был впервые введен в 1996 году Пьером Дель Моралем в отношении методов взаимодействия частиц среднего поля, используемых в механике жидкостей с начала 1960-х годов. ^[2] Термин «последовательный Монте-Карло» был введен Цзюнь С. Лю и Ронг Ченом в 1998 году. ^[3]

Фильтрация частиц использует набор частиц (также называемых выборками) для представления апостериорного распределения стохастического процесса с учетом шумных и/или частичных наблюдений. Модель пространства состояний может быть нелинейной, а начальное состояние и распределение шума могут принимать любую требуемую форму. Методы фильтрации частиц предоставляют хорошо зарекомендовавшую себя методологию ^{[2] [4] [5]} для генерации выборок из требуемого распределения без необходимости предположений о модели пространства состояний или распределениях состояний. Однако эти методы не работают хорошо при применении к очень высокоразмерным системам.

Фильтры частиц обновляют свои прогнозы приблизительным (статистическим) образом. Выборки из распределения представлены набором частиц; каждой частице присвоен вес правдоподобия, который представляет вероятность того , что эта частица будет выбрана из функции плотности вероятности . Несоответствие веса, приводящее к коллапсу веса, является распространенной проблемой, встречающейся в этих алгоритмах фильтрации. Однако ее можно смягчить, включив шаг повторной выборки до того, как веса станут неравномерными. Можно использовать несколько адаптивных критериев повторной выборки, включая дисперсию весов и относительную энтропию относительно равномерного распределения. ^[6] На шаге повторной выборки частицы с незначительными весами заменяются новыми частицами, находящимися поблизости от частиц с более высокими весами.

С точки зрения статистики и вероятности фильтры частиц можно интерпретировать как интерпретации частиц среднего поля вероятностных мер Фейнмана-Каца . ^{[7] [8] [9] [10] [11]} Эти методы интеграции частиц были разработаны в молекулярной химии и вычислительной физике Теодором Э. Харрисом и Германом Каном в 1951 году, Маршаллом Н. Розенблютом и Арианной В. Розенблют в 1955 году, ^[12] и совсем недавно Джеком Х. Хетерингтоном в 1984 году. ^[13] В вычислительной физике эти методы интеграции частиц по траектории типа Фейнмана-Каца также используются в квантовом Монте-Карло и, более конкретно, в методах диффузионного Монте-Карло . ^{[14] [15] [16]} Методы взаимодействующих частиц Фейнмана-Каца также тесно связаны с генетическими алгоритмами мутационного отбора, которые в настоящее время используются в эволюционных вычислениях для решения сложных задач оптимизации.

Методология фильтра частиц используется для решения задач скрытой марковской модели (HMM) и нелинейной фильтрации . За исключением линейно-гауссовых моделей наблюдения сигнала ( фильтр Калмана ) или более широких классов моделей (фильтр Бенеша ^[17] ), Мирей Шалейя-Морель и Доминик Мишель доказали в 1984 году, что последовательность апостериорных распределений случайных состояний сигнала, заданных наблюдениями (также известная как оптимальный фильтр), не имеет конечной рекурсии. ^[18] Различные другие численные методы, основанные на фиксированных сеточных аппроксимациях, методах Монте-Карло с цепями Маркова , обычной линеаризации, расширенных фильтрах Калмана или определении наилучшей линейной системы (в смысле ожидаемой стоимости-ошибки), не способны справиться с крупномасштабными системами, нестабильными процессами или недостаточно гладкими нелинейностями.

Фильтры частиц и методологии частиц Фейнмана-Каца находят применение в обработке сигналов и изображений , байесовском выводе , машинном обучении , анализе рисков и выборке редких событий , инжиниринге и робототехнике , искусственном интеллекте , биоинформатике , ^[19] филогенетике , вычислительной науке , экономике и математических финансах , молекулярной химии , вычислительной физике , фармакокинетике , количественном риске и страховании ^{[20] [21]} и других областях.

История

Эвристические алгоритмы

С точки зрения статистики и вероятности фильтры частиц относятся к классу алгоритмов ветвящегося / генетического типа и методологий взаимодействующих частиц среднего поля. Интерпретация этих методов частиц зависит от научной дисциплины. В эволюционных вычислениях методологии частиц среднего поля генетического типа часто используются как эвристические и естественные алгоритмы поиска (также известные как метаэвристические ). В вычислительной физике и молекулярной химии они используются для решения задач интегрирования путей Фейнмана-Каца или для вычисления мер Больцмана-Гиббса, верхних собственных значений и основных состояний операторов Шредингера . В биологии и генетике они представляют эволюцию популяции особей или генов в некоторой среде.

Истоки эволюционных вычислительных методов среднего поля можно проследить до 1950 и 1954 годов с работой Алана Тьюринга по генетическим машинам обучения мутации-селекции ^[22] и статьями Нильса Алла Барричелли из Института перспективных исследований в Принстоне, штат Нью-Джерси . ^{[23] [24]} Первые следы фильтров частиц в статистической методологии относятся к середине 1950-х годов; «Монте-Карло для бедняков» ^[25] , предложенный Хаммерсли и др. в 1954 году, содержал намеки на методы фильтрации частиц генетического типа, используемые сегодня. В 1963 году Нильс Алл Барричелли смоделировал алгоритм генетического типа, чтобы имитировать способность людей играть в простую игру. ^[26] В литературе по эволюционным вычислениям алгоритмы мутационного отбора генетического типа стали популярными благодаря основополагающим работам Джона Холланда в начале 1970-х годов, в частности, его книге ^[27], опубликованной в 1975 году.

В «Биологии и генетике» австралийский генетик Алекс Фрейзер также опубликовал в 1957 году серию статей о генетическом моделировании типа искусственного отбора организмов. ^[28] Компьютерное моделирование эволюции биологами стало более распространенным в начале 1960-х годов, и методы были описаны в книгах Фрейзера и Бернелла (1970) ^[29] и Кросби (1973). ^[30] Моделирование Фрейзера включало все основные элементы современных алгоритмов мутационного отбора генетических частиц.

С математической точки зрения условное распределение случайных состояний сигнала при наличии некоторых частичных и зашумленных наблюдений описывается вероятностью Фейнмана-Каца на случайных траекториях сигнала, взвешенных последовательностью функций потенциала правдоподобия. ^{[7] [8]} Квантовый Монте-Карло и, более конкретно, диффузионные методы Монте-Карло также можно интерпретировать как приближение частиц генетического типа среднего поля интегралов по траекториям Фейнмана-Каца. ^{[7] [8] [9] [13] [14] [31] [32]} Истоки квантовых методов Монте-Карло часто приписываются Энрико Ферми и Роберту Рихтмайеру, которые в 1948 году разработали интерпретацию частиц среднего поля для нейтронных цепных реакций, ^[33] но первый эвристический и генетический алгоритм частиц (также известный как методы Монте-Карло с повторной выборкой или реконфигурацией) для оценки энергий основного состояния квантовых систем (в моделях с редуцированной матрицей) принадлежит Джеку Х. Хетерингтону в 1984 году. ^[13] Можно также процитировать более ранние основополагающие работы Теодора Э. Харриса и Германа Кана по физике элементарных частиц, опубликованные в 1951 году, в которых использовались методы среднего поля, но эвристические генетические методы для оценки энергий передачи частиц. ^[34] В молекулярной химии использование генетических эвристических методологий частиц (также известных как стратегии обрезки и обогащения) можно проследить до 1955 года, когда была опубликована основополагающая работа Маршалла Н. Розенблута и Арианны В. Розенблута. ^[12]

Использование генетических алгоритмов частиц в расширенной обработке сигналов и байесовском выводе появилось позднее. В январе 1993 года Генширо Китагава разработал «фильтр Монте-Карло» ^[35] , слегка измененная версия этой статьи появилась в 1996 году. ^[36] В апреле 1993 года Гордон и др. опубликовали в своей основополагающей работе ^[37] применение алгоритма генетического типа в байесовском статистическом выводе. Авторы назвали свой алгоритм «бутстрап-фильтром» и продемонстрировали, что по сравнению с другими методами фильтрации их бутстрап-алгоритм не требует никаких предположений о пространстве состояний или шуме системы. Независимо от этого, работы Пьера Дель Мораля ^[2] и Химилькона Карвальо, Пьера Дель Мораля, Андре Монена и Жерара Салюта ^[38] по фильтрам частиц были опубликованы в середине 1990-х годов. Фильтры частиц также были разработаны в обработке сигналов в начале 1989-1992 гг. П. Дель Моралем, Ж. К. Нойером, Г. Ригалом и Г. Салютом в LAAS-CNRS в серии ограниченных и секретных исследовательских отчетов с STCAN (Service Technique des Constructions et Armes Navales), ИТ-компанией DIGILOG и LAAS-CNRS (Лабораторией анализа и архитектуры систем) по проблемам обработки сигналов RADAR/SONAR и GPS. ^{[39] [40] [41] [42] [43] [44]}

Математические основы

С 1950 по 1996 год все публикации по фильтрам частиц и генетическим алгоритмам, включая методы Монте-Карло с отсечением и повторной выборкой, введенные в вычислительную физику и молекулярную химию, представляли собой естественные и эвристические алгоритмы, применяемые к различным ситуациям, без единого доказательства их согласованности или обсуждения смещения оценок, а также генеалогических и основанных на родовых деревьях алгоритмов.

Математические основы и первый строгий анализ этих алгоритмов частиц были предложены Пьером Дель Моралем ^{[2] [4]} в 1996 году. Статья ^[2] также содержит доказательство несмещенных свойств аппроксимации частиц функций правдоподобия и ненормализованных условных мер вероятности. Несмещенная оценка частиц функций правдоподобия, представленная в этой статье, используется сегодня в байесовском статистическом выводе.

Дэн Крисан, Джессика Гейнс и Терри Лайонс ^{[45] [46] [47],} а также Пьер Дель Мораль и Терри Лайонс ^[48] создали методы частиц ветвящегося типа с различными размерами популяции примерно в конце 1990-х годов. П. Дель Мораль, А. Гионне и Л. Микло ^{[8] [49] [50]} добились большего прогресса в этой области в 2000 году. Пьер Дель Мораль и Элис Гионне ^[51] доказали первые центральные предельные теоремы в 1999 году, а Пьер Дель Мораль и Лоран Микло ^[8] доказали их в 2000 году. Первые результаты равномерной сходимости, касающиеся параметра времени для фильтров частиц, были получены в конце 1990-х годов Пьером Дель Моралем и Элис Гионне. ^{[49] [50]} Первый строгий анализ генеалогических древовидных сглаживающих фильтров частиц был проведен П. Дель Моралом и Л. Микло в 2001 году ^[52]

Теория методологий частиц Фейнмана-Каца и связанных с ними алгоритмов фильтрации частиц была разработана в книгах 2000 и 2004 годов. ^{[8] [5]} Эти абстрактные вероятностные модели включают в себя алгоритмы генетического типа, фильтры частиц и бутстреп-фильтры, взаимодействующие фильтры Калмана (также известные как фильтр частиц Рао-Блэквелла ^[53] ), методы фильтрации частиц в стиле выборки по важности и повторной выборки, включая основанные на генеалогическом дереве и обратные методологии частиц для решения задач фильтрации и сглаживания. Другие классы методологий фильтрации частиц включают в себя модели на основе генеалогического дерева, ^{[10] [5] [54]} обратные модели частиц Маркова, ^{[10] [55]} адаптивные модели частиц среднего поля, ^[6] модели частиц островного типа, ^{[56] [57]} методологии Монте-Карло с цепями Маркова для частиц, ^{[58] [59]} последовательные сэмплеры Монте-Карло ^{[60] [61] [62]} и последовательные методы приближенных байесовских вычислений Монте-Карло ^[63] и последовательный байесовский бутстрап на основе ABC Монте-Карло. ^[64]

Проблема фильтрации

Цель

Целью фильтра частиц является оценка апостериорной плотности переменных состояния при заданных переменных наблюдения. Фильтр частиц предназначен для использования со скрытой марковской моделью , в которой система включает как скрытые, так и наблюдаемые переменные. Наблюдаемые переменные (процесс наблюдения) связаны со скрытыми переменными (процесс состояния) через известную функциональную форму. Аналогично, вероятностное описание динамической системы, определяющей эволюцию переменных состояния, известно.

Общий фильтр частиц оценивает апостериорное распределение скрытых состояний, используя процесс измерения наблюдения. Относительно пространства состояний, такого как показано ниже:

${\displaystyle {\begin{array}{cccccccccc}X_{0}&\to &X_{1}&\to &X_{2}&\to &X_{3}&\to &\cdots &{\text{signal}}\\\downarrow &&\downarrow &&\downarrow &&\downarrow &&\cdots &\\Y_{0}&&Y_{1}&&Y_{2}&&Y_{3}&&\cdots &{\text{observation}}\end{array}}}$

Задача фильтрации заключается в последовательной оценке значений скрытых состояний , учитывая значения процесса наблюдения на любом временном шаге k . ${\displaystyle X_{k}}$ ${\displaystyle Y_{0},\cdots ,Y_{k},}$

Все байесовские оценки следуют из апостериорной плотности . Методология фильтра частиц обеспечивает аппроксимацию этих условных вероятностей с использованием эмпирической меры, связанной с алгоритмом частиц генетического типа. Напротив, подход Монте-Карло Маркова или выборки по важности будет моделировать полную апостериорную . ${\displaystyle X_{k}}$ ${\displaystyle p(x_{k}|y_{0},y_{1},...,y_{k})}$ ${\displaystyle p(x_{0},x_{1},...,x_{k}|y_{0},y_{1},...,y_{k})}$

Модель «Сигнал-Наблюдение»

Методы частиц часто предполагают , и наблюдения можно моделировать в следующей форме: ${\displaystyle X_{k}}$ ${\displaystyle Y_{k}}$

• ${\displaystyle X_{0},X_{1},\cdots }$является марковский процесс на (для некоторых ), который развивается в соответствии с плотностью вероятности перехода . Эта модель также часто записывается синтетическим способом как ${\displaystyle \mathbb {R} ^{d_{x}}}$ ${\displaystyle d_{x}\geqslant 1}$ ${\displaystyle p(x_{k}|x_{k-1})}$

  ${\displaystyle X_{k}|X_{k-1}=x_{k}\sim p(x_{k}|x_{k-1})}$

с начальной плотностью вероятности . ${\displaystyle p(x_{0})}$

• Наблюдения принимают значения в некотором пространстве состояний на (для некоторых ) и являются условно независимыми при условии, что известны. Другими словами, каждое зависит только от . Кроме того, мы предполагаем, что условное распределение для заданных является абсолютно непрерывным, и в синтетическом смысле мы имеем ${\displaystyle Y_{0},Y_{1},\cdots }$ ${\displaystyle \mathbb {R} ^{d_{y}}}$ ${\displaystyle d_{y}\geqslant 1}$ ${\displaystyle X_{0},X_{1},\cdots }$ ${\displaystyle Y_{k}}$ ${\displaystyle X_{k}}$ ${\displaystyle Y_{k}}$ ${\displaystyle X_{k}=x_{k}}$

  ${\displaystyle Y_{k}|X_{k}=y_{k}\sim p(y_{k}|x_{k})}$

Пример системы с такими свойствами:

${\displaystyle X_{k}=g(X_{k-1})+W_{k-1}}$

${\displaystyle Y_{k}=h(X_{k})+V_{k}}$

где и являются взаимно независимыми последовательностями с известными функциями плотности вероятности , а g и h являются известными функциями. Эти два уравнения можно рассматривать как уравнения пространства состояний , и они выглядят аналогично уравнениям пространства состояний для фильтра Калмана. Если функции g и h в приведенном выше примере линейны, и если и являются гауссовыми , фильтр Калмана находит точное распределение байесовской фильтрации. В противном случае методы на основе фильтра Калмана являются приближением первого порядка ( EKF ) или приближением второго порядка ( UKF в общем случае, но если распределение вероятностей является гауссовым, возможно приближение третьего порядка). ${\displaystyle W_{k}}$ ${\displaystyle V_{k}}$ ${\displaystyle W_{k}}$ ${\displaystyle V_{k}}$

Предположение о том, что начальное распределение и переходы цепи Маркова непрерывны для меры Лебега, можно ослабить. Для проектирования фильтра частиц нам просто нужно предположить, что мы можем сделать выборку переходов цепи Маркова и вычислить функцию правдоподобия (см., например, описание мутации генетического отбора фильтра частиц, приведенное ниже). Непрерывное предположение о переходах Маркова используется только для вывода неформальным (и довольно оскорбительным) способом различных формул между апостериорными распределениями с использованием правила Байеса для условных плотностей. ${\displaystyle X_{k-1}\to X_{k}}$ ${\displaystyle X_{k},}$ ${\displaystyle x_{k}\mapsto p(y_{k}|x_{k})}$ ${\displaystyle X_{k}}$

Приблизительные байесовские модели вычислений

В некоторых задачах условное распределение наблюдений, учитывая случайные состояния сигнала, может не иметь плотности; последняя может быть невозможна или слишком сложна для вычисления. ^[19] В этой ситуации необходим дополнительный уровень аппроксимации. Одна из стратегий заключается в замене сигнала цепью Маркова и введении виртуального наблюдения в форме ${\displaystyle X_{k}}$ ${\displaystyle {\mathcal {X}}_{k}=\left(X_{k},Y_{k}\right)}$

${\displaystyle {\mathcal {Y}}_{k}=Y_{k}+\epsilon {\mathcal {V}}_{k}\quad {\mbox{for some parameter}}\quad \epsilon \in [0,1]}$

для некоторой последовательности независимых случайных величин с известными функциями плотности вероятности . Основная идея заключается в наблюдении, что ${\displaystyle {\mathcal {V}}_{k}}$

${\displaystyle {\text{Law}}\left(X_{k}|{\mathcal {Y}}_{0}=y_{0},\cdots ,{\mathcal {Y}}_{k}=y_{k}\right)\approx _{\epsilon \downarrow 0}{\text{Law}}\left(X_{k}|Y_{0}=y_{0},\cdots ,Y_{k}=y_{k}\right)}$

Фильтр частиц, связанный с марковским процессом, учитывая частичные наблюдения , определяется в терминах частиц, эволюционирующих с функцией правдоподобия, заданной с некоторыми очевидными оскорбительными обозначениями как . Эти вероятностные методы тесно связаны с приближенными байесовскими вычислениями (ABC). В контексте фильтров частиц эти методы фильтрации частиц ABC были введены в 1998 году П. Дель Моралем, Дж. Жакодом и П. Проттером. ^[65] Они были далее развиты П. Дель Моралем, А. Дусе и А. Ясрой. ^{[66] [67]} ${\displaystyle {\mathcal {X}}_{k}=\left(X_{k},Y_{k}\right)}$ ${\displaystyle {\mathcal {Y}}_{0}=y_{0},\cdots ,{\mathcal {Y}}_{k}=y_{k},}$ ${\displaystyle \mathbb {R} ^{d_{x}+d_{y}}}$ ${\displaystyle p({\mathcal {Y}}_{k}|{\mathcal {X}}_{k})}$

Уравнение нелинейной фильтрации

Правило Байеса для условной вероятности дает:

${\displaystyle p(x_{0},\cdots ,x_{k}|y_{0},\cdots ,y_{k})={\frac {p(y_{0},\cdots ,y_{k}|x_{0},\cdots ,x_{k})p(x_{0},\cdots ,x_{k})}{p(y_{0},\cdots ,y_{k})}}}$

где

${\displaystyle {\begin{aligned}p(y_{0},\cdots ,y_{k})&=\int p(y_{0},\cdots ,y_{k}|x_{0},\cdots ,x_{k})p(x_{0},\cdots ,x_{k})dx_{0}\cdots dx_{k}\\p(y_{0},\cdots ,y_{k}|x_{0},\cdots ,x_{k})&=\prod _{l=0}^{k}p(y_{l}|x_{l})\\p(x_{0},\cdots ,x_{k})&=p_{0}(x_{0})\prod _{l=1}^{k}p(x_{l}|x_{l-1})\end{aligned}}}$

Фильтры частиц также являются приближением, но при достаточном количестве частиц они могут быть гораздо более точными. ^{[2] [4] [5] [49] [50]} Уравнение нелинейной фильтрации задается рекурсией

с соглашением для k = 0. Задача нелинейной фильтрации состоит в последовательном вычислении этих условных распределений. ${\displaystyle p(x_{0}|y_{0},\cdots ,y_{k-1})=p(x_{0})}$

Формулировка Фейнмана-Каца

Фиксируем временной горизонт n и последовательность наблюдений , и для каждого k = 0, ..., n устанавливаем: ${\displaystyle Y_{0}=y_{0},\cdots ,Y_{n}=y_{n}}$

${\displaystyle G_{k}(x_{k})=p(y_{k}|x_{k}).}$

В этих обозначениях для любой ограниченной функции F на множестве траекторий от начала координат k = 0 до момента времени k = n имеем формулу Фейнмана-Каца ${\displaystyle X_{k}}$

${\displaystyle {\begin{aligned}\int F(x_{0},\cdots ,x_{n})p(x_{0},\cdots ,x_{n}|y_{0},\cdots ,y_{n})dx_{0}\cdots dx_{n}&={\frac {\int F(x_{0},\cdots ,x_{n})\left\{\prod \limits _{k=0}^{n}p(y_{k}|x_{k})\right\}p(x_{0},\cdots ,x_{n})dx_{0}\cdots dx_{n}}{\int \left\{\prod \limits _{k=0}^{n}p(y_{k}|x_{k})\right\}p(x_{0},\cdots ,x_{n})dx_{0}\cdots dx_{n}}}\\&={\frac {E\left(F(X_{0},\cdots ,X_{n})\prod \limits _{k=0}^{n}G_{k}(X_{k})\right)}{E\left(\prod \limits _{k=0}^{n}G_{k}(X_{k})\right)}}\end{aligned}}}$

Модели интеграции путей Фейнмана-Каца возникают в различных научных дисциплинах, включая вычислительную физику, биологию, теорию информации и компьютерные науки. ^{[8] [10] [5]} Их интерпретации зависят от области применения. Например, если мы выбираем индикаторную функцию некоторого подмножества пространства состояний, они представляют условное распределение цепи Маркова, учитывая, что она остается в данной трубке; то есть, мы имеем: ${\displaystyle G_{n}(x_{n})=1_{A}(x_{n})}$

${\displaystyle E\left(F(X_{0},\cdots ,X_{n})|X_{0}\in A,\cdots ,X_{n}\in A\right)={\frac {E\left(F(X_{0},\cdots ,X_{n})\prod \limits _{k=0}^{n}G_{k}(X_{k})\right)}{E\left(\prod \limits _{k=0}^{n}G_{k}(X_{k})\right)}}}$

и

${\displaystyle P\left(X_{0}\in A,\cdots ,X_{n}\in A\right)=E\left(\prod \limits _{k=0}^{n}G_{k}(X_{k})\right)}$

как только нормирующая константа станет строго положительной.

Фильтры для улавливания частиц

Генетический алгоритм частиц

Первоначально такой алгоритм начинается с N независимых случайных величин с общей плотностью вероятности . Генетический алгоритм переходов отбора-мутации ^{[2] [4]} ${\displaystyle \left(\xi _{0}^{i}\right)_{1\leqslant i\leqslant N}}$ ${\displaystyle p(x_{0})}$

${\displaystyle \xi _{k}:=\left(\xi _{k}^{i}\right)_{1\leqslant i\leqslant N}{\stackrel {\text{selection}}{\longrightarrow }}{\widehat {\xi }}_{k}:=\left({\widehat {\xi }}_{k}^{i}\right)_{1\leqslant i\leqslant N}{\stackrel {\text{mutation}}{\longrightarrow }}\xi _{k+1}:=\left(\xi _{k+1}^{i}\right)_{1\leqslant i\leqslant N}}$

имитировать/аппроксимировать переходы обновления-предсказания оптимальной эволюции фильтра ( Уравнение 1 ):

• В процессе перехода выборка-обновление мы выбираем N (условно) независимых случайных величин с общим (условным) распределением ${\displaystyle {\widehat {\xi }}_{k}:=\left({\widehat {\xi }}_{k}^{i}\right)_{1\leqslant i\leqslant N}}$

${\displaystyle \sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k}^{i})}{\sum _{j=1}^{N}p(y_{k}|\xi _{k}^{j})}}\delta _{\xi _{k}^{i}}(dx_{k})}$

где обозначает меру Дирака в заданном состоянии a. ${\displaystyle \delta _{a}}$

• Во время перехода мутация-предсказание, из каждой выбранной частицы мы независимо выбираем переход ${\displaystyle {\widehat {\xi }}_{k}^{i}}$

${\displaystyle {\widehat {\xi }}_{k}^{i}\longrightarrow \xi _{k+1}^{i}\sim p(x_{k+1}|{\widehat {\xi }}_{k}^{i}),\qquad i=1,\cdots ,N.}$

В приведенных выше формулах обозначает функцию правдоподобия, оцененную при , а обозначает условную плотность, оцененную при . ${\displaystyle p(y_{k}|\xi _{k}^{i})}$ ${\displaystyle x_{k}\mapsto p(y_{k}|x_{k})}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$ ${\displaystyle p(x_{k+1}|{\widehat {\xi }}_{k}^{i})}$ ${\displaystyle p(x_{k+1}|x_{k})}$ ${\displaystyle x_{k}={\widehat {\xi }}_{k}^{i}}$

В каждый момент времени k мы имеем приближения частиц

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{{\widehat {\xi }}_{k}^{i}}(dx_{k})\approx _{N\uparrow \infty }p(dx_{k}|y_{0},\cdots ,y_{k})\approx _{N\uparrow \infty }\sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k}^{i})}{\sum _{i=1}^{N}p(y_{k}|\xi _{k}^{j})}}\delta _{\xi _{k}^{i}}(dx_{k})}$

и

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k}^{i}}(dx_{k})\approx _{N\uparrow \infty }p(dx_{k}|y_{0},\cdots ,y_{k-1})}$

В сообществе генетических алгоритмов и эволюционных вычислений описанная выше цепь Маркова мутационного отбора часто называется генетическим алгоритмом с пропорциональным отбором. В статьях также предложено несколько вариантов ветвления, в том числе со случайными размерами популяции. ^{[5] [45] [48]}

Принципы Монте-Карло

Методы частиц, как и все подходы, основанные на выборке (например, Монте-Карло с цепями Маркова ), генерируют набор выборок, которые аппроксимируют плотность фильтрации.

${\displaystyle p(x_{k}|y_{0},\cdots ,y_{k}).}$

Например, у нас может быть N выборок из приблизительного апостериорного распределения , где выборки помечены верхними индексами следующим образом: ${\displaystyle X_{k}}$

${\displaystyle {\widehat {\xi }}_{k}^{1},\cdots ,{\widehat {\xi }}_{k}^{N}.}$

Тогда ожидания относительно распределения фильтрации аппроксимируются следующим образом:

с

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k})={\frac {1}{N}}\sum _{i=1}^{N}\delta _{{\widehat {\xi }}_{k}^{i}}(dx_{k})}$

где обозначает меру Дирака в заданном состоянии a. Функция f , обычным способом для Монте-Карло, может дать все моменты и т. д. распределения с точностью до некоторой погрешности аппроксимации. Когда уравнение аппроксимации ( Уравнение 2 ) удовлетворяется для любой ограниченной функции f , мы пишем ${\displaystyle \delta _{a}}$

${\displaystyle p(dx_{k}|y_{0},\cdots ,y_{k}):=p(x_{k}|y_{0},\cdots ,y_{k})dx_{k}\approx _{N\uparrow \infty }{\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k})={\frac {1}{N}}\sum _{i=1}^{N}\delta _{{\widehat {\xi }}_{k}^{i}}(dx_{k})}$

Фильтры частиц можно интерпретировать как генетический тип алгоритма частиц, развивающийся с мутацией и селекционными переходами. Мы можем отслеживать предковые линии

${\displaystyle \left({\widehat {\xi }}_{0,k}^{i},{\widehat {\xi }}_{1,k}^{i},\cdots ,{\widehat {\xi }}_{k-1,k}^{i},{\widehat {\xi }}_{k,k}^{i}\right)}$

частиц . Случайные состояния с нижними индексами l=0,...,k обозначают предка особи на уровне l=0,...,k. В этой ситуации мы имеем приближенную формулу ${\displaystyle i=1,\cdots ,N}$ ${\displaystyle {\widehat {\xi }}_{l,k}^{i}}$ ${\displaystyle {\widehat {\xi }}_{k,k}^{i}={\widehat {\xi }}_{k}^{i}}$

с эмпирической мерой

${\displaystyle {\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\left({\widehat {\xi }}_{0,k}^{i},{\widehat {\xi }}_{1,k}^{i},\cdots ,{\widehat {\xi }}_{k,k}^{i}\right)}(d(x_{0},\cdots ,x_{k}))}$

Здесь F обозначает любую найденную функцию на пространстве путей сигнала. В более синтетической форме ( Уравнение 3 ) эквивалентно

${\displaystyle {\begin{aligned}p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})&:=p(x_{0},\cdots ,x_{k}|y_{0},\cdots ,y_{k})\,dx_{0}\cdots dx_{k}\\&\approx _{N\uparrow \infty }{\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})\\&:={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\left({\widehat {\xi }}_{0,k}^{i},\cdots ,{\widehat {\xi }}_{k,k}^{i}\right)}(d(x_{0},\cdots ,x_{k}))\end{aligned}}}$

Фильтры частиц можно интерпретировать многими различными способами. С вероятностной точки зрения они совпадают с интерпретацией частиц среднего поля нелинейного уравнения фильтрации. Переходы обновления-предсказания оптимальной эволюции фильтра также можно интерпретировать как классические переходы генетического типа отбора-мутации индивидуумов. Последовательная техника повторной выборки важности обеспечивает другую интерпретацию переходов фильтрации, связывая выборку важности с шагом повторной выборки бутстрапа. И последнее, но не менее важное, фильтры частиц можно рассматривать как методологию принятия-отклонения, оснащенную механизмом рециркуляции. ^{[10] [5]}

Моделирование частиц среднего поля

Общий вероятностный принцип

Эволюция нелинейной фильтрации может быть интерпретирована как динамическая система в наборе вероятностных мер вида , где обозначает некоторое отображение из набора вероятностного распределения в себя. Например, эволюция одношагового оптимального предиктора ${\displaystyle \eta _{n+1}=\Phi _{n+1}\left(\eta _{n}\right)}$ ${\displaystyle \Phi _{n+1}}$ ${\displaystyle \eta _{n}(dx_{n})=p(x_{n}|y_{0},\cdots ,y_{n-1})dx_{n}}$

удовлетворяет нелинейной эволюции, начинающейся с распределения вероятностей . Один из самых простых способов аппроксимации этих вероятностных мер — начать с N независимых случайных величин с общим распределением вероятностей . Предположим, что мы определили последовательность из N случайных величин, такую ​​что ${\displaystyle \eta _{0}(dx_{0})=p(x_{0})dx_{0}}$ ${\displaystyle \left(\xi _{0}^{i}\right)_{1\leqslant i\leqslant N}}$ ${\displaystyle \eta _{0}(dx_{0})=p(x_{0})dx_{0}}$ ${\displaystyle \left(\xi _{n}^{i}\right)_{1\leqslant i\leqslant N}}$

${\displaystyle {\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{n}^{i}}(dx_{n})\approx _{N\uparrow \infty }\eta _{n}(dx_{n})}$

На следующем этапе мы выбираем N (условно) независимых случайных величин с общим законом. ${\displaystyle \xi _{n+1}:=\left(\xi _{n+1}^{i}\right)_{1\leqslant i\leqslant N}}$

${\displaystyle \Phi _{n+1}\left({\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{n}^{i}}\right)\approx _{N\uparrow \infty }\Phi _{n+1}\left(\eta _{n}\right)=\eta _{n+1}}$

Частичная интерпретация уравнения фильтрации

Мы иллюстрируем этот принцип частиц среднего поля в контексте эволюции одношаговых оптимальных предикторов.

При k = 0 мы используем соглашение . ${\displaystyle p(x_{0}|y_{0},\cdots ,y_{-1}):=p(x_{0})}$

По закону больших чисел имеем

${\displaystyle {\widehat {p}}(dx_{0})={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{0}^{i}}(dx_{0})\approx _{N\uparrow \infty }p(x_{0})dx_{0}}$

в том смысле, что

${\displaystyle \int f(x_{0}){\widehat {p}}(dx_{0})={\frac {1}{N}}\sum _{i=1}^{N}f(\xi _{0}^{i})\approx _{N\uparrow \infty }\int f(x_{0})p(dx_{0})dx_{0}}$

для любой ограниченной функции . Далее мы предполагаем, что мы построили последовательность частиц в некотором ранге k, такую, что ${\displaystyle f}$ ${\displaystyle \left(\xi _{k}^{i}\right)_{1\leqslant i\leqslant N}}$

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k}^{i}}(dx_{k})\approx _{N\uparrow \infty }~p(x_{k}~|~y_{0},\cdots ,y_{k-1})dx_{k}}$

в том смысле, что для любой ограниченной функции мы имеем ${\displaystyle f}$

${\displaystyle \int f(x_{k}){\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})={\frac {1}{N}}\sum _{i=1}^{N}f(\xi _{k}^{i})\approx _{N\uparrow \infty }\int f(x_{k})p(dx_{k}|y_{0},\cdots ,y_{k-1})dx_{k}}$

В этой ситуации, заменяя эмпирической мерой уравнение эволюции одношагового оптимального фильтра, указанное в ( Уравнение 4 ), находим, что ${\displaystyle p(x_{k}|y_{0},\cdots ,y_{k-1})dx_{k}}$ ${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})}$

${\displaystyle p(x_{k+1}|y_{0},\cdots ,y_{k})\approx _{N\uparrow \infty }\int p(x_{k+1}|x'_{k}){\frac {p(y_{k}|x_{k}'){\widehat {p}}(dx'_{k}|y_{0},\cdots ,y_{k-1})}{\int p(y_{k}|x''_{k}){\widehat {p}}(dx''_{k}|y_{0},\cdots ,y_{k-1})}}}$

Обратите внимание, что правая часть в приведенной выше формуле представляет собой взвешенную смесь вероятностей.

${\displaystyle \int p(x_{k+1}|x'_{k}){\frac {p(y_{k}|x_{k}'){\widehat {p}}(dx'_{k}|y_{0},\cdots ,y_{k-1})}{\int p(y_{k}|x''_{k}){\widehat {p}}(dx''_{k}|y_{0},\cdots ,y_{k-1})}}=\sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k}^{i})}{\sum _{i=1}^{N}p(y_{k}|\xi _{k}^{j})}}p(x_{k+1}|\xi _{k}^{i})=:{\widehat {q}}(x_{k+1}|y_{0},\cdots ,y_{k})}$

где обозначает плотность, оцененную при , а обозначает плотность, оцененную при для ${\displaystyle p(y_{k}|\xi _{k}^{i})}$ ${\displaystyle p(y_{k}|x_{k})}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$ ${\displaystyle p(x_{k+1}|\xi _{k}^{i})}$ ${\displaystyle p(x_{k+1}|x_{k})}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$ ${\displaystyle i=1,\cdots ,N.}$

Затем мы выбираем N независимых случайных величин с общей плотностью вероятности, так что ${\displaystyle \left(\xi _{k+1}^{i}\right)_{1\leqslant i\leqslant N}}$ ${\displaystyle {\widehat {q}}(x_{k+1}|y_{0},\cdots ,y_{k})}$

${\displaystyle {\widehat {p}}(dx_{k+1}|y_{0},\cdots ,y_{k}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k+1}^{i}}(dx_{k+1})\approx _{N\uparrow \infty }{\widehat {q}}(x_{k+1}|y_{0},\cdots ,y_{k})dx_{k+1}\approx _{N\uparrow \infty }p(x_{k+1}|y_{0},\cdots ,y_{k})dx_{k+1}}$

Повторяя эту процедуру, мы проектируем цепь Маркова таким образом, что

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k}^{i}}(dx_{k})\approx _{N\uparrow \infty }p(dx_{k}|y_{0},\cdots ,y_{k-1}):=p(x_{k}|y_{0},\cdots ,y_{k-1})dx_{k}}$

Обратите внимание, что оптимальный фильтр аппроксимируется на каждом временном шаге k с использованием формулы Байеса

${\displaystyle p(dx_{k}|y_{0},\cdots ,y_{k})\approx _{N\uparrow \infty }{\frac {p(y_{k}|x_{k}){\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})}{\int p(y_{k}|x'_{k}){\widehat {p}}(dx'_{k}|y_{0},\cdots ,y_{k-1})}}=\sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k}^{i})}{\sum _{j=1}^{N}p(y_{k}|\xi _{k}^{j})}}~\delta _{\xi _{k}^{i}}(dx_{k})}$

Термин «приближение среднего поля» происходит из того факта, что мы заменяем на каждом временном шаге вероятностную меру эмпирическим приближением . Приближение частиц среднего поля для задачи фильтрации далеко не уникально. В книгах разработано несколько стратегий. ^{[10] [5]} ${\displaystyle p(dx_{k}|y_{0},\cdots ,y_{k-1})}$ ${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})}$

Некоторые результаты конвергенции

Анализ сходимости фильтров частиц был начат в 1996 году ^{[2] [4]} и в 2000 году в книге ^[8] и серии статей. ^{[48] [49] [50] [51] [52] [68] [69]} Более поздние разработки можно найти в книгах, ^{[10] [5]} Когда уравнение фильтрации стабильно (в том смысле, что оно исправляет любые ошибочные начальные условия), смещение и дисперсия оценок частиц

${\displaystyle I_{k}(f):=\int f(x_{k})p(dx_{k}|y_{0},\cdots ,y_{k-1})\approx _{N\uparrow \infty }{\widehat {I}}_{k}(f):=\int f(x_{k}){\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})}$

контролируются неасимптотическими равномерными оценками

${\displaystyle \sup _{k\geqslant 0}\left\vert E\left({\widehat {I}}_{k}(f)\right)-I_{k}(f)\right\vert \leqslant {\frac {c_{1}}{N}}}$

${\displaystyle \sup _{k\geqslant 0}E\left(\left[{\widehat {I}}_{k}(f)-I_{k}(f)\right]^{2}\right)\leqslant {\frac {c_{2}}{N}}}$

для любой функции f, ограниченной 1, и для некоторых конечных констант Кроме того, для любого : ${\displaystyle c_{1},c_{2}.}$ ${\displaystyle x\geqslant 0}$

${\displaystyle \mathbf {P} \left(\left|{\widehat {I}}_{k}(f)-I_{k}(f)\right|\leqslant c_{1}{\frac {x}{N}}+c_{2}{\sqrt {\frac {x}{N}}}\land \sup _{0\leqslant k\leqslant n}\left|{\widehat {I}}_{k}(f)-I_{k}(f)\right|\leqslant c{\sqrt {\frac {x\log(n)}{N}}}\right)>1-e^{-x}}$

для некоторых конечных констант, связанных с асимптотическим смещением и дисперсией оценки частицы, и некоторой конечной константы c . Те же результаты будут получены, если мы заменим одношаговый оптимальный предиктор на оптимальное приближение фильтра. ${\displaystyle c_{1},c_{2}}$

Генеалогические деревья и свойства несмещенности

Сглаживание частиц на основе генеалогического дерева

Прослеживание родословных линий во времени

${\displaystyle \left({\widehat {\xi }}_{0,k}^{i},{\widehat {\xi }}_{1,k}^{i},\cdots ,{\widehat {\xi }}_{k-1,k}^{i},{\widehat {\xi }}_{k,k}^{i}\right),\quad \left(\xi _{0,k}^{i},\xi _{1,k}^{i},\cdots ,\xi _{k-1,k}^{i},\xi _{k,k}^{i}\right)}$

индивидуумов и на каждом временном шаге k мы также имеем приближения частиц ${\displaystyle {\widehat {\xi }}_{k}^{i}\left(={\widehat {\xi }}_{k,k}^{i}\right)}$ ${\displaystyle \xi _{k}^{i}\left(={\xi }_{k,k}^{i}\right)}$

${\displaystyle {\begin{aligned}{\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})&:={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\left({\widehat {\xi }}_{0,k}^{i},\cdots ,{\widehat {\xi }}_{0,k}^{i}\right)}(d(x_{0},\cdots ,x_{k}))\\&\approx _{N\uparrow \infty }p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})\\&\approx _{N\uparrow \infty }\sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k,k}^{i})}{\sum _{j=1}^{N}p(y_{k}|\xi _{k,k}^{j})}}\delta _{\left(\xi _{0,k}^{i},\cdots ,\xi _{0,k}^{i}\right)}(d(x_{0},\cdots ,x_{k}))\\&\ \\{\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})&:={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\left(\xi _{0,k}^{i},\cdots ,\xi _{k,k}^{i}\right)}(d(x_{0},\cdots ,x_{k}))\\&\approx _{N\uparrow \infty }p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})\\&:=p(x_{0},\cdots ,x_{k}|y_{0},\cdots ,y_{k-1})dx_{0},\cdots ,dx_{k}\end{aligned}}}$

Эти эмпирические приближения эквивалентны приближениям интегральных частиц.

${\displaystyle {\begin{aligned}\int F(x_{0},\cdots ,x_{n}){\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})&:={\frac {1}{N}}\sum _{i=1}^{N}F\left({\widehat {\xi }}_{0,k}^{i},\cdots ,{\widehat {\xi }}_{0,k}^{i}\right)\\&\approx _{N\uparrow \infty }\int F(x_{0},\cdots ,x_{n})p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k})\\&\approx _{N\uparrow \infty }\sum _{i=1}^{N}{\frac {p(y_{k}|\xi _{k,k}^{i})}{\sum _{j=1}^{N}p(y_{k}|\xi _{k,k}^{j})}}F\left(\xi _{0,k}^{i},\cdots ,\xi _{k,k}^{i}\right)\\&\ \\\int F(x_{0},\cdots ,x_{n}){\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})&:={\frac {1}{N}}\sum _{i=1}^{N}F\left(\xi _{0,k}^{i},\cdots ,\xi _{k,k}^{i}\right)\\&\approx _{N\uparrow \infty }\int F(x_{0},\cdots ,x_{n})p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})\end{aligned}}}$

для любой ограниченной функции F на случайных траекториях сигнала. Как показано в ^[54], эволюция генеалогического дерева совпадает с интерпретацией частиц среднего поля уравнений эволюции, связанных с апостериорными плотностями траекторий сигнала. Для получения более подробной информации об этих моделях пространства путей мы отсылаем к книгам. ^{[10] [5]}

Несмещенные оценки частиц функций правдоподобия

Мы используем формулу продукта

${\displaystyle p(y_{0},\cdots ,y_{n})=\prod _{k=0}^{n}p(y_{k}|y_{0},\cdots ,y_{k-1})}$

с

${\displaystyle p(y_{k}|y_{0},\cdots ,y_{k-1})=\int p(y_{k}|x_{k})p(dx_{k}|y_{0},\cdots ,y_{k-1})}$

и соглашения и для k = 0. Заменив эмпирическим приближением ${\displaystyle p(y_{0}|y_{0},\cdots ,y_{-1})=p(y_{0})}$ ${\displaystyle p(x_{0}|y_{0},\cdots ,y_{-1})=p(x_{0}),}$ ${\displaystyle p(x_{k}|y_{0},\cdots ,y_{k-1})dx_{k}}$

${\displaystyle {\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1}):={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k}^{i}}(dx_{k})\approx _{N\uparrow \infty }p(dx_{k}|y_{0},\cdots ,y_{k-1})}$

В приведенной выше формуле мы проектируем следующую несмещенную аппроксимацию частиц функции правдоподобия

${\displaystyle p(y_{0},\cdots ,y_{n})\approx _{N\uparrow \infty }{\widehat {p}}(y_{0},\cdots ,y_{n})=\prod _{k=0}^{n}{\widehat {p}}(y_{k}|y_{0},\cdots ,y_{k-1})}$

с

${\displaystyle {\widehat {p}}(y_{k}|y_{0},\cdots ,y_{k-1})=\int p(y_{k}|x_{k}){\widehat {p}}(dx_{k}|y_{0},\cdots ,y_{k-1})={\frac {1}{N}}\sum _{i=1}^{N}p(y_{k}|\xi _{k}^{i})}$

где обозначает плотность, оцененную при . Конструкция этой оценки частиц и свойство несмещенности были доказаны в 1996 году в статье. ^[2] Уточненные оценки дисперсии можно найти в ^[5] и. ^[10] ${\displaystyle p(y_{k}|\xi _{k}^{i})}$ ${\displaystyle p(y_{k}|x_{k})}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$

Обратные сглаживатели частиц

Используя правило Байеса, мы имеем формулу

${\displaystyle p(x_{0},\cdots ,x_{n}|y_{0},\cdots ,y_{n-1})=p(x_{n}|y_{0},\cdots ,y_{n-1})p(x_{n-1}|x_{n},y_{0},\cdots ,y_{n-1})\cdots p(x_{1}|x_{2},y_{0},y_{1})p(x_{0}|x_{1},y_{0})}$

Обратите внимание, что

${\displaystyle {\begin{aligned}p(x_{k-1}|x_{k},(y_{0},\cdots ,y_{k-1}))&\propto p(x_{k}|x_{k-1})p(x_{k-1}|(y_{0},\cdots ,y_{k-1}))\\p(x_{k-1}|(y_{0},\cdots ,y_{k-1})&\propto p(y_{k-1}|x_{k-1})p(x_{k-1}|(y_{0},\cdots ,y_{k-2})\end{aligned}}}$

Это подразумевает, что

${\displaystyle p(x_{k-1}|x_{k},(y_{0},\cdots ,y_{k-1}))={\frac {p(y_{k-1}|x_{k-1})p(x_{k}|x_{k-1})p(x_{k-1}|y_{0},\cdots ,y_{k-2})}{\int p(y_{k-1}|x'_{k-1})p(x_{k}|x'_{k-1})p(x'_{k-1}|y_{0},\cdots ,y_{k-2})dx'_{k-1}}}}$

Замена одношаговых оптимальных предикторов эмпирическими мерами частиц ${\displaystyle p(x_{k-1}|(y_{0},\cdots ,y_{k-2}))dx_{k-1}}$

${\displaystyle {\widehat {p}}(dx_{k-1}|(y_{0},\cdots ,y_{k-2}))={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{k-1}^{i}}(dx_{k-1})\left(\approx _{N\uparrow \infty }p(dx_{k-1}|(y_{0},\cdots ,y_{k-2})):={p}(x_{k-1}|(y_{0},\cdots ,y_{k-2}))dx_{k-1}\right)}$

мы находим, что

${\displaystyle {\begin{aligned}p(dx_{k-1}|x_{k},(y_{0},\cdots ,y_{k-1}))&\approx _{N\uparrow \infty }{\widehat {p}}(dx_{k-1}|x_{k},(y_{0},\cdots ,y_{k-1}))\\&:={\frac {p(y_{k-1}|x_{k-1})p(x_{k}|x_{k-1}){\widehat {p}}(dx_{k-1}|y_{0},\cdots ,y_{k-2})}{\int p(y_{k-1}|x'_{k-1})~p(x_{k}|x'_{k-1}){\widehat {p}}(dx'_{k-1}|y_{0},\cdots ,y_{k-2})}}\\&=\sum _{i=1}^{N}{\frac {p(y_{k-1}|\xi _{k-1}^{i})p(x_{k}|\xi _{k-1}^{i})}{\sum _{j=1}^{N}p(y_{k-1}|\xi _{k-1}^{j})p(x_{k}|\xi _{k-1}^{j})}}\delta _{\xi _{k-1}^{i}}(dx_{k-1})\end{aligned}}}$

Мы приходим к выводу, что

${\displaystyle p(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))\approx _{N\uparrow \infty }{\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))}$

с приближением обратных частиц

${\displaystyle {\begin{aligned}{\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))={\widehat {p}}(dx_{n}|(y_{0},\cdots ,y_{n-1})){\widehat {p}}(dx_{n-1}|x_{n},(y_{0},\cdots ,y_{n-1}))\cdots {\widehat {p}}(dx_{1}|x_{2},(y_{0},y_{1})){\widehat {p}}(dx_{0}|x_{1},y_{0})\end{aligned}}}$

Вероятностная мера

${\displaystyle {\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))}$

это вероятность случайных путей цепи Маркова, бегущих назад во времени от момента k=n до момента k=0 и развивающихся на каждом временном шаге k в пространстве состояний, связанном с популяцией частиц ${\displaystyle \left(\mathbb {X} _{k,n}^{\flat }\right)_{0\leqslant k\leqslant n}}$ ${\displaystyle \xi _{k}^{i},i=1,\cdots ,N.}$

• Первоначально (в момент времени k=n) цепь выбирает случайным образом состояние с распределением ${\displaystyle \mathbb {X} _{n,n}^{\flat }}$

${\displaystyle {\widehat {p}}(dx_{n}|(y_{0},\cdots ,y_{n-1}))={\frac {1}{N}}\sum _{i=1}^{N}\delta _{\xi _{n}^{i}}(dx_{n})}$

• От момента времени k до момента времени (k-1) цепь, начинающаяся в некотором состоянии для некоторого момента времени k, переходит в момент времени (k-1) в случайное состояние, выбранное с дискретной взвешенной вероятностью ${\displaystyle \mathbb {X} _{k,n}^{\flat }=\xi _{k}^{i}}$ ${\displaystyle i=1,\cdots ,N}$ ${\displaystyle \mathbb {X} _{k-1,n}^{\flat }}$

${\displaystyle {\widehat {p}}(dx_{k-1}|\xi _{k}^{i},(y_{0},\cdots ,y_{k-1}))=\sum _{j=1}^{N}{\frac {p(y_{k-1}|\xi _{k-1}^{j})p(\xi _{k}^{i}|\xi _{k-1}^{j})}{\sum _{l=1}^{N}p(y_{k-1}|\xi _{k-1}^{l})p(\xi _{k}^{i}|\xi _{k-1}^{l})}}~\delta _{\xi _{k-1}^{j}}(dx_{k-1})}$

В приведенной выше формуле обозначает условное распределение , оцененное при . В том же ключе и обозначают условные плотности и , оцененные при и Эти модели позволяют сократить интеграцию относительно плотностей в терминах матричных операций относительно марковских переходов цепи, описанной выше. ^[55] Например, для любой функции мы имеем оценки частиц ${\displaystyle {\widehat {p}}(dx_{k-1}|\xi _{k}^{i},(y_{0},\cdots ,y_{k-1}))}$ ${\displaystyle {\widehat {p}}(dx_{k-1}|x_{k},(y_{0},\cdots ,y_{k-1}))}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$ ${\displaystyle p(y_{k-1}|\xi _{k-1}^{j})}$ ${\displaystyle p(\xi _{k}^{i}|\xi _{k-1}^{j})}$ ${\displaystyle p(y_{k-1}|x_{k-1})}$ ${\displaystyle p(x_{k}|x_{k-1})}$ ${\displaystyle x_{k}=\xi _{k}^{i}}$ ${\displaystyle x_{k-1}=\xi _{k-1}^{j}.}$ ${\displaystyle p((x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))}$ ${\displaystyle f_{k}}$

${\displaystyle {\begin{aligned}\int p(d(x_{0},\cdots ,x_{n})&|(y_{0},\cdots ,y_{n-1}))f_{k}(x_{k})\\&\approx _{N\uparrow \infty }\int {\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))f_{k}(x_{k})\\&=\int {\widehat {p}}(dx_{n}|(y_{0},\cdots ,y_{n-1})){\widehat {p}}(dx_{n-1}|x_{n},(y_{0},\cdots ,y_{n-1}))\cdots {\widehat {p}}(dx_{k}|x_{k+1},(y_{0},\cdots ,y_{k}))f_{k}(x_{k})\\&=\underbrace {\left[{\tfrac {1}{N}},\cdots ,{\tfrac {1}{N}}\right]} _{N{\text{ times}}}\mathbb {M} _{n-1}\cdots \mathbb {M} _{k}{\begin{bmatrix}f_{k}(\xi _{k}^{1})\\\vdots \\f_{k}(\xi _{k}^{N})\end{bmatrix}}\end{aligned}}}$

где

${\displaystyle \mathbb {M} _{k}=(\mathbb {M} _{k}(i,j))_{1\leqslant i,j\leqslant N}:\qquad \mathbb {M} _{k}(i,j)={\frac {p(\xi _{k}^{i}|\xi _{k-1}^{j})~p(y_{k-1}|\xi _{k-1}^{j})}{\sum \limits _{l=1}^{N}p(\xi _{k}^{i}|\xi _{k-1}^{l})p(y_{k-1}|\xi _{k-1}^{l})}}}$

Это также показывает, что если

${\displaystyle {\overline {F}}(x_{0},\cdots ,x_{n}):={\frac {1}{n+1}}\sum _{k=0}^{n}f_{k}(x_{k})}$

затем

${\displaystyle {\begin{aligned}\int {\overline {F}}(x_{0},\cdots ,x_{n})p(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))&\approx _{N\uparrow \infty }\int {\overline {F}}(x_{0},\cdots ,x_{n}){\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))\\&={\frac {1}{n+1}}\sum _{k=0}^{n}\underbrace {\left[{\tfrac {1}{N}},\cdots ,{\tfrac {1}{N}}\right]} _{N{\text{ times}}}\mathbb {M} _{n-1}\mathbb {M} _{n-2}\cdots \mathbb {M} _{k}{\begin{bmatrix}f_{k}(\xi _{k}^{1})\\\vdots \\f_{k}(\xi _{k}^{N})\end{bmatrix}}\end{aligned}}}$

Некоторые результаты конвергенции

Предположим, что уравнение фильтрации устойчиво в том смысле, что оно исправляет любые ошибочные начальные условия.

В этой ситуации приближения частиц функций правдоподобия являются несмещенными, а относительная дисперсия контролируется

${\displaystyle E\left({\widehat {p}}(y_{0},\cdots ,y_{n})\right)=p(y_{0},\cdots ,y_{n}),\qquad E\left(\left[{\frac {{\widehat {p}}(y_{0},\cdots ,y_{n})}{p(y_{0},\cdots ,y_{n})}}-1\right]^{2}\right)\leqslant {\frac {cn}{N}},}$

для некоторой конечной константы c . Кроме того, для любого : ${\displaystyle x\geqslant 0}$

${\displaystyle \mathbf {P} \left(\left\vert {\frac {1}{n}}\log {{\widehat {p}}(y_{0},\cdots ,y_{n})}-{\frac {1}{n}}\log {p(y_{0},\cdots ,y_{n})}\right\vert \leqslant c_{1}{\frac {x}{N}}+c_{2}{\sqrt {\frac {x}{N}}}\right)>1-e^{-x}}$

для некоторых конечных констант, связанных с асимптотическим смещением и дисперсией оценки частицы, и для некоторой конечной константы c . ${\displaystyle c_{1},c_{2}}$

Смещение и дисперсия оценок частиц, основанных на родовых линиях генеалогических деревьев

${\displaystyle {\begin{aligned}I_{k}^{path}(F)&:=\int F(x_{0},\cdots ,x_{k})p(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})\\&\approx _{N\uparrow \infty }{\widehat {I}}_{k}^{path}(F)\\&:=\int F(x_{0},\cdots ,x_{k}){\widehat {p}}(d(x_{0},\cdots ,x_{k})|y_{0},\cdots ,y_{k-1})\\&={\frac {1}{N}}\sum _{i=1}^{N}F\left(\xi _{0,k}^{i},\cdots ,\xi _{k,k}^{i}\right)\end{aligned}}}$

контролируются неасимптотическими равномерными оценками

${\displaystyle \left|E\left({\widehat {I}}_{k}^{path}(F)\right)-I_{k}^{path}(F)\right|\leqslant {\frac {c_{1}k}{N}},\qquad E\left(\left[{\widehat {I}}_{k}^{path}(F)-I_{k}^{path}(F)\right]^{2}\right)\leqslant {\frac {c_{2}k}{N}},}$

для любой функции F, ограниченной 1, и для некоторых конечных констант Кроме того, для любого : ${\displaystyle c_{1},c_{2}.}$ ${\displaystyle x\geqslant 0}$

${\displaystyle \mathbf {P} \left(\left|{\widehat {I}}_{k}^{path}(F)-I_{k}^{path}(F)\right|\leqslant c_{1}{\frac {kx}{N}}+c_{2}{\sqrt {\frac {kx}{N}}}\land \sup _{0\leqslant k\leqslant n}\left|{\widehat {I}}_{k}^{path}(F)-I_{k}^{path}(F)\right|\leqslant c{\sqrt {\frac {xn\log(n)}{N}}}\right)>1-e^{-x}}$

для некоторых конечных констант, связанных с асимптотическим смещением и дисперсией оценки частиц, и для некоторой конечной константы c . Тот же тип смещений и дисперсионных оценок справедлив для обратных сглаживателей частиц. Для аддитивных функционалов вида ${\displaystyle c_{1},c_{2}}$

${\displaystyle {\overline {F}}(x_{0},\cdots ,x_{n}):={\frac {1}{n+1}}\sum _{0\leqslant k\leqslant n}f_{k}(x_{k})}$

с

${\displaystyle I_{n}^{path}({\overline {F}})\approx _{N\uparrow \infty }I_{n}^{\flat ,path}({\overline {F}}):=\int {\overline {F}}(x_{0},\cdots ,x_{n}){\widehat {p}}_{backward}(d(x_{0},\cdots ,x_{n})|(y_{0},\cdots ,y_{n-1}))}$

с функциями, ограниченными 1, имеем ${\displaystyle f_{k}}$

${\displaystyle \sup _{n\geqslant 0}{\left\vert E\left({\widehat {I}}_{n}^{\flat ,path}({\overline {F}})\right)-I_{n}^{path}({\overline {F}})\right\vert }\leqslant {\frac {c_{1}}{N}}}$

и

${\displaystyle E\left(\left[{\widehat {I}}_{n}^{\flat ,path}(F)-I_{n}^{path}(F)\right]^{2}\right)\leqslant {\frac {c_{2}}{nN}}+{\frac {c_{3}}{N^{2}}}}$

Для некоторых конечных констант более точные оценки, включающие экспоненциально малую вероятность ошибок, разработаны в ^{[10] .} ${\displaystyle c_{1},c_{2},c_{3}.}$

Последовательная перевыборка по важности (SIR)

Фильтр Монте-Карло и фильтр бутстрапа

Последовательная передискретизация по важности (SIR) , фильтрация Монте-Карло (Китагава, 1993 ^[35] ), алгоритм бутстреп-фильтрации (Гордон и др., 1993 ^[37] ) и передискретизация с одним распределением (Bejuri WMYB и др., 2017 ^[70] ) также являются широко применяемыми алгоритмами фильтрации, которые аппроксимируют плотность вероятности фильтрации взвешенным набором из N выборок. ${\displaystyle p(x_{k}|y_{0},\cdots ,y_{k})}$

${\displaystyle \left\{\left(w_{k}^{(i)},x_{k}^{(i)}\right)\ :\ i\in \{1,\cdots ,N\}\right\}.}$

Веса важности являются приближениями к относительным апостериорным вероятностям (или плотностям) выборок, таким образом, что ${\displaystyle w_{k}^{(i)}}$

${\displaystyle \sum _{i=1}^{N}w_{k}^{(i)}=1.}$

Последовательная выборка по важности (SIS) — это последовательная (т.е. рекурсивная) версия выборки по важности . Как и в выборке по важности, ожидание функции f может быть аппроксимировано как средневзвешенное значение

${\displaystyle \int f(x_{k})p(x_{k}|y_{0},\dots ,y_{k})dx_{k}\approx \sum _{i=1}^{N}w_{k}^{(i)}f(x_{k}^{(i)}).}$

Для конечного набора образцов производительность алгоритма зависит от выбора распределения предложений.

${\displaystyle \pi (x_{k}|x_{0:k-1},y_{0:k})\,}$.

« Оптимальное» распределение предложений дано как целевое распределение.

${\displaystyle \pi (x_{k}|x_{0:k-1},y_{0:k})=p(x_{k}|x_{k-1},y_{k})={\frac {p(y_{k}|x_{k})}{\int p(y_{k}|x_{k})p(x_{k}|x_{k-1})dx_{k}}}~p(x_{k}|x_{k-1}).}$

Этот конкретный выбор предлагаемого перехода был предложен П. Дель Моралом в 1996 и 1998 годах. ^[4] Когда сложно отобрать переходы в соответствии с распределением, естественной стратегией является использование следующего приближения частиц: ${\displaystyle p(x_{k}|x_{k-1},y_{k})}$

${\displaystyle {\begin{aligned}{\frac {p(y_{k}|x_{k})}{\int p(y_{k}|x_{k})p(x_{k}|x_{k-1})dx_{k}}}p(x_{k}|x_{k-1})dx_{k}&\simeq _{N\uparrow \infty }{\frac {p(y_{k}|x_{k})}{\int p(y_{k}|x_{k}){\widehat {p}}(dx_{k}|x_{k-1})}}{\widehat {p}}(dx_{k}|x_{k-1})\\&=\sum _{i=1}^{N}{\frac {p(y_{k}|X_{k}^{i}(x_{k-1}))}{\sum _{j=1}^{N}p(y_{k}|X_{k}^{j}(x_{k-1}))}}\delta _{X_{k}^{i}(x_{k-1})}(dx_{k})\end{aligned}}}$

с эмпирическим приближением

${\displaystyle {\widehat {p}}(dx_{k}|x_{k-1})={\frac {1}{N}}\sum _{i=1}^{N}\delta _{X_{k}^{i}(x_{k-1})}(dx_{k})~\simeq _{N\uparrow \infty }p(x_{k}|x_{k-1})dx_{k}}$

связанный с N (или любым другим большим числом образцов) независимыми случайными выборками с условным распределением случайного состояния, заданного . Согласованность результирующего фильтра частиц этого приближения и других расширений разработана в. ^[4] В приведенном выше отображении обозначает меру Дирака в заданном состоянии a. ${\displaystyle X_{k}^{i}(x_{k-1}),i=1,\cdots ,N}$ ${\displaystyle X_{k}}$ ${\displaystyle X_{k-1}=x_{k-1}}$ ${\displaystyle \delta _{a}}$

Однако в качестве функции важности часто используется априорное распределение вероятностей перехода, поскольку с его помощью проще извлекать частицы (или образцы) и выполнять последующие расчеты весов важности:

${\displaystyle \pi (x_{k}|x_{0:k-1},y_{0:k})=p(x_{k}|x_{k-1}).}$

Фильтры последовательной передискретизации по важности (SIR) с распределением вероятностей априорного перехода в качестве функции важности обычно известны как фильтры самозагрузки и алгоритмы конденсации .

Повторная выборка используется для того, чтобы избежать проблемы вырожденности алгоритма, то есть избежать ситуации, когда все, кроме одного, веса важности близки к нулю. На производительность алгоритма может также влиять правильный выбор метода повторной выборки. Стратифицированная выборка, предложенная Китагавой (1993 ^[35] ), является оптимальной с точки зрения дисперсии.

Один шаг последовательной перевыборки по важности выглядит следующим образом:

1) Для отбора образцов из предложения по распределению ${\displaystyle i=1,\cdots ,N}$

${\displaystyle x_{k}^{(i)}\sim \pi (x_{k}|x_{0:k-1}^{(i)},y_{0:k})}$

2) Для обновления весов важности до нормализующей константы: ${\displaystyle i=1,\cdots ,N}$

${\displaystyle {\hat {w}}_{k}^{(i)}=w_{k-1}^{(i)}{\frac {p(y_{k}|x_{k}^{(i)})p(x_{k}^{(i)}|x_{k-1}^{(i)})}{\pi (x_{k}^{(i)}|x_{0:k-1}^{(i)},y_{0:k})}}.}$

Обратите внимание, что когда мы используем распределение априорной вероятности перехода в качестве функции важности,

${\displaystyle \pi (x_{k}^{(i)}|x_{0:k-1}^{(i)},y_{0:k})=p(x_{k}^{(i)}|x_{k-1}^{(i)}),}$

это упрощается до следующего:

${\displaystyle {\hat {w}}_{k}^{(i)}=w_{k-1}^{(i)}p(y_{k}|x_{k}^{(i)}),}$

3) Для вычисления нормализованных весов важности: ${\displaystyle i=1,\cdots ,N}$

${\displaystyle w_{k}^{(i)}={\frac {{\hat {w}}_{k}^{(i)}}{\sum _{j=1}^{N}{\hat {w}}_{k}^{(j)}}}}$

4) Вычислите оценку эффективного числа частиц как

${\displaystyle {\hat {N}}_{\mathit {eff}}={\frac {1}{\sum _{i=1}^{N}\left(w_{k}^{(i)}\right)^{2}}}}$

Этот критерий отражает дисперсию весов. Другие критерии можно найти в статье ^[6] , включая их строгий анализ и центральные предельные теоремы.

5) Если эффективное число частиц меньше заданного порогового значения , то выполнить повторную выборку: ${\displaystyle {\hat {N}}_{\mathit {eff}}<N_{thr}}$

а) Вытащить N частиц из текущего набора частиц с вероятностями, пропорциональными их весам. Заменить текущий набор частиц этим новым.

б) Для набора ${\displaystyle i=1,\cdots ,N}$ ${\displaystyle w_{k}^{(i)}=1/N.}$

Термин «повторная выборка по важности выборки» также иногда используется применительно к фильтрам SIR, но термин « повторная выборка по важности » более точен, поскольку слово «повторная выборка» подразумевает, что первоначальная выборка уже была сделана. ^[71]

Последовательная выборка по важности (SIS)

• То же самое, что и последовательная перевыборка по значимости, но без этапа перевыборки.

Алгоритм «Прямая версия»

Алгоритм "прямой версии" ^{[ требуется ссылка ]} довольно прост (по сравнению с другими алгоритмами фильтрации частиц) и использует композицию и отбрасывание. Чтобы сгенерировать один образец x в k из : ${\displaystyle p_{x_{k}|y_{1:k}}(x|y_{1:k})}$

1) Установите n = 0 (это позволит подсчитать количество частиц, сгенерированных на данный момент)

2) Равномерно выбираем индекс i из диапазона ${\displaystyle \{1,...,N\}}$

3) Сгенерируйте тест из дистрибутива с помощью ${\displaystyle {\hat {x}}}$ ${\displaystyle p(x_{k}|x_{k-1})}$ ${\displaystyle x_{k-1}=x_{k-1|k-1}^{(i)}}$

4) Сгенерировать вероятность использования , откуда измеренное значение ${\displaystyle {\hat {y}}}$ ${\displaystyle {\hat {x}}}$ ${\displaystyle p(y_{k}|x_{k}),~{\mbox{with}}~x_{k}={\hat {x}}}$ ${\displaystyle y_{k}}$

5) Сгенерировать еще одну униформу u, откуда ${\displaystyle [0,m_{k}]}$ ${\displaystyle m_{k}=\sup _{x_{k}}p(y_{k}|x_{k})}$

6) Сравните u и ${\displaystyle p\left({\hat {y}}\right)}$

6a) Если u больше, то повторите с шага 2

6б) Если u меньше, то сохранить как и увеличить n ${\displaystyle {\hat {x}}}$ ${\displaystyle x_{k|k}^{(i)}}$

7) Если n == N , то выход

Цель состоит в том, чтобы сгенерировать P "частиц" в k, используя только частицы из . Для этого требуется, чтобы уравнение Маркова могло быть записано (и вычислено) для генерации на основе только . Этот алгоритм использует состав частиц P из для генерации частицы в k и повторяется (шаги 2–6) до тех пор, пока не будут сгенерированы P частиц в k . ${\displaystyle k-1}$ ${\displaystyle x_{k}}$ ${\displaystyle x_{k-1}}$ ${\displaystyle k-1}$

Это можно легче визуализировать, если x рассматривать как двумерный массив. Одно измерение — это k , а другое измерение — номер частицы. Например, будет i-й ^{частицей} в и также может быть записано (как это сделано выше в алгоритме). Шаг 3 генерирует потенциал на основе случайно выбранной частицы ( ) в момент времени и отклоняет или принимает его на шаге 6. Другими словами, значения генерируются с использованием ранее сгенерированного . ${\displaystyle x(k,i)}$ ${\displaystyle k}$ ${\displaystyle x_{k}^{(i)}}$ ${\displaystyle x_{k}}$ ${\displaystyle x_{k-1}^{(i)}}$ ${\displaystyle k-1}$ ${\displaystyle x_{k}}$ ${\displaystyle x_{k-1}}$

Приложения

Фильтры частиц и методологии частиц Фейнмана-Каца находят применение в различных контекстах как эффективное средство для борьбы с зашумленными наблюдениями или сильными нелинейностями, такими как:

• Байесовский вывод , машинное обучение , анализ рисков и выборка редких событий
• Биоинформатика ^[19]
• Вычислительная наука
• Экономика , финансовая математика и математические финансы : фильтры частиц могут выполнять моделирование, необходимое для вычисления многомерных и/или сложных интегралов, связанных с такими проблемами, как динамические стохастические модели общего равновесия в макроэкономике и ценообразовании опционов ^[72]
• Инженерное дело
• Эпидемиология инфекционных заболеваний , где они применялись для решения ряда проблем прогнозирования эпидемий, например, прогнозирования сезонных эпидемий гриппа ^[73]
• Обнаружение и изоляция неисправностей : в схемах, основанных на наблюдателях, фильтр частиц может прогнозировать ожидаемые выходные данные датчиков, обеспечивая изоляцию неисправностей ^{[74] [75] [76]}
• Молекулярная химия и вычислительная физика
• Фармакокинетика ^[77]
• Филогенетика
• Робототехника , искусственный интеллект : локализация Монте-Карло является фактическим стандартом в локализации мобильных роботов ^{[78] [79] [80]}
• Обработка сигналов и изображений : визуальная локализация, отслеживание, распознавание признаков ^[81]

Другие фильтры частиц

• Вспомогательный фильтр частиц ^[82]
• Стоимость эталонного фильтра частиц
• Экспоненциальный фильтр природных частиц ^[83]
• Методологии Фейнмана-Каца и частиц среднего поля ^{[2] [10] [5]}
• Фильтр частиц Гаусса
• Фильтр частиц Гаусса – Эрмита
• Иерархический/Масштабируемый фильтр частиц ^[84]
• Фильтр подталкиваемых частиц ^[85]
• Частичный Марковско-цепной Монте-Карло, см., например, псевдомаргинальный алгоритм Метрополиса–Гастингса .
• Фильтр частиц Рао-Блэквеллиза ^[53]
• Регуляризированный вспомогательный фильтр частиц ^[86]
• Оптимальный фильтр частиц на основе отбора проб ^{[87] [88]}
• Фильтр частиц без запаха

Смотрите также

• Фильтр ансамбля Кальмана
• Обобщенная фильтрация
• Генетический алгоритм
• Методы частиц среднего поля
• локализация Монте-Карло
• Оценка движущегося горизонта
• Рекурсивная байесовская оценка

Ссылки

1. Уиллс, Адриан Г.; Шён, Томас Б. (3 мая 2023 г.). «Последовательный Монте-Карло: унифицированный обзор». Ежегодный обзор управления, робототехники и автономных систем . 6 (1): 159–182. doi : 10.1146/annurev-control-042920-015119 . ISSN  2573-5144. S2CID  255638127.
2. Del Moral, Pierre (1996). «Нелинейная фильтрация: решение взаимодействующих частиц» (PDF) . Марковские процессы и смежные области . 2 (4): 555–580.
3. Лю, Цзюнь С.; Чен, Ронг (1998-09-01). «Последовательные методы Монте-Карло для динамических систем». Журнал Американской статистической ассоциации . 93 (443): 1032–1044. doi :10.1080/01621459.1998.10473765. ISSN  0162-1459.
4. Дель Мораль, Пьер (1998). «Измерительные процессы и взаимодействующие системы частиц. Применение к задачам нелинейной фильтрации». Анналы прикладной теории вероятности . 8 (2) (Publications du Laboratoire de Statistique et Probabilités, 96-15 (1996), изд.): 438–495. дои : 10.1214/aoap/1028903535 .
5. Del Moral, Pierre (2004). Формулы Фейнмана-Каца. Генеалогические и взаимодействующие приближения частиц. Springer. Серия: Вероятность и приложения. стр. 556. ISBN 978-0-387-20268-6.
6. Дель Мораль, Пьер; Дусе, Арно; Ясра, Аджай (2012). «О процедурах адаптивной повторной выборки для последовательных методов Монте-Карло» (PDF) . Бернулли . 18 (1): 252–278. дои : 10.3150/10-bej335 . S2CID  4506682.
7. Del Moral, Pierre (2004). Формулы Фейнмана-Каца. Генеалогические и взаимодействующие приближения частиц. Вероятность и ее приложения. Springer. стр. 575. ISBN 9780387202686. Серия: Вероятность и приложения
8. Дель Мораль, Пьер; Микло, Лоран (2000). «Аппроксимация формул Фейнмана-Каца ветвящимися и взаимодействующими системами частиц с применением к нелинейной фильтрации». В Жаке Аземе; Мишель Леду; Мишель Эмери; Марк Йор (ред.). Семинар вероятностей XXXIV (PDF) . Конспект лекций по математике. Том. 1729. стр. 1–145. дои : 10.1007/bfb0103798. ISBN 978-3-540-67314-9.
9. Del Moral, Pierre; Miclo, Laurent (2000). "Приближение системы частиц Морана для формул Фейнмана-Каца". Стохастические процессы и их приложения . 86 (2): 193–216. doi :10.1016/S0304-4149(99)00094-0. S2CID  122757112.
10. Del Moral, Pierre (2013). Моделирование среднего поля для интегрирования Монте-Карло. Chapman & Hall/CRC Press. стр. 626. Монографии по статистике и прикладной вероятности
11. Мораль, Пьер Дель; Дусе, Арно (2014). «Методы частиц: введение с приложениями». ESAIM: Proc . 44 : 1–46. doi : 10.1051/proc/201444001 .
12. Rosenbluth, Marshall, N.; Rosenbluth, Arianna, W. (1955). «Расчеты Монте-Карло среднего удлинения макромолекулярных цепей». J. Chem. Phys . 23 (2): 356–359. Bibcode :1955JChPh..23..356R. doi : 10.1063/1.1741967 . S2CID  89611599.{{cite journal}}: CS1 maint: multiple names: authors list (link)
13. Хетерингтон, Джек, Х. (1984). «Наблюдения за статистической итерацией матриц». Phys. Rev. A. 30 ( 2713): 2713–2719. Bibcode :1984PhRvA..30.2713H. doi :10.1103/PhysRevA.30.2713.{{cite journal}}: CS1 maint: multiple names: authors list (link)
14. Del Moral, Pierre (2003). «Частичные приближения показателей Ляпунова, связанных с операторами Шредингера и полугруппами Фейнмана-Каца». ESAIM Probability & Statistics . 7 : 171–208. doi : 10.1051/ps:2003001 .
15. Ассараф, Роланд; Каффарель, Мишель; Хелиф, Анатоль (2000). «Методы диффузионного Монте-Карло с фиксированным числом пешеходов» (PDF) . Phys. Rev. E . 61 (4): 4566–4575. Bibcode :2000PhRvE..61.4566A. doi :10.1103/physreve.61.4566. PMID  11088257. Архивировано из оригинала (PDF) 2014-11-07.
16. Каффарель, Мишель; Сеперли, Дэвид; Калос, Малвин (1993). "Комментарий к расчету интеграла по траектории Фейнмана-Каца для энергий основного состояния атомов". Phys. Rev. Lett . 71 (13): 2159. Bibcode : 1993PhRvL..71.2159C. doi : 10.1103/physrevlett.71.2159. PMID  10054598.
17. Оконе, Д. Л. (1 января 1999 г.). «Асимптотическая устойчивость фильтров Бенеша». Стохастический анализ и приложения . 17 (6): 1053–1074. doi :10.1080/07362999908809648. ISSN  0736-2994.
18. Морель, Мирей Шалея; Мишель, Доминик (1 января 1984 г.). «Результаты отсутствия фильтра конечного измерения». Стохастика . 13 (1–2): 83–102. дои : 10.1080/17442508408833312. ISSN  0090-9491.
19. Hajiramezanali, Ehsan; Imani, Mahdi; Braga-Neto, Ulisses; Qian, Xiaoning; Dougherty, Edward R. (2019). «Масштабируемая оптимальная байесовская классификация траекторий отдельных клеток в условиях неопределенности регуляторной модели». BMC Genomics . 20 (Suppl 6): 435. arXiv : 1902.03188 . Bibcode :2019arXiv190203188H. doi : 10.1186/s12864-019-5720-3 . PMC 6561847 . PMID  31189480. 
20. Cruz, Marcelo G.; Peters, Gareth W.; Shevchenko, Pavel V. (2015-02-27). Фундаментальные аспекты операционного риска и аналитики страхования: Справочник по операционному риску (1-е изд.). Wiley. doi :10.1002/9781118573013. ISBN 978-1-118-11839-9.
21. Питерс, Гарет В.; Шевченко, Павел В. (2015-02-20). Достижения в моделировании рисков с тяжелыми хвостами: Справочник по операционным рискам (1-е изд.). Wiley. doi :10.1002/9781118909560. ISBN 978-1-118-90953-9.
22. Тьюринг, Алан М. (октябрь 1950 г.). «Вычислительная техника и интеллект». Mind . LIX (238): 433–460. doi :10.1093/mind/LIX.236.433.
23. Барричелли, Нильс Аалл (1954). «Числовые примеры процесса эволюции». Методы : 45–68.
24. Барричелли, Нильс Аалл (1957). «Симбиогенетические эволюционные процессы, реализуемые искусственными методами». Методос : 143–182.
25. Хаммерсли, Дж. М.; Мортон, К. У. (1954). «Монте-Карло для бедняков». Журнал Королевского статистического общества. Серия B (Методологическая) . 16 (1): 23–38. doi :10.1111/j.2517-6161.1954.tb00145.x. JSTOR  2984008.
26. Барричелли, Нильс Аалл (1963). «Численная проверка теорий эволюции. Часть II. Предварительные проверки производительности, симбиогенеза и наземной жизни». Acta Biotheoretica . 16 (3–4): 99–126. doi :10.1007/BF01556602. S2CID  86717105.
27. "Адаптация в естественных и искусственных системах | Издательство MIT". mitpress.mit.edu . Получено 2015-06-06 .
28. Фрейзер, Алекс (1957). «Моделирование генетических систем с помощью автоматических цифровых компьютеров. I. Введение». Aust. J. Biol. Sci . 10 (4): 484–491. doi : 10.1071/BI9570484 .
29. Фрейзер, Алекс ; Бернелл, Дональд (1970). Компьютерные модели в генетике . Нью-Йорк: McGraw-Hill. ISBN 978-0-07-021904-5.
30. Кросби, Джек Л. (1973). Компьютерное моделирование в генетике . Лондон: John Wiley & Sons. ISBN 978-0-471-18880-3.
31. Ассараф, Роланд; Каффарель, Мишель; Хелиф, Анатоль (2000). «Методы диффузионного Монте-Карло с фиксированным числом пешеходов» (PDF) . Phys. Rev. E . 61 (4): 4566–4575. Bibcode :2000PhRvE..61.4566A. doi :10.1103/physreve.61.4566. PMID  11088257. Архивировано из оригинала (PDF) 2014-11-07.
32. Каффарель, Мишель; Сеперли, Дэвид; Калос, Малвин (1993). "Комментарий к расчету интеграла по траектории Фейнмана-Каца для энергий основного состояния атомов". Phys. Rev. Lett . 71 (13): 2159. Bibcode : 1993PhRvL..71.2159C. doi : 10.1103/physrevlett.71.2159. PMID  10054598.
33. Ферми, Энрике; Рихтмайер, Роберт, Д. (1948). "Заметка о проведении переписи в расчетах Монте-Карло" (PDF) . LAM . 805 (A). Рассекреченный отчет Архив Лос-Аламоса{{cite journal}}: CS1 maint: multiple names: authors list (link)
34. Герман, Кан; Харрис, Теодор, Э. (1951). «Оценка передачи частиц методом случайной выборки» (PDF) . Natl. Bur. Stand. Appl. Math. Ser . 12 : 27–30.{{cite journal}}: CS1 maint: multiple names: authors list (link)
35. Китагава, Г. (январь 1993 г.). "Метод фильтрации и сглаживания Монте-Карло для негауссовских нелинейных моделей пространства состояний" (PDF) . Труды 2-го совместного семинара США и Японии по статистическому анализу временных рядов : 110–131.
36. Китагава, Г. (1996). «Фильтр Монте-Карло и сглаживатель для негауссовых нелинейных моделей пространства состояний». Журнал вычислительной и графической статистики . 5 (1): 1–25. doi :10.2307/1390750. JSTOR  1390750.
37. Gordon, NJ; Salmond, DJ; Smith, AFM (апрель 1993 г.). «Новый подход к нелинейной/негауссовой байесовской оценке состояния». Труды IEE F — Радар и обработка сигналов . 140 (2): 107–113. doi :10.1049/ip-f-2.1993.0015. ISSN  0956-375X.
38. Carvalho, Himilcon; Del Moral, Pierre; Monin, André; Salut, Gérard (июль 1997 г.). "Optimal Non-linear Filtering in GPS/INS Integration" (PDF) . IEEE Transactions on Aerospace and Electronic Systems . 33 (3): 835. Bibcode :1997ITAES..33..835C. doi :10.1109/7.599254. S2CID  27966240. Архивировано из оригинала (PDF) 2022-11-10 . Получено 2015-06-01 .
39. П. Дель Мораль, Г. Ригал и Г. Салют. Оценка и нелинейное оптимальное управление: унифицированная основа для растворов частиц
    LAAS-CNRS, Тулуза, отчет об исследованиях №. 91137, контракт DRET-DIGILOG-LAAS/CNRS, апрель (1991 г.).
40. P. Del Moral, G. Rigal и G. Salut. Нелинейные и негауссовы фильтры частиц, применяемые к изменению положения инерциальной платформы.
    LAAS-CNRS, Тулуза, Исследовательский отчет № 92207, Конвенция STCAN/DIGILOG-LAAS/CNRS STCAN № A.91.77.013, (94 стр.) Сентябрь (1991).
41. P. Del Moral, G. Rigal и G. Salut. Оценка и нелинейное оптимальное управление: разрешение частиц при фильтрации и оценке. Экспериментальные результаты.
    Конвенция DRET № 89.34.553.00.470.75.01, Исследовательский отчет № 2 (54 стр.), январь (1992).
42. П. Дель Морал, Г. Ригал и Г. Салют. Оценка и нелинейное оптимальное управление: разрешение частиц при фильтрации и оценке. Теоретические результаты.
    Конвенция DRET № 89.34.553.00.470.75.01, Исследовательский отчет № 3 (123 стр.), октябрь (1992).
43. П. Дель Мораль, Ж.-Ч. Нойер, Г. Ригал и Г. Салют. Фильтры частиц в обработке радиолокационных сигналов: обнаружение, оценка и распознавание воздушных целей.
    LAAS-CNRS, Тулуза, Исследовательский отчет № 92495, декабрь (1992).
44. P. Del Moral, G. Rigal и G. Salut. Оценка и нелинейное оптимальное управление: разрешение частиц при фильтрации и оценке.
    Исследования по: Фильтрация, оптимальное управление и оценка максимального правдоподобия. Конвенция DRET № 89.34.553.00.470.75.01. Исследовательский отчет № 4 (210 стр.), январь (1993).
45. Крисан, Дэн; Гейнс, Джессика; Лайонс, Терри (1998). «Сходимость метода разветвленных частиц к решению задачи Закаи». Журнал SIAM по прикладной математике . 58 (5): 1568–1590. doi :10.1137/s0036139996307371. S2CID  39982562.
46. Крисэн, Дэн; Лайонс, Терри (1997). «Нелинейная фильтрация и процессы со значениями меры». Теория вероятностей и смежные области . 109 (2): 217–244. doi : 10.1007/s004400050131 . S2CID  119809371.
47. Крисан, Дэн; Лайонс, Терри (1999). «Частичное приближение решения уравнения Кушнера–Стратоновича». Теория вероятностей и смежные области . 115 (4): 549–578. doi : 10.1007/s004400050249 . S2CID  117725141.
48. Crisan, Dan; Del Moral, Pierre; Lyons, Terry (1999). «Дискретная фильтрация с использованием разветвленных и взаимодействующих систем частиц» (PDF) . Марковские процессы и смежные области . 5 (3): 293–318.
49. Del Moral, Pierre; Guionnet, Alice (1999). «Об устойчивости измеряемых процессов с приложениями к фильтрации». CR Acad. Sci. Paris . 39 (1): 429–434.
50. Del Moral, Pierre; Guionnet, Alice (2001). «О стабильности взаимодействующих процессов с приложениями к фильтрации и генетическим алгоритмам». Annales de l'Institut Henri Poincaré . 37 (2): 155–194. Bibcode : 2001AIHPB..37..155D. doi : 10.1016/s0246-0203(00)01064-5. Архивировано из оригинала 2014-11-07.
51. Del Moral, P.; Guionnet, A. (1999). «Центральная предельная теорема для нелинейной фильтрации и взаимодействующих систем частиц». The Annals of Applied Probability . 9 (2): 275–297. doi : 10.1214/aoap/1029962742 . ISSN  1050-5164.
52. Del Moral, Pierre; Miclo, Laurent (2001). «Генеалогии и возрастающее распространение хаоса для моделей Фейнмана-Каца и генетических моделей». Анналы прикладной вероятности . 11 (4): 1166–1198. doi : 10.1214/aoap/1015345399 . ISSN  1050-5164.
53. Дусе, А.; Де Фрейтас, Н.; Мерфи, К.; Рассел, С. (2000). Фильтрация частиц Рао–Блэквеллида для динамических байесовских сетей . Труды шестнадцатой конференции по неопределенности в искусственном интеллекте. С. 176–183. CiteSeerX 10.1.1.137.5199 . 
54. Del Moral, Pierre; Miclo, Laurent (2001). «Генеалогии и возрастающее распространение хаоса для моделей Фейнмана-Каца и генетических моделей». Annals of Applied Probability . 11 (4): 1166–1198.
55. Del Moral, Pierre; Doucet, Arnaud; Singh, Sumeetpal, S. (2010). «Обратная интерпретация формул Фейнмана-Каца с точки зрения частиц» (PDF) . M2AN . 44 (5): 947–976. doi : 10.1051/m2an/2010048 . S2CID  14758161.{{cite journal}}: CS1 maint: multiple names: authors list (link)
56. Верже, Кристель; Дюбарри, Сириль; Дель Мораль, Пьер; Мулин, Эрик (2013). «О параллельной реализации последовательных методов Монте-Карло: модель островных частиц». Статистика и вычисления . 25 (2): 243–260. arXiv : 1306.3911 . Bibcode : 2013arXiv1306.3911V. doi : 10.1007/s11222-013-9429-x. S2CID  39379264.
57. Шопен, Николас; Жакоб, Пьер, Э.; Папаспилиопулос, Омирос (2011). «SMC^2: эффективный алгоритм последовательного анализа моделей пространства состояний». arXiv : 1101.1528v3 [stat.CO].{{cite arXiv}}: CS1 maint: multiple names: authors list (link)
58. Андриё, Кристоф; Дусе, Арно; Холенштейн, Роман (2010). «Методы Монте-Карло для цепей Маркова с частицами». Журнал Королевского статистического общества, Серия B. 72 ( 3): 269–342. doi : 10.1111/j.1467-9868.2009.00736.x .
59. Дель Мораль, Пьер; Патры, Фредерик; Кон, Роберт (2014). «О моделях Монте-Карло Фейнмана-Каца и частиц Марковской цепи». arXiv : 1404,5733 [мат.PR].
60. Дель Мораль, Пьер; Дусе, Арно; Ясра, Аджай (2006). «Последовательные пробоотборники Монте-Карло». Журнал Королевского статистического общества. Серия B (Статистическая методология) . 68 (3): 411–436. arXiv : cond-mat/0212648 . дои : 10.1111/j.1467-9868.2006.00553.x. ISSN  1369-7412. JSTOR  3879283.
61. Питерс, Гарет (2005). «Темы в последовательных Монте-Карло-сэмплерах». SSRN Electronic Journal . doi :10.2139/ssrn.3785582. ISSN  1556-5068.
62. Del Moral, Pierre; Doucet, Arnaud; Peters, Gareth (2004). "Технический отчет по последовательным пробоотборникам Монте-Карло CUED". Электронный журнал SSRN . doi :10.2139/ssrn.3841065. ISSN  1556-5068.
63. Сиссон, С.А.; Фэн, И.; Бомонт, М.А., ред. (2019). Справочник по приближенным байесовским вычислениям . Бока-Ратон: CRC Press, Taylor and Francis Group. ISBN 978-1-315-11719-5.
64. Peters, Gareth W.; Wüthrich, Mario V.; Shevchenko, Pavel V. (2010-08-01). «Метод цепной лестницы: байесовский бутстрап против классического бутстрапа». Страхование: Математика и экономика . 47 (1): 36–51. arXiv : 1004.2548 . doi :10.1016/j.insmatheco.2010.03.007. ISSN  0167-6687.
65. Дель Морал, Пьер; Жакод, Жан; Проттер, Филипп (2001-07-01). «Метод Монте-Карло для фильтрации с дискретными наблюдениями». Теория вероятностей и смежные области . 120 (3): 346–368. doi :10.1007/PL00008786. hdl : 1813/9179 . ISSN  0178-8051. S2CID  116274.
66. Дель Морал, Пьер; Дусе, Арно; Джасра, Аджай (2011). «Адаптивный последовательный метод Монте-Карло для приближенных байесовских вычислений». Статистика и вычисления . 22 (5): 1009–1020. CiteSeerX 10.1.1.218.9800 . doi :10.1007/s11222-011-9271-y. ISSN  0960-3174. S2CID  4514922. 
67. Мартин, Джеймс С.; Джасра, Аджай; Сингх, Сумитпал С.; Уайтли, Ник; Дель Морал, Пьер; Маккой, Эмма (4 мая 2014 г.). «Приближенное байесовское вычисление для сглаживания». Стохастический анализ и приложения . 32 (3): 397–420. arXiv : 1206.5208 . doi :10.1080/07362994.2013.879262. ISSN  0736-2994. S2CID  17117364.
68. Дель Морал, Пьер; Рио, Эммануэль (2011). «Неравенства концентрации для моделей частиц среднего поля». Анналы прикладной вероятности . 21 (3): 1017–1052. arXiv : 1211.1837 . doi : 10.1214/10-AAP716. ISSN  1050-5164. S2CID  17693884.
69. Del Moral, Pierre; Hu, Peng; Wu, Liming (2012). О концентрационных свойствах процессов взаимодействия частиц. Ганновер, Массачусетс, США: Now Publishers Inc. ISBN 978-1601985125.
70. Беджури, Ван Мохд Яакоб Ван; Мохамад, Мохд Муртадха; Раджа Мохд Радзи, Раджа Захила; Саллех, Мазлина; Юсоф, Ахмад Фадхил (18 октября 2017 г.). «Адаптивная повторная выборка единого распределения на основе памяти для фильтра частиц». Журнал больших данных . 4 (1): 33. дои : 10.1186/s40537-017-0094-3 . ISSN  2196-1115. S2CID  256407088.
71. Гельман, Эндрю ; Карлин, Джон Б .; Стерн, Хэл С.; Дансон, Дэвид Б.; Вехтари, Аки; Рубин, Дональд Б. (2013). Байесовский анализ данных, третье издание . Chapman and Hall/CRC. ISBN 978-1-4398-4095-5.
72. Creal, Drew (2012). «Обзор последовательных методов Монте-Карло для экономики и финансов». Econometric Reviews . 31 (2): 245–296. doi :10.1080/07474938.2011.607333. hdl : 1871/15287 . S2CID  2730761.
73. Мосс, Роберт; Заребски, Александр; Доусон, Питер; Маккоу, Джеймс М. (2016). «Прогнозирование динамики вспышки гриппа в Мельбурне на основе данных надзора за поисковыми запросами в Интернете». Грипп и другие респираторные вирусы . 10 (4): 314–323. doi : 10.1111/irv.12376 . PMC 4910172. PMID  26859411 . 
74. Шен, Инь; Сянпин, Чжу (2015). «Интеллектуальный фильтр частиц и его применение для обнаружения неисправностей нелинейной системы». Труды IEEE по промышленной электронике . 62 (6): 1. doi :10.1109/TIE.2015.2399396. S2CID  23951880.
75. D'Amato, Edigio; Notaro, Immacolata; Nardi, Vito Antonio; Scordamaglia, Valerio (2021). «Подход к фильтрации частиц для обнаружения и изоляции неисправностей датчиков IMU БПЛА: проектирование, реализация и анализ чувствительности». Датчики . 21 (9): 3066. Bibcode :2021Senso..21.3066D. doi : 10.3390/s21093066 . PMC 8124649 . PMID  33924891. 
76. Кадиркаманатан, В.; Ли, П.; Джавард, М. Х.; Фабри, С. Г. (2002). «Обнаружение неисправностей на основе фильтрации частиц в нелинейных стохастических системах». Международный журнал системной науки . 33 (4): 259–265. doi :10.1080/00207720110102566. S2CID  28634585.
77. Бонате П.: Фармакокинетическое-фармакодинамическое моделирование и имитация. Берлин: Springer; 2011.
78. Дитер Фокс, Вольфрам Бургард, Фрэнк Деллэрт и Себастьян Трун, «Локализация Монте-Карло: эффективная оценка положения мобильных роботов». Труды Шестнадцатой национальной конференции по искусственному интеллекту John Wiley & Sons Ltd, 1999.
79. Себастьян Трун, Вольфрам Бургард, Дитер Фокс. Вероятностная робототехника MIT Press, 2005. Гл. 8.3 ISBN 9780262201629 . 
80. Себастьян Трун, Дитер Фокс, Вольфрам Бургард, Фрэнк Деллэрт. «Надежная локализация Монте-Карло для мобильных роботов». Искусственный интеллект 128.1 (2001): 99–141.
81. Аббаси, Махди; Хосрави, Мохаммад Р. (2020). «Надежный и точный метод обнаружения зрачка на основе фильтра частиц для больших наборов данных видео глаз». Журнал Grid Computing . 18 (2): 305–325. doi :10.1007/s10723-019-09502-1. S2CID  209481431.
82. Питт, МК; Шепард, Н. (1999). «Фильтрация с помощью моделирования: вспомогательные фильтры частиц». Журнал Американской статистической ассоциации . 94 (446): 590–591. doi :10.2307/2670179. JSTOR  2670179. Архивировано из оригинала 2007-10-16 . Получено 2008-05-06 .
83. Занд, Г.; Тахерхани, М.; Сафабахш, Р. (2015). «Экспоненциальный фильтр природных частиц». arXiv : 1511.06603 [cs.LG].
84. Кантон-Феррер, К.; Касас, Дж. Р.; Пардас, М. (2011). «Захват движения человека с использованием масштабируемых моделей тела». Компьютерное зрение и понимание изображений . 115 (10): 1363–1374. doi :10.1016/j.cviu.2011.06.001. hdl :2117/13393.
85. Акылдиз, Омер Дениз; Мигес, Хоакин (01 марта 2020 г.). «Подталкивание сажевого фильтра». Статистика и вычисления . 30 (2): 305–330. дои : 10.1007/s11222-019-09884-y . hdl : 10044/1/100011 . ISSN  1573-1375. S2CID  88515918.
86. Лю, Дж.; Ван, В.; Ма, Ф. (2011). «Регуляризованный подход к вспомогательной фильтрации частиц для оценки состояния системы и прогнозирования срока службы батареи». Умные материалы и конструкции . 20 (7): 1–9. Bibcode : 2011SMaS...20g5021L. doi : 10.1088/0964-1726/20/7/075021. S2CID  110670991.
87. Бланко, Дж. Л.; Гонсалес, Дж.; Фернандес-Мадригал, Дж. А. (2008). Оптимальный алгоритм фильтрации для непараметрических моделей наблюдения при локализации роботов . Международная конференция IEEE по робототехнике и автоматизации (ICRA'08). стр. 461–466. CiteSeerX 10.1.1.190.7092 . 
88. Бланко, Дж. Л.; Гонсалес, Дж.; Фернандес-Мадригал, Дж. А. (2010). «Оптимальная фильтрация для непараметрических моделей наблюдения: приложения к локализации и SLAM». Международный журнал исследований робототехники . 29 (14): 1726–1742. CiteSeerX 10.1.1.1031.4931 . doi : 10.1177/0278364910364165. S2CID  453697. 

Библиография

• Del Moral, Pierre (1996). "Non Linear Filtering: Interacting Particle Solution" (PDF) . Markov Processes and Related Fields . 2 (4): 555–580. Архивировано из оригинала (PDF) 2016-03-04 . Получено 2015-05-31 .
• Del Moral, Pierre (2004). Формулы Фейнмана-Каца. Генеалогические и взаимодействующие приближения частиц . Springer. стр. 575. "Серия: Вероятность и приложения"
• Del Moral, Pierre (2013). Моделирование среднего поля для интегрирования Монте-Карло . Chapman & Hall/CRC Press. стр. 626. "Монографии по статистике и прикладной вероятности"
• Каппе, О.; Мулин, Э.; Райден, Т. (2005). Вывод в скрытых марковских моделях . Springer.
• Лю, Дж. С.; Чен, Р. (1998). "Последовательные методы Монте-Карло для динамических систем" (PDF) . Журнал Американской статистической ассоциации . 93 (443): 1032–1044. doi :10.1080/01621459.1998.10473765.
• Лю, Дж. С. (2001). Стратегии Монте-Карло в научных вычислениях . Springer.
• Kong, A.; Liu, JS; Wong, WH (1994). "Последовательные подстановки и байесовские проблемы с пропущенными данными" (PDF) . Журнал Американской статистической ассоциации . 89 (425): 278–288. doi :10.1080/01621459.1994.10476469.
• Лю, Дж. С.; Чен, Р. (1995). «Слепая деконволюция с помощью последовательных вменений» (PDF) . Журнал Американской статистической ассоциации . 90 (430): 567–576. doi :10.2307/2291068. JSTOR  2291068.
• Ристич, Б.; Арулампалам, С.; Гордон, Н. (2004). За пределами фильтра Калмана: фильтры частиц для приложений слежения . Artech House.
• Дусе, А.; Йохансен, А.М. (декабрь 2008 г.). "Учебник по фильтрации и сглаживанию частиц: пятнадцать лет спустя" (PDF) . Технический отчет .
• Дусе, А.; Годсилл, С.; Андрие, К. (2000). «О последовательных методах выборки Монте-Карло для байесовской фильтрации». Статистика и вычисления . 10 (3): 197–208. doi :10.1023/A:1008935410038. S2CID  16288401.
• Arulampalam, MS; Maskell, S.; Gordon, N.; Clapp, T. (2002). "Учебное пособие по фильтрам частиц для нелинейного/негауссовского байесовского отслеживания в режиме онлайн". IEEE Transactions on Signal Processing . 50 (2): 174–188. Bibcode : 2002ITSP...50..174A. CiteSeerX  10.1.1.471.8617 . doi : 10.1109/78.978374. S2CID  55577025.
• Cappe, O.; Godsill, S.; Moulines, E. (2007). «Обзор существующих методов и последних достижений в последовательном Монте-Карло». Труды IEEE . 95 (5): 899–924. doi :10.1109/JPROC.2007.893250. S2CID  3081664.
• Китагава, Г. (1996). «Фильтр Монте-Карло и сглаживатель для негауссовых нелинейных моделей пространства состояний». Журнал вычислительной и графической статистики . 5 (1): 1–25. doi :10.2307/1390750. JSTOR  1390750.
• Котеча, Дж. Х.; Джурич, П. (2003). «Фильтрация гауссовых частиц». Труды IEEE по обработке сигналов . 51 (10).
• Haug, AJ (2005). "Учебное пособие по байесовским методам оценки и отслеживания, применимым к нелинейным и негауссовским процессам" (PDF) . The MITRE Corporation, США, Tech. Rep., февраль . Архивировано (PDF) из оригинала 22 декабря 2021 г. . Получено 22 декабря 2021 г. .
• Pitt, MK; Shephard, N. (1999). «Фильтрация с помощью моделирования: вспомогательные фильтры частиц». Журнал Американской статистической ассоциации . 94 (446): 590–591. doi :10.2307/2670179. JSTOR  2670179. Архивировано из оригинала 2007-10-16 . Получено 2008-05-06 .
• Гордон, Нью-Джерси; Салмонд, DJ; Смит, АФМ (1993). «Новый подход к нелинейной/негауссовой байесовской оценке состояния». Труды IEE F — Радар и обработка сигналов . 140 (2): 107–113. doi :10.1049/ip-f-2.1993.0015.
• Чен, З. (2003). «Байесовская фильтрация: от фильтров Калмана до фильтров частиц и далее». CiteSeerX  10.1.1.107.7415 . {{cite journal}}: Цитировать журнал требует |journal=( помощь )
• Васвани, Н .; Рати, Й.; Йецци, А.; Танненбаум, А. (2007). «Отслеживание деформирующихся объектов с использованием фильтрации частиц для геометрических активных контуров». Труды IEEE по анализу образов и машинному интеллекту . 29 (8): 1470–1475. doi : 10.1109 /tpami.2007.1081. PMC  3663080. PMID  17568149.

Внешние ссылки

• Модели Фейнмана-Каца и алгоритмы взаимодействующих частиц (также известные как фильтрация частиц). Теоретические аспекты и список областей применения фильтров частиц.
• Домашняя страница последовательных методов Монте-Карло (фильтрация частиц) на сайте Кембриджского университета
• Анимации MCL Дитера Фокса
• Бесплатное программное обеспечение Роба Хесса
• SMCTC: Шаблонный класс для реализации алгоритмов SMC на C++
• Java-апплет для фильтрации частиц
• vSMC: векторизованный последовательный Монте-Карло
• Фильтр твердых частиц поясняется в контексте беспилотного автомобиля