Рекурсивная байесовская оценка - Recursive Bayesian estimation

В Теория вероятности, Статистика, и Машинное обучение: Рекурсивное байесовское оценивание, также известный как Байесовский фильтр, представляет собой общий вероятностный подход для оценка неизвестно функция плотности вероятности (PDF ) рекурсивно во времени с использованием входящих измерений и математической модели процесса. Этот процесс в значительной степени опирается на математические концепции и модели, теоретически обоснованные в рамках исследования априорных и апостериорных вероятностей, известных как Байесовская статистика.

В робототехнике

Фильтр Байеса - это алгоритм, используемый в Информатика для расчета вероятностей нескольких убеждений, чтобы позволить робот вывести его положение и ориентацию. По сути, байесовские фильтры позволяют роботам постоянно обновлять свое наиболее вероятное положение в системе координат на основе последних полученных данных датчиков. Это рекурсивный алгоритм. Он состоит из двух частей: прогнозирования и инноваций. Если переменные нормально распределенный и переходы линейны, фильтр Байеса становится равным Фильтр Калмана.

В простом примере робот, перемещающийся по сетке, может иметь несколько различных датчиков, которые предоставляют ему информацию о его окружении. Робот может начать с уверенностью, что он находится в позиции (0,0). Однако по мере того, как он перемещается все дальше и дальше от своего исходного положения, у робота становится все меньше уверенности в своем положении; Используя фильтр Байеса, вероятность может быть присвоена предположению робота о его текущем положении, и эта вероятность может постоянно обновляться на основе дополнительной информации датчика.

Модель

Истинное состояние ${ displaystyle x}$ считается ненаблюдаемым Марковский процесс, а измерения ${ displaystyle z}$ наблюдения Скрытая марковская модель (ХМ). На следующем рисунке представлена ​​байесовская сеть HMM.

Из-за предположения Маркова вероятность текущего истинного состояния с учетом непосредственно предыдущего состояния условно не зависит от других более ранних состояний.

${ displaystyle p ({ textbf {x}} _ {k} | { textbf {x}} _ {k-1}, { textbf {x}} _ {k-2}, dots, { textbf {x}} _ {0}) = p ({ textbf {x}} _ {k} | { textbf {x}} _ {k-1})}$

Аналогично, измерение на k-й временной шаг зависит только от текущего состояния, поэтому условно не зависит от всех других состояний с учетом текущего состояния.

${ displaystyle p ({ textbf {z}} _ {k} | { textbf {x}} _ {k}, { textbf {x}} _ {k-1}, dots, { textbf { x}} _ {0}) = p ({ textbf {z}} _ {k} | { textbf {x}} _ {k})}$

Используя эти предположения, распределение вероятностей по всем состояниям HMM можно записать просто как:

${ displaystyle p ({ textbf {x}} _ {0}, dots, { textbf {x}} _ {k}, { textbf {z}} _ {1}, dots, { textbf {z}} _ {k}) = p ({ textbf {x}} _ {0}) prod _ {i = 1} ^ {k} p ({ textbf {z}} _ {i} | { textbf {x}} _ {i}) p ({ textbf {x}} _ {i} | { textbf {x}} _ {i-1}).}$

Однако при использовании фильтра Калмана для оценки состояния Икс, интересующее распределение вероятностей связано с текущими состояниями, обусловленными измерениями, вплоть до текущего временного шага. (Это достигается за счет исключения предыдущих состояний и деления на вероятность набора измерений.)

Это приводит к предсказывать и Обновить шаги фильтра Калмана записаны вероятностно. Распределение вероятностей, связанное с предсказанным состоянием, представляет собой сумму (интеграл) произведений распределения вероятностей, связанных с переходом от (k - 1) -й временной шаг до k-го и распределение вероятностей, связанных с предыдущим состоянием, по всем возможным ${ displaystyle x_ {k-1}}$.

${ displaystyle p ({ textbf {x}} _ {k} | { textbf {z}} _ {1: k-1}) = int p ({ textbf {x}} _ {k} | { textbf {x}} _ {k-1}) p ({ textbf {x}} _ {k-1} | { textbf {z}} _ {1: k-1}) , d { textbf {x}} _ {k-1}}$

Распределение вероятности обновления пропорционально произведению вероятности измерения и прогнозируемого состояния.

${ displaystyle p ({ textbf {x}} _ {k} | { textbf {z}} _ {1: k}) = { frac {p ({ textbf {z}} _ {k} | { textbf {x}} _ {k}) p ({ textbf {x}} _ {k} | { textbf {z}} _ {1: k-1})} {p ({ textbf { z}} _ {k} | { textbf {z}} _ {1: k-1})}} propto p ({ textbf {z}} _ {k} | { textbf {x}} _ {k}) p ({ textbf {x}} _ {k} | { textbf {z}} _ {1: k-1})}$

Знаменатель

${ displaystyle p ({ textbf {z}} _ {k} | { textbf {z}} _ {1: k-1}) = int p ({ textbf {z}} _ {k} | { textbf {x}} _ {k}) p ({ textbf {x}} _ {k} | { textbf {z}} _ {1: k-1}) d { textbf {x}} _ {k}}$

постоянна относительно ${ displaystyle x}$, поэтому мы всегда можем заменить его на коэффициент ${ displaystyle alpha}$, которые на практике обычно игнорируются. Числитель можно вычислить, а затем просто нормализовать, поскольку его интеграл должен быть равен единице.

Приложения

• Фильтр Калмана, рекурсивный байесовский фильтр для многомерные нормальные распределения
• Фильтр твердых частиц, метод последовательного Монте-Карло (SMC), который моделирует PDF с использованием набора дискретных точек
• Оценки на основе сетки, которые разбивают PDF на детерминированную дискретную сетку

Последовательная байесовская фильтрация

Последовательная байесовская фильтрация - это расширение байесовской оценки для случая, когда наблюдаемое значение изменяется во времени. Это метод оценки реального значения наблюдаемой переменной, которая изменяется во времени.

Метод называется:

фильтрация

при оценке Текущий значение с учетом прошлых и текущих наблюдений,

сглаживание

при оценке прошлый значения с учетом прошлых и текущих наблюдений, и

прогноз

при оценке вероятного будущее значение с учетом прошлых и текущих наблюдений.

Понятие последовательной байесовской фильтрации широко используется в контроль и робототехника.

внешняя ссылка

• Арулампалам, М. Санджив; Маскелл, Саймон; Гордон, Нил (2002). «Учебное пособие по фильтрам частиц для нелинейного / негауссовского байесовского отслеживания в реальном времени». Транзакции IEEE при обработке сигналов. 50 (2): 174–188. CiteSeerX  10.1.1.117.1144. Дои:10.1109/78.978374.
• Беркхарт, Майкл С. (2019). «Глава 1. Обзор байесовской фильтрации». Дискриминационный подход к байесовской фильтрации с приложениями к нейронному декодированию человека. Провиденс, Род-Айленд, США: Университет Брауна. Дои:10.26300 / nhfp-xv22.
• Чен, Чжэ Шалфей (2003). "Байесовская фильтрация: от фильтров Калмана до фильтров частиц и не только". Статистика: журнал теоретической и прикладной статистики. 182 (1): 1–69.
• Диард, Жюльен; Бессьер, Пьер; Мазер, Эммануэль (2003). «Обзор вероятностных моделей с использованием методологии байесовского программирования в качестве объединяющей основы» (PDF). cogprints.org.
• Волков, Александр (2015). «Границы точности негауссовского байесовского отслеживания в среде NLOS». Обработка сигналов. 108: 498–508. Дои:10.1016 / j.sigpro.2014.10.025.
• Сяркка, Симо (2013). Байесовская фильтрация и сглаживание (PDF). Издательство Кембриджского университета.