Скрытая марковская модель

Скрытая марковская модель (СММ) — статистическая модель, имитирующая работу процесса, похожего на марковский процесс с неизвестными параметрами, и задачей ставится разгадывание неизвестных параметров на основе наблюдаемых. Полученные параметры могут быть использованы в дальнейшем анализе, например, для распознавания образов. СММ может быть рассмотрена как простейшая байесовская сеть доверия.

Первые заметки о скрытых марковских моделях опубликовал Баум^[англ.] в 1960-х, и уже в 70-х их впервые применили при распознавании речи. С середины 1980-х СММ применяются при анализе биологических последовательностей, в частности ДНК.

Основное применение СММ получили в области распознавания речи, письма, движений и биоинформатике. Кроме того, СММ применяются в криптоанализе, машинном переводе.

Представим двух друзей, обсуждающих каждый вечер по телефону, что они сегодня делали днём. Ваш друг может делать лишь три вещи: гулять в парке, ходить за покупками или убираться в комнате. Его выбор основывается лишь на погоде, которая была в момент принятия решения. Вы ничего не знаете о погоде в том регионе, где живёт ваш друг, но вы можете, основываясь на его решениях, попытаться угадать, какая погода была.

Погода представима в виде марковской цепи, она имеет два состояния: солнечно или дождливо, но вы не можете сами увидеть её, поэтому она скрыта от вас. Каждый день ваш друг принимает одно из трёх возможных решений: прогулка, покупки или уборка. Вы можете узнать о решении вашего друга, поэтому это наблюдаемое значение. В целом мы получаем СММ.

В обычной марковской модели состояние видимо наблюдателю, поэтому вероятности переходов — единственный параметр. В скрытой марковской модели мы можем следить лишь за переменными, на которые оказывает влияние данное состояние. Каждое состояние имеет вероятностное распределение среди всех возможных выходных значений. Поэтому последовательность символов, сгенерированная СММ, даёт информацию о последовательности состояний.

Диаграмма, представленная ниже, показывает общую структуру СММ. Овалы представляют собой переменные со случайным значением. Случайная переменная ${\displaystyle x(t)}$ представляет собой значение скрытой переменной в момент времени ${\displaystyle t}$. Случайная переменная ${\displaystyle y(t)}$ — это значение наблюдаемой переменной в момент времени ${\displaystyle t}$. Стрелки на диаграмме символизируют условные зависимости.

Из диаграммы становится ясно, что значение скрытой переменной ${\displaystyle x(t)}$ (в момент времени ${\displaystyle t}$) зависит только от значения скрытой переменной ${\displaystyle x(t-1)}$ (в момент ${\displaystyle t-1}$). Это называется свойством Маркова. Хотя в то же время значение наблюдаемой переменной ${\displaystyle y(t)}$ зависит только от значения скрытой переменной ${\displaystyle x(t)}$ (обе в момент времени ${\displaystyle t}$).

Вероятность увидеть последовательность ${\displaystyle Y=y(0),y(1),\dots ,y(L-1)}$ длины ${\displaystyle L}$ равна

${\displaystyle P(Y)=\sum _{X}P(Y\mid X)P(X),}$

здесь сумма пробегает по всем возможным последовательностям скрытых узлов ${\displaystyle X=x(0),x(1),\dots ,x(L-1).}$ Метод подсчёта полным перебором значений ${\displaystyle P(Y)}$ — очень трудоёмкий для многих задач из реальной жизни в силу того, что количество возможных последовательностей скрытых узлов очень велико. Но применение процедуры прямого-обратного хода^[1] позволяет существенно увеличить скорость вычислений.

Существуют три основных задачи, связанные с СММ:

• Алгоритм прямого-обратного хода: даны параметры модели и последовательность, требуется вычислить вероятность появления данной последовательности (позволяет решить задачу).
• Алгоритм Витерби: даны параметры модели, требуется определить наиболее подходящую последовательность скрытых узлов, наиболее точно описывающую данную модель (помогает при решении данной задачи).
• Алгоритм Баума — Велша: дана выходная последовательность (или несколько) с дискретными значениями, требуется обучить СММ на данном выходе.

• Теорема Марелье

• Скрытые Марковские Модели
• Сергей Николенко. Лекции № 6 и № 7 (слайды), посвящённые скрытым марковским моделям, из курса «Вероятностное обучение»