Решение задачи 3. Алгоритм Баума-Уэлча.

Необходимо подобрать параметры скрытой модели Маркова так, чтобы максимизировать вероятность данной последовательности наблюдений.

Вводятся переменные

ξ_t(i,j) = P(q_t=S_i,q_t+1=S_j|O,λ),

которые показывают вероятность того, что при заданной последовательности наблюдений O система в моменты времени t и t+1 будет находиться соответственно в состояниях S_i и S_j. Используя прямую и обратную переменные запишем:

α_t(i)a_ijb_j(o_t+1)β_t+1(j)

ξ_t(i,j)=

^{____________________}

^{________________________}

P(O|λ)

∑	∑	α_t(i)a_ijb_j(o_t+1)β_t+1(j)
N	N

Введем переменные вероятности того, что при заданной последовательности наблюдений O система в момент времени t будет находиться в состоянии S_i:

	N
γ_t(i)=	∑	ξ_t(i,j)
	j=1

При этом мы можем вычислить ожидаемое число переходов из состояния S_i: равно

T-1
∑	γ_t(i)
t=1

а ожидаемое число переходов из состояния S_i в состояние S_j:

T-1
∑	ξ_t(i,j)
t=1

Исходя из этого можно получить формулы для переоценки параметров модели Маркова:

π^*_i=γ_t(i)

T-1
∑	ξ_t(i,j)
t=1

a^*_ij=

^{_________________}

T-1
∑	γ_t(i)
t=1

T-1
∑	γ_t(j)
t=1,o_t=k

b^*_ij(k)=

^{_________________}

T-1
∑	γ_t(j)
t=1

Выражение

T-1
∑	γ_t(j)
t=1,o_t=k

в формуле для b^*_ij (k) означает что суммируются только те γ_t(j), для которых значение состояния равно k, то есть O_t = k.

После переоценки параметры модели либо выясняется, что она уже была оптимальной до переоценки либо обязательно улучшаются ее параметры (то есть правдоподобность модели после переоценки выше, чем до переоценки во всех случаях, когда модель можно оптимизировать).

Лекция 7

Тема. Построение классификаторов распознавания речевых сигналов (продолжение)

На лекции будет рассмотрено:

Классификатор на основе гауссовских смесей.

Распознавание речи с помощью нейросетей.

Гауссовы смешанные модели (GMM)

В отличие от СММ, ГСМ игнорирует временную информацию об акустической наблюдаемой последовательности и содержит состояния, отражающие различные акустические классы.

Для каждой фонемы создается модель, представленная на рис.7.1, которая определяет вероятность принадлежности фрейма этой фонеме.