Критерий максимума отношения правдоподобия

При формулировании правила выбора решения не всегда удается располагать априорной информацией о состояниях s₀ и s₁ изучаемого явления. В этом случае полагают равенство априорных вероятностей

Р (s₀) = Р (s₁) = 1/2.

Тогда критерий максимальной апостериорной вероятности переходит в сравнение между собой функций правдоподобия f _N (х₁, х₂, …, х_N / s₀) и f _N (х₁, х₂, …, х_N / s₁):

- если L (х_N) ³ 1, то принимается решение g ₁ об истинности гипотезы Н ₁ ;

- если L (х_N) < 1, то принимается решение g ₀ об истинности гипотезы Н ₀ .

Такое правило выбора решения называется критерием максимального отношения правдоподобия (или критерий максимального правдоподобия) и является, также, частным случаем байесовского решения.

П р и м е р 3 [Л11]: Двоичная система связи построена таким

образом, что передача информации осуществляется с помощью

двух сообщений А и В. На приемной стороне при этом

принимаются два сигнала у₀ и у₁, которые декодируются в

«0» и «1» соответственно. Априорные вероятности того,

что в канал связи переданы сообщения А и В равны

Р (А) = 0,6 и Р (В) = 0,4. Наличие помех в канале связи

характеризуется условными вероятностями:

Р (у₀ / А) = Р (0 / А) = 0,2; Р (у₁ / А) = Р (1 / А) = 0,8;

Р (у₀ / В) = Р (0 / В) = 0,3; Р (у₁ / В) = Р (1 / В) = 0,7.

Определить правило выбора решения и вычислить

вероятность ошибки для двоичной системы связи.

Р е ш е н и е:

Система связи, как правило, характеризуется некоторым множеством сообщений Т = { т₁, т₂, …, т_n } и множеством сигналов

S = { s ₁, s ₂, …, s _n }. Модель связи описывается априорными вероятностями Р (т_i) и условными вероятностями Р (s_j / т_i)

появления j – го сигнала при передаче i – го сообщения. Одной из основных задач в теории связи является нахождение правила, согласно которому j – ому сигналу ставится в соответствие i – ое сообщение. Это правило сводится к отображению множества сигналов на множество сообщений, при котором каждому сигналу ставится в соответствие одно и только одно сообщение. Возможным, но не единственным правилом является решение, принимаемое по критерию максимальной апостериорной вероятности (6), согласно которому

j – ый сигнал вызывается k – ым сообщением, если

Р (т_K / s _j) = max Р (т_i / s _j).

ⁱ

Вероятности Р (т_i / s _j) рассчитываются по формуле Байеса.

В нашем случае по условию задачи в канал связи с помехами подаются два сообщения А и В, а на приемной стороне принимаются два сигнала у₀ и у₁. Требуется установить, если принят сигнал у₀, то какое из сообщений А или В было передано? Аналогично и в случае для сигнала у₁. Иными словами надо каждому принятому сигналу поставить в соответствие какое-либо из переданных сообщений А или В. Для решения о том какое сообщение было передано, если принят сигнал у₀ найдем условные вероятности

Р (А / у₀), Р (А / у₁), Р (В / у₀) и Р (В / у₁). Предположим, что в каналу связи передается или сообщение А или сообщение В и сформулируем гипотезы:

гипотеза Н ₀ - передано сообщение А;

гипотеза Н ₁ - передано сообщение В

с априорными вероятностями Р (А) = Р (Н ₀ ) = 0,6 и

Р (В) = Р (Н ₁ ) = 0,4.

Пусть потребитель информации принимает сигнал у₀, которому присваивается символ «0». Вероятность этого найдем по формуле полной вероятности

Р (у₀) = Р (0) = Р (Н ₀) Р (0 / Н ₀) + Р (Н ₁ ) Р (0 / Н ₁ )= 0,24.

Аналогично, если потребитель информации принимает сигнал у₁, которому присваивается символ «1», то вероятность приема сигнала у₁ будет равна

Р (у₁) = Р (1) = Р (Н ₀) Р (1 / Н ₀) + Р (Н ₁ ) Р (1 / Н ₁ )= 0,76.

По формулам Байеса найдем апостериорные вероятности

Р (Н ₀) Р (0 / Н ₀) 0,12

Р (А / у₀) = Р (Н ₀ / 0) = ^{_______________________} = ^________ = 0,5;

Р (0) 0,24

Р (Н ₀) Р (1 / Н ₀) 0,48

Р (А / у₁) = Р (Н ₀ / 1) = ^{_______________________} = ^________ @ 0,6316;

Р (1) 0,76

Р (Н ₁) Р (0 / Н ₁) 0,28

Р (В / у₀) = Р (Н ₁ / 0) = ^{_______________________} = ^________ = 0,5;

Р (0) 0,24

Р (Н ₁) Р (1 / Н ₁) 0,12

Р (В / у₁) = Р (Н ₁ / 1) = ^{_______________________} = ^________ @ 0,3684.

Р (1) 0,76

Сравнивая полученные вероятности определяем правило выбора решения по критерию максимальной апостериорной вероятности, согласно которому принятому сигналу у₁ ставится в соответствие переданное сообщение А, т.к. Р (А / у₁) > Р (В / у₁). Тогда принятому сигналу у₀ ставится в соответствие переданное сообщение В.

Таким образом по критерию максимума апостериорной вероятности правильным следует считать такое решении по которому принятому сигналу у₀ ставится в соответствие сообщение В, а принятому сигналу у₁ - сообщение А. Такое решение будем называть правильным, а соответствующую вероятность – вероятностью правильного решения Р _пр, которая будет равна

Р _пр = Р (Н ₀) Р (1 / Н ₀) + Р (Н ₁ ) Р (0 / Н ₁ ) =

= 0,6 × 0,8 + 0,4 × 0,3 = 0,6.

Вероятность ошибки будет

Р _ош = 1 - Р _пр = 0,4. à

П р и м е р 4. Пусть наблюдается случайная величина x

распределенная по нормальному закону N (m _x; s) с

математическим ожиданием m _х и дисперсией s ². По

результатам наблюдений получена выборка независимых

компонент х_N = х₁, х₂, …, х_N. Требуется по критерию

максимального правдоподобия проверить простую гипотезу

Н ₀ о том, что m _х = s ₀ при простой альтернативе Н ₁