Методы исследования скрытых марковских моделей

Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ñàíêò-Ïåòåðáóðãñêèé Ãîñóäàðñòâåííûé Óíèâåðñèòåò
Ìàòåìàòèêî-ìåõàíè÷åñêèé ôàêóëüòåò
Êàôåäðà ñòàòèñòè÷åñêîãî ìîäåëèðîâàíèÿ
Íàó÷íûé ðóêîâîäèòåëü ä.ô.-ì.í., äîöåíò, Í.Ê. Êðèâóëèí
Ðåöåíçåíò: ê.ô.-ì.í., Øïèë¼â Ï.Â.
Ñàíêò-Ïåòåðáóðã
2015ã.
1/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïîñòàíîâêà çàäà÷è.
Ââåäåíèå
Öåëü:
Ðàññìîòðåòü è èçó÷èòü ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ
ìîäåëåé (ÑÌÌ):
Àëãîðèòì Âèòåðáè
Àëãîðèòì ïðÿìîãîîáðàòíîãî õîäà
Àëãîðèòì ÁàóìàÓýëøà
Çàäà÷è:
Äëÿ äîñòèæåíèÿ ïîñòàâëåííîé öåëè, â ðàáîòå ðàññìîòðåíû ñëåäóþùèå
çàäà÷è:
Èññëåäîâàíèå ñêðûòûõ ìàðêîâñêèõ ìîäåëåé è èõ îñîáåííîñòåé;
Èçó÷åíèå òðåõ îñíîâíûõ çàäà÷, ñâÿçàííûõ ñ ÑÌÌ;
Èçó÷åíèå ìåòîäîâ ðåøåíèÿ îñíîâíûõ çàäà÷;
Ðàçðàáîòêà ïðîãðàììû äëÿ ðåàëèçàöèè ìåòîäîâ èññëåäîâàíèÿ ÑÌÌ.
2/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïîñòàíîâêà çàäà÷è.
Ââåäåíèå
Öåëü:
Ðàññìîòðåòü è èçó÷èòü ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ
ìîäåëåé (ÑÌÌ):
Àëãîðèòì Âèòåðáè
Àëãîðèòì ïðÿìîãîîáðàòíîãî õîäà
Àëãîðèòì ÁàóìàÓýëøà
Çàäà÷è:
Äëÿ äîñòèæåíèÿ ïîñòàâëåííîé öåëè, â ðàáîòå ðàññìîòðåíû ñëåäóþùèå
çàäà÷è:
Èññëåäîâàíèå ñêðûòûõ ìàðêîâñêèõ ìîäåëåé è èõ îñîáåííîñòåé;
Èçó÷åíèå òðåõ îñíîâíûõ çàäà÷, ñâÿçàííûõ ñ ÑÌÌ;
Èçó÷åíèå ìåòîäîâ ðåøåíèÿ îñíîâíûõ çàäà÷;
Ðàçðàáîòêà ïðîãðàììû äëÿ ðåàëèçàöèè ìåòîäîâ èññëåäîâàíèÿ ÑÌÌ.
2/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïîñòàíîâêà çàäà÷è.
Ââåäåíèå
Öåëü:
Ðàññìîòðåòü è èçó÷èòü ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ
ìîäåëåé (ÑÌÌ):
Àëãîðèòì Âèòåðáè
Àëãîðèòì ïðÿìîãîîáðàòíîãî õîäà
Àëãîðèòì ÁàóìàÓýëøà
Çàäà÷è:
Äëÿ äîñòèæåíèÿ ïîñòàâëåííîé öåëè, â ðàáîòå ðàññìîòðåíû ñëåäóþùèå
çàäà÷è:
Èññëåäîâàíèå ñêðûòûõ ìàðêîâñêèõ ìîäåëåé è èõ îñîáåííîñòåé;
Èçó÷åíèå òðåõ îñíîâíûõ çàäà÷, ñâÿçàííûõ ñ ÑÌÌ;
Èçó÷åíèå ìåòîäîâ ðåøåíèÿ îñíîâíûõ çàäà÷;
Ðàçðàáîòêà ïðîãðàììû äëÿ ðåàëèçàöèè ìåòîäîâ èññëåäîâàíèÿ ÑÌÌ.
2/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïîñòàíîâêà çàäà÷è.
Ââåäåíèå
Öåëü:
Ðàññìîòðåòü è èçó÷èòü ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ
ìîäåëåé (ÑÌÌ):
Àëãîðèòì Âèòåðáè
Àëãîðèòì ïðÿìîãîîáðàòíîãî õîäà
Àëãîðèòì ÁàóìàÓýëøà
Çàäà÷è:
Äëÿ äîñòèæåíèÿ ïîñòàâëåííîé öåëè, â ðàáîòå ðàññìîòðåíû ñëåäóþùèå
çàäà÷è:
Èññëåäîâàíèå ñêðûòûõ ìàðêîâñêèõ ìîäåëåé è èõ îñîáåííîñòåé;
Èçó÷åíèå òðåõ îñíîâíûõ çàäà÷, ñâÿçàííûõ ñ ÑÌÌ;
Èçó÷åíèå ìåòîäîâ ðåøåíèÿ îñíîâíûõ çàäà÷;
Ðàçðàáîòêà ïðîãðàììû äëÿ ðåàëèçàöèè ìåòîäîâ èññëåäîâàíèÿ ÑÌÌ.
2/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ââåäåíèå
Ïðåäìåò èññëåäîâàíèÿ
Ìîäåëü îïèñûâàåòñÿ äâóìÿ ïîñëåäîâàòåëüíîñòÿìè ñë.â. {ξk } è {ηk }.
Ïîñëåäîâàòåëüíîñòü {ξk } ñîñòîèò èç ñë.â. ñî çíà÷åíèÿìè 1, . . . , n è
îáðàçóåò êîíå÷íóþ îäíîðîäíóþ öåïü Ìàðêîâà ñ ìíîæåñòâîì
ñîñòîÿíèé 1, . . . , n. Èçâåñòíû âåðîÿòíîñòè
pij = P (ξk = j | ξk−1 = i), pi = P (ξ0 = i), i, j = 1, . . . , n,
ñîñòàâëÿþùèå ìàòðèöó ïåðåõîäíûõ âåðîÿòíîñòåé è âåêòîð íà÷àëüíûõ
âåðîÿòíîñòåé


P =
p11
...
..
.
pn1
...
p1n
...
pnn
..
.


p1


, p = 

.. 
. .
pn
Ïîñëåäîâàòåëüíîñòü ñë.â. ηk ïðèíèìàåò çíà÷åíèÿ 1, . . . , n è ñâÿçàíà ñ
öåïüþ Ìàðêîâà ξk óñëîâíûìè âåðîÿòíîñòÿìè
qi (j) = P (ηk = j | ξk = i), i, j = 1, . . . , n.
Ýòè âåðîÿòíîñòè ìîæíî çàïèñàòü â âèäå ìàòðèöû


Q=
q1 (1)
..
.
qn (1)
3/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
...

...
q1 (n)
...
qn (n)
..
.

.
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ââåäåíèå
Ïðåäïîëàãàåòñÿ, ÷òî ñîñòîÿíèÿ öåïè {ξk } íå äîñòóïíû äëÿ íàáëþäåíèÿ,
îäíàêî, î íèõ ìîæíî â îïðåäåëåííîé ìåðå ñóäèòü ïî íàáëþäåíèÿì
èçâåñòíûõ çíà÷åíèé ïîñëåäîâàòåëüíîñòè {ηk }.
Ïóñòü Xk = {ξk = ik }, Yk = {ηk = jk }, k = 1, 2, . . . .
Ñäåëàåì ïðåäïîëîæåíèå î íåçàâèñèìîñòè ñëó÷àéíûõ âåëè÷èí:
Ñëó÷àéíàÿ âåëè÷èíà ξk (ñêðûòîå ñîñòîÿíèå â ìîìåíò âðåìåíè k) öåïè
ïðè çàäàííîì çíà÷åíèè âåëè÷èíû ξk−1 (ñîñòîÿíèå â ìîìåíò âðåìåíè
k − 1) íå çàâèñèò îò ïðåäûäóùèõ ñëó÷àéíûõ âåëè÷èí (ñîáûòèé),
1
P (Xk |X1 Y1 · · · Xk−1 Yk−1 ) = P (Xk |Xk−1 ).
2
Ñëó÷àéíàÿ âåëè÷èíà ηk (k-å íàáëþäåíèå) ïðè çàäàííîì çíà÷åíèè ξk
(ñêðûòîãî ñîñòîÿíèÿ â ìîìåíò âðåìåíè k) íå çàâèñèò îò äðóãèõ
ñëó÷àéíûõ âåëè÷èí (ñîáûòèé),
P (Yk |X1 Y1 · · · Xk−1 Yk−1 Xk Yk Xk+1 Yk+1 · · · XK YK ) = P (Yk |Xk ).
4/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Îñíîâíûå çàäà÷è
Îñíîâíûå çàäà÷è äëÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé:
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â âû÷èñëåíèè
âåðîÿòíîñòè òîãî, ÷òî ìîäåëü ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé
ïîñëåäîâàòåëüíîñòè, òî åñòü íàñêîëüêî âûáðàííàÿ ÑÌÌ
ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè. (Àëãîðèòì
ïðÿìîãîîáðàòíîãî õîäà)
Çàäà÷à âîññòàíîâëåíèÿ ñîñòîÿíèé öåïè, â êîòîðîé íåîáõîäèìî
ïîäîáðàòü ïîñëåäîâàòåëüíîñòü ñîñòîÿíèé ñèñòåìû, êîòîðàÿ ëó÷øå
âñåãî ñîîòâåòñòâóåò íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè, òî åñòü
"îáúÿñíÿåò"íàáëþäàåìóþ ïîñëåäîâàòåëüíîñòü. (Àëãîðèòì Âèòåðáè)
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â ïîäáîðå ïàðàìåòðîâ
ìîäåëè òàêèì îáðàçîì, ÷òîáû îíà êàê ìîæíî ëó÷øå îïèñûâàëà
ðåàëüíóþ íàáëþäàåìóþ ïîñëåäîâàòåëíüîñòü. (Àëãîðèòì
ÁàóìàÓýëøà)
5/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Îñíîâíûå çàäà÷è
Îñíîâíûå çàäà÷è äëÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé:
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â âû÷èñëåíèè
âåðîÿòíîñòè òîãî, ÷òî ìîäåëü ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé
ïîñëåäîâàòåëüíîñòè, òî åñòü íàñêîëüêî âûáðàííàÿ ÑÌÌ
ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè. (Àëãîðèòì
ïðÿìîãîîáðàòíîãî õîäà)
Çàäà÷à âîññòàíîâëåíèÿ ñîñòîÿíèé öåïè, â êîòîðîé íåîáõîäèìî
ïîäîáðàòü ïîñëåäîâàòåëüíîñòü ñîñòîÿíèé ñèñòåìû, êîòîðàÿ ëó÷øå
âñåãî ñîîòâåòñòâóåò íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè, òî åñòü
"îáúÿñíÿåò"íàáëþäàåìóþ ïîñëåäîâàòåëüíîñòü. (Àëãîðèòì Âèòåðáè)
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â ïîäáîðå ïàðàìåòðîâ
ìîäåëè òàêèì îáðàçîì, ÷òîáû îíà êàê ìîæíî ëó÷øå îïèñûâàëà
ðåàëüíóþ íàáëþäàåìóþ ïîñëåäîâàòåëíüîñòü. (Àëãîðèòì
ÁàóìàÓýëøà)
5/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Îñíîâíûå çàäà÷è
Îñíîâíûå çàäà÷è äëÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé:
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â âû÷èñëåíèè
âåðîÿòíîñòè òîãî, ÷òî ìîäåëü ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé
ïîñëåäîâàòåëüíîñòè, òî åñòü íàñêîëüêî âûáðàííàÿ ÑÌÌ
ñîîòâåòñòâóåò çàäàííîé íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè. (Àëãîðèòì
ïðÿìîãîîáðàòíîãî õîäà)
Çàäà÷à âîññòàíîâëåíèÿ ñîñòîÿíèé öåïè, â êîòîðîé íåîáõîäèìî
ïîäîáðàòü ïîñëåäîâàòåëüíîñòü ñîñòîÿíèé ñèñòåìû, êîòîðàÿ ëó÷øå
âñåãî ñîîòâåòñòâóåò íàáëþäàåìîé ïîñëåäîâàòåëüíîñòè, òî åñòü
"îáúÿñíÿåò"íàáëþäàåìóþ ïîñëåäîâàòåëüíîñòü. (Àëãîðèòì Âèòåðáè)
Çàäà÷à îöåíêè ìîäåëè, êîòîðàÿ çàêëþ÷àåòñÿ â ïîäáîðå ïàðàìåòðîâ
ìîäåëè òàêèì îáðàçîì, ÷òîáû îíà êàê ìîæíî ëó÷øå îïèñûâàëà
ðåàëüíóþ íàáëþäàåìóþ ïîñëåäîâàòåëíüîñòü. (Àëãîðèòì
ÁàóìàÓýëøà)
5/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Àëãîðèòì Âèòåðáè (Forney G. D. 1973)
ïîñëåäîâàòåëüíîñòü íàáëþäåíèé j1 , . . . , jk ñëó÷àéíûõ âåëè÷èí
;
ïîñëåäîâàòåëüíîñòü çíà÷åíèé i1 , . . . , ik ñëó÷àéíûõ âåëè÷èí
ξ1 , . . . , ξk , òàêóþ ÷òî
Äàíî:
η1 , . . . , η k
Íàéòè:
max Fj1 ,...,jk (i1 , . . . , ik ),
i1 ,...,ik
ãäå öåëåâàÿ ôóíêöèÿ èìååò âèä
Fj1 ,...,jk (i1 , . . . , ik ) = P (ξ1 = i1 , . . . , ξk = ik | η1 = j1 , . . . , ηk = jk ).
Ïðîöåäóðà ïîñëåäîâàòåëüíîãî ðàñ÷åòà äëÿ êàæäîãî k = 1, 2, . . .
âåðîÿòíîñòåé ñîñòîÿíèé ñêðûòîé öåïè Ìàðêîâà ïî ôîðìóëàì
f1 (i) = pi ,
fk (i) = qi (jk ) max pji fk−1 (j) i = 1, . . . , n, k > 1,
i≤j≤n
ñîîòâåòñòâóåò îáùåé âû÷èñëèòåëüíîé ñõåìå äèíàìè÷åñêîãî
ïðîãðàììèðîâàíèÿ è íàçûâàåòñÿ àëãîðèòìîì Âèòåðáè.
6/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Àëãîðèòì ïðÿìîãîîáðàòíîãî õîäà (Rabiner L. 1989)
Äàíî:
âåðîÿòíîñòè ìîäåëè p, P, Q è ïîñëåäîâàòåëüíîñòü íàáëþäåíèé
;
âåðîÿòíîñòü ïîÿâëåíèÿ äàííîé ïîñëåäîâàòåëüíîñòè.
j1 , . . . , j k
Íàéòè:
αk (i) = P (η1 = j1 , . . . , ηk = jk , ξk = i),
α1 (i) = qi (j1 )pi ,
αk (i) = qi (jk )
n
X
pji αk−1 (j), i = 1, . . . , n, k = 2, 3, . . .
j=1
âåðîÿòíîñòü, ÷òî â ìîìåíò íàáëþäåíèÿ k ñèñòåìà íàõîäèòñÿ â ñîñòîÿíèè i.
βk (i) = P (ηk+1 = jk+1 , . . . , ηK = jK | ξk = i),
βk (i) =
n
X
pij βk+1 qj (jk+1 ), k = K − 1, K − 2, . . . , 1,
j=1
βK (i) = 1, i = 1, . . . , n.
7/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
γk (i) = P (ξk = i | η1 = j1 , . . . , ηK = jK ),
αk (i)βk (i)
γk (i) = Pn
, i = 1, . . . , n; k = 1, . . . , K.
j=1 αk (j)βk (j)
δk (i, j) = P (ξk = i, ξk+1 = j | η1 = j1 , . . . , ηK = jK ),
δk (i, j) = Pn
i=1
qj (jk+1 )pij αk (i)βk+1 (j)
P
.
n
j=1 qi (jk+1 )pji αk (j)βk+1 (i)
âåðîÿòíîñòü êîíå÷íîé çàäàííîé ïîñëåäîâàòåëüíîñòè, ïðè óñëîâèè, ÷òî ìû
íà÷àëè èç èñõîäíîãî ñîñòîÿíèÿ i â ìîìåíò íàáëþäåíèÿ k.
8/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Àëãîðèòì ÁàóìàÓýëøà (Rabiner L. 2013)
ïîñëåäîâàòåëüíîñòü íàáëþäåíèé j1 , . . . , jK ;
ïàðàìåòðû ìîäåëè, ò.å. íàéòè âåêòîð íà÷àëüíûõ âåðîÿòíîñòåé
p è ìàòðèöû ïåðåõîäíûõ è óñëîâíûõ âåðîÿòíîñòåé P è Q,
θ = (p, P, Q). Äëÿ îïðåäåëåíèÿ ïàðàìåòðîâ ìîäåëè òðåáóåòñÿ ðåøèòü
çàäà÷ó
Äàíî:
Íàéòè:
max L(j1 , . . . , jK ; θ),
θ
n
X
pi = 1,
i=1
n
X
ãäå
pij = 1,
j=1
n
X
qi (j) = 1; i = 1, . . . , n,
j=1
L(j1 , . . . , jK ; θ) = P (Y1 . . . YK ) =
X
=
pi1 qi1 (j1 )pi1 i2 . . . qiK−1 (jK−1 )piK−1 iK qiK (jK ).
1≤i1 ,...,iK ≤n
9/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îñíîâíûå çàäà÷è è èõ ðåøåíèå
Àëãîðèòì ïðåäñòàâëÿåò
ñîáîé èòåðàòèâíóþ ïðîöåäóðó óòî÷íåíèÿ
ïàðàìåòðîâ p0i , p0ij è qi0 (j) íàáîðà θ0 = (p, P, Q). Óòî÷íåííûå çíà÷åíèÿ
âû÷èñëÿþòñÿ ïî ôîðìóëàì
pi =
γ10 (i),
PK−1
PK−1
pij =
δk0 (i, j)
,
Pk=1
K−1 0
k=1 γk (i)
qi (j) =
k=1,jk =j
PK
k=1
γk0 (i)
γk0 (i)
.
(1)
Íà ïåðâîì øàãå àëãîðèòìà âûáèðàþòñÿ íåêîòîðûå íà÷àëüíûå
çíà÷åíèÿ ïàðàìåòðîâ. Íà îñíîâå ýòèõ çíà÷åíèé è ðåçóëüòàòîâ
íàáëþäåíèé ïàðàìåòðû óòî÷íÿþòñÿ ïî ôîðìóëàì (1), à çàòåì
ïðîöåäóðà ïîâòîðÿåòñÿ äëÿ íîâûõ çíà÷åíèé ïàðàìåòðîâ. Âû÷èñëåíèÿ
çàâåðøàþòñÿ ïðè ñòàáèëèçàöèè çíà÷åíèé ïàðàìåòðîâ â ïðåäåëàõ
çàäàííîé òî÷íîñòè.
10/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Îïèñàíèå ïðîãðàììû
Ïðîãðàììà
Íàøà ìîäåëü:
Ðàçìåðíîñòü çàäà÷è:2
Âåêòîð íà÷àëüíûõ âåðîÿòíîñòåé:
p[1] = 0.7 p[2] = 0.3
Ìàòðèöà âåðîÿòíîñòåé ïåðåõîäîâ:
P [1, 1] = 0.8 P [1, 2] = 0.2
P [2, 1] = 0.9 P [2, 2] = 0.1
Ìàòðèöà âåðîÿòíîñòåé íàáëþäåíèé:
Q1 (1) = 0.6 Q1 (2) = 0.4
Q2 (1) = 0.3 Q2 (2) = 0.7
Âåêòîð ñîñòîÿíèé:2121111112
Âåêòîð íàáëþäåíèé:2121211112
Âåêòîð ñîñòîÿíèé ïî àëãîðèòìó Âèòåðáè:1111111112
11/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïðîãðàììà
Ìîäåëü:
Âåêòîð íà÷àëüíûõ âåðîÿòíîñòåé:
p[1] = 0.7 p[2] = 0.3
Ìàòðèöà âåðîÿòíîñòåé ïåðåõîäîâ:
p[1] = 0.00069051 p[2] = 0.99931
P [1, 1] = 0.8 P [1, 2] = 0.2
P [1, 1] = 0.72701 P [1, 2] = 0.27299
P [2, 1] = 0.9 P [2, 2] = 0.1
P [2, 1] = 0.984157 P [2, 2] = 0.0158429
Ìàòðèöà âåðîÿòíîñòåé íàáëþäåíèé:
12/15
Àëãîðèòì Áàóìà-Óýëøà:
Q1 (1) = 0.6 Q1 (2) = 0.4
Q1 (1) = 0.551189 Q1 (2) = 0.448811
Q2 (1) = 0.3 Q2 (2) = 0.7
Q2 (1) = 0.00130969 Q2 (2) = 0.99869
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïðîãðàììà
p[1] = 0.7 p[2] = 0.3
P [1, 1] = 0.8 P [1, 2] = 0.2
P [2, 1] = 0.9 P [2, 2] = 0.1
Q1 (1) = 0.6 Q1 (2) = 0.4
Q2 (1) = 0.3 Q2 (2) = 0.7
Ðèñ.: Çàâèñèìîñòü äîëè îøèáîê àëãîðèòìà Âèòåðáè îò êîëè÷åñòâà íàáëþäåíèé â
ñåðèè èç 100 ýêñïåðèìåíòîâ.
13/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ïðîãðàììà
p[1] = 0.7 p[2] = 0.3
P [1, 1] = 0.8 P [1, 2] = 0.2
P [2, 1] = 0.9 P [2, 2] = 0.1
Q1 (1) = 0.6 Q1 (2) = 0.4
Q2 (1) = 0.3 Q2 (2) = 0.7
Ðèñ.: Çàâèñèìîñòü äîëè ïðàâèëüíî óãàäàííûõ ñîñòîÿíèé àëãîðèòìà Âèòåðáè îò
êîëè÷åñòâà íàáëþäåíèé â ñåðèè èç 100 ýêñïåðèìåíòîâ.
14/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé
Ðåçóëüòàòû
Ïðîãðàììà
Èçó÷åíû ñêðûòûå ìàðêîâñêèå ìîäåëè, èõ ñâîéñòâà è îñîáåííîñòè;
Ïîñòàâëåíû è èçó÷åíû îñíîâíûå çàäà÷è è ïóòè èõ ðåøåíèÿ ñ
ïîìîùüþ ðàçëè÷íûõ ñõåì: àëãîðèòìû Âèòåðáè, ïðÿìîãîîáðàòíîãî
õîäà, ÁàóìàÓýëøà;
Ñîñòàâëåíà ïðîãðàììà ïî ðåàëèçàöèè àëãîðèòìîâ Âèòåðáè,
ïðÿìîãîîáðàòíîãî õîäà è ÁàóìàÓýëøà â ñðåäå MS Visual Studio
C++;
Ïðåäñòàâëåíû ýêñïåðèìåíòàëüíûå çàâèñèìîñòè äîëè ïðàâèëüíî
óãàäàííûõ ñîñòîÿíèé îò êîëè÷åñòâà íàáëþäåíèé è äîëè îøèáîê â
àëãîðèòìå Âèòåðáè.
15/15
Áàãèíà Àë¼íà Àëåêñååâíà, 522 -ÿ ãðóïïà
Ìåòîäû èññëåäîâàíèÿ ñêðûòûõ ìàðêîâñêèõ ìîäåëåé