Ɇɢɧɢɫɬɟɪɫɬɜɨ ɨɛɪɚɡɨɜɚɧɢɹ ɢ ɧɚɭɤɢ Ɋɨɫɫɢɣɫɤɨɣ Ɏɟɞɟɪɚɰɢɢ
ɋȺɇɄɌ-ɉȿɌȿɊȻɍɊȽɋɄɂɃ ɉɈɅɂɌȿɏɇɂɑȿɋɄɂɃ
ɍɇɂȼȿɊɋɂɌȿɌ ɉȿɌɊȺ ȼȿɅɂɄɈȽɈ
Ʉɭɪɫɥɟɤɰɢɣ
ɩɨ
Ɍɟɨɪɢɢȼɟɪɨɹɬɧɨɫɬɟɣ
Ʉɭɪɫɥɟɤɰɢɣ
ɋɚɧɤɬ-ɉɟɬɟɪɛɭɪɝ
2018
ɍȾɄ5 1 9 . 2 1 ( 0 7 5 . 8 )
Ⱥɜ ɬɨ ɪ :
ɓɟɪɛɚɤɨɜɚɈɥɶɝɚȿɜɝɟɧɶɟɜɧɚ
Ʉɭɪɫ ɥɟɤɰɢɣ ɩɨ Ɍɟɨɪɢɢ ȼɟɪɨɹɬɧɨɫɬɟɣ: ɤɭɪɫ ɥɟɤɰɢɣ / Ɉȿ
ɓɟɪɛɚɤɨɜɚ. – ɋɉɛ, 2018. – 84ɫ.
Ʉɭɪɫ ɥɟɤɰɢɣ ɫɨɨɬɜɟɬɫɬɜɭɟɬ ɨɛɪɚɡɨɜɚɬɟɥɶɧɨɦɭ ɫɬɚɧɞɚɪɬɭ ɜɵɫɲɟɝɨ
ɨɛɪɚɡɨɜɚɧɢɹ
Ɏɟɞɟɪɚɥɶɧɨɝɨ
ɝɨɫɭɞɚɪɫɬɜɟɧɧɨɝɨ
ɚɜɬɨɧɨɦɧɨɝɨ
ɨɛɪɚɡɨɜɚɬɟɥɶɧɨɝɨ ɭɱɪɟɠɞɟɧɢɹɜɵɫɲɟɝɨ ɨɛɪɚɡɨɜɚɧɢɹ ©ɋɚɧɤɬ-ɉɟɬɟɪɛɭɪɝɫɤɢɣ
ɩɨɥɢɬɟɯɧɢɱɟɫɤɢɣ ɭɧɢɜɟɪɫɢɬɟɬ ɉɟɬɪɚ ȼɟɥɢɤɨɝɨ» ɢ ɱɢɬɚɥɫɹ ɛɚɤɚɥɚɜɪɚɦ
ɂɄɇɌ ɢ ɂ Ɏ ɇ ɂ Ɍ ɩɨ ɞɢɫɰɢɩɥɢɧɟ«Ɍɟɨɪɢɹȼɟɪɨɹɬɧɨɫɬɟɣ».
ɉɪɟɞɫɬɚɜɥɟɧɤɥɚɫɫɢɱɟɫɤɢɣ ɤɭɪɫɌɟɨɪɢɢȼɟɪɨɹɬɧɨɫɬɟɣ.
ȼ ɩɟɪɜɨɣ ɝɥɚɜɟ ɨɩɢɫɚɧɚ ɢɫɬɨɪɢɹ ɫɬɚɧɨɜɥɟɧɢɹ ɬɟɨɪɢɢ ɜɟɪɨɹɬɧɨɫɬɟɣ ɧɚ
ɩɪɢɦɟɪɚɯɪɚɫɤɪɵɬɢɹɩɚɪɚɞɨɤɫɨɜɜɨɡɧɢɤɚɜɲɢɯɧɚɟɟ ɩɭɬɢ
ȼɤɭɪɫɟɢɞɟɬɚɤɫɢɨɦɚɬɢɱɟɫɤɨɟɩɨɫɬɪɨɟɧɢɟɜɟɪɨɹɬɧɨɫɬɧɨɝɨɩɪɨɫɬɪɚɧɫɬɜɚɢ
ɫɷɬɨɣɩɨɡɢɰɢɢɪɚɫɫɦɚɬɪɢɜɚɟɬɫɹɤɥɚɫɫɢɱɟɫɤɚɹɢɝɟɨɦɟɬɪɢɱɟɫɤɚɹɜɟɪɨɹɬɧɨɫɬɶ
Ɉɫɧɨɜɧɵɦɢ ɨɛɴɟɤɬɚɦɢ ɜ ɤɭɪɫɟ ɹɜɥɹɸɬɫɹ ɫɥɭɱɚɣɧɵɟ ɜɟɥɢɱɢɧɵ ɢ ɢɯ
ɩɨɫɥɟɞɨɜɚɬɟɥɶɧɨɫɬɢ. Ⱦɚɧɵ ɨɩɪɟɞɟɥɟɧɢɹ ɢ ɫɜɨɣɫɬɜɚɨɫɧɨɜɧɵɯ ɯɚɪɚɤɬɟɪɢɫɬɢɤ
ɫɥɭɱɚɣɧɵɯ ɜɟɥɢɱɢɧ ɩɪɢɜɟɞɟɧɵ ɩɪɢɦɟɪɵ ɫɮɨɪɦɭɥɢɪɨɜɚɧɵ ɢ ɞɨɤɚɡɚɧɵ
ɨɫɧɨɜɧɵɟɩɪɟɞɟɥɶɧɵɟɬɟɨɪɟɦɵ, ɧɚɩɪɢɦɟɪ ɬɚɤɢɟ ɤɚɤ Ɂɚɤɨɧɵ Ȼɨɥɶɲɢɯ ɑɢɫɟɥ
ɍɫɢɥɟɧɧɵɟ Ɂɚɤɨɧɵ Ȼɨɥɶɲɢɯ ɑɢɫɟɥ ɐɟɧɬɪɚɥɶɧɵɟ ɉɪɟɞɟɥɶɧɵɟ Ɍɟɨɪɟɦɵ.
Ɉɫɨɛɨɟɜɧɢɦɚɧɢɟɨɛɪɚɳɚɟɬɫɹɧɚɦɟɬɨɞɯɚɪɚɤɬɟɪɢɫɬɢɱɟɫɤɢɯɮɭɧɤɰɢɣ ȼɤɭɪɫɟ
ɦɧɨɝɨɩɪɢɦɟɪɨɜɢɢɥɥɸɫɬɪɚɬɢɜɧɨɝɨɦɚɬɟɪɢɚɥɚ.
ɉɪɟɞɧɚɡɧɚɱɟɧɨ
ɞɥɹ
ɫɬɭɞɟɧɬɨɜ
ɚɫɩɢɪɚɧɬɨɜ
ɩɪɟɩɨɞɚɜɚɬɟɥɟɣ
ɦɚɬɟɦɚɬɢɱɟɫɤɢɯ ɮɢɡɢɱɟɫɤɢɯ ɢɧɫɬɢɬɭɬɨɜ ɢ ɢɧɫɬɢɬɭɬɨɜ ɤɨɦɩɶɸɬɟɪɧɵɯ
ɬɟɯɧɨɥɨɝɢɣ.
© ɋɚɧɤɬ-ɉɟɬɟɪɛɭɪɝɫɤɢɣ ɩɨɥɢɬɟɯɧɢɱɟɫɤɢɣ
ɭɧɢɜɟɪɫɢɬɟɬɉɟɬɪɚ ȼɟɥɢɤɨɝɨ 2018
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
Î. Å. Ùåðáàêîâà
Î. Å. Ùåðáàêîâà
Ñîäåðæàíèå
1. Èñòîðèÿ ñòàíîâëåíèÿ òåîðèè âåðîÿòíîñòåé
1.1. Ïðåäûñòîðèÿ
1.2. Ïåðûé ïåðèîä (XVII âåê - íà÷àëî XVIII âåêà)
1.3. Âòîðîé ïåðèîä (XVIII âåê - íà÷àëî XIX âåêà)
1.4. Òðåòèé ïåðèîä (âòîðàÿ ïîëîâèíà XIX âåêà)
1.5. ×åòâåðòûé ïåðèîä (íà÷àëî XX âåêà)
2. Äëÿ ÷åãî íóæíî èçó÷àòü òåîðèþ âåðîÿòíîñòåé
3. Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
3.1. Àêñèîìû âåðîÿòíîñòè
3.2. Ñâîéñòâà âåðîÿòíîñòè
4. Êëàññè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
4.1. Âçãëÿä íà êëàññè÷åñêóþ âåðîÿòíîñòü ÷åðåç ïðèçìó àêñèîìàòè÷åñêîãî
îïðåäåëåíèÿ
4.2. Ýëåìåíòû êîìáèíàòîðèêè
5. Ãåîìåòðè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
5.1. Îïðåäåëåíèå
5.2. Ïàðàäîêñ Áåðòðàíà
5.3. Çàäà÷à Áþôôîíà
6. Óñëîâíàÿ âåðîÿòíîñòü. Ôîðìóëà ïîëíîé âåðîÿòíîñòè. Ôîðìóëà Áàéåñà.
Íåçàâèñèìîñòü ñîáûòèé
6.1. Îïðåäåëåíèå óñëîâíîé âåðîÿòíîñòè
6.2. Ôîðìóëà ïîëíîé âåðîÿòíîñòè
6.3. Ôîðìóëà Áàéåñà
7. Íåçàâèñèìîñòü ñîáûòèé
7.1. Îïðåäåëåíèå
7.2. Îïðåäåëåíèå ðàçëè÷íûõ âèäîâ íåçàâèñèìîñòè äëÿ ìíîæåñòâà
ñîáûòèé
7.3. Óðíîâàÿ ñõåìà Ëàïëàñà
8. Ñëó÷àéíûå ýëåìåíòû è èõ ðàñïðåäåëåíèå
9. Ïîíÿòèå ñëó÷àéíîé âåëè÷èíû
10. Ïîñëåäîâàòåëüíîñòè íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè
10.1. Îïðåäåëåíèå íåçàâèñèìûõ èñïûòàíèé
10.2. Ôîðìóëà Áåðíóëëè
10.3. Î íàèáîëåå âåðîÿòíîì ÷èñëå óñïåõîâ
10.4. Ëîêàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà
10.5. Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà
10.6. Çàêîí áîëüøèõ ÷èñåë Áåðíóëëè
10.7. Òåîðåìà Ïóàññîíà
11. Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû
11.1. Îïðåäåëåíèå ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû
11.2. Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû
12. Ðàçëè÷íûå âèäû ñëó÷àéíûõ âåëè÷èí
12.1. Äèñêðåòíûå ðàñïðåäåëåíèÿ
12.2. Aáñîëþòíî íåïðåðûâíûå ðàñïðåäåëåíèÿ
12.3. Ñèíãóëÿðíûå ðàñïðåäåëåíèÿ
13. Ñëó÷àéíûå âåêòîðû è èõ ðàñïðåäåëåíèÿ â Rn
4
4
4
6
6
7
8
9
9
9
13
13
13
15
15
15
17
19
19
19
20
21
21
21
22
24
25
26
26
26
28
28
28
29
29
31
31
31
33
33
35
38
41
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
14.
15.
!
Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí
43
Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà, Ðèìàíà-Ñòèòüåñà. Ìàòåìàòè÷åñêîå
îæèäàíèå. Ïîíÿòèå ñâåðòêè.
44
15.1. Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà
44
15.2. Èíòåãðàë Ðèìàíà-Ñòèëòüåñà
45
15.3. Ïîíÿòèå ñâåðòêè
46
15.4. Ñâîéñòâà ìàòåìàòè÷åñêîãî îæèäàíèÿ
47
15.5. Íåðàâåíñòâà, ñâÿçàííûå ñ ìàòåìàòè÷åñêèì îæèäàíèåì
48
16. Äèñïåðñèÿ. Êîâàðèàöèÿ. Êîððåëÿöèÿ.
51
16.1. Äèñïåðñèÿ
51
16.2. Êîâàðèàöèÿ. Êîâàðèöèîííàÿ ìàòðèöà
51
16.3. Êîððåëÿöèÿ
52
17. Ðàçëè÷íûå âèäû ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí
53
17.1. Êðèòåðèé ñõîäèìîñòè ïî÷òè íàâåðíîå
54
17.2. Ñðàâíèòåëüíûé àíàëèç ðàçëè÷íûõ âèäîâ ñõîäèìîñòè ñëó÷àéíûõ
âåëè÷èí
56
18. Çàêîí áîëüøèõ ÷èñåë. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë
58
18.1. Çàêîí áîëüøèõ ÷èñåë.
58
18.2. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë.
60
19. Õàðàêòåðèñòè÷åñêèå ôóíêöèè
62
19.1. Ñâîéñòâà õàðàêòåðèñòè÷åñêîé ôóíêöèè ñëó÷àéíîé âåëè÷èíû
62
19.2. Ïðèìåðû õàðàêòåðèñòè÷åñêèõ ôóíêöèé
63
19.3. Ôîðìóëà îáðàùåíèÿ
64
20. Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí
67
21. Ìåòîä õàðàêòåðèñòè÷åñêèõ ôóíêöèé. Öåíòðàëüíàÿ ïðåäåëüíàÿ
òåîðåìà (ÖÏÒ)
68
22. Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Âûáîðî÷íàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ,
âûáîðî÷íûå ìîìåíòû. Òåîðåìà Ãëèâåíêî-Êàíòåëëè
71
23. Òèïû ñòàòèñòèê: íåñìåùåííîñòü, ñîñòîÿòåëüíîñòü, íîðìàëüíîñòü.
Òåîðåìà î âûáîðî÷íîì ñðåäíåì è âûáîðî÷íîé äåñïåðñèè
73
24. Ïîðÿäêîâûå ñòàòèñòèêè èëè Âàðèàöèîííûé ðÿä
75
25. Âûáîðêà èç íîðìàëüíîãî ðàñïðåäåëåíèÿ. χ2 ðàñïðåäåëåíèå è
ðàñïðåäåëåíèå Ñòüþäåíòà. Ëåììà Ôèøåðà
77
26. Ñïèñîê âîïðîñîâ ïî "Òåîðèè Âåðîÿòíîñòåé"
80
27. Ñïèñîê ëèòåðàòóðû
82
Î. Å. Ùåðáàêîâà
"
1.
Èñòîðèÿ ñòàíîâëåíèÿ òåîðèè âåðîÿòíîñòåé
Ïðåäûñòîðèÿ.
1.1.
Èñòîðèÿ òåîðèè âåðîÿòíîñòåé, à òî÷íåå ïîíÿòèé ñëó÷àéíîñòè è øàíñîâ, óõîäèò â ãëóáü âåêîâ. Ïîíÿòèå âåðîÿòíîñòè ðîæäàåòñÿ èç àçàðòíûõ
èãð. Ñàìî ñëîâî "àçàðò"ïðîèñõîäèò îò àðàáñêîãî "àëü çàðä" - èãðàëüíàÿ êîñòü.
Àðõåîëîãè÷åñêèå ñâåäåíèÿ ãîâîðÿò î òîì, ÷òî òàêèå êîñòè èñïîëüçîâàëèñü âî
âðåìåíà Ïåðâîé Äèíàñòèè â Åãèïòå (3 500 ã.äî í.ý.), çàòåì â Äðåâíåé Ãðåöèè è
Ðèìå. Ïî ëåãåíäå èãðó â êîñòè ïðåäëîæèë Ïàëàìåäåé äëÿ ðàçâëå÷åíèÿ ãðå÷åñêèõ
ñîëäàò, ñêó÷àþùèõ â îæèäàíèè áèòâû ïðè Òðîå. Ðèìñêèå èìïåðàòîðû Àâãóñò (63
ã. äî í.ý. - 14 ã. í.ý.) è Êëàâäèé (10 ã. äî í.ý. - 54 ã. í.ý.) áûëè ñòðàñòíûìè èãðîêàìè
â êîñòè.
Ïàðàëëåëüíî ïîíÿòèå ñëó÷àéíîñòè êðèñòàëëèçðóåòñÿ â ñòðàõîâàíèè è êîììåðöèè â ñâÿçè ñ ïîÿâëåíèåì òàáëèö ñìåðòíîñòè (ðèìñêèé þðèñò Þëïèàí (220 ã. äî
í.ý.)).
 ýïîõó ðàñöâåòà ãîðîäîâ -ðåñïóáëèê (Ðèì, Âåíåöèÿ, Ãåíóÿ, Ïèçà, Ôëîðåíöèÿ)
ïîÿâëÿåòñÿ íåîáõîäèìîñòü â ïðîñòåéøåé ñòàòèñòèêå. Ïåðâûé òî÷íî äàòèðóåìûé
êîíòðàêò ïî ñòðàõîâàíèþ æèçíè çàêëþ÷åí â Ãåíóå â 1347 ãîäó.
Ïåðâûé ìàòåìàòè÷åñêèé àíàëèç èãðû â êîñòè ïðåäïðèíÿë Äæ. Êàðäàíî (15011576) â "Êíèãå îá àçàðòíûõ èãðàõ" , â êîòîðîé ãîâîðèëîñü î òîì, ÷òî ÷èñëî áëàãîïðèÿòíûõ êîìáèíàöèé ê ÷èñëó âîçìîæíûõ íàõîäÿòñÿ â ñîãëàñèè ñ èãðîâîé ïðàêòèêîé. Êíèãà áûëà èçäàíà òîëüêî ÷åðåç 100 ëåò ïîñëå åå íàïèñàíèÿ.
Çàäà÷åé, ïîñòàâëåííîé â ýòîé êíèãå Êàðäàíî, çàíÿëñÿ ïîçæå Ãàëèëåé. Ñ ïåðâîãî âçãëÿäà îíà âûãëÿäèò êàê ïàðàäîêñ:
Ïàðàäîêñ 1.1.
"ïî÷åìó ”9” âûïàäàåò ÷àùå, êîãäà áðîñàþò äâå êîñòè, à ”10”,
êîãäà áðîñàò òðè?"
Îáúÿñíåíèå ïàðàäîêñà: 9 = 3+6 = 6+3 = 4+5 = 5+4, 10 = 4+6 = 6+4 = 5+5,
- òàêèì îáðàçîì âåðîÿòíîñòü âûïàäåíèÿ ïðè áðîñàíèÿõ äâóõ êîñòåé ”9” - 4/36,
à ”10” - 3/36.  ñëó÷àå æå òðåõ êîñòåé ”9” ìîæíî âûáðîñèòü 25 ñïîñîáàìè, à
”10” - 26.
Íåñìîòðÿ íà ïðîñòîòó çàäà÷è åå îøèáî÷íî ðåøàëè è Ëåéáíèö, è Äàëàìáåð,
îíè çàáûâàëè ó÷èòûâàòü ïîðÿäîê âûïàäåíèÿ êîñòåé.
Ïåðûé ïåðèîä (XVII âåê - íà÷àëî XVIII âåêà).
1.2.
Ëàïëàñ ñâÿçûâàåò
ðîæäåíèå òåîðèè âåðîÿòíîñòåé ñ ïåðåïèñêîé (1654 ã.) ìåæäó Áëåçîì Ïàñêàëåì è
Ïüåðîì Ôåðìà, ñâÿçàííîé ñ çàäà÷åé êàâàëåðà äå Ìåðå:
Ïàðàäîêñ 1.2.
ïðè ÷åòûðåõ áðîñàíèÿõ îäíîé èãðàëüíîé êîñòè âåðîÿòíîñòü
âûïàäåíèÿ õîòÿ áû îäíîé ”1” áîëüøå 1/2, à ïðè 24 áðîñàíèÿõ äâóõ êîñòåé âåðîÿòíîñòü âûïàäåíèÿ äâóõ ”1” îäíîâðåìåííî ìåíüøå 1/2.
Îáúÿñíåíèå ïàðàäîêñà:
1
5
1 − ( )k > , k ≥ 4
6
2
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
#
35
1
1 − ( )k > , k ≥ 25
36
2
Ýòî êàçàëîñü ïðîòèâîðå÷èò "ïðàâèëó ïðîïîðöèîíàëüíîñòè êðèòè÷åñêèõ çíà÷åíèé".
Àáðàõàì äå Ìóàâð â êíèãå "Äîêòðèíà øàíñîâ"(1718) ïîêàçàë, ÷òî "ïðàâèëî
ïðîïîðöèîíàëüíîñòè êðèòè÷åñêèõ çíà÷åíèé" íåäàëåêî îò èñòèíû, íî ñïðàâåäëèâî ëèøü àñèìïòîòè÷åñêè ïðè ìàëûõ çíà÷åíèÿõ âåðîÿòíîñòè p ∈ (0, 1)
(1 − p)x =
1
2
Êðèòè÷åñêîå çíà÷åíèå k = [x] + 1,
x=−
p2
ln 2
= ln 2/(p +
+ . . .)
ln(1 − p)
2
 1657 ãîäó â êíèãå Õðèñòèàíà Ãþéãåíñà "Î ðàñ÷åòàõ â àçàðòíûõ èãðàõ"
ïðåäñòàâëåí ïåðâûé ñèñòåìàòè÷åñêèé òåêñò ïî "èñ÷èñëåíèþ âåðîÿòíîñòåé" , â
÷àñòíîñòè, òàì äàþòñÿ ïðàâèëà ñëîæåíèÿ è óìíîæåíèÿ âåðîÿòíîñòåé, ñîäåðæèòñÿ
äèñêóññèÿ îòíîñèòåëüíî ïîíÿòèÿ ìàòåìàòè÷åñêîãî îæèäàíèÿ.
Öåíòðàëüíîé ôèãóðîé ýòîãî ïåðèîäà ñ÷èòàåòñÿ ßêîâ Áåðíóëëè, êîòîðûé äàë
îïðåäåëåíèå êëàññè÷åñêîé âåðîÿòíîñòè êàê îòíîøåíèÿ ÷èñëà áëàãîïðèÿòíûõ ê
÷èñëó âñåõ ìûñëèìûõ èñõîäîâ. Ãëàâíûì åãî ðåçóëüòàòîâ ÿâèëñÿ çàêîí áîëüøèõ
÷èñåë, äàííûé â åãî êíèãå "Èñêóññòâî ïðåäïîëîæåíèé"(1713 ã.), ëåæàùèé â îñíîâå âñåõ ïðèìåíèé òåîðèè âåðîÿòíîñòè.  åãî òðóäàõ ïîÿâëÿþòñÿ íîâûå "íåôèíèòíûå èäåè", ñâÿçàííûå ñ ïðåäåëüíûìè ÷àñòîòàìè ïðè ïîâòîðíûõ èñïûòàíèÿõ.
n
k=1 Xk
→ p ïî âåðîÿòíîñòè, ãäå p = EXk .
n
Äàíèèë Áåðíóëëè (1667-1727) âíåñ âêëàä â ðàçðåøåíèå
ðàäîêñà"
"Ïåòåðáóðãñêîãî ïà-
Ïàðàäîêñ 1.3.
Èãðà ñîñòîèò â ñëåäóþùåì: èãðîê áðîñàåò ìîíåòó, èãðà çàêàí÷èâàåòñÿ íà r-òîì øàãå, êîãäà âûïàäàåò ðåøêà, òîãäà áàíê âûïëà÷èâàåò
ñóììó 2r .
Âîïðîñ: Êàêèì äîëæåí áûòü ïåðâîíà÷àëüíûé âçíîñ, ÷òîáû èãðà áûëà áåçîáèäíà äëÿ áàíêà?
Ñóòü ïàðàäîêñà: ïîëó÷àåòñÿ, ÷òî ìàòåìàòè÷åñêîå îæèäàíèå âûèãðûøà áåñêîíå÷íî.
EX =
2r
2 22
+
+ . . . + r + . . . → ∞.
2 22
2
Ðàçðåøèòü ïàðàäîêñ ìîæíî ëèáî ñäåëàâ ïðåäïîëîæåíèå îá îãðàíè÷åííîñòè
ðåñóðñîâ áàíêà ëèáî èçìåíèâ êðèòåðèé áåçîáèäíîñòè.
Åñëè ïðåäïîëîæèòü (êàê Áþôôîí è Êðàìåð), ÷òî ðåñóðñû áàíêà îãðàíè÷åíû
ìèëëèîíîì, òî ïîëó÷èì ñëåäóþùåå
EX =
19
2r
r=1
2r
+ 106
∞
1
≈ 21.
r
2
r=20
Î. Å. Ùåðáàêîâà
$
Ôåëëåð òàê ïðåäëîæèë îïðåäåëÿòü èãðó áåçîáèäíîé: ïóñòü ñóììàðíûé âûèãðûø Nr , ñóììàðíûé âçíîñ Rr , òîãäà
P (|
Nr
− 1| < ε) → 1, r → ∞.
Rr
Îí äîêàçàë, ÷òî èãðà ñòàíîâèòñÿ áåçîáèäíîé ïðè âûïîëíåíèè ñîîòíîøåíèÿ
Rr = r log2 r.
1.3. Âòîðîé ïåðèîä (XVIII âåê - íà÷àëî XIX âåêà). Ýòîò ïåðèîä ñâÿçàí
ñ òàêèìè èìåíàìè, êàê Ïüåð-Ðåìîí Ìîíìîð, Àáðàõàì äå Ìóàâð, Òîìàñ Áàéåñ,
Ïüåð Ñèìîí äå Ëàïëàñ, Êàðë Ôðèäðèõ Ãàóññ, Ñèìîí Äåíèñ Ïóàññîí.
Ìóàâð â êíèãàõ "Äîêòðèíà øàíñîâ"(1718) è "Àíàëèòè÷åñêèå ìåòîäû, èëè Àíàëèòè÷åñêàÿ ñìåñü"(1730) îïðåäåëÿåò ïîíÿòèÿ íåçàâèñèìûõ ñîáûòèé, ìàòåìàòè÷åñêîãî îæèäàíèÿ è óñëîâíîé âåðîÿòíîñòè. Êðîìå òîãî, îáíàðóæèë óíèâåðñàëüíóþ
çàêîíîìåðíîñòü â ïîâåäåíèè îòêëîíåíèé îò ñðåäíåãî â èñïûòàíèÿõ Áåðíóëëè,
íàçâàííóþ êàê "Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà".
Ãàóññ è Ëàïëàñó ïðèíàäëåæèò èäåÿ ââåäåíèÿ íîðìàëüíîãî çàêîíà â òåîðèè
îøèáîê.
 ýòîò ïåðèîä ïîÿâëÿåòñÿ
(íîðìàëüíàÿ, ïóàññîíîâñêàÿ), õîòÿ îíà ðàññìàòðèâàëàñü íè êàê ðàñïðåäåëåíèå âåðîÿòíîñòåé, à êàê
àïïðîêñèìàöèÿ.
 òîì ÷èñëå, óïîìÿíåì Íüþòîíà (1665 ã.), êîòîðûé ââåë â ðàññìîòðåíèå ãåîìåòðè÷åñêèå âåðîÿòíîñòè. Ê òàêèì íåêëàññè÷åñêèì âåðîÿòíîñòÿì òàêæå îòíîñèòñÿ
çàäà÷à î
è âîçíèêíîâåíèå íåðàâíûõ âåðîÿòíîñòåé â ôîðìóëå
Áàéåñà (1763 ã.)
"íåêëàññè÷åñêàÿ âåðîÿòíîñòü"
"èãëå Áþôôîíà"
Òðåòèé ïåðèîä (âòîðàÿ ïîëîâèíà XIX âåêà).
1.4.
Òðåòèé ïåðèîä ñâÿçàí ñ
Ïåòåðáóðãñêîé øêîëîé è òàêèìè åå ïðåäñòàâèòåëÿìè êàê Ë.Ï.×åáûøåâ, À.À.Ìàðêîâ, À.Ì.Ëÿïóíîâ.
×åáûøåâ îáîáùèë òåîðåìó Ìóàâðà -Ëàïëàñà íà ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ ïîìîùüþ ìåòîäà ìîìåíòîâ, ïîçæå óñîâåðøåíñòâîâàííûé Ìàðêîâûì. Òàêæå îáîáùèë
, èñïîëüçóÿ
.
Ëÿïóíîâ ìåòîäîì õàðàêòåðèñòè÷åñêèõ ôóíêöèé äîêàçàë òåîðåìó Ìóàâðà Ëàïëàñà äëÿ ñóìì ñëó÷àéíûõ âåëè÷èí, èìåþùèõ ìîìåíòû ïîðÿäêà 2 + δ , δ > 0.
Ìàðêîâ ââåë â ðàññìîòðåíèå ñõåìû çàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñî ñâîéñòâîì îòñóòñòâèÿ ïîñëåäñòâèÿ, òåïåðü íàçûâàåìûõ
.
 ýòîò ïåðèîä íà÷èíàåò ïðîñëåæèâàòüñÿ ñâÿçü ìåæäó ÷èñòîé ìàòåìàòèêîé è
òåîðèåé âåðîÿòíîñòåé. Ñâÿçü ñ òåîðèåé ÷èñåë ìîæíî óâèäåòü â ðàáîòàõ Ïóàíêàðå
(1896) è Ãþëüäåíà (1890). Ïóàíêàðå ïîñòàâèë âîïðîñ î òîì ñ êàêîé âåðîÿòíîñòüþ
ñëó÷àéíî âûáðàííàÿ òî÷êà ω ∈ [0, 1] áóäåò ðàöèîíàëüíûì ÷èñëîì.
Ãóëüäåí ðàññìàòðèâàë âîïðîñ î òîì, êàê ñåáÿ âåäóò öåëûå ÷èñëà â ðàçëîæåíèè
â íåïðåðûâíóþ äðîáü ñëó÷àéíîãî ÷èñëà ω ∈ (0, 1], w = (a1 , a2 , . . .). Åãî ïðåäïîëîæåíèåì áûëî P (an (ω) = k) 1/k 2 , ÷òî îêàçàëîñü óæå ïîçäíåå àñèìïòîòè÷åñêè
âåðíî
1 + 1/k
P (an (ω) = k) → (log 2)−1 log
1 .
1 + k+1
Ìàðêîâà"
çàêîí áîëüøèõ ÷èñåë
"íåðàâåíñòâà ×åáûøåâà-
"ìàðêîâñêèìè öåïÿìè"
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
%
Âåðîÿòíîñòíûå ìîäåëè ñòàëè èñïîëüçîâàòüñÿ â êëàññè÷åñêîé ñòàòèñòè÷åñêîé
ôèçèêå (ðàñïðåäåëåíèå Ìàêñâåëëà äëÿ ìîëåêóëÿðíûõ ñêîðîñòåé, ðàñêðûòèå ôåíîìåíà áðîóíîâñêîãî äâèæåíèÿ (1827) Áðîóí, Ýéíøòåéí, Ñìîëóõîâñêèé).
Ïîñòðîåíèå òåîðèè ìíîæåñòâ è òåîðèè ìåðû Áîðåëåì è Ëåáåãîì ïîçâîëèëè â
äàëüíåéøåì îáðåñòè òåîðèåé âåðîÿòíîñòåé àêñèîìàòè÷åñêóþ ñòðîéíîñòü.
1.5. ×åòâåðòûé ïåðèîä (íà÷àëî XX âåêà).  1900 ãîäó íà 2-ì ìàòåìàòè÷åñêîì êîíãðåññå â Ïàðèæå â ÷èñëå äåñÿòè îòêðûòûõ ïðîáëåì ìàòåìàòèêè Ä.
Ãèëüáåðò ïîñòàâèë âîïðîñ îá àêñèîìàòèçàöèè òåîðèè âåðîÿòíîñòåé.
Ýòó ïðîáëåìó ïûòàëèñü ðåøèòü Ëàåììåëü, Ôèíåòòè, Ìèçåñ, Áåðøòåéí è äðóãèå.
 1904 Ëàåììåëü ñäåëàë ïîïûòêó ïîñòðîåíèÿ àêñèîìàòå÷åñêîé òåîðèè, èñïîëüçóÿ äëÿ îïèñàíèÿ ìíîæåñòâà èñõîäîâ òåîðèþ ìíîæåñòâ, íî ïîíÿòèå âåðîÿòíîñòè
îñòàâàëîñü íà èíòóèòèâíîì óðîâíå.
Äðóãîé àâòîð, Ó. Áðîããè, â ñâîåé äèññåðòàöèè ïîä ðóêîâîäñòâîì Ãèëüáåðòà â
1907 ãîäó äëÿ îïðåäåëåíèÿ âåðîÿòíîñòè îáðàòèëñÿ ê òåîðèè ìåðû Áîðåëÿ, Ëåáåãà,
íî ñ èñïîëüçîâàíèåì èñêóññòâåííûõ ïðåäåëüíûõ ïðîöåäóð.
Ñèñòåìà àêñèîì Ñ.Í. Áåðøòåéíà (1917) áûëà îñíîâàíà íà êà÷åñòâåííîì ñðàâíåíèè ñîáûòèé ïî ñòåïåíè èõ ïðàâäîïîäîáèÿ.
 1919 Ð. Ìèçåñ ïðåäëîæèë ÷àñòîòíûé (ýìïèðè÷åñêèé èëè ñòàòèñòè÷åñêèé)
ïîäõîä ê îáîñîâàíèþ òåîðèè âåðîÿòíîñòåé.  îñíîâå åãî ìåòîäà ëåæèò ðàññìîòðåíèå "êîëëåêòèâîâ" - áåñêîíå÷íûõ óïîðÿäî÷åííûõ ïîñëåäîâàòåëüíîñòåé, îáëàäàþùèõ ñâîéñòâîì "ñëó÷àéíîñòè" èõ îáðàçîâàíèÿ.
Ïîëíîå ðåøåíèå ýòîé çàäà÷è îñóùåñòâèë Êîëìîãîðîâ (1933) íà áàçå òåîðèè
ìíîæåñòâ è òåîðèè ìåðû. Îñíîâíîé òåîðåìîé àêñèîìàòè÷åñêîãî ïîñòðîåíèÿ Êîëìîãîðîâà áûëî óòâåðæäåíèå î ñóùåñòâîâàíèè ïðîöåññîâ ñ çàäàííûìè êîíå÷íîìåðíûìè ðàñïðåäåëåíèÿìè.
Î. Å. Ùåðáàêîâà
&
2.
Äëÿ ÷åãî íóæíî èçó÷àòü òåîðèþ âåðîÿòíîñòåé
(1) Ðàçâèòèå ìûøëåíèÿ ñòóäåíòîâ.
Ïîìîãàåò ïîíÿòü, êàê ïðèìåíÿòü ïðèåìû ëîãè÷åñêîãî ìûøëåíèÿ â òåõ
ñëó÷àÿõ, êîãäà èìååì äåëî ñ íåîïðåäåëåííîñòüþ.
Óìàëÿåò ìàãè÷åñêèé ðåàëèçì.
Ðàçâèâàåò òîëåðàíòíîñòü.
Ðàçâèâàåò ñìåëîñòü, ïîñêîëüêó ó÷èò âîñïðèíèìàòü íåóäà÷ó âñåãî ëèøü
êàê ñëó÷àéíîñòü è äâèãàòüñÿ äàëüøå ê íàìå÷åííîé öåëè.
(2) Âûâîäû òåîðèè âåðîÿòíîñòåé íàõîäÿò ïðèìåíåíèå â
îáûäåííîé æèçíè, íàóêå è òåõíèêå.
 ïîâñåäíåâíîñòè ïðè ïîñòîÿííîì ñòîëêíîâåíèè ñî ñëó÷àéíîñòüþ ó÷èò
äåéñòâîâàòü ðàöèîíàëüíî ñ ó÷åòîì ðèñêà ïðèíÿòèÿ îòäåëüíûõ ðåøåíèé.
(3) Âàæíîå çíà÷åíèå äëÿ ìàòåìàòè÷åñêîãî îáðàçîâàíèÿ.
Ïîìàãàåò ïîíÿòü âçàèìîñâÿçü äåéñòâèòåëüíîñòè ñ ìàòåìàòè÷åñêèìè
ìîäåëÿìè.
Äåìîíñòðèðóåò âåëèêîëåïíûé ìàòåìàòè÷åñêèé àïïàðàò ïî ðàáîòå ñî
ñëîæíûìè, íåëèíåéíûìè ñëó÷àéíûìè ïðîöåññàìè.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
3.
'
Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
Îïðåäåëåíèå 3.1.
U
- àëãåáðà ìíîæåñòâ, åñëè
∅∈U
è äëÿ ëþáûõ
A, B ∈ U
A ∩ B ∈ U,
A ∪ B ∈ U,
A \ B ∈ U.
C ïîìîùüþ ìåòîäà ìàòåìàòè÷åñêîé èíäóêöèè ìîæíî ïîëó÷èòü îáîáùåíèå íà
êîíå÷íîå ÷èñëî
n
n
Ak ∈ U,
Ak ∈ U,
A1 , . . . , An ∈ U,
k=1
k=1
à òàêæå äîêàçàòü ïðàâèëà äå Ìîðãàíà:
n
Îïðåäåëåíèå 3.2.
n
Ak =
k=1
A
-
Ak ,
k=1
σ -àëãåáðà
n
Ak =
k=1
∞
Ak ∈ A,
k=1
Ak .
k=1
ìíîæåñòâ, åñëè
A1 , A2 , . . . ∈ A
Àêñèîìû âåðîÿòíîñòè.
n
∞
A
- àëãåáðà è äëÿ ëþáûõ
Ak ∈ A.
k=1
3.1.
Âåðîÿòíîñòíîå ïðîñòðàíñòâî - ýòî òðîéêà îáúåêòîâ (Ω, F, P ), äëÿ êîòîðûõ ñïðàâåäëèâû ñëåäóþùèå àêñèîìû.
À1: Ω - ìíîæåñòâî ýëåìåíòàðíûõ èñõîäîâ.
À2: F σ-àëãåáðà ñîáûòèé, ïîñòðîåííàÿ íà ìíîæåñòâå ýëåìåíòàðíûõ èñõîäîâ Ω ∈ F .
À3: P : F → [0, 1], P (Ω) = 1 - ôóíêöèÿ ìíîæåñòâ.
À4: Àääèòèâíîñòü
n
P(
Ak ) =
k=1
n
P (Ak ), åñëè Ai Aj = ∅ ïðè i = j.
k=1
À5: Ñ÷åòíàÿ àääèòèâíîñòü
∞
P(
Ak ) =
k=1
3.2.
∞
P (Ak ), åñëè Ai Aj = ∅ ïðè i = j.
k=1
Ñâîéñòâà âåðîÿòíîñòè.
Â1: Î âåðîÿòíîñòè îáðàòíîãî ñîáûòèÿ P (A) = 1 − P (A)
Äîêàçàòåëüñòâî.
A ∪ A = Ω, A ∩ A = ∅
Ïî àêñèîìå
À4-àääèòèâíîñòè ïîëó÷àåì
P (A ∪ A) = P (A) + P (A) = P (Ω) = 1.
Î. Å. Ùåðáàêîâà
Â2: Ïîëóàääèòèâíîñòü
P(
∞
k=1
Ak ) ≤
∞
P (Ak ).
k=1
Â3: Ôîðìóëà äëÿ ñóììû ïðîèçâîëüíûõ ñîáûòèé
P(
n
k=1
Ak ) =
n
k=1
P (Ak ) −
k<i
P (Ak Ai ) +
k<i<j
P (Ak Ai Aj ) − (−1)n P (
n
Ak ).
k=1
Äëÿ èëëþñòðàöèè ôîðìóëû Â3 ðàññìîòðèì çàäà÷ó î ïèñüìàõ:
Ïðèìåð 3.1. Íàéòè âåðîÿòíîñòü P (A) òîãî, ÷òî èç n ïèñåì íè îäíî
íå ïîïàäåò ñâîåìó àäðåñàòó.
Ñóùåñòâóåò ïî êðàéíåé ìåðå äâà ðåøåíèÿ ýòîé çàäà÷è: êîðîòêîå è
äëèííîå. Äëèííîå êàê ðàç îñíîâàíî íà ïðèìåíåíèè ýòîé ôîðìóëû.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
(1) Ðàññìîòðèì îáðàòíîå ñîáûòèå: õîòÿ áû êîìó-òî ïîïàäåò ïèñüìî ïî íàçíà÷åíèþ. Ýòî ñîáûòèå ìîæíî ïðåäñòàâèòü îáúåäèíåíèåì ñîáûòèé Ak , k = 1, . . . , n, - êàêèì-òî k ÷åëîâåê ïðèøëî ïèñüìî
k
ñïîñîáàìè.
ïî àäðåñó. k ÷åëîâåê âûáèðàåì Cn
A=
n
Ak , P (Ak ) =
k=1
Íî ñîáûòèÿ
ìóëó
:
Â3
P (A) = P (
n
(n − k)!
.
n!
Ak íå äèçúþíêòíû, ïîýòîìó íóæíî ïðèìåíèòü ôîð-
Ak ) = nP (A1 ) − Cn2 P (A2 ) + . . . − (−1)n P (An ) =
k=1
1 − 1/2 + 1/3! − . . . − (−1)n 1/n! → 1 − 1/e;
P (A) → 1/e, n → ∞.
(2) Êàæäûé íå ïîëó÷èë ñâîå ïèñüìî - ïðîèçâåäåíèå n îäèíàêîâûõ ìíîæèòåëåé. Íå ïîëó÷èë ïèñüìî - îáðàòíîå ñîáûòèå -ïîëó÷èë ïèñüìî
c âåðîÿòíîñòüþ P (A1 ) = 1/n.
P (A) = (P (A1 ))n = (1 − 1/n)n → 1/e, n → ∞.
Â4: Âåðîÿòíîñòü P íåïðåðûâíà êàê ôóíêöèè ìíîæåñòâ.
Îïðåäåëåíèå 3.3. Ôóíêöèÿ S ìíîæåñòâ íåïðåðûâíà, åñëè äëÿ ëþáîé óáûâà-
þùåé {An }n∈N ↓, Aj ⊂ Ai , i < j (âîçðàñòàþùåé
ïîñëåäîâàòåëüíîñòè ìíîæåñòâ áóäåì èìåòü
{Bn }n∈N ↑, Bi ⊂ Bj , i < j )
∞
lim S(An ) = S( lim An ) = S(
n→∞
n→∞
n=1
∞
lim S(Bn ) = S( lim Bn ) = S(
n→∞
n→∞
An );
Bn )
n=1
Òåîðåìà. Àêñèîìà À5 ñ÷åòíîé àääèòèâíîñòè ðàâíîñèëüíà ñâîéñòâó Â4 íåïðåðûâíîñòè âåðîÿòíîñòè.
Äîêàæåì ðàâíîñèëüíîñòü ýòèõ óòâåðæäåíèé. Äëÿ äîêàçàòåëüñòâà íåïðåðûâíîñòè äîñòàòî÷íî äîêàçàòü íåïðåðûâíîñòü â íóëå èëè òî÷íåå íà
ïóñòîì ìíîæåñòâå.
⇒: Âîçüìåì ïðîèçâîëüíóþ óáûâàþùóþ
ïîñëåäîâàòåëüíîñòü ñîáûòèé {An }n∈N ↓
èç σ-àëãåáðû F , òàêóþ ÷òî ∞
n=k An = ∅, äëÿ ëþáîãî k ∈ N è ïîñòðîèì ïîñëåäîâàòåëüíîñòü ïîïàðíî íåïåðåñåêàþùèõñÿ (íåñîâìåñòíûõ) êîëåö
Ck = Ak \ Ak+1 .
Äîêàçàòåëüñòâî.
A1 =
∞
Ck
k=1
Ê ïîñëåäîâàòåëüíîñòè êîëåö ìîæíî ïðèìåíèòü àêñèîìó ñ÷åòíîé àääèòâíîñòè À5:
∞
1 ≥ P (A1 ) =
k=1
P (Ck )
Î. Å. Ùåðáàêîâà
Ðÿä ∞
âåðîÿòíîñòü ÿâëÿåòñÿ íîðìèðîâàík=1 P (Ck ) ñõîäèòñÿ, ïîñêîëüêó
íîé ìåðîé. Òàêèì îáðàçîì, ∞
k=n P (Ck ) → 0 êàê îñòàòîê ñõîäÿùåãîñÿ
ðÿäà. Ïîëó÷àåì íåïðåðûâíîñòü âåðîÿòíîñòè
P (An ) =
∞
P (Ck ) → 0 = P (∅) = P (
∞
An ).
n=1
k=n
Ðàññìîòðèì ïðîèçâîëüíóþ äèçúþíêòíóþ ñèñòåìó ìíîæåñòâ (ïîïàðíî
ïîñëåäîâàòåëüíîñòü
íåïåðåñåêàþùèõñÿ)
{Ck }k∈N è ïîñòðîèìóáûâàþùóþ
∞
ìíîæåñòâ An = ∞
k=n Ck . Çàìåòèì, ÷òî
n=1 An = ∅.
⇐:
P (∪∞
k=1 Ck ) =
n
k=1
P (Ck ) + P (∪∞
k=n Ck ) =
n
P (Ck ) + P (An );
k=1
∞
P (An ) → 0, n → ∞; P (∪∞
k=1 Ck ) =
P (Ck ).
k=1
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!
4. Êëàññè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
Âçãëÿä íà êëàññè÷åñêóþ âåðîÿòíîñòü ÷åðåç ïðèçìó àêñèîìàòè÷åñêîãî îïðåäåëåíèÿ.  êëàññè÷åñêîé ïîñòàíîâêå ðàññìàòðèâàåòñÿ âåðîÿòíîñò4.1.
íîå ïðîñòðàíñòâî, ñîñòîÿùåå èç êîíå÷íîãî ÷èñëà ðàâíîâåðîÿòíûõ èñõîäîâ. Âåðîÿòíîñòü îïðåäåëÿåòñÿ êàê îòíîøåíèå ÷èñëà áëàãîïðèÿòíûõ èñõîäîâ ê ÷èñëó âñåõ
âîçìîæíûõ.
Ω=
n
Ek ;
k=1
P (Ω) = 1 = P (
n
Ek ) =
k=1
n
P (E1 ) =
A=
m
Eik , P (A) = P (
k=1
P (Ek ) = nP (E1 );
k=1
m
1
;
n
Eik ) =
k=1
Ýëåìåíòû êîìáèíàòîðèêè.
4.2.
ïî n ÿ÷åéêàì.
ñ ïîâòîðåíèÿìè
áåç ïîâòîðåíèé
m
P (Eik ) =
k=1
m
.
n
Ðàññìîòðèì ðàçëè÷íûå ðàçìåùåíèÿ k ÷àñòèö
óïîðÿäî÷åííûå
nk
Akn = n!Cnk
íåóïîðÿäî÷åííûå
k
Cn+k−1
Cnk
n!
Âñïîìíèì, ÷òî Cnk = k!(n−k)!
- ÷èñëî k -ýëåìåíòíûõ ïîäìíîæåñòâ èç n-ýëåìåíòíîãî
ìíîæåñòâà.
Çàäà÷ó î íåóïîðÿäî÷åííîì ðàçìåùåíèè ñ ïîâòîðåíèÿìè ìîæíî ðåøàòü òàê:
ïîñêîëüêó ÷àñòèöû íåðàçëè÷èìû, òî ïåðåñòàíîâêè ìîæíî îñóùåñòâëÿòü ïåðåñòàíîâêàìè âíóòðåííèõ ãðàíèö ÿ÷ååê. Òàêèì îáðàçîì, ìû ëèáî ïåðåñòàâëÿåì n − 1
ïàëî÷åê (âíóòðåííèõ ãðàíèö) ëèáî k øàðèêîâ (÷àñòèö), è ÷èñëî ïåðåñòàíîâîê
k
.
ðàâíî Cn+k−1
×òîáû áûñðåå ïîíÿòü ýòó ìîäåëü ìîæíî ðàññìîòðåòü òàêóþ çàäà÷ó:
Ïðèìåð 4.1.
ñêîëüêèìè ñïîñîáàìè ìîæíî ðàçâåñèòü k ðàçíîöâåòíûõ ôëàãîâ
íà n øåñòîâ. Ðåøàòü ìîæíî äâóìÿ ñïîñîáàìè.
(1) Ïðåäñòàâèì ñíà÷àëà, ÷òî ôëàãè îäíîãî öâåòà, òîãäà ýòî çàäà÷à î íåóïîk
.
ðÿäî÷åííîì ðàçìåùåíèè ñ ïîâòîðåíèÿìè, ÷èñëî ñïîñîáîâ ðàâíî Cn+k−1
Òåïåðü ðàñêðàñèì ôëàãè - ýòî ìîæíî ñäåëàòü k! ñïîñîáàìè. Ñëåäîâàòåëüíî, îòâåò:
k
.
k!Cn+k−1
(2) Áóäåì ðàññóæäàòü ïîñëåäîâàòåëüíî: ïåðâûé ôëàã ìîæíî ïîâåñèòü íà
n øåñòîâ, âòîðîé - íà n øåñòîâ è ïîìåíÿòü ìåñòàìè ñ ïåðâûì - n + 1
ñïîñîáîâ, è òàê äàëåå, k ôëàã ìîæåì ðàçâåñèòü n + k − 1 ñïîñîáàìè.
Èòàê, îòâåò:
k
.
n(n + 1) . . . (n + k − 1) = k!Cn+k−1
Î. Å. Ùåðáàêîâà
"
Ïðèìåð 4.2. Äîêàçàòü ôîðìóëó
n
n
(Cnk )2 = C2n
.
k=0
Äîêàæåì ñ ïîìîùüþ çàäà÷è î ÷èñëå ïóòåé ïî ïðÿìîóãîëüíîé äîñêå n × k, ñîñòîÿùèõ èç øàãîâ "ââåðõ" èëè "âïðàâî". Âñå òàêèå ïóòè áóäóò èìåòü äëèíó è
ñîñòîÿòü èç ïîñëåäîâàòåëüíîñòè áóêâ "Â", "Ï" - èõ ÷èñëî ðàâíî ÷èñëó âûáîðîâ
k "Â" è n "Ï" n
k
= Cn+k
.
Cn+k
n
C2n
- ìîæíî ïðåäñòàâèòü êàê ÷èñëî ïóòåé ïî n×n êâàäðàòíîé äîñêå. Êàæäûé
òàêîé ïóòü â îäíîé èç òî÷åê ( îò 0 äî n) ïåðåñåêàåò äèàãîíàëü, âûõîäÿùóþ èç
âåðõíåãî ëåâîãî óãëà. Âñå ïóòè äî è ïîñëå òî÷êè íà äèàãîíàëè (k, n − k) ëåæàò
íà ïðÿìîóãîëüíèêàõ [(o, 0), (k, n − k)], [(k, n − k), (n, n)]. Òàêèì îáðàçîì, âñå ïóòè
ñêëàäûâàþòñÿ òàê:
n
k
k
n
Cn−k+k
Cn−k+k
= C2n
.
k=0
 êëàññè÷åñêîé âåðîÿòíîñòè îáû÷íî ðàññìàòðèâàþò òðè ìîäåëè: ÌàêñâåëëàÁîëüöìàíà, Áîçå-Ýéíøòåéíà è Ôåðìè-Äèðàêà.
Ìàêñâåëëà-Áîëüöìàíà
Áîçå-Ýéíøòåéíà
Ôåðìè-Äèðàêà
âñå ðàçìåùåíèÿ
âñå ðàçìåùåíèÿ
íå áîëåå îäíîé
ðàâíîâîçìîæíû
ðàâíîâîçìîæíû
÷àñòèöû â ÿ÷åéêå
è ÷àñòèöû ðàçëè÷èìû è ÷àñòèöû íåðàçëè÷èìû
p = 1/nk
äëÿ ñèëüíî
ðàçðåæåííûõ ãàçîâ
k
p = 1/Ck+n−1
p = 1/Cnk
äëÿ ñèñòåì ÷àñòèö
äëÿ ÷àñòèö
ñ íóëåâûì èëè
ñ ïîëóöåëûì ñïèíîì
öåëî÷èñëåííûì ñïèíîì
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
5.
#
Ãåîìåòðè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè
Îïðåäåëåíèå.
Îïðåäåëåíèå 5.1. Ïóñòü Ω ⊂ Rn, n ∈ N, ìû õîòèì îïðåäåëèòü âåðîÿòíîñòü
5.1.
ïîïàäàíèÿ òî÷êè â îáëàñòü A ⊂ Ω. Ãåîìåòðè÷åñêàÿ âåðîÿòíîñòü îïðåäåëÿåòñÿ
êàê îòíîøåíèå ìåð Ëåáåãà ìíîæåñòâà è îáúåìëþùåãî ïðîñòðàíñòâà
P (A) =
λn (A)
.
λn (Ω)
Äëÿ èëëþñòðàöèè îïðåäëåíèÿ ãåîìåòðè÷åñêîé âåðîÿòíîñòè ðàññìîòðèì íåñêîëüêî çàäà÷.
Ïàðàäîêñ Áåðòðàíà.
5.2.
Ýòîò ïàðàäîêñ áûë îïóáëèêîâàí â â êíèãå "Èñ÷èñëåíèå âåðîÿòíîñòåé"(1889 ã.) Æîçåôîì Ëóè Áåðòðàíîì.
Ïàðàäîêñ 5.1. Äëÿ íåêîòîðîé îêðóæíîñòè ñëó÷àéíûì îáðàçîì âûáèðàåòñÿ
õîðäà. Íàéòè âåðîÿòíîñòü òîãî, ÷òî õîðäà áóäåò äëèííåå ñòîðîíû ïðàâèëüíîãî âïèñàííîãî òðåóãîëüíèêà. Ñóòü ïàðàäîêñà â òîì, ÷òî ðåøåíèå çàäà÷è íåîäíîçíà÷íî: â çàâèñèìîñòè îò âûáîðà ñëó÷àéíîé õîðäû ïðèõîäèì ê ðàçíûì ðåçóëüòàòàì.
(1) Ñëó÷àéíàÿ õîðäà âûáèðàåòñÿ ñëåäóþùèì îáðàçîì: áåðåì ïðîèçâîëüíûé
äèàìåòð è ðàññìàòðèâàåì âñå õîðäû åìó ïåðïåíäèêóëÿðíûå. Ïîäõîäÿùèå
õîðäû áóäóò ïåðåñåêàòü äèàìåòð íà îòðåçêå [1/4D, 3/4D].
Èñêîìàÿ âåðîÿòíîñòü áóäåò îòíîøåíèåì äëèíû ýòîãî îòðåçêà ê äëèíå
äèàìåòðà.
P (A) =
|[1/4D, 3/4D]|
= 1/2.
D
(2) Âûáèðàåì ïðîèçâîëüíóþ òî÷êó íà îêðóæíîñòè è ðàññìàòðèâàåì âñå
õîðäû èç íåå âûõîäÿùèå. Ïîäõîäÿùèå õîðäû áóäóò ëåæàòü âíóòðè óãëà îò π/3 äî 2/3π. Èñêîìàÿ âåðîÿòíîñòü áóäåò îòíîøåíèåì ìåðû óãëà
$
Î. Å. Ùåðáàêîâà
π/3 ê ìåðå ðàçâåðíóòîãî óãëà π .
P (A) =
1/3π
= 1/3.
π
(3) Âûáèðàåì ïðîèçâîëüíóþ òî÷êó â êðóãå è ðàññìàòðèâàåì õîðäó, èìåþùóþ ñåðåäèíó â ýòîé òî÷êå. Ïîäõîäÿùèå õîðäû áóäóò ëåæàòü âíóòðè
êîíöåíòðè÷åñêîãî êðóãà ïîëîâèííîãî ðàäèóñà. Èñêîìàÿ âåðîÿòíîñòü íàõîäèòüñÿ êàê îòíîøåíèå ïëîùàäåé ýòèõ êðóãîâ.
P (A) =
π(r/2)2
= 1/4.
πr2
Ïàðàäîêñ çàêëþ÷åí â ôðàçå "ðàâíîìåðíûé ñëó÷àéíûé âûáîð" . Êàæäûé èç òðåõ
âûáîðîâ âûãëÿäèò ïî ñâîåìó "åñòåñòâåííûì": â ïåðâîì ñëó÷àå ðàâíîìåðíî ïî äèàìåòðó (ëèíåéíûé ñïîñîá), âî âòîðîì - ïî îêðóæíîñòè (êðèâîëèíåéíûé ñïîñîá),
òðåòèé - â êðóãå (ïëîñêîñòíîé ñïîñîá).
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
%
Çàäà÷à Áþôôîíà. Æîðæ Áþôôîí â ðàáîòå 1733 ãîäà ïîëîæèë íîâîå íàïðàâëåíèå â òåîðèè âåðîÿòíîñòåé, ãäå èñïîëüçóåòñÿ íå êîìáèíàòîðíûé, à ãåîìåòðè÷åñêèé ìåòîä.
5.3.
Ïðèìåð 5.1. Ìåæäó äâóõ íèòåé, ðàñïîëîæåííûõ íà ðàññòîÿíèè 2a, áðîñàåòñÿ
èãëà äëèíû 2l. Êàêîâà âåðîÿòíîñòü òîãî, ÷òî èãëà ïåðåñå÷åò îäíó èç íèòåé?
Ðàññìîòðèì ïîëîæåíèå èãëû, îíî îïðåäåëÿåòñÿ óãëîì íàêëîíà ïî îòíîøåíèþ ê íèòè α ∈ [0, π] è ðàññòîÿíèåì îò öåíòðà èãëû äî íèòè x. Äëÿ òîãî
÷òîáû èãëà ïåðåñåêëà íèòü íåîáõîäèìî, ÷òîáû
x < l sin α.
Òàêèì îáðàçîì, ïîëó÷àåì
π
P (A) =
0
l sin αdα
2l
=
.
aπ
aπ
Ïîïóëÿðíîñòü ýòîé çàäà÷è ñâÿçàíî ñ âîçìîæíîñòüþ ýêñïåðåìåíòàëüíîãî îïðå-
äåëåíèÿ âåëè÷èíû ÷èñëà π. Åñëè âçÿòü ðàçëèíîâàííóþ áóìàãó è èãëó äëèíû,
&
Î. Å. Ùåðáàêîâà
ðàâíîé ðàññòîÿíèþ ìåæäó ïàðàëëåëüíûìè ïðÿìûìè, òî ÷èñëî π ìîæåò áûòü
îöåíåíî êàê
2
.
îòíîñèòåëüíàÿ ÷àñòîòà ïåðåñå÷åíèé
Ìîæíî ðàñøèðèòü ýêñïåðåìåíò è êèäàòü èãëó äëèíû l íà êëåò÷àòóþ áóìàãó
ñ øèðèíîé êëåòêè 1, òîãäà ÷èñëî π ìîæåò áûòü îöåíåíî êàê
4l
.
îòíîñèòåëüíàÿ ÷àñòîòà ïåðåñå÷åíèé êëåòîê
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
6.
'
Óñëîâíàÿ âåðîÿòíîñòü. Ôîðìóëà ïîëíîé âåðîÿòíîñòè. Ôîðìóëà
Áàéåñà. Íåçàâèñèìîñòü ñîáûòèé
Îïðåäåëåíèå óñëîâíîé âåðîÿòíîñòè.
Îïðåäåëåíèå 6.1. Óñëîâíîé âåðîÿòíîñòüþ ñîáûòèÿ A ïðè óñëîâèè B íàçûâà6.1.
þò âåðîÿòíîñòü ðàâíóþ îòíîøåíèþ âåðîÿòíîñòè îäíîâðåìåííîãî âûïîëíåíèÿ
ñîáûòèÿ A è óñëîâèÿ B è âåðîÿòíîñòè óñëîâèÿ B :
P (A|B) =
P (AB)
.
P (B)
Èç îïðåäåëåíèÿ âûòåêàåò ôîðìóëà âåðîÿòíîñòè ïðîèçâåäåíèÿ
P (AB) = P (A|B)P (B).
Ôîðìóëà ïîëíîé âåðîÿòíîñòè.
Îïðåäåëåíèå 6.2. Ñîâîêóïíîñòü ñîáûòèé {An}n∈N (íå áîëåå ÷åì ñ÷åòíóþ ñî6.2.
âîêóïíîñòü) íàçûâàþò ïîëíîé ãðóïïîé ñîáûòèé, åñëè âûïîëíåíî ñëåäóþùåå:
Ω=
∞
An ;
n=1
Ai Aj = ∅, i = j.
Òåîðåìà. Ïóñòü {An}n∈N - ïîëíàÿ ãðóïïà ñîáûòèé. Òîãäà äëÿ ëþáîãî ñîáûòèÿ
B∈F
P (B) =
∞
P (B|An )P (An )
n=1
Äîêàçàòåëüñòâî.
Çàìåòèì, ÷òî
Ω=
∞
∞
An ; B = BΩ =
n=1
BAn
n=1
Èñïîëüçóÿ òî, ÷òî ñîâîêóïíîñòü ñîáûòèé {An }n∈N ïîïàðíî íåñîâìåñòíàÿ, à ñëåäîâàòåëüíî è {BAn }n∈N , òî ïî àêñèîìå ñ÷åòíîé àääèòèâíîñòè ïîëó÷èì
P (B) =
∞
P (BAn )
n=1
Ïî ôîðìóëå âåðîÿòíîñòè ïðîèçâåäåíèÿ ïîëó÷èì
P (BAn ) = P (B|An )P (An ).
Òàêèì îáðàçîì,
P (B) =
∞
P (B|An )P (An )
n=1
Î. Å. Ùåðáàêîâà
Ôîðìóëà Áàéåñà.
Òåîðåìà. Ïóñòü {A }
6.3.
n n=1,...,n - ïîëíàÿ ãðóïïà ñîáûòèé (ãèïîòåç). Òîãäà âåðîÿòíîñòü ãèïîòåçû Ak ïðè óñëîâèè âûïîëíåíèÿ ñîáûòèÿ B ∈ F ðàâíà
P (B|Ak )P (Ak )
.
P (Ak |B) = n
j=1 P (B|Aj )P (Aj )
Äðóãèìè ñëîâàìè ôîðìóëà ïîêàçûâàåò êàê ïî àïðèîðíûì âåðîÿòíîñòÿì P (Ak )
(äî òîãî, êàê ñîáûòèå B ïðîèçîøëî) íàéòè àïîñòîðèîðíûå âåðîÿòíîñòè (êîãäà ñîâûòèå B ïðîèçîøëî). Åñëè ðàññìàòðèâàòü ñîáûòèÿ Ak êàê ïðè÷èíû, òî ôîðìóëà
Áàéåñà ïðåäñòàâëÿåò ñîáîé òåîðåìó î âåðîÿòíîñòÿõ ïðè÷èí.
Äîêàçàòåëüñòâî.
Ïî îïðåäåëåíèþ óñëîâíîé âåðîÿòíîñòè è ïî ôîðìóëå âåðîÿòíîñòè ïðîèçâåäåíèÿ ìîæíî íàïèñàòü
P (BAk )
P (B|Ak )P (Ak )
=
.
P (Ak |B) =
P (B)
P (B)
Ïðèìåíèì äëÿ âåðîÿòíîñòè P (B) ôîðìóëó ïîëíîé âåðîÿòíîñòè
n
P (B) =
P (B|Aj )P (Aj ).
j=1
Ñëåäîâàòåëüíî,
P (B|Ak )P (Ak )
P (Ak |B) = n
j=1 P (B|Aj )P (Aj )
Ïðèìåð 6.1.  ìåøêå 3 øàðèêà: 1 áåëûé è 2 ÷åðíûõ.  ìåøîê êëàäåì åùå 1
øàðèê è âûíèìàåì 2 øàðèêà. Êàêîâà âåðîÿòíîñòü, ÷òî ïîëîæèëè áåëûé øàðèê
ïðè óñëîâèè, ÷òî èç ìåøêà äîñòàëè 2 ÷åðíûõ?
P (w|bb) =
P (bb|w)P (w)
=
P (bb|w)P (w) + P (bb|b)P (b)
111
223
111
321
223 + 432
=
1
4
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
7. Íåçàâèñèìîñòü ñîáûòèé
Îïðåäåëåíèå.
Îïðåäåëåíèå 7.1. Ñîáûòèÿ íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî îäíî
7.1.
èç ñîîòíîøåíèé
P (A|B) = P (A) ⇔
P (A|B) = P (A) ⇔
P (AB) = P (A)P (B).
Ïðèìåð 7.1. Ñîáûòèÿ äîñòàòü èç êîëîäû 52 êàðò òóçà è êàðòó áóáíîâîé
ìàñòè íåçàâèñèìû.
1
1
, P (áóáíîâàÿ ìàñòü) = ,
P (òóç) =
13
4
P (áóáíîâûé
1
1 1
òóç) = 52
=
· .
13 4
Îïðåäåëåíèå ðàçëè÷íûõ âèäîâ íåçàâèñèìîñòè äëÿ ìíîæåñòâà ñîáûòèé.
Îïðåäåëåíèå 7.2. Ñîáûòèÿ {Ak }k=1,...,n íàçûâàåòñÿ
7.2.
(1) ïîïàðíî íåçàâèñèìûìè, åñëè Ai , Aj íåçàâèñèìû äëÿ ëþáûõ i = j ;
(2) íåçàâèñèìûìè â öåëîì, åñëè
P(
n
n
Ai ) =
i=1
P (Ai );
i=1
(3) íåçàâèñèììûìè â ñîâîêóïíîñòè, åñëè
P (Ai Aj ) = P (Ai )P (Aj ), i = j;
...
P(
n
n
Ai ) =
i=1
P (Ai ).
i=1
Çàìåòèì, ÷òî 3 ⇒ 1, 3 ⇒ 2, 1 2 3.
Ïðèìåð 7.2. Ïðèìåð Áåðøòåéíà. Ýòîò ïðèìåð ïîêàçûâàåò, ÷òî èç ïîïàðíîé
íåçàâèñèìîñòè íå ñëåäóåò íåçàâèñèìîñòü â öåëîì è íåçàâèñèììûìè â ñîâîêóïíîñòè.
Ïóñòü ó íàñ åñòü òåòðàýäð ðàñêðàøåíûé òàê: 1 ãðàíü - ñèíÿÿ, 2 - êðàñíàÿ,
3 - ðîçîâàÿ, à 4 - âñåìè òðåìÿ öâåòàìè.
Òîãäà ñîáûòèÿ, ÷òî ãðàíü - êðàñíàÿ, ñèíÿÿ èëè ðîçîâàÿ -ïîïàðíî íåçàâèñèìû,
íî íå íåçàâèñìû â öåëîì è â ñîâîêóïíîñòè.
P (Red) = P (P ink) = P (Blue) =
1
;
2
P (Red · P ink) = P (Blue · P ink) = P (Blue · Red) =
P (Red · P ink · Blue) =
1
1 1 1
= · · .
4
2 2 2
1
1 1
= · ;
4
2 2
Î. Å. Ùåðáàêîâà
Ïðèìåð 7.3. Ïðèìåð èç àëãåáðû.
Ïóñòü Ω = N, P (A) = n→∞
lim n1 Card{A ∩ {1, . . . , n}}, A ⊂ N.
Îáîçíà÷èì ìíîæåñòâî ïðîñòûõ ÷èñåë P = {pi , i ∈ N}, 1 = p1 < p2 < . . . <
pi < . . ..
Ïî îñíîâíîé òåîðåìå àðèôìåòèêè äëÿ êàæäîãî m ∈ N âåðíî m = rj=1 pαj (m) .
Òîãäà ñîáûòèÿ {{αr (m) = ki }}i=1,...,r íåçàâèñèìû â ñîâîêóïíîñòè.
m
i
rm
m
Óðíîâàÿ ñõåìà Ëàïëàñà.
7.3.
Ïðîäåìîíñòðèðóåì â ýòîé ñõåìå èñïîëüçîâàíèå
íåçàâèñèìîñòè è ôîðìóëû Áàéåñà.
Ïóñòü ó íàñ åñòü N + 1 óðíà ñ k êðàñíûìè øàðèêàìè è N − k ÷åðíûìè.
Íàóãàä âûáèðàåì óðíó.
Êàêîâà âåðîÿòíîñòü P (Ar+1 |Br ) íà r + 1 ðàç âûòàùèòü êðàñíûé øàðèê ïðè
óñëîâèè òîãî, ÷òî r ðàç ïîäðÿä âûòàñêèâàëè êðàñíûé øàðèê ñ âîçâðàùåíèåì.
Ðàññìîòðèì ãèïîòåçû Cj âûáîð j -òîé óðíû, òîãäà P (Cj ) = N1+1 .
j
Çàìåòèì, ÷òî Bj = Aj Bj−1 = . . . = i=1 Ai .
Òîãäà ïî îïðåäåëåíèþ óñëîâíîé âåðîÿòíîñòè ïîëó÷èì
r
P (Ar+1 |Br ) = P (Ar+1 |
Ai ) =
P(
i=1
r+1
P (Br+1 )
i=1 Ai )
=
P (Br )
P (Br )
Ïî ôîðìóëå ïîëíîé âåðîÿòíîñòè
P (Br ) =
N
i=0
1 P (Br |Ci ).
N + 1 i=0
N
P (Br |Ci )P (Ci ) =
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!
Ïîñêîëüêó ó íàñ âûáîð ñ âîçâðàùåíèåì, òî ñîáûòèÿ {Ai }i=1,...,r íåçàâèñèìû,
íåçàâèñèìû è ñîáûòèÿ {Ai |Cj }i=1,...,r , j = 0, . . . , N . Òîãäà èç íåçàâèñèìîñòè ïîëó÷èì
r
r
P (Br |Cj ) = P (
Ai |Cj ) =
i=1
P (Ai |Cj ) = (
i=1
j r
) .
N
È, íàêîíåö, èñïîëüçóÿ îïðåäåëåíèå èíòåãàëüíûõ ñóìì, ïîëó÷èì ïðåäåëüíîå
çíà÷åíèå âåðîÿòíîñòè
N j r+1
i=0 ( N )
P (Ar+1 |Br ) = N
j r
i=0 ( N )
1
→
N →∞
xr+1 dx
r+1
=
.
1
r+2
xr dx
0
0
Î. Å. Ùåðáàêîâà
"
8.
Ñëó÷àéíûå ýëåìåíòû è èõ ðàñïðåäåëåíèå
Ðàññìîòðèì âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ).
Îïðåäåëåíèå 8.1. Ïóñòü èçìåðèìîå ïðîñòðàíñòâî (X, U) ñ σ-àëãåáðîé U íà X.
Ñëó÷àéíûì ýëåìåíòîì, ïðèíèìàþùèì çíà÷åíèÿ â X, íàçûâàåòñÿ èçìåðèìîå
îòîáðàæåíèå ξ : Ω → X.
ξ - èçìåðèìî, åñëè ∀U ∈ U ξ −1 (U ) ∈ F .
Îïðåäåëåíèå 8.2. Ïóñòü ξ - ñëó÷àéíûé ýëåìåíò.
Ðàñïðåäåëåíèåì ñëó÷àéíîãî ýëåìåíòà ξ íàçûâàåòñÿ ôóíêöèÿ ìíîæåñòâ Pξ (U ).
Pξ (U ) = P (ω : ξ(ω) ∈ U ) = P (ξ −1 (U )), U ∈ U.
Òåîðåìà. Ðàñïðåäåëåíèåì ñëó÷àéíîãî ýëåìåíòà ξ åñòü âåðîÿòíîñòíàÿ ìåðà íà
(X, U).
Âåðíî è îáðàòíîå: åñëè Q : A âåðîÿòíîñòíàÿ ìåðà, òî ñóùåñòâóåò ξ åñòü ñëó÷àéíûé ýëåìåíò, òàêîé ÷òî Q åãî ðàñïðåäåëåíèå.
Äîêàçàòåëüñòâî.
⇒: Äîêàæåì ñíà÷àëà, ÷òî ðàñïðåäåëåíèå åñòü âåðîÿòíîñòíàÿ ìåðà.
ïîëîæèòåëüíàÿ îïðåäåëåííîñòü:
Pξ (U ) = P (ξ −1 (U )) ≥ 0, U ∈ U;
íîðìèðóåìîñòü:
Pξ (R) = P (ω : ξ(ω) ∈ R) = P (Ω) = 1;
-àääèòèâíîñòü:
Pξ (
σ
∞
n=1
Un ) = P (ω : ξ(ω) ∈
∞
n=1
Un ) =
∞
P (ω : ξ(ω) ∈ Un ) =
n=1
∞
Pξ (Un ),
n=1
Ui Uj = ∅, i = j.
:
⇐ Ïóñòü Q - ìåðà íà A - σ -àëãåáðå ïðîñòðàíñòâà X. Äîêàæåì, ÷òî ñóùåñòâóåò ξ : P (ξ ∈ A) = Q(A).
(1) Ïîñòðîèì âåðîÿòíîñòíîå ïðîñòðàíñòâî.
Ω := X; F := A; P (A) := Q(A).
(2) Ïîñòðîèì ñëó÷àéíûé ýëåìåíò
ξ(x) := x, x = ω ∈ Ω.
(3)
Ïîñêîëüêó òîæäåñòâåííîå ïðåîáðàçîâàíèå èçìåðèìî, òî ξ áóäåò ñëó÷àéíûì ýëåìåíòîì.
Pξ (A) = P (x : ξ(x) ∈ A) = Q(x : x ∈ A) = Q(A), A ∈ A.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
9.
#
Ïîíÿòèå ñëó÷àéíîé âåëè÷èíû
Ðàññìîèðèì âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ).
Îïðåäåëåíèå 9.1. Îïðåäåëèì ôóíöèþ ξ : Ω → R, êîòîðóþ íàçîâåì ñëó÷àéíîé
âåëè÷èíîé, åñëè îíà èçìåðèìà, òî åñòü ïðîîáðàç èçìåðèìîãî ìíîæåñòâà èçìåðèì: ∀B ∈ B ξ−1 (B) ∈ F . Áîðåëåâñêàÿ àëãåáðà B ïîðîæäàåòñÿ σ-ïåðåñå÷åíèåì
è σ-îáúåäèíåíèåì îòêðûòûõ èëè çàìêíóòûõ ìíîæåñòâ âåùåñòâåííîé îñè R.
Çàìåòèì, ÷òî äëÿ ïðîâåðêè èçìåðèìîñòè äîñòàòî÷íî ïðîâåðÿòü íà ìíîæåñòâàõ
ïîðîæäàþùèõ áîðåëåâñêóþ σ -àëãåáðó, òî åñòü äîñòàòî÷íî ïîêàçàòü, ÷òî ∀x ∈
R ξ −1 ((−∞, x)) ∈ F .
Ñëó÷àéíàÿ âåëè÷èíà ïîðîæäàåò (R, B, Pξ ) - íîâîå âåðîÿòíîñòíîå ïðîñòðàíñòâî.
îïðåäåëåíèå:
Pξ (B) = P (ω : ξ(ω) ∈ B) = P (ξ −1 (B)), B ∈ B;
íîðìèðóåìîñòü:
Pξ (R) = P (ω : ξ(ω) ∈ R) = P (Ω) = 1;
σ
-àääèòèâíîñòü:
Pξ (
∞
n=1
Bn ) = P (ω : ξ(ω) ∈
∞
Bn ) =
n=1
∞
P (ω : ξ(ω) ∈ Bn ) =
n=1
Bi Bj = ∅, i = j.
Ïðèìåð 9.1. Áðîñàíèå ìîíåòû.
Ω = {îðåë, ðåøêà}
ξ( ) =
0,
1,
ω = ðåøêà;
ω = îðåë.
P (ω : ξ(ω) = 1) = P (îðåë) = p;
P (ω : ξ(ω) = 0) = P (ðåøêà) = 1 − p = q.
⎧
p, 1 ∈ A; 0 ∈ A;
⎪
⎪
⎨
q, 0 ∈ A; 1 ∈ A;
Pξ (A) =
⎪
0, 0, 1 ∈ A;
⎪
⎩
1, 0, 1 ∈ A.
∞
n=1
Pξ (Bn ),
Î. Å. Ùåðáàêîâà
$
10. Ïîñëåäîâàòåëüíîñòè íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè
Îïðåäåëåíèå íåçàâèñèìûõ èñïûòàíèé. Ðàññìîòðèì ñ÷åòíîå ðàçáèå-
10.1.
íèå {Ai }∞
i=1 ïðîñòðàíñòâà Ω.
Ω=
∞
Ai , P (Ai ) = pi ,
i=1
∞
pi = 1.
i=1
Íàçîâåì èñïûòàíèåì ïîñëåäîâàòåëüíîñòü èñõîäîâ (ñîáûòèé)
A = (A1 , A2 , . . .)
è ïîñëåäîâàòåëüíîñòüþ èñïûòàíèé
Aj = (Aj1 , Aj2 , . . .).
Ïîñëåäîâàòåëüíîñòü èñïûòàíèé íåçàâèñèìû, åñëè ïîñëåäîâàòåëüíîñòè èõ èñõîäîâ íåçàâèñèìû.
Ñ íåçàâèñèìûìè èñïûòàíèÿìè ìîæíî ñâÿçàòü ñëó÷àéíûå âåëè÷èíû:
⎧
⎨ a1 , ω ∈ Aj1 ;
a2 , ω ∈ Aj2 ;
Aji = {ω : ξj (ω) = ai }.
ξj (ω) =
⎩
...
Íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè - ýòî ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ èñïûòàíèé ñ äâóìÿ èñõîäàìè
Aj = (Aj1 , Aj2 ), P (Aj1 ) = p, P (Aj2 ) = 1 − p = q.
Ñ íåçàâèñèìûìè èñïûòàíèÿìè Áåðíóëëè ñâÿæåì ñëåäóþùèå ñëó÷àéíûå âåëè÷èíû
0, ω = íåóäà÷à;
ξj (ω) =
1, ω = óñïåõ.
Êðîìå òîãî, íàñ áóäåò èíòåðåñîâàòü ÷èñëî óñïåõîâ èç n èñïûòàíèé
μn =
n
ξj .
j=1
Ôîðìóëà Áåðíóëëè.
Òåîðåìà. Âåðîÿòíîñòü òîãî, ÷òî â ñåðèè èç n íåçàâèñèìûõ èñïûòàíèé Áåð10.2.
íóëëè ÷èñëî óñïåõîâ áóäåò ðàâíî k âû÷èñëÿåòñÿ ïî ñëåäóþùåé ôîðìóëå
P (μn = k) = Cnk pk q n−k
Äîêàçàòåëüñòâî.
P (μn = k) = P (
=
íåçàâèñèìîñòü
ξi1 = 1, . . . , ξik = 1, ξik+1 = 0, . . . , ξin = 0)
i1 ,...,ik
P (ξi1 = 1) . . . P (ξik = 1)P (ξik+1 = 0) . . . P (ξin = 0) =
i1 ,...,ik
=
Cnk
pk q n−k
âûáîð i1 ,...,ik
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
%
Ðàññìîòðèì îáîáùåííûå íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè
Aj = (Aj1 , . . . , Ajk ), P (Aji ) = pi ,
k
pi = 1.
i=1
Òåîðåìà. Âåðîÿòíîñòü òîãî, ÷òî â ñåðèè èç n = n1 + . . . + nk íåçàâèñèìûõ
îáîáùåííûõ èñïûòàíèé Áåðíóëëè ÷èñëî âûïàäåíèé i-òîãî èñõîäà áóäåò ðàâíî
ni , âû÷èñëÿåòñÿ ïî ñëåäóþùåé ôîðìóëå
P (μ1 = n1 , . . . , μk = nk ) = Cnn1 ,...,nk pn1 1 . . . pnk k =
n!
pn1 . . . pnk k .
n1 ! . . . n k ! 1
Ïðèìåð 10.1. Ïðèìåð îáîùåííîé ñõåìû Áåðíóëëè - ñëó÷àéíîå ñèììåòðè÷íîå
áëóæäàíèå â Rd
R1 :
R2 :
. . .:
Rd :
p = 1/2 - âåðîÿòíîñòü ïîéòè âïðàâî èëè âëåâî.
p = 1/4 - âåðîÿòíîñòü ïîéòè âïðàâî èëè âëåâî, ââåðõ èëè âíèç.
...
1
p = 2d
- âåðîÿòíîñòü ïîéòè ïî ïîëîæèòåëüíîìó èëè îòðèöàòåëüíî-
ìó íàïðàâëåíèþ îäíîé èç îñåé êîîðäèíàò.
Çàäà÷à: íàéòè âåðîÿòíîñòü âåðíóòüñÿ â ïîëîæåíèå 0 çà 2n øàãîâ.
Äëÿ òîãî, ÷òîáû âåðíóòüñÿ â ïåðâîíà÷àëüíîå ïîëîæåíèå ìû äîëæíû ñäåëàòü ñòîëüêî øàãîâ â ïðÿìîì íàïðàâëåíèè ñêîëüêî è â îáðàòíîì è ñóììàðíîå
÷èñëî øàãîâ ïî âñåì íàïðàâëåíèÿì ðàâíÿëîñü 2n = 2n1 + . . . + 2nd .
P (A2n ) =
n1 +...+nd
n1 +...+nd =n
n1 ,n1 ,...,nd ,nd
C2n
(
(2n)!
1
1 n
( )2n = 2n C2n
(n1 !)2 . . . (nd !)2 2d
2
=n
n
Çàìåòèì, ÷òî
n1 +...+nd =n
1
n!
= 1,
n1 ! . . . nd ! dn
1 2n
) =
2d
1 +...+nd =n
(
1 2
n!
) .
(n1 !) . . . (nd !) dn
1 2
1
n!
n!
) = O(
).
n1 ! . . . nd ! dn
([n/d]!)d dn
n n
(
n1 +...+nd =n
√
2πn e , ïîëó÷èì
√
1 n
C = O(1/ n);
22n 2n
√
n n
2πn e
d−1
1
n n n ) = O(n− 2 )
O(
d
(2πn/d)d/2 de
∞
−d
2 ) < ∞ ñõîäèòñÿ
ðÿä ∞
n=1 P (A2n ) =
n=1 O(n
d = 1, d = 2.
Èñïîëüçóÿ ôîðìóëó Ñòèðëèãà n! ≈
ïðè d ≥ 3 è
Òàêèì îáðàçîì,
ðàñõîäèòñÿ ïðè
Ïî ëåììå Áîðåëÿ-Êàíòåëëè 17.1 ïîëó÷àåì, ÷òî âîçâðàùåíèå â íà÷àëüíîå ïîëîæåíèå áåñêîíå÷íîå ÷èñëî ðàç ìîæåò ïðîèçîéòè òîëüêî â îäíîìåðíîì è äâóìåðíîì ïðîñòðàíñòâå.
Òàêèì îáðàçîì, ìû äîêàçàëè òåîðåìó Ïîéÿ (1921 ã.)
Òåîðåìà.  îäíîìåðíîì è äâóìåðíîì ñèììåòðè÷íûõ ñëó÷àéíûõ áëóæäàíèÿõ
÷àñòèöà ñ âåðîÿòíîñòüþ 1 ðàíî èëè ïîçäíî âîçâðàòèòñÿ â ñâîå íà÷àëüíîå ïîëîæåíèå. Íà÷èíàÿ ñ ðàçìåðíîñòè 3 ýòî íå âåðíî.
Î. Å. Ùåðáàêîâà
&
Èíûìè ñëîâàìè, ìîæíî ñêàçàòü, ÷òî íà ïëîñêîñòè "âñå äîðîãè èäóò â Ðèì".
10.3. Î íàèáîëåå âåðîÿòíîì ÷èñëå óñïåõîâ. Íàéäåì íàèáîëåå âåðîÿòíîå ÷èñëî óñïåõîâ â íåçàâèñèìûõ èñïûòàíèÿõ Áåðíóëëè. Äëÿ ýòîãî íàéäåì îòíîøåíèå
C k pk q n−k
P (μn = k)
q(k + 1)
Pk
= k+1n
.
=
=
Pk+1
P (μn = k + 1)
p(n − k)
Cn pk+1 q n−k−1
Ïîëó÷àåì, ÷òî Pk ↑ ïðè k < p(n + 1) è Pk ↓ ïðè k > p(n + 1).
Åñëè p(n + 1) ∈ Z, òî ñóùåñòâóåò åäèíñòâåííàÿ òî÷êà ìàêñèìóìà k = p(n + 1),
åñëè p(n + 1) Z, òî íàèáîëüøåå çíà÷åíèå âåðîÿòíîñòè äîñòèãàåòñÿ äâàæäû
k1 = p(n + 1) − 1, k2 = p(n + 1).
10.4. Ëîêàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà.
Òåîðåìà. Ïóñòü A1, A2, . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ
óñïåõà p. Îáîçíà÷èì
k − np
.
xnk = √
npq
Òîãäà ðàâíîìåðíî ïî âñåì k òàêèì, ÷òî |xn
ëîæèòåëüíîì δ > 0, áóäåì èìåòü
k
1
| = O(n 6 −δ )
ïðè íåêîòîðîì ïî-
x2
nk
P (μn = k) ∼
n→∞
e− 2
√
.
2πnpq
10.5. Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà.
Òåîðåìà. Ïóñòü A1, A2, . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ
óñïåõà p.
Òîãäà áóäåì èìåòü
1
μn − np
≤ b) − √
|P (a ≤ √
npq
2π
−∞≤a≤b≤∞
sup
a
b
e−
x2
2
dx| → 0.
n→∞
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
x
'
2
− t2
Åñëè îáîçíà÷èòü çà Φ(x) =
e
dt - ôóíêöèþ íîðìàëüíîãî çàêîíà,
−∞
òî ìîæíî ñêàçàòü, ÷òî âåðîÿòíîñòü öåíòðèðîâàííîãî è íîðìèðîâàííîãî ÷èñëà
óñïåõîâ ðàâíîìåðíî àïïðîêñèìèðóåòñÿ íîðìàëüíûì çàêîíîì.
√1
2π
10.6. Çàêîí áîëüøèõ ÷èñåë Áåðíóëëè.
Îïðåäåëåíèå 10.1. Ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí {ξn }∞
n=1 ñõîäèòñÿ
ê ñëó÷àéíîé âåëè÷èíå ξ0 ïî âåðîÿòíîñòè
ξn → ξ0 ïî âåðîÿòíîñòè,
n→∞
åñëè äëÿ ëþáîãî ε > 0 âûïîëíåíî
P (ω : |ξn − ξ0 | > ε) → 0.
n→∞
Òåîðåìà. Ïóñòü A1 , A2 , . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ
óñïåõà p.
Òîãäà
μn
→ p
n n→∞
ïî âåðîÿòíîñòè.
Äîêàçàòåëüñòâî.
μn
− p| > ε) → 0 ⇔
n→∞
n
μn
P (ω : |
− p| ≤ ε) → 1 ⇔
n→∞
n
n
μn − pn
|≤ε
) → 1⇔
P (ω : | √
npq
pq n→∞
P (ω : |
ïî èíòåãðàëüíîé òåîðåìå Ìóàâðà-Ëàïëàñà
1
√
2π
n
ε√ pq
−ε
t2
− 2
dt → 1.
√n e
n→∞
pq
10.7. Òåîðåìà Ïóàññîíà.
Òåîðåìà. Ïóñòü
A11
A21 , A22
... ... ...
ñ âåðîÿòíîñòüþ óñïåõà p1
ñ âåðîÿòíîñòüþ óñïåõà p2
ñ âåðîÿòíîñòüþ óñïåõà pn
ïîñëåäîâàòåëüíîñòü ñåðèé íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè.
Òîãäà
λkn −λ
P (μn = k) ∼
, ãäå λn = npn .
e
n→∞ k!
An1 , An2 , . . . Ann
n
Î. Å. Ùåðáàêîâà
!
Äîêàçàòåëüñòâî. Äëÿ íà÷àëà ïðîâåäåì ïðåäâàðèòåëüíûå ïðåîáðàçîâàíèÿ
P (μn = k) = Cnk pkn (1 − pn )n−k =
n(n − 1) . . . (n − k + 1) λn k
λn n−k
( ) (1 −
)
=
k!
n
n
)
(1 − n1 ) . . . (1 − k−1
λ
n
n
(λn )k (1 −
)n−k .
k!
n
Îáîçíà÷èì
Δn = |P (μn = k) −
Çàìåòèì, ÷òî
λkn −λn
e
|
k!
(1 − n1 ) . . . (1 − k−1
λn n−k λkn −λn
n )
−
|=
(λn )k (1 −
)
e
k!
n
k!
λkn
1
k−1
λn n−k
−λn
|(1 − ) . . . (1 −
)(1 −
)
−e
|
k!
n
n
n
Δn = |
Äëÿ äàëüíåéøèõ äåéñòâèé âîñïîëüçóåìñÿ ôàêòàìè èç ìàòåìàòè÷åñêîãî àíàëèçà:
(1) 1 − λ ≤ e−λ ;
(2) (1 − nλ )n n→∞
→ e−λ äëÿ |λ| < A;
(3) äëÿ ëþáîãî íàòóðàëüíîãî k : λk e−λ λ→∞
→ 0
Ïóñòü k ôèêñèðîâàíî. Âûáåðåì ïðîèçâîëüíîå ε > 0, òîãäà ìîæíî âûáðàòü A
íàñòîëüêî áîëüøèì, ÷òî ïðè λ > A áûëî
λk −λ/2
e
< ε/2.
k!
Ðàññìîòðèì òå n, äëÿ êîòîðûõ λn > A: Íå óìàëÿÿ îáùíîñòè, ìîæåì âçÿòü
k < n/2, à çíà÷èò n − k > n/2.
Òîãäà
Δn ≤
Ðàññìîòðèì
1
k−1
λn n/2 λkn −λn
λkn
(1 − ) . . . (1 −
)(1 −
)
e
+
≤
k!
n
n
n
k!
λkn −λn /2 λkn −λn
e
e
+
< ε/2 + ε/2 = ε.
k!
k!
òå n, äëÿ êîòîðûõ λn < A: Çàìåòèì, ÷òî
(1 − n1 ) . . . (1 −
(1 −
Òîãäà
Δn =
Òàêèì îáðàçîì,
k−1
n )
λn k
n )
λkn (1 − n1 ) . . . (1 −
|
k!
(1 − λnn )k
k−1
n )
→ 1, n → ∞.
(1 −
λn n
) − e−λn | < ε.
n
Δn → 0.
n→∞
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!
11. Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû
Îïðåäåëåíèå ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû.
Îïðåäåëåíèå 11.1. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà. Ôóíêöèåé ðàñïðåäåëåíèÿ
11.1.
ñëó÷àéíîé âåëè÷èíû ξ íàçîâåì Fξ
Fξ (x) = P (ω : ξ(ω) < x) = Pξ ((−∞, x)).
Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû.
11.2.
(1)
Fξ (a) − Fξ (b) = P (ω : b ≤ ξ(ω) < a)
Äîêàçàòåëüñòâî.
Fξ (a) = P (ξ < a) = P ({ω : ξ(ω) < b} ∪ {ω : b ≤ ξ(ω) < a}) = Fξ (b) + P (b ≤ ξ < a).
(2) Fξ ìîíîòîííî íå óáûâàåò.
Äîêàçàòåëüñòâî.
Ïóñòü b ≤ a, òîãäà
Fξ (a) − Fξ (b) = P (ω : b ≤ ξ(ω) < a) ≥ 0.
(3) Ôóíêöèÿ ðàñïðåäåëåíèÿ íå èìååò ðàçðûâîâ âòîðîãî ðîäà. Âñå ðàçðûâû
ÿâëÿþòñÿ ñêà÷êàìè è èõ íå áîëåå, ÷åì ñ÷åòíîå ÷èñëî.
(4) Ôóíêöèÿ ðàñïðåäåëåíèÿ íåïðåðûâíà ñëåâà.
Äîêàçàòåëüñòâî.
Ïóñòü xn ↑ x, òîãäà äîêàæåì, ÷òî Fξ (xn ) → Fξ (x).
Ðàññìîòðèì ñîáûòèÿ An = {ω : ξ(ω) < xn }, A = {ω : ξ(ω)
∞< x},
An ⊂ An+1 - âîçðàñòàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ è A = n=1 An .
Òîãäà ïî íåïðåðûâíîñòè âåðîÿòíîñòè ïîëó÷èì
Fξ (xn ) = P (An ) → P (A) = Fξ (x).
xn ↑x
(5)
∃ lim Fξ (x) = 1;
x→∞
∃
lim Fξ (x) = 0.
x→−∞
Äîêàçàòåëüñòâî.
Ïóñòü xn ↑ ∞, yn ↓ −∞.
Ðàññìîòðèì ñîáûòèÿ
An = {ω : ξ(ω) < xn }, Bn = {ω : ξ(ω) < yn },
An ⊂ An+1 - âîçðàñòàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ,
Bn ⊃ Bn+1 - óáûâàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ è
∞
∞
Bn .
An , ∅ =
{ω : ξ(ω) ∈ R} = Ω =
n=1
n=1
Òîãäà ïî íåïðåðûâíîñòè âåðîÿòíîñòè ïîëó÷èì
Fξ (xn ) = P (An ) → P (Ω) = Pξ (R) = 1.
xn ↑∞
Î. Å. Ùåðáàêîâà
!
Fξ (yn ) = P (Bn )
Òåîðåìà. Ôóíêöèè ðàñïðåäåëåíèÿ
âçàèìíî îïðåäåëÿþò äðóã äðóãà.
Äîêàçàòåëüñòâî.
⇒:
Fξ
→
xn ↓−∞
P (∅) = 0.
è ðàñïðåäåëåíèå Pξ ñëó÷àéíîé âåëè÷èíû
Fξ (x) = Pξ ((−∞, x)).
⇐:
Ïîñêîëüêó ìåðà íà Áîðåëåâñêîé σ-àëãåáðå îïðåäåëÿåòñÿ íà ïîëóîòêðûòûõ ìíîæåñòâàõ, äîñòàòî÷íî çàäàòü
Pξ ([a, b)) = F (b) − F (a).
Òåîðåìà. Ñîâîêóïíîñòü âñåõ ìîíîòîííûõ íåïðåðûâíûõ ñëåâà ôóíêöèé ñ òàêèìè çíà÷åíèÿìè íà áåñêîíå÷íîñòè
lim Fξ (x) = 1;
x→∞
lim Fξ (x) = 0
x→−∞
ñîâïàäàåò ñ ñîâîêóïíîñòüþ âñåõ ôóíêöèé ðàñïðåäåëåíèÿ.
Äîêàçàòåëüñòâî.
⇒: Ñëåäóåò èç ñâîéñòâ ôóíêöèé ðàñïðåäåëåíèÿ.
⇐: Äëÿ êàæäîé F ïîñòðîèì âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ), ÷òîáû
P (ω : ξω < x) = F (x). Ïóñòü Ω = [0, 1], ðàññìîòðèì ñëó÷àéíóþ âåëè÷èíó
η , èìåþùóþ ðàâíîìåðíîå ðàñïðåäåëåíèå íà [0, 1], òî åñòü
⎧
Fη (x) =
⎨ 0,
x,
⎩
1,
x ≤ 0;
x ∈ (0, 1];
x > 1.
Îïðåäåëèì îáîáùåííóþ îáðàòíóþ ôóíêöèþ
F (y) = sup{x : F (x) = y}.
Ðàññìîòðèì ñëó÷àéíóþ âåëè÷èíó
Òîãäà
ξ(ω) = F (η(ω)).
P (ω : ξ(ω) < x) = P (ω : F (η(ω)) < x) =
P (ω : η(ω) < F (x)) = Fη (F (x)) = F (x).
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
12.
!!
Ðàçëè÷íûå âèäû ñëó÷àéíûõ âåëè÷èí
Ñëó÷àéíûå âåëè÷èíû ìîæíî ðàçäåëèòü íà äâà òèïà äèñêðåòíûå è íåïðåðûâíûå
(åñëè íåïðåðûâíà ôóíêöèÿ ðàñïðåäåëåíèÿ), à íåïðåðûâíûå íà àáñîëþòíî íåïðåðûâíûå
(åñëè ñóùåñòâóåò ïëîòíîñòü) è ñèíãóëÿðíûå.
Äèñêðåòíûå ðàñïðåäåëåíèÿ.
Îïðåäåëåíèå 12.1. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà. ξ èìååò äèñêðåòíîå ðàñïðåäåëåíèå
12.1.
A ⊂ R,
åñëè ñóùåñòâóåò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî çíà÷åíèé
êîòîðîå
ïðèíèìàåòñÿ ñ âåðîÿòíîñòüþ 1
P (ω : ξ(ω) ∈ A) = 1.
Ðàñïðåäåëåíèå äèñêðåòíîé ñëó÷àéíîé âåëè÷èíû íàçîâåì íàáîð ÷èñåë
pk = P (ω : ξ(ω) = ak ), A = {ak }k∈N .
Äðóãèìè ñëîâàìè, ìîæíî ñêàçàòü òàê
ξ(ω) =
ak IAk (ω), Ω =
k∈N
ãäå
è
0
IAk (ω)
Ak , Ak = {ω : ξ(ω) = ak },
k∈N
- õàðàêòåðåñòè÷åñêàÿ ôóíêöèÿ ìíîæåñòâà, ðàâíà
1
íà ìíîæåñòâå
âíå åãî. Åñëè ñóììà êîíå÷íà, òî òàêèå ñëó÷àéíûå âåëè÷èíû íàçûâàþòñÿ
ïðîñòûìè.
Çàìåòèì, ÷òî äëÿ ëþáîãî B ∈ B áóäåò âûïîëíåíî
Pξ (B) = P (ω : ξ(ω) ∈ B) =
pk .
k:ak ∈B
Ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ äèñêðåòíîé ñëó÷àéíîé âåëè÷èíû âûðàæàåòñÿ òàê:
Fξ (x) = P (ω : ξ(ω) < x) =
pk .
k:ak <x
pk = P (ω : ξ(ω) = ak ) = Fξ (ak + 0) − Fξ (ak − 0);
pk = P (ω : ξ(ω) ∈ A) = 1.
Ïðèìåð 12.1.
k
Ðàñïðåäåëåíèå Áåðíóëëè
ξ(ω) =
1;
0.
ξ ∈ B(p).
ω = óñïåõ;
ω = íåóäà÷à.
P (ω : ξ(ω) = 1) = p, P (ω : ξ(ω) = 0) = 1 − p = q.
Ãðàôèê ôóíêöèè ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 12.1
Ïðèìåð 12.2.
Áèíîìèàëüíîå ðàñïðåäåëåíèå
μn =
n
μn ∈ Bn (p).
ξi , ξi ∈ B(p).
i=1
Ðÿä ðàñïðåäåëåíèÿ âåðîÿòíîñòåé è ôóíêöèÿ ðàñïðåäåëåíèÿ âûãëÿäèò òàê:
pk = P (ω : μn (ω) = k) = Cnk pk q n−k ; Fμn (x) =
k:k<x
Cnk pk q n−k .
,
Î. Å. Ùåðáàêîâà
!"
Ïðèìåð 12.3. Ãåîìåòðè÷åñêîå ðàñïðåäåëåíèå ξ ∈ G(p).
P (ξ(ω) ∈ {1, 2, . . .}) = 1.
ξ = k - ýòî îçíà÷àåò, ÷òî â
íåóäà÷è, à íà k âûïàëà óäà÷à.
ñåðèè èñïûòàíèé Áåðíóëëè ñ 1 ïî
k−1
øàã áûëè
Ðÿä ðàñïðåäåëåíèÿ âåðîÿòíîñòåé è ôóíêöèÿ ðàñïðåäåëåíèÿ âûãëÿäèò òàê:
pk = P (ω : ξ(ω) = k) = q k−1 p; Fξ (x) =
Ïðèìåð 12.4. Ðàñïðåäåëåíèå Ïóàññîíà μ ∈ Π(λ).
P (μ(ω) ∈ {0, 1, 2, . . .}) = 1.
k:k<x
q k−1 p.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!#
Ðÿä ðàñïðåäåëåíèÿ âåðîÿòíîñòåé è ôóíêöèÿ ðàñïðåäåëåíèÿ âûãëÿäèò òàê:
pk = P (ω : μ(ω) = k) =
λk
λk −λ
e ; Fμ (x) =
e−λ .
k!
k!
k:k<x
Aáñîëþòíî íåïðåðûâíûå ðàñïðåäåëåíèÿ.
Îïðåäåëåíèå 12.2. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà. ξ èìååò àáñîëþòíî
12.2.
ðàñïðåäåëåíèå,
åñëè ñóùåñòâóåò èçìåðèìàÿ ôóíêöèÿ p, òàêàÿ ÷òî
íåïðåðûâíîå
p(x)dx, A ∈ B,
Pξ (A) =
A
dP
(ýòî îçíà÷àåò, ÷òî p(x) = ξ , ãäå λ - ëåáåãîâñêàÿ ìåðà).
dλ
p - íàçîâåì ïëîòíîñòüþ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû ξ .
Ñâîéñòâî 12.1.
p(x)dx = 1
R
Äîêàçàòåëüñòâî.
1 = P(R) = P (ω : ξ(ω) ∈ R) =
p(x)dx
R
Ñâîéñòâî 12.2.
Äîêàçàòåëüñòâî.
Òîãäà
p(x) ≥ 0
äëÿ ïî÷òè âñåõ x.
Ïóñòü A = {x : p(x) < 0}.
0 ≤ P (ω : ξ(ω) ∈ A) = Pξ (A) =
p(x)dx ≤ 0.
A
Ñëåäîâààòåëüíî, λ(A) = 0.
Ñâîéñòâî 12.3.
Ïóñòü
ïðÿìîé Q : B → [0, 1].
Q(A) =
p(x)dx,
A
òîãäà
Q
- âåðîÿòíîñòíàÿ ìåðà íà
Äðóãèìè ñëîâàìè, ñóùåñòâóåò ñëó÷àéíàÿ âåëè÷èíà ξ , òàêàÿ ÷òî
p(x)dx, A ∈ B.
Pξ (A) = Q(A) =
A
Òî åñòü äÿ ëþáîé íåîòðèöàòåëüíîé èçìåðèìîé ôóíêöèè, èíòåãðàë îò êîòîðîé ïî
âñåé îñè ðàâåí 1, ñóùåñòâóåò ñëó÷àéíàÿ âåëè÷èíà, èìåþùàÿ òàêóþ ïëîòíîñòü.
Ñâîéñòâî 12.4.
Ðàñïðåäåëåíèå è ïëîòíîñòü âçàèìíî îïðåäåëÿþò äðóã äðóãà
äëÿ àáñîëþòíî íåïðåðûâíûõ ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí.
Äîêàçàòåëüñòâî.
⇒:
p(x)dx, A ∈ B.
Pξ (A) =
A
Î. Å. Ùåðáàêîâà
!$
⇐: Ïóñòü ðàñðåäåëåíèþ P
{x : p(x) > q(x)}, òîãäà
ñîîòâåòñòâóþò äâå ïëîòíîñòè p, q è ïóñòü A =
Pξ (A) =
p(x)dx =
A
Ñëåäîâàòåëüíî,
q(x)dx.
A
(p(x) − q(x))dx ⇒ p(x) = q(x)
0=
A
ïî÷òè âñþäó.
Ïðèìåð 12.5. Ðàâíîìåðíîå ðàñïðåäåëåíèå ξ ∈ U ([a, b]).
1
b−a ;
pξ (x) =
0.
x ∈ [a, b];
x [a, b].
Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.5
⎧
⎨ 0;
Fξ (x) =
⎩
x−a
b−a ;
1.
x < a;
x ∈ [a, b];
x > b.
Ãðàôèê ôóíêöèè ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 12.5
Ïðèìåð 12.6. Íîðìàëüíîå ðàñïðåäåëåíèå ξ ∈ N (a, σ).
pξ (x) =
(x − a)2
1
√ exp(−
), a ∈ R, σ > 0.
2σ 2
σ 2π
Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.6
Fξ (t) =
1
√
σ 2π
t
exp(−
−∞
(x − a)2
).
2σ 2
Ãðàôèê ôóíêöèè ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 12.6
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!%
Î. Å. Ùåðáàêîâà
!&
Ïðèìåð 12.7. Ýêñïîíåíöèàëüíîå ðàñïðåäåëåíèå ξ ∈ E(λ).
pξ (x) =
0,
λe−λx ,
x < 0;
x ≥ 0.
Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.7
t
Fξ (t) =
0
0,
λe−λx dx = 1 − e−λx , x > 0,
.
x < 0.
Ñèíãóëÿðíûå ðàñïðåäåëåíèÿ.
Îïðåäåëåíèå 12.3. Òî÷êàìè ðîñòà ôóíêöèè F íàçûâàþòñÿ òî÷êè x :
12.3.
F (x +
äëÿ ëþáîãî ε > 0.
Îïðåäåëåíèå 12.4. Ðàñïðåäåëåíèå, êîòîðîå èìååò íåïðåðûâíóþ ôóíêöèþ ðàñïðåäåëåíèÿ, íî ìíîæåñòâî òî÷åê ðîñòà êîòîðîé èìååò íóëåâóþ ìåðó Ëåáåãà,
íàçûâàòñÿ ñèíãóëÿðíûì.
ε) − F (x − ε) > 0
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
!'
Ïðèìåð 12.8. Ëåñòíèöà Êàíòîðà. Ïîñòðîèì êàíòîðîâó ëåñòíèöó ñ ïîìîùüþ
ïîñëåäîâàòåëüíîãî ïîñòðîåíèÿ ôóíêöèé {Fn }n∈N
⎧
⎨ 1/2, x ∈ [1/3, 2/3];
0,
x = 0;
F1 =
⎩
1,
x = 1.
 îñòàëüíûõ òî÷êàõ äîîïðåäåëÿåì ñ ïîìîùüþ ëèíåéíîé èíòåðïîëÿöèè.
⎧
1/2, x ∈ [1/3, 2/3];
⎪
⎪
⎪
⎪
⎨ 1/4, x ∈ [1/9, 2/9];
3/4, x ∈ [7/9, 4/9];
F1 =
⎪
⎪
0,
x = 0;
⎪
⎪
⎩
1,
x = 1.
 îñòàëüíûõ òî÷êàõ äîîïðåäåëÿåì ñ ïîìîùüþ ëèíåéíîé èíòåðïîëÿöèè.
Fn (x) → F (x), n → ∞, x ∈ [0, 1].
Î. Å. Ùåðáàêîâà
"
F (x)
- êàíòîðîâà ëåñòíèöà - íåóáûâàþùàÿ íåïðåðûâíàÿ ôóíêöèÿ, òî÷êè ðî-
ñòà êîòîðîé îáðàçóþò ìíîæåñòâî
N
ëåáåãîâîé ìåðû 0. Äåéñòâèòåëüíî, ñóì-
ìàðíàÿ äëèíà îòðåçêîâ ïîñòîÿíñòâà ðàâíà 1:
1/3 + 2/9 + 4/27 + . . . =
Òàêèì îáðàçîì,
λ(N ) = 0,
∞
1 2 n
( ) = 1.
3 n=0 3
íî ñ äðóãîé ñòîðîíû, åñëè
μ
- ìåðà, ïîðîæäåííàÿ
ñëó÷àéíîé âåëè÷èíîé, ñîîòâåòñòâóþùåé êàíòîðîâîé ôóíêöèè ðàñïðåäåëåíèÿ,
òî
μ(N ) = 1.
 ýòîì ñëó÷àå ãîâîðÿò, ÷òî ìåðà
ëåáåãîâñêîé ìåðû
μ
ñèíãóëÿðíà îòíîñèòåëüíî
λ.
Ëþáàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ ìîæåò áûòü ïðåäñòàâëåíà â ñëåäóþùåì âèäå:
F (x) = αF1 (x) + βF2 (x) + γF3 (x), α, β, γ ≥ 0, α + β + γ = 1,
ãäå F1 (x) - äèñêðåòíàÿ, F2 (x) - àáñîëþòíî
íåïðåðûâíàÿ
è F3 (x) - ñèíãóëÿðíàÿ.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
13.
"
Ñëó÷àéíûå âåêòîðû è èõ ðàñïðåäåëåíèÿ â R
n
Ïóñòü ó íàñ åñòü âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ), ðàññìîòðèì ñëó÷àéíûé
âåêòîð - óïîðÿäî÷åííûé íàáîð ñëó÷àéíûõ âåëè÷èí
−
→
ξ (ω) = (ξ1 (ω), . . . , ξn (ω), n ∈ N).
→
−
Èíûìè ñëîâàìè, ξ : Ω → Rn èçìåðèìàÿ îòíîñèòåëüíî Áîðåëåâñêîé σ -àëãåáðû
Bn ôóíêöèÿ.
Ðàñïðåäåëåíèå ñëó÷àéíîãî âåêòîðà áóäåò âûãëÿäåòü òàê
−
→
− (A) = P (ω : ξ (ω) ∈ A), A ∈ Bn ,
P→
ξ
ôóíêöèåé ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà íàçîâåì
− (x1 , . . . , xn ) = P→
− ((−∞, x1 ), . . . , (−∞, x1 )) = P→
− ((−∞, x));
F→
ξ
ξ
ξ
x = (x1 , . . . , xn ), (−∞, x) = (−∞, x1 ) × . . . × (−∞, xn ).
Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà
Ñâîéñòâî 13.1. F→−ξ âîçðàñòàåò ïî âñåì àðãóìåíòàì xi , i = 1, . . . , n.
Ñâîéñòâî 13.2. F→−ξ (∞, . . . , ∞) = 1
Ñâîéñòâî 13.3. F→−ξ (x1 , . . . , xn ) = 0, åñëè i=1,...,n
min xi = −∞.
Ñâîéñòâî 13.4. Ïóñòü J = [a, b) = [a1 , b1 ) × . . . × [an , bn ), òîãäà
−
→
− (J) =
P ( ξ ∈ J) = P→
ξ
− (b1 , . . . , bn ) −
→
− (b1 , . . . , ai , . . . , bn )+
F
F→
ξ
ξ
+
1≤i≤j≤n
1≤i≤n
− (b1 , . . . , ai , . . . , . . . , aj , . . . , . . . , bn )−
F→
ξ
− (a1 , . . . , an )
− . . . + (−1)n F→
ξ
−
−
→
Îïðåäåëåíèå 13.1. Ïóñòü →
ξ - ñëó÷àéíûé âåêòîð. ξ èìååò äèñêðåòíîå
ðàñïðåäåëåíèå ,
åñëè ñóùåñòâóåò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî çíà÷åíèé A ⊂ Rn , êîòîðîå
îí ïðèíèìàåò ñ âåðîÿòíîñòüþ 1
−
→
P (ω : ξ (ω) ∈ A) = 1.
Ðàñïðåäåëåíèå äèñêðåòíîãî ñëó÷àéíîãî âåêòîðà íàçîâåì íàáîð ÷èñåë
pk,l = P (ω : ξ(ω)l = ak,l ), A = {ak,l }k∈N , l ∈ {1, . . . , n}.
−
−
→
Îïðåäåëåíèå 13.2. Ïóñòü →
ξ - ñëó÷àéíûé âåêòîð. ξ èìååò àáñîëþòíî
ðàñïðåäåëåíèå, åñëè ñóùåñòâóåò èçìåðèìàÿ ôóíêöèÿ p, òàêàÿ ÷òî
− (A) =
p(x)dx, A ∈ Bn ,
P→
ξ
íåïðåðûâíîå
A
dPξ
, ãäå λn - ëåáåãîâñêàÿ ìåðà â Rn ).
dλn
−
→
p - íàçîâåì ïëîòíîñòüþ ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà ξ .
(ýòî îçíà÷àåò, ÷òî p(x) =
Î. Å. Ùåðáàêîâà
"
−
→
Òåîðåìà. Ðàñïðåäåëåíèå
ëþáîãî ïîäâåêòîðà ξ d = (ξi , . . . , ξi ) ïîëíîñòüþ îïðå−
→
äåëÿåòñÿ âåêòîðîì ξ
Çàìå÷àíèå 13.1. Îáðàòíîå íå âåðíî: ñëó÷àéíûé âåêòîð íå îïðåäåëÿåòñÿ çàäàíèåì ðàñïðåäåëåíèé âñåõ åãî ïîäâåêòîðîâ.
Òåîðåìà. Ïóñòü ñëó÷àéíûé âåêòîð èìååò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå, òîãäà âñå åãî ïîäâåêòîðà áóäóò èìåòü àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå.
−
→
Äîêàçàòåëüñòâî. Ðàññìîòðèì ðàñïðåäåëåíèå ïîäâåêòîðà ξ d = (ξi , . . . , ξi ) Ïóñòü
A ∈ Bn , òîãäà
1
d
1
d
P (ω : (ξi1 (ω), . . . , ξid (ω) ∈ A) =
P (ω : (ξi1 (ω), . . . , ξid (ω)) ∈ A, (ξid+1 (ω), . . . , ξin (ω)) ∈ Rn−d ) =
p(x)dx = [
. . .]p(x)dx1 . . . dxn =
n−d
A×R
A Rn−d
pξi1 ,...,ξid (xi1 , . . . , xid )dxi1 . . . dxid
A
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
"!
14. Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí
Îïðåäåëåíèå 14.1. Ñëó÷àéíûå âåëè÷èíû ξ1, . . . , ξn ñî çíà÷åíèÿìè â èçìåðè-
ìûõ ïðîñòðàíñòâàõ (X1 , A1 ), . . . , (Xn , An )
åñëè âûïîëíåíî
íåçàâèñèìûìè,
A1 ∈ A1 , . . . , An ∈ An
íàçûâàþòñÿ
n
P (ξ1 ∈ A1 , . . . , ξn ∈ An ) =
P (ξk ∈ Ak ).
k=1
Äàäèì åùå íåñêîëüêî ðàâíîñèëüíûõ îïðåäåëåíèé.
Îïðåäåëåíèå 14.2. Ðàññìîòðèì ñëó÷àéíûé âåêòîð −→ξ = (ξ1, . . . , ξn) ñî çíà÷å-
íèÿìè â èçìåðèìîì ïðîñòðàíñòâå (X1 ×. . .×Xn , A1 ×. . .×An ) A1 ∈ A1 , . . . , An ∈
An .
•
Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî
n
− (A1 × . . . × An ) =
P→
ξ
Pξk (Ak ).
k=1
•
−
Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè ìåðà P→
ξ
ðàâíà äåêàðòîâó ïðîèçâåäåíèþ ìåð
− =
P→
ξ
n
P ξk .
k=1
•
Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî
n
− (x1 , . . . , xn ) =
F→
ξ
Fξk (x).
k=1
Òåîðåìà. Åñëè ñëó÷àéíûå âåëè÷èíû íåçàâèñèìû è èìåþò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå, òî
n
(1)
− (x1 , . . . , xn ) =
p→
ξ
pξk (x).
k=1
→
È îáðàòíî, åñëè ñëó÷àéíûé âåêòîð −
ξ = (ξ1 , . . . , ξn ) èìååò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå è âûïîëíåíî ðàâåíñòâî 1, òî ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn
íåçàâèñèìû.
Î. Å. Ùåðáàêîâà
""
15.
Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà, Ðèìàíà-Ñòèòüåñà.
Ìàòåìàòè÷åñêîå îæèäàíèå. Ïîíÿòèå ñâåðòêè.
Ñóùåñòâóþò ïî êðàéíåé ìåðå äâà ïîäõîäà ê îïðåäåëåíèþ èíòåãðàëà Ñòèëòüåñà:
Ðèìàíà-Ñòèëòüåñà ñòðîèòñÿ íà îñíîâå áëèçîñòè òî÷åê íà îñè, êîíå÷åí
äëÿ íå ñëèøêîì ðàçðûâíûõ ôóíêöèé.
Ëåáåãà-Ñòèëòüåñà íà îñíîâå ãðóïïèðîâêè çíà÷åíèé èíòåãðèðóåìûõ ôóíêöèé, ñõîäèòñÿ äëÿ áîëåå øèðîêîãî êëàññà ôóíêöèé.
R-S:
L-S:
Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà.
Îïðåäåëåíèå 15.1 (L). Ïóñòü ξ - íåîòðèöàòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà.
15.1.
Ïîñòðîèì ïîñëåäîâàòåëüíîñòü ïðîñòûõ íåîòðèöàòåëüíûõ
íûõ âåëè÷èí
l
{ξn }n∈N
ñëó÷àé-
n
ξn (ω) =
xk IAk (ω)
k=1
è îïðåäåëèì äëÿ íèõ ìàòåìàòè÷åñêîå îæèäàíèå êàê
Eξn =
ln
xk P (Ak )
k=1
è ïðåäïîëîæèì, ÷òî ξn (ω) ↑ ξ(ω), n → ∞ äëÿ êàæäîãî ω ∈ Ω. Òîãäà ìàòåìàòè÷åñêèì
îæèäàíèåì íåîòðèöàòåëüíîé ñëó÷àéíîé âåëè÷èíû èëè èíòåãðàëîì Ëåáåãà íàçîâåì âåëè÷èíó
Eξ = lim Eξn .
n→∞
Äëÿ òîãî, ÷òîáû îïðåäåëåíèå áûëî êîððåêòíî íåîáõîäèìî ïîêàçàòü, ÷òî çíà÷åíèå ïðåäåëà íå çàâèñèò îò âûáîðà àïïðîêñèìèðóþùåé ïîñëåäîâàòåëüíîñòè.
Çàìåòèì, ÷òî äëÿ íåîòðèöàòåëüíîé ñëó÷àéíîé âåëè÷èíû áóäåò ñïðàâåäëèâî
ñëåäóþùåå ïðåäñòàâëåíèå
Eξ = sup Es,
s∈S:s<ξ
ãäå S = {s} - ìíîæåñòâî ïðîñòûõ íåîòðèöàòåëüíûõ ñëó÷àéíûõ âåëè÷èí.
Îïðåäåëåíèå 15.2 (L). Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà, îáîçíà÷èì
ξ + = max(0, ξ), ξ − = − min(0, ξ).
Ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àéíîé âåëè÷èíû ξ èëè èíòåãðàë Ëåáåãà îò ôóíêöèè ïî âåðîÿòíîñòíîé ìåðå ñóùåñòâóåò, åñëè ïî êðàéíåé ìåðå îäíà èç âåëè÷èí
Eξ + èëè Eξ − êîíå÷íà:
è ïîëàãàþò
min(Eξ + , Eξ − ) < ∞
Eξ = Eξ + − Eξ − .
Ìàòåìàòè÷åñêîå îæèäàíèå êîíå÷íî, åñëè
E|ξ| < ∞.
ξ(ω)dP (ω) = Eξ.
(L)
Ω
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
"#
Îïðåäåëåíèå 15.3 (L-S). Ðàññìîòðèì âåðîÿòíîñòíîå ïðîñòðàíñòâî
(Ω, F ) = (R, B(R)).
Ïóñòü G - îáîáùåííàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ (íåóáûâàþùàÿ, íåïðåðûâíàÿ ñëåâà ôóíêöèÿ ñî çíà÷åíèÿìè â (−∞, ∞)). Òîãäà åé ñîîòâåòñòâóåò íåêîòîðàÿ ìåðà
Ëåáåãà μ.
Èòåãðàëîì Ëåáåãà-Ñòèëòüåñà íàçûâàþò
(L − S)
ξ(x)dG(x) =
ξ(x)dμ(x)
R
R
Èíòåãðàë Ðèìàíà-Ñòèëòüåñà.
Îïðåäåëåíèå 15.4 (R-S). Ïóñòü G - îáîáùåííàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ (íåóáû15.2.
âàþùàÿ, íåïðåðûâíàÿ ñëåâà ôóíêöèÿ ñî çíà÷åíèÿìè â (−∞, ∞)). Ïóñòü g - îãðàíè÷åííàÿ ôóíêöèÿ, îáðàùàþùàÿñÿ â íóëü âíå îòðåçêà [a, b]. Ðàññìîòðèì ðàçáèåíèå îòðåçêà
è ñîñòàâèì âåðõíèå
P
P = {x0 , . . . , xn }, a = x0 < . . . < xn = b
=
P
g i (G(xi ) − G(xi−1 )), g i =
i=1
è íèæíèå ñóììû
n
=
n
g i (G(xi ) − G(xi−1 )), g i =
i=1
Îïðåäåëèì ïðîñòûå ôóíêöèè
g P (a) = g(a).
sup
g(y)
xi−1 <y≤xi
inf
xi−1 <y≤xi
g(y).
g P (x) = g i g P (x) = g i , x ∈ (xi−1 , xi ], g P (a) =
Òîãäà ìîæíî çàïèñàòü âåðõíèå è íèæíèå ñóììû ÷åðåç èíòåãðàëû ËåáåãàÑòèëòüåñà
P
a
b
= (L − S)
g P (x)dG(x),
P
b
= (L − S)
a
g P (x)dG(x).
Ðàññìîòðèì òåïåðü {Pk }k∈N - âîçðàñòàþùóþ ïîñëåäîâàòåëüíîñòü ðàçáèåmax |xki − xki | → 0, k → ∞.
íèé Pk ⊂ Pk+1 , ðàíã êîòîðûõ ñòðåìèòñÿ ê íóëþ 0≤i≤n
Òîãäà
k
g P1 ≥ g P 2 ≥ . . . ≥ g ≥ . . . ≥ g P ≥ g P
2
è èç îãðàíè÷åííîñòè ôóíêöèè g ïîëó÷èì
lim
Pk
k→∞
lim
k→∞
Pk
1
b
= (L − S)
g(x)dG(x),
a
b
= (L − S)
g(x)dG(x),
a
g(x) = lim g Pk (x); g(x) = lim g P (x).
k→∞
k→∞
k
Åñëè ïðåäåëû limk→∞ P , limk→∞ P êîíå÷íû, ñîâïàäàþò è èõ îáùåå çíà÷åíèå íå çàâèñèò îò âûáîðà ïîñëåäîâàòåëüíîñòè {Pk } ðàçáèåíèé, òî ãîâîðÿò,
k
k
Î. Å. Ùåðáàêîâà
"$
÷òî ôóíêöèÿ èíòåãðèðóåìà ïî Ðèìàíó-Ñòèëòüåñó è îáùåå çíà÷åíèå ïðåäåëîâ
îáîçíàåòñÿ
(R − S)
g(x)dG(x).
R
Òåîðåìà.
Åñëè ôóíêöèÿ g - íåïðåðûâíà íà îòðåçêå [a, b], òî îíà èíòåãðèðóåìà
ïî Ðèìàíó-Ñòèëòüåñó è
(R − S) g(x)dG(x) = (L − S) g(x)dG(x).
Ïîíÿòèå ñâåðòêè.
R
R
15.3.
Ðàññìîòðèì ïðèìåð ôóíêöèè îò ìíîãèõ ñëó÷àéíûõ
âåëè÷èí.
Ïóñòü ξ , η - ñëó÷àéíûå âåëè÷èíû ñ ñîâìåñòíûì ðàñïðåäåëåíèåì F(ξ,η) (x, y), à
ϕ = ϕ(x, y) - íåêîòîðàÿ èçìåðèìàÿ ôóíêöèÿ, òîãäà ìîæåì ðàññìîòðåòü ôóíêöèþ
ðàñïðåäåëåíèÿ íîâîé ñëó÷àéíîé âåëè÷èíû ζ = ϕ(ξ, η)
dF(ξ,η) (x, y).
Fη (z) =
x,y:ϕ(x,y)<z
Ïóñòü ϕ(x, y) = x+y , ζ = ξ +η , à ξ è η íåçàâèñèìû, òîãäà F(ξ,η) (x, y) = Fξ (x)Fη (y)
è, ïðèìåíÿÿ òåîðåìó Ôóáèíè, ïîëó÷èì
Fζ (z) =
x,y:x+y<z
∞
∞
−∞
dFξ (x)
dF(ξ,η) (x, y) =
−∞
R2
Ix+y<z (x, y)dFξ (x)dFη (y) =
Ix+y<z (x, y)dFη (y) =
è àíàëîãè÷íî
Fζ (z) =
∞
−∞
Ñâåðòêó ïðèíÿòî îáîçíà÷àòü òàê
∞
−∞
Fη (z − x)dFξ (x)
Fξ (z − y)dFη (y).
Fξ+η = Fξ ∗ Fη .
Ðàññìîòðèì òåïåðü ñëó÷àé àáñîëþòíî íåïðåðûâíûõ ðàñïðåäåëåíèé è ïîêà÷åì,
÷òî ïëîòíîñòü ñóììû áóäåò ñâåòðòêîé ïëîòíîñòåé.
Fζ (z) =
∞
z
[
−∞
−∞
fζ (z) =
∞
z−x
[
fη (y)dy]fξ (x)dx =
z ∞
fη (u − x)du]fξ (x)dx =
[
fη (u − x)fξ (x)dx]du
−∞
−∞
−∞
∞
−∞
−∞
∞
fη (z − x)fξ (x)dx, fη (z) =
−∞
fξ (z − y)fη (y)dy.
Çàìåòèì, ÷òî äëÿ òîãî, ÷òîáû ñóììà äâóõ ñëó÷àéíûõ âåëè÷èí èìåëà àáñîëþòíî
íåïðåðûâíîå ðàñïðåäåëåíèå äîñòàòî÷íî, ÷òîáû îäíà èç ñëó÷àéíûõ âåëè÷èí èìåëà
ïëîòíîñòü. Ýòî âèäíî èç ðàâåíñòâ:
∞
∞
fζ (z) =
fη (z − x)dFξ (x), fζ (z) =
fξ (z − y)dFη (y).
−∞
−∞
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
"%
Ñâîéñòâà ìàòåìàòè÷åñêîãî îæèäàíèÿ.
15.4.
(1) Ïóñòü c - ïîñòîÿííàÿ, Eξ ñóùåñòâóåò. Òîãäà ñóùåñòâóåò E(cξ) è
E(cξ) = cEξ
(2) Ïóñòü ξ ≤ η , òîãäà
Eξ ≤ Eη,
â ÷àñòíîñòè,
−∞ < Eξ ⇒ −∞ < Eη, Eξ ≤ Eη;
Eη < ∞ ⇒ Eξ < ∞, Eξ ≤ Eη.
(3) Åñëè Eξ ñóùåñòâóåò, òî
|Eξ| ≤ E|ξ|.
(4) Åñëè Eξ ñóùåñòâóåò, òî äëÿ ëþáîãî A ∈ F ìàòåìàòè÷åñêîå îæèäàíèå
E(ξIA ) òàêæå ñóùåñòâóåò, åñëè Eξ êîíå÷íî, òî E(ξIA ) êîíå÷íî.
E(ξIA ) ≤ Eξ
(5) Åñëè ñëó÷àéíûå âåëè÷èíû ξ , η , äëÿ êîòîðûõ îïðåäåëåíû Eξ ,Eη è âûðàæåíèå Eξ + Eη èìååò ñìûñë. Òîãäà
E(ξ + η) = Eξ + Eη.
(6) Åñëè ξ = 0 ï.í., òî Eξ = 0.
(7) Åñëè ξ = η ï.í. è E|ξ| < ∞, òî E|η| < ∞, Eξ = Eη .
(8) Ïóñòü ξ ≥ 0 è Eξ = 0, òîãäà ξ = 0 ï.í.
Òåîðåìà (òåîðåìà Ëåáåãà î ìàæîðèðóåìîé ñõîäèìîñòè) . Ðàññìîòðèì ñëó÷àéíûå
âåëè÷èíû, òàêèå ÷òî |ξn | ≤ η, Eη < ∞,
ξn → ξ ï.í. (P (ω : ξn (ω) → ξ(ω)) = 1).
Òîãäà E|ξ| < ∞ è Eξn → Eξ , E|ξ − ξn | → 0.
Òåîðåìà. Ïóñòü ξ, η íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, òàêèå ÷òî E|ξ| < ∞,
E|η| < ∞.
Òîãäà E|ξη| < ∞ è Eξη = Eξ · Eη.
Äîêàçàòåëüñòâî. Ïóñòü äëÿ íà÷àëà ξ ≥ 0, η ≥ 0. Ïîñòðîèì ïîñëåäîâàòåëüíîñòè
ξn , ηn ñëåäóþùèì îáðàçîì
ξn =
∞
k
I k k+1 (ξ),
n [n, n )
k=0
ηn =
∞
k
I k k+1 (η).
n [n, n )
k=0
Çàìåòèì, ÷òî |ξ − ξn | ≤ n1 , |η − ηn | ≤ n1 , à êðîìå òîãî, Eξ < ∞, Eη < ∞, òîãäà ïî
òåîðåìå Ëåáåãà î ìàæîðèðóåìîé ñõîäèìîñòè
lim Eξn = Eξ,
lim Eηn = Eη.
Î. Å. Ùåðáàêîâà
"&
Èñïîëüçóÿ íåçàâèñìîñòü, ïîëó÷èì
Eξn ηn =
kl
EI k k+1 (ξ)I[ l , l+1 ) (η) =
n
n
n2 [ n , n )
k,l≤0
kl
EI k k+1 (ξ)EI[ l , l+1 ) (η) = Eξn Eηn .
n
n
n2 [ n , n )
Îöåíèì ðàçíîñòü
k,l≤0
|Eξη − Eξn ηn | ≤ E|ξη − ξn ηn | ≤ E[ξ|η − ηn ]| + E[ηn |ξ − ξn |] ≤
1
1
1
Eξ + E(η + ) → 0.
n
n
n
Ñëåäîâàòåëüíî,
Eξη = lim Eξn ηn = lim Eξn lim ηn = Eξ · Eη, Eξη < ∞
Ê îáùåìó ñëó÷àþ ïåðåõîäèì, èñïîëüçóÿ ïðåäñòàâëåíèÿ
ξ = ξ + − ξ − , η = η + − η − , ξη = ξ + η + − ξ − η + − ξ + η − + ξ − η − .
15.5. Íåðàâåíñòâà, ñâÿçàííûå ñ ìàòåìàòè÷åñêèì îæèäàíèåì.
Íåðàâåíñòâî ×åáûøåâà: Ïóñòü ξ - íåîòðèöàòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà, òîãäà äëÿ ëþáîãî ε > 0
P (ξ ≥ ε) ≤
Äîêàçàòåëüñòâî.
Eξ
ε
Eξ ≥ EξI{ξ≥ε} ≥ εEI{ξ≥ε} = εP (ξ ≥ ε)
Íåðàâåíñòâî Ìàðêîâà: Ïóñòü ξ - íåîòðèöàòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà,
g : R+ → R+
- íå óáûâàþùàÿ ôóíêöèÿ, òîãäà äëÿ ëþáîãî ε > 0
P (ξ ≥ ε) ≤
Eg(ξ)
g(ε)
Äîêàçàòåëüñòâî.
Eg(ξ) ≥ Eg(ξ)I{g(ξ)≥g(ε)} ≥ g(ε)EI{ξ≥ε} = g(ε)P (ξ ≥ ε)
 êà÷åñòâå g(x) ìîæíî áðàòü x2 , exp x è äðóãèå.  ÷àñòíîñòè, ïîëó÷èì
íåðàâåíñòâà
P (|ξ − Eξ| ≥ ε) ≤
D(ξ)
E exp(ξ)
, P (ξ ≥ ε) ≤
ε2
exp(ε)
Íåðàâåíñòâî Éåíñåíà: Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà, E|ξ| < ∞, g - âûïóêëàÿ âíèç èçìåðèìàÿ ôóíêöèÿ, òîãäà
Eg(ξ) ≥ g(Eξ)
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
"'
Äîêàçàòåëüñòâî. Èç âûïóêëîñòè âíèç ñëåäóåò, ÷òî äëÿ âñÿêîãî x0 ñóùåñòâóåò λ(x0 ), òàêîå ÷òî äëÿ âñåõ x âûïîëíÿåòñÿ íåðàâåñòâî
g(x) − g(x0 ) ≥ λ(x0 )(x − x0 )
Ïîëîæèì x0 = Eξ , x = ξ . Ðàññìîòðèì òåïåðü ìàòåìàòè÷åñêîå îæèäàíèå
g(ξ) − g(Eξ) ≥ λ(Eξ)(ξ − Eξ)
Eg(ξ) − g(Eξ) ≥ λ(Eξ)E(ξ − Eξ) = 0
Íåðàâåíñòâî Êîøè-Áóíÿêîâñêîãî: Ïóñòü Eξ
2
< ∞, Eξ 2 < ∞,
òîãäà
E|ξη| ≤ (Eξ 2 Eξ 2 )1/2
Äîêàçàòåëüñòâî. Ïðåäïîëîæèì, ÷òî Eξ 2 > 0, Eη2 > 0, èíà÷å åñëè Eξ 2 >
òî ξ = 0 ï.í. è Eξη = 0 è íåðàâåíñòâî ïðåâðàùàåòñÿ â òðèâèàëüíîå
ðàâåíñòâî. Ïóñòü
0,
η
ξ
, η = ξ = Eξ 2
Eη 2
Âîñïîëüçóåìñÿ íåðàâåíñòâîì
âåùåñòâåííûõ a, b.
a2 + b2 ≤ 2|ab|,
êîòîðîå âåðíî äëÿ ëþáûõ
η |;
ξ2 + η2 ≤ 2|ξ
η )| = E|ξη|
2 = E ξ2 + E η2 ≤ 2E|(ξ
Eξ 2 Eη 2
Íåðàâåíñòâî Ëÿïóíîâà: Åñëè 0 < s < t, òî
(Eξ s )1/s ≤ (Eξ t )1/t
Äîêàçàòåëüñòâî. Ïîëîæèì r = t/s, ðàññìîòðèì âûïóêëóþ âíèç ôóíêöèþ g(x) = xr , (r > 1).
Ïðèìåíèì íåðàâåíñòâî Éåíñåíà
E(ξ t ) = E((ξ s )r ) ≥ ((Eξ s )1/s )r = (Eξ s )t/s
Íåðàâåíñòâî üëüäåðà: Ïóñòü E|ξ|
s < ∞, 1 < t < ∞,
òîãäà
s
< ∞, E|ξ| < ∞, 1/s + 1/t = 1, 1 <
t
E|ξη| ≤ (Eξ s )1/s (Eξ t )1/t
Äîêàçàòåëüñòâî. Àíàëîãè÷íî äîêàçàòåëüñòâó íåðàâåíñòâà Êîøè-Áóíÿêîâñêîãî,
êîòîðîå ÿâëÿåòñÿ ÷àñòíûì ñëó÷àåì äîêàçûâàåìîãî íåðàâåíñòâà, ïðåäïîëîæèì, ÷òî E|ξ| > 0, E|η| > 0, èíà÷å íåðàâåíñòâî ïðåâðàùàåòñÿ â òðèâèàëüíîå ðàâåíñòâî.
Ïóñòü
ξ =
|ξ|
√ s , η =
Eξ
1/s
|η|
Eη t
1/t
#
Î. Å. Ùåðáàêîâà
Âîñïîëüçóåìñÿ íåðàâåíñòâîì xa yb ≤ ax + by, êîòîðîå âåðíî äëÿ ëþáûõ
ïîëîæèòåëüíûõ x, y, a, b, a + b = 1. Ýòî íåðàâåíñòâî âûòåêàåò èç ñâîéñòâ
âûïóêëîñòè ââåðõ ëîãàðèôìè÷åñêîé ôóíêöèè:
a ln x + b ln y ≤ ln(ax + by).
Ïîëîæèì x = ξs , y = ηt , a = 1/s, b = 1/t.
Òîãäà
η ≤ 1 ξs + 1 ηt ;
ξ
s
t
η ) ≤ 1 E ξs + 1 E ηt = 1/s + 1/t = 1.
E(ξ
s
t
×òî è äîêàçûâàåò òðåáóåìîå íåðàâåíñòâî.
Ïóñòü 1 ≤ p
òîãäà
Íåðàâåíñòâî Ìèíêîâñêîãî:
< ∞, E|ξ|p < ∞, E|η|p < ∞,
(E|ξ + η|p )1/p ≤ (E|ξ|p )1/p + (E|η|p )1/p
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
16.
#
Äèñïåðñèÿ. Êîâàðèàöèÿ. Êîððåëÿöèÿ.
Äèñïåðñèÿ.
Îïðåäåëåíèå 16.1.
16.1.
Dξ = E(ξ − Eξ)2 = Eξ 2 − (Eξ)2
Âòîðîé öåíòðàëüíûé
ìîìåíò íàçûâàåòñÿ äèñïåðñèåé. Êâàäðàòè÷íîå îòêëîíå√
íèå σ(ξ) = Dξ ïîêàçûâàåò ðàçìàõ ñëó÷àéíîé âåëè÷èíû, âåëè÷èíó ôëóêòóàöèè.
Ñâîéñòâà äèñïåðñèè
(1)
Dξ = 0 ⇔ {∃ c ∈ R : P (ξ = c) = 1}, (ξ = c ï.í. )
(2)
D(ξ + c) = Dξ, D(cξ) = c2 Dξ, c ∈ R
(3) Åñëè ξ , η - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, òî
D(ξ + η) = Dξ + Dη
Êîâàðèàöèÿ. Êîâàðèöèîííàÿ ìàòðèöà.
Îïðåäåëåíèå 16.2.
16.2.
cov(ξ, η) = E[(ξ − Eξ)(η − Eη)] = Eξη − EξEη.
Âòîðîé ñìåøàííûé öåíðàëüíûé ìîìåíò
íàçûâàåòñÿ êîâàðèàöèåé.
→
Ðàññìîòðèì ñëó÷àéíûé âåêòîð −
ξ = (ξ1 , . . . , ξn ). Åãî êîâàðèàöèîííîé ìàòðèöåé íàçûâàåòñÿ ìàòðèöà
R = (Ri,j )i=1,...,n;j=1,...,n , Ri,j = cov(ξi , ξj ).
Òåîðåìà. Ñëåäóþùèå óòâåðæäåíèÿ ðàâíîñèëüíû:
(1) R - êîâàðèàöèîííàÿ ìàòðèöà ñëó÷àéíîãî âåêòîðà
(2) ñóùåñòâóåò ìàòðèöà
→
−
ξ = (ξ1 , . . . , ξn )
A = (Ai,j )i=1,...,n;j=1,...,n : R = AAt .
(3) R - ñèììåòðè÷íà è íåîòðèöàòåëüíî îïðåäåëåíà.
Äîêàçàòåëüñòâî.
1 ⇒ 3: Íåîòðèöàòåëüíî îïðåäåëåííîñòü ìàòðèöû
äóåò èç íåðàâåíñòâ
n
Rij λi λj =
cov(ξi , ξj )λi λj = E( (ξi − Eξi )λi )2 ≥ 0
ij
ij
R ñëå-
i=1
:
3 ⇒ 2 ⇒ 1 Èç íåîòðèöàòåëüíî îïðåäåëåííîñòè ìàòðèöû R ñëåäóåò, ÷òî ñóùåñòâóåò îðòîãîíàëüíàÿ ìàòðèöà Q (QQt = E ), òàêàÿ ÷òî
R = QDQt , D = E(d1 , . . . , dn )t , di ≥ 0, i = 1, . . . , n.
√
√
Ïîëîæèì ìàòðèöó B : D = B 2 , B = E( d1 , . . . , dn )t , òîãäà âîçüìåì â
êà÷åñòâå A = QB è ïîëó÷èì R = AAt .
Î. Å. Ùåðáàêîâà
#
→
Òåïåðü ïîñòðîèì ñëó÷àéíûé âåêòîð −
ξ èìåþùèé êîâàðèàöèîííóþ ìàò−
ðèöó R. Ïóñòü →
η = (η1 , . . . , ηn ), ηi ∈ N (0, 1) ñëó÷àéíûé âåêòîð, ñîñòîÿùèé
−
èç íåçàâèñèìûõ íîðìàëüíûõ ñëó÷àéíûõ âåëè÷èí, à â êà÷åñòâå →
ξ âîçüìåì
−
→
→
−
−
→
ξ = (ξ1 , . . . , ξn ), ξ = A η t .
Çàìåòèì, ÷òî
Ñëåäîâàòåëüíî,
→
−
E−
η→
η t = E.
−
→−
→
→
→
η−
η t At = AEAt = R.
E ξ ξ t = A−
Êîððåëÿöèÿ.
Îïðåäåëåíèå 16.3. Êîýôôèöèåíòîì êîððåëÿöèè íàçûâàåòñÿ
16.3.
cov(ξ, η)
r(ξ, η) = √
DξDη
Ñâîéñòâî 16.1. Åñëè ξ, η - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, òî
r(ξ, η) = 0.
Äîêàçàòåëüñòâî. Èç íåçàâèñèìîñòè ξ, η ñëåäóåò, ÷òî
Eξη = EξEη, cov(ξ, η) = Eξη − EξEη = 0, r(ξ, η) = 0.
Çàìå÷àíèå 16.1. Çàìåòèì, ÷òî îáðàòíîå íå âåðíî. Ïðèâåäåì ïðèìåð.
Ïðèìåð 16.1.
1
Eη =
Òåîðåìà.
0
Ω = [0, 1], P = λ, ξ(ω) = sin(πω), η = cos(πω),
1 1
cos(πω)dω = 0, Eξη =
sin(2πω)dω = 0, r(ξ, η) = 0.
2 0
Äîêàçàòåëüñòâî.
|r(ξ, η)| = 1 ⇔ ξ, η − ëèíåéíî
: Îáîçíà÷èì
çàâèñèìû.
⇒
ξ − Eξ
η − Eη
ξ = , η = .
D(ξ)
D(η)
Ïóñòü r(ξ, η) = 1. Ðàññìîòðèì
η = 2 − 2 = 0
η − 2E ξ
D(ξ − η) = E((ξ − η))2 − (E(ξ − η))2 = Dξ + D
Òàêèì îáðàçîì, ξ − η = c , çíà÷èò ξ, η -ëèíåéíî çàâèñèìû. Åñëè r(ξ, η) =
−1, òî àíàëîãè÷íî äîêàçûâàåì D(ξ + η) = 0
⇐ Ïóñòü ξ = aη + b, òîãäà
:
r(ξ, η) = r(aη + b, η) =
cov(aη + b, η)
aEη 2 + bEη − (aEη + b)Eη
=
= sign(a).
|a|Dη
|a|Dη
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
17.
#!
Ðàçëè÷íûå âèäû ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí
1. Ñõîäèìîñòü ï.í. (ïî÷òè íàâåðíîå)èëè ñ âåðîÿòíîñòüþ 1:
Îïðåäåëåíèå 17.1.
{ξn → ξ ï.í.} ⇔ {P (ω : ξn (ω) → ξ(ω)) = 1}.
n→∞
n→∞
2. Ñõîäèìîñòü ïî âåðîÿòíîñòè:
Îïðåäåëåíèå 17.2.
P
{ξn → ξ, n → ∞} ⇔ {∀ε > 0 P (ω : |ξn (ω) − ξ(ω)| ≥ ε) → 0}.
n→∞
3. Ñõîäèìîñòü ïî ðàñïðåäåëåíèþ:
Îïðåäåëåíèå 17.3.
d
{ξn → ξ, n → ∞} ⇔
{ äëÿ âñÿêîé òî÷êè x ∈ R − òî÷êè íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ Fξ
Fξn (x) →
n→∞
Fξ (x)} ⇔
{ äëÿ âñÿêîé íåïðåðûâíîé è îãðàíè÷åííîé ôóíêöèè f
Ef (ξn ) → Ef (ξ)}.
n→∞
4. Ñõîäèìîñòü â ñðåäíåì ïîðÿäêà p ≥ 1 :
Îïðåäåëåíèå 17.4.
Lp
{ξn → ξ, n → ∞} ⇔ {E|ξn (ω) − ξ(ω)|p → 0}.
n→∞
Î. Å. Ùåðáàêîâà
#"
Êðèòåðèé ñõîäèìîñòè ïî÷òè íàâåðíîå.
Òåîðåìà.
17.1.
ξn → ξ ï.í. ⇔ {∀ε > 0 P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0}.
n→∞
n→∞
k≥n
Äîêàçàòåëüñòâî. Ðàñïèøåì ïîäðîáíî íà ÿçûêå ε − δ ñîáûòèå ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí
{ω : ξn (ω) → ξ(ω)} = {ω : ∀ε > 0∃N : ∀n ≥ N ⇒ |ξn (ω) − ξ(ω)| < ε}
n→∞
Ðàññìîòðèì îáðàòíîå ñîáûòèå
{ω : ξn (ω) ξ(ω)} = {ω : ∃ε > 0∀n : ∃k ≥ n ⇒ |ξk (ω) − ξ(ω)| ≥ ε} =
n→∞
=
∞ {ω : |ξk (ω) − ξ(ω)| ≥ ε}
ε>0 n=1 k≥n
∞ Îáîçíà÷èì Aεk = {ω : |ξk (ω) − ξ(ω)| ≥ ε}, Aε = n=1 k≥n Aεk = lim sup Aεk .
Òîãäà ñîáûòèå îòñóòñòâèÿ ñõîäèìîñòè ìîæíî ïåðåïèñàòü òàê:
Aε .
{ω : ξn (ω) ξ(ω)} =
n→∞
ε>0
Íàïèøåì öåïî÷êó ðàâíîñèëüíûõ óòâåðæäåíèé
{P (ω : ξn (ω) ξ(ω)) = 0} ⇔ {P (
n→∞
{P (
∞
A1/m ) = 0}
m=1
Aε ) = 0} ⇔
ε>0
⇔
P (A)≥0,∀A∈F
{P (Aε ) = 0, ∀ε > 0} ⇔ {P (
{P (A1/m ) = 0, ∀m ∈ N} ⇔
Aεk ) → 0, ∀ε > 0} ⇔
k≥n
n→∞
{P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0, ∀ε > 0}
n→∞
k≥n
Ñëåäñòâèå 1.
{
∞
P (|ξk − ξ| ≥ ε) < ∞} ⇒ {ξn → ξ ï.í.}
n→∞
k=1
Äîêàçàòåëüñòâî. Âîçüìåì ïðîèçâîëüíîå ε > 0.
P (sup |ξk − ξ| ≥ ε) = P (
k≥n
{|ξk − ξ| ≥ ε}) ≤
k≥n
P (|ξk − ξ| ≥ ε) → 0
k≥n
Ïî êðèòåðèþ ñõîäèìîñòè ïî÷òè íàâåðíîå ïîëó÷èì òðåáóåìîå.
n→∞
Ïóñòü äàíà {An }n∈N ïîñëåäîâàòåëüíîñòü ñîáûòèé. ∞
∞ Ðàñìîòðèì òàêîå ñîáûòèå {á.÷.An } = lim sup An = n=1 k≥n Ak = n=1 Bn
- áóäåò ïðîèñõîäèòü áåñêîíå÷íîå ÷èñëî
ðàç. Çàìåòèì, ÷òî òàêîå ñîáûòèå îïðåäå
ëåíî êîððåêòíî, ïîñêîëüêó Bn = k≥n Ak îáðàçóþò óáûâàþùóþ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ, à èõ ïðåäåë - áåñêîíå÷íîå ïåðåñå÷åíèå.
Ëåììà 17.1. (Áîðåëÿ-Êàíòåëëè)
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
##
(1)
∞
P (An ) < ∞ ⇒ P (á.÷.An ) = 0
n=1
An íåçàâèñèìû, òî
(2) Åñëè ñîáûòèÿ
∞
P (An ) = ∞ ⇒ P (á.÷.An ) = 1
n=1
Äîêàçàòåëüñòâî.
(1) Äîïóñòèì, ÷òî ðÿä èç âåðîÿòíîñòåé ñõîäèòñÿ.
∞
P (An ) < ∞.
n=1
P (á.÷.An ) = P (
∞
Bn ) ≤ P (Bn ) = P (
n=1
Ak )
k≥n
Ïî ñâîéñòâó ïîëóàääèòèâíîñòè âåðîÿòíîñòè ïîëó÷èì
P(
Ak ) ≤
k≥n
k≥n
P (Ak ) → 0, n → ∞
P (Ak )
k≥n
êàê îñòàòîê ñõîäÿùåãîñÿ ðÿäà.
(2) Ïðåäïîëîæèì òåïåðü, ÷òî ðÿä èç âåðîÿòíîñòåé ðàñõîäèòñÿ, à ñîáûòèÿ
An
íåçàâèñèìû.
Ðàññìîòðèì îáðàòíîå ñîáûòèå
D = {á.÷.An } =
∞ Ak =
n=1 k≥n
∞
Bn
n=1
Èç íåçàâèñèìîñòè ñàìèõ ñîáûòèé, à ñëåäîâàòåëüíî èç íåçàâèñèìîñòè îáðàòíûõ,
P(
k≥n
Ak ) =
(1 − P (Ak )
P (Ak ) =
k≥n
k≥n
Èñïîëüçóÿ ñâîéñòâî ëîãàðèôìè÷åñêîé ôóíêöèè
ïîëó÷èì
ln
(1 − P (Ak ) =
k≥n
ln(1 − P (Ak ) ≤ −
k≥n
ln(1 − x) ≤ −x, x ∈ (0, 1],
P (Ak ) = −∞; P (
k≥n
Ak ) = 0, ∀n ∈ N.
k≥n
Ïîñêîëüêó ïîñëåäîâàòåëüíîñòü ñîáûòèé
{Bn }
áóäåò âîçðàñòàþùåé, òî ïî
íåïðåðûâíîñòè âåðîÿòíîñòíîé ìåðû ïðåäåë áóäåò ðàâåí ñ÷åòíîîé ñóììå
ñîáûòèé
P (D) = P (
∞
n=1
Bn ) = lim P (
n→∞
Ak ) = 0 ⇒ P (á.÷.An ) = 1.
k≥n
Î. Å. Ùåðáàêîâà
#$
Ñðàâíèòåëüíûé àíàëèç ðàçëè÷íûõ âèäîâ ñõîäèìîñòè ñëó÷àéíûõ
âåëè÷èí.
P
→ ξ ï.í.} ⇒ {ξn → ξ, n → ∞}
Òåîðåìà. (1) {ξn n→∞
17.2.
(2)
(3)
Lp
P
{ξn → ξ, n → ∞} ⇒ {ξn → ξ, n → ∞}
P
d
{ξn → ξ, n → ∞} ⇒ {ξn → ξ, n → ∞}
Äîêàçàòåëüñòâî.
(1) Ïî êðèòåðèþ ñõîäèìîñòè ïî÷òè íàâåðíîå èìååì
{ξn → ξ ï.í.} ⇔ {∀ε > 0 P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0}.
n→∞
k≥n
n→∞
Ñ äðóãîé ñòîðîíû, ìû ìîæåì íàïèñàòü íåðàâåíñòâî
0 ← P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) ≥ P (ω : |ξn (ω) − ξ(ω)| ≥ ε)
n→∞
k≥n
Òàêèì îáðàçîì, ïîëó÷àåì ñõîäèìîñòü ïî âåðîÿòíîñòè.
(2) Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî âîñïîëüçîâàòüñÿ íåðàâåíñòâîì Ìàðêîâà
ñ ôóíêöèåé g(x) = |x|p .
Âîçüìåì ïðîèçâîëüíîå ε > 0.
P (|ξn (ω) − ξ(ω)| ≥ ε) ≤
E|ξn − ξ|p
→ 0
n→∞
εp
(3) Ïóñòü òî÷êà x - òî÷êà íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ Fξ .
Âîçüìåì ïðîèçâîëüíîå ε > 0.
Èç íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ è ñõîäèìîñòè ïî âåðîÿòíîñòè äëÿ ëþáîãî ε > 0 ñóùåñòâóþò δ > 0, N ∈ N, òàêèå ÷òî |Fξ (x + δ) −
Fξ (x)| < ε, äëÿ âñÿêèõ íàòóðàëüíûõ n ≥ N P (|ξn − ξ| > δ) < ε.
Ðàññìîòðèì
|Fξn (x) − Fξ (x)| = |P (ξn < x) − P (ξ < x)| =
|P (ξn < x, |ξn − ξ| ≤ δ) + P (ξn < x, |ξn − ξ| > δ) − P (ξ < x)| ≤
|P (ξ ≤ δ + x) + P (|ξn − ξ| > δ) − Fξ (x)| =
|Fξ (x + δ) + P (|ξn − ξ| > δ) − Fξ (x)| < 2ε
Ñëåäîâàòåëüíî,
Fξn (x) → Fξ (x)
n→∞
Ïðèâåäåì ïðèìåðû, ïîêàçûâàþùèå, ÷òî äðóãèå ëîãè÷åñêèé ñâÿçêè íåâîçìîæíû.
Ïðèìåð 17.1.
P,Lp
{ξn → ξ ï.í.} {ξn → ξ, n → ∞}
n→∞
Ω = [0, 1], F = B[0, 1], P = λ - ìåðà Ëåáåãà,
Ain = [
i−1 i
, ], ξni (ω) = IAin (ω)
n n
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
ξ11
ξ21
ξ22
...
ξn1 ξn2 . . . ξnn
Ïîñëåäîâàòåëüíîñòü ξnn ñõîäèòñÿ â ñðåäíåì, ïî âåðîÿòíîñòè ê íóëþ
1
→ 0,
n n→∞
ω ∈ [0, 1].
E|ξnn |p =
íî íå ñõîäèòñÿ íè â îäíîé òî÷êå
Ïðèìåð 17.2.
{ξn → ξ
n→∞
ï.í.}
ξn (ω) =
Lp
{ξn → ξ, n → ∞}
en ,
0,
0 ≤ ω ≤ 1/n;
ω > 1/n.
P {ξn 0} = 1/n → 0;
n→∞
E|ξn |p =
Ïðèìåð 17.3.
epn
→ ∞.
n
L
ï.í.} {ξn →
ξ, n → ∞}
Ïóñòü ξn ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè è
{ξn → ξ
p
n→∞
Òîãäà
P (ξn = 1) = pn , P (ξn = 0) = 1 − pn .
P
{ξn → ξ, n → ∞} ⇔ pn → 0;
Lp
{ξn → ξ, n → ∞} ⇔ pn → 0;
{ξn → ξ
n→∞
ï.í.} ⇔
∞
n=1
pn < ∞.
Òàêèì îáðàçîì, ïðè pn = 1/n ñõîäèìîñòè ïî÷òè íàâåðíîå íå áóäåò.
#%
Î. Å. Ùåðáàêîâà
#&
18. Çàêîí áîëüøèõ ÷èñåë. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë
Çàêîí áîëüøèõ ÷èñåë.
Îïðåäåëåíèå 18.1. Ïîñëåäîâàòåëüíîñòü {ξn }n∈N ñëó÷àéíûõ âåëè÷èí ñ êîíå÷18.1.
íûì ìàòåìàòè÷åñêèì îæèäàíèåì
åñëè
÷èñåë,
n
i=1 (ξi
Eξn = an
− ai )
n
Òåîðåìà
(Ìàðêîâà).
òàêàÿ, ÷òî
Ïóñòü
{ξn }n∈N
D(
óäîâëåòâîðÿåò
çàêîíó áîëüøèõ
P
→ 0, n → ∞.
ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí
n
i=1 ξi )
n2
→ 0.
n→∞
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò
÷èñåë.
Äîêàçàòåëüñòâî. Ïóñòü ε > 0.
çàêîíó áîëüøèõ
Ïî íåðàâåíñòâó Ìàðêîâà ñ ôóíêöèåé g(x) = x2 ïîëó÷èì
n
P(
i=1
E(
|ξi − Eξi |
≥ ε) ≤
n
n
i=1 (ξi −Eξi )
n
ε2
)2
=
D(
n
i=1
n
ε2
ξi
)
=
D(
n
i=1 ξi )
ε2 n2
→ 0.
n→∞
(×åáûø¼âà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí òàêàÿ, ÷òî äèñïåðñèè ðàâíîìåðíî îãðàíè÷åíû
Òåîðåìà
Dξi < c.
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò
÷èñåë.
Äîêàçàòåëüñòâî. Ïðèìåíèì òåîðåìó Ìàðêîâà è ïîëó÷èì
D(
n
i=1 ξi )
n2
n
=
íåçàâèñèìîñòü
çàêîíó áîëüøèõ
D(ξi )
c
→ 0.
≤
n2
n n→∞
i=1
Òåîðåìà (Áåðøòåéíà, î ñëàáîçàâèñìûõ íà áåñêîí÷íîñòè ñëó÷àéíûõ âåëè÷èíàõ) .
Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí òàêàÿ, ÷òî òàêàÿ, ÷òî
äèñïåðñèè ðàâíîìåðíî îãðàíè÷åíû
Dξi < c.
Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò ôóíêöèÿ r(n) n→∞
→ 0, òàêàÿ ÷òî
cov(ξi , ξj ) ≤ r(|i − j|).
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò
÷èñåë.
çàêîíó áîëüøèõ
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
#'
Äîêàçàòåëüñòâî. Ïðèìåíèì òåîðåìó Ìàðêîâà è ïîëó÷èì
D(
n
i=1 ξi )
n2
=
n
n
n
1 1 cov(ξi , ξj ) = 2
cov(ξi , ξj ) ≤
n2 i,j=1
n
k=−n j−i=k
n
n
n
n
1 1 r(|i − j|) = 2
r(|k|)
1=
n2
n
k=−n j−i=k
k=−n
j−i=k
n−1
2
1
(2nr(0) + 2(n − 1)r(1) + . . . + 2(n − k)r(k) + . . . + 2r(n − 1)) ≤
r(k).
2
n
n
k=0
Çàìåòèì, ÷òî
({r(n) → 0} ⇔ {∀ε > 0 ∃N ∈ N : ∀m ≥ N ⇒ |r(m)| < ε};
n→∞
{r(n) → 0} ⇒ {∃M > 0 : |r(k)| < M, ∀k ∈ N}).
n→∞
Òàêèì îáðàçîì, ìîæåì ïðîäîëæèòü îöåíêó
n−1
2
2
r(k) ≤ (M N + ε(n − 1 − N )) → 0.
n→∞
n
n
k=0
Òåîðåìà (Õèí÷èíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è
Eξi = a.
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ
÷èñåë.
Äîêàçàòåëüñòâî ýòîé òåîðåìû ïðèâåäåì â ïàðàãðàôå î õàðàêòåðåñòè÷åñêèõ
ôóíêöèÿõ.
Òåîðåìà (Áåðøòåéíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí. Òîãäà äëÿ òîãî, ÷òîáû ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿëà çàêîíó áîëüøèõ ÷èñåë íåîáõîäèìî è äîñòàòî÷íî, ÷òîáû
E(
.
(
n
1+(
ξ−Eξ 2
))
i=1 (
n nξ−Eξ 2 ) → 0.
n→∞
(
i=1
n ))
Î. Å. Ùåðáàêîâà
$
Óñèëåííûé çàêîí áîëüøèõ ÷èñåë.
Îïðåäåëåíèå 18.2. Ïîñëåäîâàòåëüíîñòü {ξn}n∈N ñëó÷àéíûõ âåëè÷èí ñ êîíå÷18.2.
íûì ìàòåìàòè÷åñêèì îæèäàíèåì Eξn = an óäîâëåòâîðÿåò óñèëåííîìó
åñëè
n
áîëüøèõ ÷èñåë,
Òåîðåìà
çàêîíó
− ai )
→ 0, n → ∞.
ï.í.
n
(Êàíòåëëè) Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéi=1 (ξi
.
íûõ âåëè÷èí è
∃M > 0 : E(ξi − Eξi )4 ≤ M < ∞.
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò óñèëåííîìó çàêîíó
áîëüøèõ ÷èñåë.
Äîêàçàòåëüñòâî. Íå óìàëÿÿ îáùíîñòè, ïîëîæèì Eξi = 0. Äîêàæåì äëÿ íà÷àëà,
÷òî
Eξi4 ≤ M ⇒ E(
n
ξi )4 ≤ cM n2 .
i=1
E(
n
ξ i )4 =
i=1
n
E(ξi4 ) +
E(ξi ξk ξj ξm )
i=j =k=m
=
n
E(ξi )4 +
+
=
íåçàâèñèìîñòü
i=1
E(ξi )4 +
i=j
E(ξi )2 E(ξj )2
E(ξi )2 Eξj Eξk +
i=j =k
Eξi Eξk Eξj Eξm
i=j =k=m
n
E(ξi2 ξj ξk )+
i=j =k
E(ξi )2 E(ξj )2 +
i=j
i=1
E(ξi2 ξj2 ) +
i=j
i=1
+
≤
íåð. Ëÿïóíîâà
n
i=1
=
Eξi =0
E(ξi )4 + n
n
(E(ξi )4 )1/2 ≤
i=1
≤ M n2 (1 + 1/n)
Âîñïîëüçóåìñÿ ñëåäñòâèåì èç êðèòåðèÿ ñõîäèìîñòè ïî÷òè íàâåðíîå è íåðàâåíñòâîì Ìàðêîâà ñ ôóíêöèåé g(x) = x4 .
n
∞
n
∞
∞
E( i=1 ξi )4
cM n2
P (|
ξi | ≥ nε) ≤
≤
< ∞.
4
(εn)
(εn)4
n=1
n=1
n=1
i=1
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
$
Ïðèâåäåì åùå äâå òåîðåìû Êîëìîãîðîâà îá óñèëåííîì çàêîíå áîëüøèõ ÷èñåë
áåç äîêàçàòåëüñòâà. n
Îáîçíà÷èì Sn = i=1 ξi .
Òåîðåìà (Êîëìîãîðîâà äëÿ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí) .
Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è
E|ξi | < ∞.
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò óñèëåííîìó
áîëüøèõ ÷èñåë
çàêîíó
ãäå m = Eξi .
Òåîðåìà (Êîëìîãîðîâà äëÿ íåîäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí) .
Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è ïóñòü
{bn }n∈N ïîñëåäîâàòíåëüíîñòü, òàêàÿ ÷òî bn > 0, bn ∞. Òîãäà âåðíû ñëåäóþùèå èìïëèêàöèè
Sn
→ m, n → ∞,
n ï.í.
∞
Dξn
Sn − ESn
<∞ ⇒
→ 0;
ï.í.
b2n
bn
n=1
â ÷àñòíîñòè,
∞
Dξn
Sn − ESn
→ 0
<∞ ⇒
ï.í.
n2
n
n=1
òî åñòü ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò
çàêîíó áîëüøèõ ÷èñåë.
óñèëåííîìó
Î. Å. Ùåðáàêîâà
$
19.
Õàðàêòåðèñòè÷åñêèå ôóíêöèè
Ðàññìîòðèì êîìïëåêñíîçíà÷íûå ñëó÷àéíûå âåëè÷èíû ζ = ξ + iη , ïî îïðåäåëåíèþ ïîëîæèì Eζ = Eξ + iEη .
Áóäåì ðàññìàòðèâàòü ãèëüáåðòîâî ïðîñòðàíñòâî êîìïëåêñíîçíà÷íûõ ñëó÷àéíûõ âåëè÷èí ñ |ζ|2 = ξ 2 + η 2 , E|ζ|2 < ∞ ñî ñêàëÿðíûì ïðîèçâåäåíèåì (ζ1 , ζ2 ) =
Eζ1 ζ2 .
→
Ïóñòü −
ξ = (ξ1 , . . . , ξn ) ñëó÷àéíûé âåêòîð
−
→
ξ : (Ω, F, P ) → (Rn , B(Rn )),
Îïðåäåëåíèå 19.1.
åãî õàðàêòåðèñòè÷åñêîé ôóíêöèåé áóäåì íàçûâàòü
→
−
− (t) = Eei(t, ξ ) , t ∈ Rn .
ϕ→
ξ
 ÷àñòíîñòè, õàðàêòåðèñòè÷åñêîé ôóíêöèåé ñëó÷àéíîé âåëè÷èíû
ξ : (Ω, F, P ) → (R, B(R))
íàçîâåì
19.1.
ϕξ (t) = Eeitξ , t ∈ R.
Ñâîéñòâà õàðàêòåðèñòè÷åñêîé ôóíêöèè ñëó÷àéíîé âåëè÷èíû.
(1) Åñëè η = aξ + b, òî ϕη (t) = Eeit(aξ+b) = eitb ϕξ (at).
n
(2) Åñëè ξ1 , . . . , ξn - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, Sn =
i=1 ξi , òî
n
ϕSn (t) = i=1 ϕξi (t).
ϕSn (t) = E exp(it(
n
n
i=1
n
Eeitξi (t) =
ξi )) =
i=1
ϕξi (t).
i=1
Òåîðåìà. Ïóñòü ñëó÷àéíàÿ âåëè÷èíà ξ ñ ôóíêöèåé ðàñïðåäåëåíèÿ Fξ è õàðàêòåðåñòè÷åñêîé ôóíêöèåé ϕ(t) = Eeitξ . Òîãäà èìåþò ìåñòî ñëåäóþùèå ñâîéñòâà
(1) |ϕ(t)| ≤ ϕ(0) = 1, ∀t ∈ R;
(2) ϕ(t) ðàâíîìåðíî íåïðåðûâíà ïî t ∈ R;
(3) ϕ(t) = ϕ(−t)
(4) ϕ(t) - âåùåñòâåííîçíà÷íàÿ ôóíêöèÿ òîãäà
è òîëüêî òîãäà, êîãäà ðàñïðå
äåëåíèå Fξ ñèììåòðè÷íî ( B dFξ = −B dFξ , B ∈ B(R), −B = {−x, x ∈
B});
(5) Åñëè äëÿ íåêîòîðîãî n ≥ 1 E|ξ|r < ∞, òî ïðè âñåõ r ≤ n ñóùåñòâóþò
ïðîèçâîäíûå ϕ(r) (t)
ϕ(r) (t) =
R
(ix)r eitx dFξ (x),
Eξ r =
ϕ(t) =
n
(it)r
r=0
r!
Eξ r +
ϕ(r) (0)
,
ir
(it)n
εn (t), |εn (t)| ≤ 3E|ξ|n , εn (t) → 0;
t→0
n!
(6) Åñëè ñóùåñòâóåò è êîíå÷íà ϕ(2n) (0), òî Eξ 2n < ∞;
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
(7) Åñëè äëÿ âñåõ
n ≥ 1 E|ξ| < ∞ è
lim sup
òî ïðè âñåõ
(E|ξ|n )1/n
= 1/T < ∞,
n
|t| < T
ϕ(t) =
19.2.
$!
n
∞
(it)n n
Eξ .
n!
n=0
Ïðèìåðû õàðàêòåðèñòè÷åñêèõ ôóíêöèé.
(1) Ðàñïðåäåëåíèå Áåðíóëëè
ξ ∈ B(p), ϕξ (t) = peit + q
(2) Áèíîìèàëüíîå ðàñïðåäåëåíèå
ξ ∈ Bn (p), ξ =
n
ξk , ξk ∈ B(p), ϕξ (t) = (peit + q)n
k=1
(3) Ðàñïðåäåëåíèå Ïóàññîíà
ξ ∈ π(λ), ϕξ (t) =
∞
it
λn e−λ+int
= e−λ(1−e )
n!
n=1
(4) Ðàâíîìåðíîå ðàñïðåäåëåíèå
ξ ∈ U[a,b] , ϕξ (t) =
b
a
eitb − eita
eitx
dx =
b−a
it(b − a)
Ðàâíîìåðíîå ñèììåòðè÷íîå ðàñïðåäåëåíèå
a itx
e
eita − e−ita
sin(ta)
ξ ∈ U[−a,a] , ϕξ (t) =
dx =
=
2ita
ta
−a 2a
(5) Ýêñïîíåíöèàëüíîå ðàñïðåäåëåíèå
∞
λex(it−λ) dx =
ξ ∈ E(λ), ϕξ (t) =
0
λ
it − λ
(6) Íîðìàëüíîå ðàñïðåäåëåíèå ξ0 ∈ N (0, 1)
1
ϕξ0 (t) = √
2π
∞
2
e−x
−∞
ξ ∈ N (a, σ 2 ), ξ0 =
2
/2+itx
e−t /2
dx = √
2π
∞
e−
(x−it)2
2
dx = e−t
−∞
2
ξ−a
, ξ = σξ0 + a, ϕξ (t) = eita−(tσ) /2 .
σ
2
/2
Î. Å. Ùåðáàêîâà
$"
Ôîðìóëà îáðàùåíèÿ.
Òåîðåìà (Ôîðìóëà îáðàùåíèÿ). Ïóñòü ñëó÷àéíàÿ âåëè÷èíà ξ ñ ôóíêöèåé ðàñ19.3.
ïðåäåëåíèÿ F è õàðàêòåðåñòè÷åñêîé ôóíêöèåé ϕ(t) = Eeitξ . Òîãäà â êàæäûõ
äâóõ òî÷êàõ a, b, (a < b), ãäå ôóíêöèÿ ðàñïðåäåëåíèÿ F íåïðåðûâíà, ïîëó÷èì
F (b) − F (a) = lim
(2)
c→∞
Åñëè
∞
−∞
1
2π
c
−c
e−ita − e−itb
ϕ(t)dt.
it
|ϕ(t)|dt < ∞,
òî ñóùåñòâîâåò ïëîòíîñòü f ðàñïðåäåëåíèÿ è áóäåì èìåòü òàêóþ ôîðìóëó
(3)
f (x) =
1
2π
∞
e−itx ϕ(t)dt.
−∞
Çàìå÷àíèå 19.1. Çàìåòèì, ÷òî ôîðìóëà 3 åñòü ïðåîáðàçîâàíèå Ôóðüå îò
ôóíêöèè
∞
ϕ(t) =
eitx f (x)dx.
−∞
Ïðèìåíÿÿ òåîðåìó Ôóáèíè, ïîëó÷èì
b
F (b) − F (a) =
1
2π
a
∞
b
[
−∞
Äîêàçàòåëüñòâî.
e−itx dx]ϕ(t)dt =
a
Φc =
1
2π
1
2π
∞
[
a
1
2π
e−itx ϕ(t)dt]dx =
−∞
∞ −ita
e
−∞
∞
−∞
1
2π
c
−c
−ita
e−ita − e−itb
it
∞
− e−itb
ϕ(t)dt.
it
eitx f (x)dxdt =
−∞
∞
− e−itb itx
e dtdF (x) =
ψc (x)dF (x),
it
−c
−∞
c −ita
e
− e−itb itx
1
e dt.
ψc =
2π −c
it
c
e
Âîñïîëüçîâàëèñü òåîðåìîé Ôóáèíè, ïîñêîëüêó
|
b
Ðàññìîòðèì ôóíêöèþ
c −ita
e
− e−itb
1
ϕ(t)dt
Φc =
2π −c
it
Áóäåì èìåòü
=
f (x)dx =
b
e−ita − e−itb
e−ita − e−itb itx
e |=|
|=|
e−itx dx| ≤ b − a
it
it
a
∞ c
(b − a)dtdF (x) ≤ 2c(b − a) < ∞
−∞
−c
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
Çàìåòèì, ÷òî
$#
c
sin t(x − a) − sin t(x − b)
1
dt =
2π −c
t
c(x−a)
c(x−b)
1
sin t
sin t
1
dt −
dt
=
2π −c(x−a) t
2π −c(x−b) t
ψc =
Ôóíêöèÿ
t
sin x
dx → π, t ↑ ∞, s ↓ −∞.
x
⎧
x < a ∨ x > b;
⎨ 0,
1/2, x = a ∨ x = b;
ψc (t) → ψ(t), c → ∞, ψ(t) =
⎩
1,
a < x < b.
μ ìåðà íà (R, B(R)), òàêàÿ ÷òî μ[a, b) = F (b) − F (a). Òàêèì
g(t, s) =
Òîãäà
Ïóñòü
c→∞
s
ïîëó÷àåì
Φc =
∞
−∞
ψc (x)dF (x) →
c→∞
∞
−∞
îáðàçîì, ïðè
1
1
ψ(t)dF (t) = μ(a, b) + μ{a} + μ{b} =
2
2
1
= F (b) − F (a + 0) + (F (a + 0) − F (a) + F (b + 0) − F (b)) =
2
F (b + 0) − F (b) F (a + 0) − F (a)
=
−
=
F (b) − F (a).
íåïðåðûâíîñòü
2
2
×òî è äîêàçûâàåò ôîðìóëó 2.
Äîêàæåì âòîðîóþ ÷àñòü òåîðåìû, èñïîëüçóÿ òåîðåìó î ìàæîðàíòíîé ñõîäèìîñòè è òåîðåìó Ôóáèíè,
b
f (x)dx =
1
2π
a
b
∞
[
−∞
1
2π
b
∞
[
e−itx dx]ϕ(t)dt = lim
a
= lim
c→∞
1
2π
c→∞
c
−c
e−itx ϕ(t)dt]dx =
−∞
a
1
2π
c
b
[
−c
e−itx dx]ϕ(t)dt =
a
e−ita − e−itb
ϕ(t)dt = F (b) − F (a).
it
Èç òåîðåìû î ôîðìóëå îáðàùåíèÿ âûòåêàåò òåîðåìà åäèíñòâåííîñòè.
Òåîðåìà (Åäèíñòâåííîñòè). Ïóñòü ôóíêöèè ðàñïðåäåëåíèÿ F è G èìåþò îäíó
õàðàêòåðåñòè÷åñêóþ ôóíêöèþ
∞
ϕ(t) =
−∞
eitx dF (x) =
∞
−∞
eitx dG(x), ∀t ∈ R.
Òîãäà F (t) = G(t), ∀t ∈ R.
Òåîðåìà. Êîìïîíåíòû ñëó÷àéíîãî âåêòîðà íåçàâèñèìû ⇔ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ âåêòîðà ïðåäñòàâëÿåòñÿ ïðîèçâåäåíèåì õàðàêòåðèñòè÷åñêèõ ôóíêöèé åãî êîìïàíåíò.
Îá îñîáåííîñòÿõ ñåìåéñòâà õàðàêòåðèñòè÷åñêèõ ôóíêöèé ãîâîðÿò ñëåäóþùèå
òåîðåìû.
Î. Å. Ùåðáàêîâà
$$
Òåîðåìà (Áîõíåðà-Õèí÷èíà). Ïóñòü ôóíêöèÿ ϕ(t) íåïðåðûâíà ïðè âñåõ t ∈ R
è ϕ(0) = 1 Òîãäà ϕ(t) - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ⇔ ϕ(t) - íåîòðèöàòåëüíî
îïðåäåëåííàÿ, òî åñòü äëÿ ëþáûõ âåùåñòâåííûõ t1 , . . . , t1 è ëþáûõ êîìïëåêñíûõ
λ1 , . . . , λ1 , n ≥ 1 áûëî áû âûïîëíåíî
n
ϕ(ti − tj )λi λj ≥ 0.
i,j=1
Òåîðåìà (Ìàðöèíêåâè÷à). Åñëè õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ èìååò âèä ϕ(t) =
ìíîãî÷ëåí, òî ñòåïåíü ìíîãî÷ëåíà íå ìîæåò áûòü áîëüøå
exp{P(t)}, ãäå P(t)
äâóõ deg P(t) ≤ 2.
Òåîðåìà (Ïîéÿ). Ïóñòü ôóíêöèÿ ϕ(t) íåïðåðûâíà ïðè âñåõ t ∈ R, ÷åòíà, âûïóêëà âíèç ϕ(t) ≥ 0, ϕ(t) → 0, t → ∞ è ϕ(0) = 1. Òîãäà ϕ(t) - õàðàêòåðèñòè÷åñêàÿ
ôóíêöèÿ.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
20.
$%
Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí
Îïðåäåëåíèå 20.1. Ïóñòü {ξn}n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àé-
íûõ âåëè÷èí, çàäàííûõ íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, F, P ), Fn - σ-àëãåáðà,
ïîðîæäåííàÿ ñëó÷àéíûìè âåëè÷èíàìè ξn , ξn+1 , . . ..
Òîãäà σ-àëãåáðà
F = ∩∞
n=1 Fn
íàçûâàåòñÿ îñòàòî÷íîé σ-àëãåáðîé îòíîñèòåëüíî {ξn }n∈N ïîñëåäîâàòåëüíîñòè
íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, à ëþáîå ñîáûòèå èç ýòîé σ-àëãåáðû - îñòàòî÷íûì ñîáûòèåì.
Òåîðåìà (çàêîí "0"èëè "1"Êîëìîãîðîâà) . Ëþáîå îñòàòî÷íîå ñîáûòèå èìååò
âåðîÿòíîñòü 0 èëè 1.
∞
 ÷àñòíîñòè, èç ýòîãî çàêîíà ñëåäóåò, ÷òî ðÿä
n=1 ξn èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ëèáî ñ âåðîÿòíîñòüþ 1 ñõîäèòñÿ ëèáî ðàñõîäèòñÿ.
∞
("î äâóõ ðÿäàõ") Äëÿ ñõîäèìîñòè ñ âåðîÿòíîñòüþ 1 ðÿäà
n=1 ξn
Òåîðåìà
.
èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí äîñòàòî÷íî ñõîäèìîñòè äâóõ ðÿäîâ
∞
Eξn ,
n=1
∞
Dξn .
n=1
Åñëè äîïîëíèòåëüíî ïîòðåáîâàòü, ÷òîáû supn P (|ξn | > c) äëÿ íåêîòîðîãî c > 0,
òî ýòè óñëîâèÿ ñòàíóò íåîáõîäèìûìè.
Ïóñòü c > 0, ξ - ñëó÷àéíàÿ âåëè÷èíà, îáîçíà÷èì
ξc =
ξ,
0,
åñëè |ξ| ≤ c :
åñëè |ξ| > c.
Òåîðåìà ("î òðåõ ðÿäàõ"). Äëÿ ñõîäèìîñòè ñ âåðîÿòíîñòüþ 1 ðÿäà ∞n=1 ξn
èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí íåîõîäèìî, ÷òîáû ñõîäèäèëèü òðè ðÿäà äëÿ
ëþáîãî c > 0
∞
∞
∞
n=1
Eξnc ,
n=1
Dξnc ,
è äîñòàòî÷íî äëÿ íåêîòîðîãî c > 0.
n=1
P (|ξn | ≥ c),
Î. Å. Ùåðáàêîâà
$&
21.
Ìåòîä õàðàêòåðèñòè÷åñêèõ ôóíêöèé. Öåíòðàëüíàÿ ïðåäåëüíàÿ
òåîðåìà (ÖÏÒ)
Òåîðåìà (Õèí÷èíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è
Eξi = a.
Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ
÷èñåë.
Äîêàçàòåëüñòâî. Èç êîíå÷íîñòè ïåðâîãî ìîìåíòà ñëåäóåò ðàçëîæåíèå õàðàêòåðèñòè÷åñêîé ôóíêöèè
ϕξi (t) = ϕ(t) = 1 + ita + o(t), t → 0.
Èñïîëüçóÿ íåçàâèñèìîñòü, ïîëó÷èì
t
t
ita
+ o( ))n → eita .
ϕ n1 ni=1 ξi (t) = (ϕ( ))n = (1 +
n→∞
n
n
n
Çàìåòèì, ÷òî eita - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ξ : P (ξ = a) = 1.
0, x ≤ a;
1, x > a.
Fξ =
Ñëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî åñòü ñëàáàÿ ñõîäèìîñòü n1
Äîêàæåì òåïåðü, ÷òî åñòü è ñõîäèìîñòü ïî âåðîÿòíîñòè.
Ïóñòü ε > 0, òîãäà
n
i=1 ξi
d
→ ξ.
1
ξi − a| < ε) =
n i=1
n
P (|
= F n1 ni=1 ξi (a + ε) − F n1 ni=1 ξi (a − ε) → Fξ (a + ε) − Fξ (a − ε) = 1
n→∞
Ïîñêîëüêó ó ôóíêöèè ðàñïðåäåëåíèÿ ξ åäèíñòâåííàÿ òî÷êà ðàçðûâà a, òî òî÷êè
a + ε, a − ε áóäóò òî÷êàìè íåïðåðûâíîñòè, à â íèõ áóäåò ñõîäèìîñòü ïî ðàñïðåäåëåíèþ.
Òåîðåìà (ÖÏÒ äëÿ í.î.ð.ñ.â.). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è
Eξi = a, Dξi = σ 2 < ∞.
Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ
n
äðóãèìè ñëîâàìè,
P(
Äîêàçàòåëüñòâî.
÷åñêîé ôóíêöèè
ïðåäåëüíàÿ òåîðåìà
i=1 (ξi − a) d
√
→ ξ ∈ N (0, 1),
σ n
n
− a)
1
< x) → √
σ n
2π
i=1 (ξi
√
x
e−t
2
/2
dt = Φ(x).
−∞
Èç êîíå÷íîñòè äèñïåðñèè ñëåäóåò ðàçëîæåíèå õàðàêòåðèñòè-
ϕξi −a (t) = ϕ(t) = 1 − σ 2 t2 + o(t2 ), t → 0.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
$'
Èñïîëüçóÿ íåçàâèñèìîñòü, ïîëó÷èì
ϕ
σ
1
√
n
n
i=1 (ξi −a)
2
t2
t
t2
(t) = (ϕ( √ ))n = (1 − + o( ))n → e−t /2 .
n→∞
n
n
σ n
Çàìåòèì, ÷òî e−t /2 - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîðìàëüíîãî
çàêîíà.
Ñëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî åñòü ñëàáàÿ ñõîäèìîñòü σ√(ξn−a)
N (0, 1).
2
n
i=1
i
d
→ ξ ∈
Èíòåãðàëüíóþ òåîðåìó Ìóàâðà-Ëàïëàñà ìîæíî ðàññìàòðèâàòü êàê ñëåäñòâèå
èç òåîðåìû 21.
Òåîðåìà (Ëèíäåáåðãà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è
Eξi = ai , Dξi = σi2 < ∞, Dn2 =
n
σi2 .
i=1
Ïðåäïîëîæèì, ÷òî äëÿ ëþáîãî ε > 0 äðîáü Ëèíäåáåðãà
n 1 (x − ai )2 dFi (x) → 0.
n→∞
Dn2 i=1 |x−ai |>εDn
Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ
ïðåäåëüíàÿ òåîðåìà
Sn − ESn d
√
→ ξ ∈ N (0, 1), Sn =
ξi ,
DSn
i=1
n
äðóãèìè ñëîâàìè,
P(
n
− ai )
i=1 (ξi
Dn
1
< x) → √
2π
x
e−t
2
/2
dt = Φ(x).
−∞
ðèâåäåì åùå îäíó òåîðåìó, êîòîðàÿ ÿâëÿåòñÿ ñëåäñòâèåì òåîðåìû Ëèíäåáåðãà.
Ñëåäñòâèå 2 (Òåîðåìà Ëÿïóíîâà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è
Eξi = ai , Dξi = σi2 < ∞, Dn2 =
n
σi2 .
i=1
Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò δ > 0, òàêîå ÷òî äðîáü Ëÿïóíîâà
n
1 E|ξi − ai |2+δ → 0.
n→∞
Dn2+δ i=1
Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ
ïðåäåëüíàÿ òåîðåìà
Sn − ESn d
√
→ ξ ∈ N (0, 1), Sn =
ξi .
DSn
i=1
n
Î. Å. Ùåðáàêîâà
%
Äîêàçàòåëüñòâî. Ïóñòü ε > 0, òîãäà
E|ξi − ai |2+δ =
≥
|x−ai |>εDn
Ñëåäîâàòåëüíî,
∞
|x − ai |2+δ dFi (x) ≥
|x − ai |2+δ dFi (x) ≥ εδ Dnδ
|x − ai |2 dFi (x)
−∞
|x−ai |>εDn
n
n 1
1 (x − ai )2 dFi (x) ≤
E|ξi − ai |2+δ → 0.
2+δ
2
n→∞
Dn i=1 |x−ai |>εDn
εδ Dn i=1
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
22.
%
Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Âûáîðî÷íàÿ ôóíêöèÿ
ðàñïðåäåëåíèÿ, âûáîðî÷íûå ìîìåíòû. Òåîðåìà
Ãëèâåíêî-Êàíòåëëè
Âûáîðêîé îáúåìà n íàçûâàåòñÿ ìíîæåñòâî çíà÷åíèé ñëó÷àéíîãî âåêòîðà , çàäàííîãî íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (ξ1 , . . . , ξn ) : (X n , F n , Pθn ) - äåêàðòîâîì
ïðîèçâåäåíèè ïðîñòðàíñòâ (X , F, Pθ ) ñ ôóíêöèåé ðàñïðåäåëåíèÿ Fθ , ãäå θ ∈ Θ
íåèçâåñòíûé ïàðàìåòð ðàñïðåäåëåíèÿ.
Ñòàòèñòèêîé T íàçûâàþò ëþáóé ñëó÷àéíóþ âåëè÷èíó çàäàííóþ íà X n , T :
X n → Rk .
Ðàññìîòðèì ñëåäóùóþ ñòàòèñòèêó äëÿ âûáîðêè (x1 , . . . , xn ) c ôóíêöèåé ðàñïðåäåëåíèÿ F , íàçûâàåìóþ âûáîðî÷íîé ôóíêöèåé ðàñïðåäåëåíèÿ , êîòîðóþ ìîæíî
çàäàòü òàê:
n
I{xi <t} (t)
÷èñëî xi < t
=
Fn (t) = i=1
n
n
Çàìåòèì, ÷òî
EI{xi <t} = 1 · P (xi < t) + 0 · P (xi ≤ t) = F (t).
Òîãäà ïî Ç.Á.×. Õèí÷èíà áóäåì èìåòü
Fn (t) −→ F (t), ∀ t ∈ R;
P
è ïî Ó.Ç.Á.×. Êîëìîãîðîâà áóäåì èìåòü
Fn (t) −→ F (t), ∀ t ∈ R.
ï.í.
Òåîðåìà. Âûáîðî÷íàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ ïðè áåñêîíå÷íîì âîçðàñòàíèè îáúåìà âûáîðêè ñõîäèòñÿ ê ôóíêöèè ðàñïðåäåëåíèÿ âûáîðêè ðàâíîìåðíî ïî âñåì
t∈R
P(
sup
−∞<t<+∞
|Fn (t) − F (t)| −→ 0) = 1
n→∞
Äîêàçàòåëüñòâî. Ðàññìîòðèì äëÿ ïðîñòîòû ëèøü ñëó÷àé íåïðåðûâíîé ôóíêöèè
ðàñïðåäåëåíèÿ.
Âîçüìåì ïðîèçâîëüíîå k ∈ N.
m=0
m+1
Ïðåäñòàâèì äðîáëåíèå èíòåðâàëà (0, 1] = k−1 ( m
k , k ] è îáîçíà÷èì tm ïðîm
îáðàçû òî÷åê äðîáëåíèÿ F (tm ) = k , t0 = −∞, tk = +∞.
∀t ∈ R ∃m ∈ 0, . . . , k : t ∈ (tm , tm+1 ).
Ðàññìîòðèì ðàçíîñòü âûáîðî÷íîé è ðåàëüíîé ôóíêöèè ðàñïðåäåëåíèÿ, ó÷èòûâàÿ èõ âîçðàñòàíèå.
Î. Å. Ùåðáàêîâà
%
Fn (t) − F (t) ≤ Fn (tm+1 ) − F (tm ) = Fn (tm+1 ) − F (tm+1 ) + F (tm+1 ) − F (tm ) ≤
1
Fn (tm+1 ) − F (tm+1 ) + ;
k
Fn (t) − F (t) ≥ Fn (tm ) − F (tm+1 ) = Fn (tm ) − F (tm ) + F (tm ) − F (tm+1 ) ≤
1
Fn (tm ) − F (tm+1 ) − ;
k
1
sup|Fn (t) − F (t)| ≤ max |Fn (tm+1 ) − F (tm+1 )| + .
k
m=0,k−1
t∈R
Îáîçíà÷èì ñîáûòèÿ Al = {Fn (tl ) − F (tl ) n→∞
−→ 0}. Òîãäà ïî òåîðåìå Êîëìîãîðîâà
Ó.Ç.Á.×. P (Al ) = 1, ∀l ∈ 0, . . . , k, ñëåäîâàòåëüíî, P (kl=0 Al ) = 1.
Ýòî çíà÷èò, ÷òî
∀ω ∈ Al , ∀l ∈ 0, . . . , k ∃n(ω) : ∀n > n(ω) ⇒ |Fn (tl ) − F (tl | ≤
Òàêèì îáðàçîì,
P(
sup
−∞<t<+∞
|Fn (t) − F (t)| ≤
1
.
k
2
−→ 0) = 1;
k k→∞
Ïóñòü V (F ) - íåêîòîðàÿ õàðàêòåðèñòèêà ðàñïðåäåëåíèÿ, íàïðèìåð, ìàòåìàòè÷åñêîå
îæèäàíèå èëè äèñïåðñèÿ. Òîãäà ìîæíî ðàññìîòðåòü ñòàòèñòèêó V (Fn ) =
I
(t)
) - îöåíêó õàðàêòåðèñòèêè V (F ).
V(
n
 ÷àñòíîñòè, åñëè
n
i=1
{xi <t}
V (F ) = Exn =
òî
V (Fn ) =
xdF (x),
R
1
xi = x
n i=1
n
R
xdFn (x) =
- âûáîðî÷íîå ñðåäíåå - îöåíêà äëÿ ìàò îæèäàíèÿ.
Åñëè
òî
V (F ) = Exkn =
V (Fn ) =
xk dF (x),
R
1 k
x
n i=1 i
n
R
xk dFn (x) =
- âûáîðî÷íûé k-òûé ìîìåíò - îöåíêà äëÿ k-òîãî ìîìåíòà.
Åñëè
òî
V (F ) = E(xn − Exn )k =
V (Fn ) =
R
(x − Exn )k dF (x),
1
(xi − x)k
n i=1
n
R
(x − x)k dFn (x) =
- âûáîðî÷íûé k-òûé öåíòðàëüíûé ìîìåíò - îöåíêà äëÿ k-òîãî öåíòðàëüíîãî
ìîìåíòà.
Âòîðîðîé öåíòðàëüíûé âûáîðî÷íûé ìîìåíò - âûáîðî÷íàÿ äèñïåðñèÿ.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
s2n =
%!
1
(xi − x)2
n i=1
n
R
(x − x)2 dFn (x) =
Òèïû ñòàòèñòèê: íåñìåùåííîñòü, ñîñòîÿòåëüíîñòü,
íîðìàëüíîñòü. Òåîðåìà î âûáîðî÷íîì ñðåäíåì è âûáîðî÷íîé
äåñïåðñèè
23.
Ïóñòü ó íàñ åñòü âûáîðêà (x1 , . . . , xn ), V (F ) - íåêîòîðàÿ õàðàêòåðèñòèêà ðàñïðåäåëåíèÿ, åå îöåíêà - ñòàòèñòèêà Tn . Òîãäà ðàçëè÷àþò ñëåäóþùèå òèïû ñòàòèñòèê:
(1) Íåñìåùåííàÿ ñòàòèñòèêà - Tn , åñëè ETn = V (F ). Àñèìïòîòè÷åñêè
íåñìåùåííàÿ ñòàòèñòèêà - Tn , åñëè ETn −→ V (F ).
(2)
(3)
n→∞
V (F ). Ñèëüíî ñîñòîÿÑîñòîÿòåëüíàÿ ñòàòèñòèêà - Tn , åñëè Tn −→
P
òåëüíàÿ ñòàòèñòèêà - Tn , åñëè Tn ï.í.
−→ V (F ).
Àñèìïòîòè÷åñêè íîðìàëüíàÿ ñòàòèñòèêà - Tn , åñëè √n(Tn −V (F )) −→
d
N (0, σ 2 (V (F ))).
Òàêèì îáðàçîì âûáîðî÷íàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ - íåñìåùåííàÿ è ñèëüíî
ñîñòîÿòåëüíàÿ ñòàòèñòèêà äëÿ ôóíêöèè ðàñïðåäåëåíèÿ.
Ñôîðìóëèðóåì è äîêàæåì òåîðåìû î ñâîéñòâàõ ñðåäíåãî è âûáîî÷íîé äèñïåðñèè.
Òåîðåìà. Ïóñòü äàíà âûáîðêà (x1 , . . . , xn ) c ôóíêöèåé ðàñïðåäåëåíèÿ F è E|xn | <
∞.
Òîãäà ñïðàâåäëèâû ñëåäóþùèå óòâåðæäåíèÿ:
(1) x íåñìåùåííàÿ îöåíêà äëÿ Exn
(2) x ñèëüíî ñîñòîÿòåëüíàÿ äëÿ Exn
(3) Åñëè Ex2n < ∞, òî x àñèìïòîòè÷åñêè-íîðìàëüíàÿ äëÿ
n
Exn
n
1
1
Äîêàçàòåëüñòâî.
(1) Íåñìåùåííîñòü: Ex = E n
i=1 xi = n
i=1 xi = Exn .
(2) Ïîñêîëüêó E|xn | < ∞, òî ïî òåîðåìå Êîëìîãîðîâà (Ó.Ç.Á.×.) ñëåäóåò
ñèëüíàÿ ñîñòîÿòåëüíîñòü
1
xi −→ Exn .
n i=1 ï.í.
n
(3) Ïî Ö.Ï.Ò. äëÿ í.î.ð.ñ.â ïîëó÷èì àñèìïòîòè÷åñêóþ íîðìàëüíîñòü:
√
n
n(x − Exn ) =
− Exi )
−→ N (0, σ 2 )
d
n
i=1 (xi
√
Òåîðåìà.
Ïóñòü äàíà âûáîðêà (x1 , . . . , xn ) c ôóíêöèåé ðàñïðåäåëåíèÿ
íå÷íîé äèñïåðñèåé σ 2 = Dxn < ∞.
Òîãäà ñïðàâåäëèâû ñëåäóþùèå óòâåðæäåíèÿ:
(1) s2n àñèìïòîòè÷åñêè íåñìåùåííàÿ îöåíêà äëÿ σ 2
(2) s2n ñîñòîÿòåëüíàÿ äëÿ σ 2
(3) Åñëè Ex4n < ∞, òî s2n àñèìïòîòè÷åñêè-íîðìàëüíàÿ äëÿ
σ2
F è êî-
Î. Å. Ùåðáàêîâà
%"
Äîêàçàòåëüñòâî.
Çàìåòèì, ÷òî ïîñêîëüêó ñäâèã íå ìåíÿåò âûáîðî÷íóþ äèñïåð-
ñèþ,
1
((xi − a) − (x − a))2
n i=1
n
s2n =
òî ìîæíî ïðåäïîëîæèòü, ÷òî Exn = 0, E(x2n − σ2 )2 = Dσ 2 .
(1) Àñèìïòîòè÷åñêàÿ íåñìåùåííîñòü:
Es2n = E
(2)
n
1 2
1 1
n−1 2
σ .
x − Ex2 = σ 2 − 2
E(xi xj ) = σ 2 − σ 2 =
n i=1 i
n i,j
n
n
Es2n −→ σ 2 .
n→∞
P (|s2n − σ 2 | > ) = P (|
n
P (|
2
i=1 (xi
− σ2 )
n
n
2
i=1 (xi
− x2 | > ) ≤
| > /2) + P (|x2 | > /2) = p1 + p2 , p1 −→ 0,
p2 = P (|x2 | > /2) ≤
(3)
− σ2 )
n
2σ 2
2E(x2 )
=
→ 0.
n
Ëåììà 23.1.
ξn −→ ξ, ηn −→ 0 ⇒ ξn + ηn −→ ξ
Äîêàçàòåëüñòâî.
÷åñêèõ ôóíêöèé
P
d
d
Ðàññìîòðèì ðàçíîñòü ñîîòâåòñòâóþùèõ õàðàêòåðèñòè-
|fξn +ηn (t) − fξ (t)| = |fξn +ηn (t) − fξn (t)| + |fξn (t) − fξ (t)| −→ 0;
n→∞
|fξn +ηn (t) − fξn (t)| ≤ E|eitξn (eitηn − 1)| −→ 0, |eitξn (eitηn − 1)| ≤ 2.
n→∞
Añèìïòîòè÷åñêóþ íîðìàëüíîñòü:
√
n(s2n − σ 2 ) =
n
i=1 (xi
− x)2 − σ 2 )
√
=
n
n
2
i=1 (xi
√
n
− σ2 )
−
√
nx2 = ξn + ηn −→ N (0, Dσ 2 )
d
Ïî Ö.Ï.Ò. äëÿ í.î.ð.ñ.â ïîëó÷èì
n
− σ2 )
−→ N (0, 1).
d
nDσ 2
√ √ 2
n i,j Exi xj
√ 2
σ2
E( nx )
=
= √ → 0.
ηn −→ 0 : P ( nx > ) ≤
P
n2 n
ξn =
2
i=1 (xi
√
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
24.
%#
Ïîðÿäêîâûå ñòàòèñòèêè èëè Âàðèàöèîííûé ðÿä
Ïóñòü äàíà âûáîðêà (x1 , . . . , xn ), óïîðÿäî÷èì åå ïî âîçðàñòàíèþ:
x(1) = min{x1 , . . . , xn },
x(2) = min({x1 , . . . , xn } \ {x(1) }),
∗∗∗
x(k) = min({x1 , . . . , xn } \ {x(1) , . . . , x(k−1) }),
∗∗∗
x(n) = max{x1 , . . . , xn }.
Òîãäà (x(1) , . . . , x(n) ) íàçîâåì âàðèàöèîííûì ðÿäîì èëè ïîðÿäêîâûìè ñòàòèñòèêàìè.
Ðàíãîì ïîðÿäêîâîé ñòàòèñòèêè íàçîâåì íîìåð ÷ëåíà âàðèàöèîííîãî ðÿäà â
ïåðâîíà÷àëüíîé âûáîðêå:
Ri = k, åñëè x(i) = xk .
Ñðåäíèìè ÷ëåíàìè âàðèàöèîííîãî ðÿäà íàçîâåì x(k) : nk → p ∈ (0, 1), êðàéíèìè - x(k) : nk → 0 ∨ 1.
Íàéäåì ôóíêöèþ ðàñïðåäåëåíèÿ è ïëîòíîñòü k -òîé ïîðÿäêîâîé ñòàòèñêèêè
Fx(k) (t) = P (x(k) < t) = P (ïî êðàéíå ìåðå k èç xi < t) =
P(
n
I(xi <t) (t) ≥ i) =
i=k
n
Cni F (t)i (1 − F (t))n−i
i=k
px(k) (t) = Fx(k) (t) =
n
iCni F (t)i−1 (1 − F (t))n−i −
i=k
n
(n −
(n − i)Cni F (t)i (1 − F (t))n−i−1 = kCnk F (t)k−1 (1 − F (t))n−k −
i=k
k)Cnk F (t)k (1 − F (t))n−k−1 + (k − 1)Cnk−1 F (t)k (1 − F (t))n−k−1 −
kCnk F (t)k−1 (1 − F (t))n−k .
... =
Îñòàåòñÿ òîëüêî ïåðâîå ñëàãàåìîå - îñòàëüíûå ñîêðàùàþòñÿ äðóã ñ äðóãîì.
Ïðèìåð 24.1.
Ðàññìîòðèì âûáîðêó èç ðàâíîìåðíîãî ðàñïðåäåëåíèÿ xi ∈ U[0,1] .
Íàéäåì ìàòåìàòè÷åñêîå îæèäàíèå k -òîé ïîðÿäêîâîé ñòàòèñòèêè èç ðàâíîìåðíîãî ðàñïðåäåëåíèÿ.
px(k) (t) = kCnk xk−1 (1 − x)n−k ;
Ex(k) = kCnk
1
0
xxk−1 (1 − x)n−k dx = kCnk B(k + 1, n − k + 1) =
n!k!(n − k)!
k
kCnk Γ(k + 1)Γ(n − k + 1)
=
=
Γ(n + 2)
(k − 1)!(n − k)!(n + 1)!
n+1
Ðàññìîòðèì íîâóþ âûáîðêó ïîëó÷åííóþ äåéñòâèåì ôóíêöèè ðàñïðåäåëåíèÿ
íà ïåðâîíà÷àëüíóþ. Ïðè äåéñòâèè ôóíêöèè ðàñïðåäåëåíèé âàðèàöèîííûé ðÿä
Î. Å. Ùåðáàêîâà
%$
ïðåâðàùàåòñÿ â íîâûé âàðèàöèîííûé ðÿä, ïðè÷åì âàðèàöèîííûé ðÿä ñîñòàâëåííûé èç âûáîðêè ðàâíîìåðíîãî ðàñïðåäåëåíèÿ. Ïîêàæåì ýòî.
(x1 , . . . , xn ), (F (x1 ), . . . , F (xn )) = (Y1 , . . . , Yn )
(x(1) , . . . , x(n) )
(F (x(1) ), . . . , F (x(n) )) = (Y(1) , . . . , Y(n) ).
FYk (t) = P (Yk < t) = P (F (xk ) < t) = P (xk < F −1 (t)) =
F (F −1 (t)) = t ⇒ Yk ∈ U[0,1] .
Òîãäà
EF (x(k) ) = EY(k) =
Ïðèìåð 24.2.
E(1), F (t) =
k
k
⇒ x(k) ≈ F −1 (
).
n+1
n+1
Ðàññìîòðèì âûáîðêó èç ýêñïîíåíöèàëüíîãî ðàñïðåäåëåíèÿ
0,
1 − e−t ,
xi ∈
t < 0;
t ≥ 0.
Fx(n) = F (t)n
P (x(n) < t + ln n) = F (t + ln n)n =
0,
t + ln n < 0;
−t
(1 − e−t−ln n )n → e−e , t + ln n ≥ 0
P (x(n) < t + ln n) → e−e
−t
Àñèìïòîòèêà êðàéíåãî ÷ëåíà - ðàñïðåäåëåíèå Âåéáóëëà-Ãíåäåíêî.
Òåîðåìà. Ïðåäïîëîæèì, ÷òî nk → p ∈ (0, 1) Ïóñòü êâàíòèëü xp
ïëîòíîñòü ðàñïðåäåëåíèÿ f âûáîðêè. Òîãäà
n
f (xp )(x(k) − xp ) −→ N (0, 1).
d
p(1 − p)
: F (xp ) = p,
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
25.
%%
Âûáîðêà èç íîðìàëüíîãî ðàñïðåäåëåíèÿ. χ ðàñïðåäåëåíèå è
ðàñïðåäåëåíèå Ñòüþäåíòà. Ëåììà Ôèøåðà
2
Ïóñòü ó íàñ äàíû íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû ξ0 , ξ1 , . . . , ξn , ξi ∈ N (0, 1)
èç ñòàíäàðòíîãî íîðìàëüíîãî çàêîíà.
χ2 ðàñïðåäåëåíèåì ñ n ñòåïåíÿìè ñâîáîäû íàçîâåì ðàñïðåäåëåíèå ñîîòâåòñòâóþùåå
n
χ2n =
ξi2
d
i=1
Ïëîòíîñòü è ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ χ2 ðàñïðåäåëåíèÿ áóäóò òàêèìè:
⎧
⎨ 0,
x < 0;
n −1 − t2
kn (t) =
⎩ t 2 n e n 2 , x ≤ 0.
2
2
Kn (t) = P (χ2n < t) =
Γ( 2 )
0
t
x2
x 2 −1 e− 2
dx, t > 0
n
2 2 Γ( n2 )
n
Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 25
Ãðàôèê ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 25
Ðàñïðåäåëåíèåì Ñòüþäåíòà ñ n ñòåïåíÿìè ñâîáîäû íàçîâåì ðàñïðåäåëåíèå ñîîòâåòñòâóþùåå
ξ0
ξ0
tn = =
n
χ2n
1
2
ξ
i=1 i
n
n
Ïëîòíîñòü è ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ n ñòåïåíÿìè ñâîáîäû áóäóò òàêèìè:
2
n+1
t − 2
Γ( n+1
2 )(1 + n )
√
,
πnΓ( n2 )
t n+1
x2 − n+1
Γ( 2 )(1 + n ) 2
√
dx, t > 0
Sn (t) = P (χ2n < t) =
πnΓ( n2 )
0
sn (t) =
Î. Å. Ùåðáàêîâà
%&
Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 25
Ãðàôèê ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 25
Ëåììà 25.1 (Ôèøåðà). Ïóñòü ó íàñ åñòü âûáîðêà x1, . . . , xn, xi ∈ N (a, σ2)
íîðìàëüíîãî çàêîíà.
Òîãäà√
(1) n x−a
σ ∈ N (0, 1);
(2) x, s2n - íåçàâèñèìû;
(3) √nsσ ∈ χ2n−1 ;
∈ tn−1 .
(4) n − 1 x−a
s
Äîêàçàòåëüñòâî. (1)
2
n
2
n
n
√ n
√ x−a
(xi − a)
n i=1 (xi − a)
=
= i=1 √
n
∈ N (0, 1)
σ
σ
n
σ n
Ïî Ö.Ï.Ò.
(2) x, s2n = ni=2 ξi2 - íåçàâèñèìû;
d
èç
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
(3) Ïóñòü
%'
Exn = a = 0.
n
n
√
x2
x2
n
n
ns2n
= 2 ( i=1 i − x2 ) = 2 ( i=1 i ) − ( nx)2 =
2
σ
σ
n
σ
n
n
n
n
n
2
x
i=1 xi
√ i )2 =
−(
ξi2 − ξ12 =
ξi2 ∈ χ2n−1
d
d
σ2
n
i=1
i=1
i=2
Ëåììà 25.2. Ïóñòü âåêòîð X ∈ N (O, I) íîðìàëüíî ðàñïðåäåëåí è ìàòðèöà C îðòàãîíàëüíà (C · C T = I ), è Y
Òîãäà Y ∈ N (O, I)
(4)
= CX .
= (
Ïóñòü X
x1 , . . . , x
n ), x
i = xσi .
√
= (y1 , . . . , yn )t , y1 = √1 n x
Y = CX
n
x
i=1 i =
n
Y èìåþò îäèíàêîâîå ðàñïðåäåëåíèå.
Òîãäà X,
√
√
n − 1 x−a
n x−a2 = ξ20 ∈ tn−1 .
sn =
σ
nsn
(n−1)σ 2
d
χ
n−1
n−1
Î. Å. Ùåðáàêîâà
&
26.
Ñïèñîê âîïðîñîâ ïî "Òåîðèè Âåðîÿòíîñòåé"
(1) Èñòîðèÿ ðàçâèòèÿ Òåîðèè Âåðîÿòíîñòåé.
(2) Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè, ïîíÿòèå σ -àëãåáðû, ñâîéñòâà
âåðîÿòíîñòè. Òåîðåìà î ðàâíîñèëüíîñòè ñ÷åòíîé àääèòèâíîñòè è íåïðåðûâíîñòè âåðîÿòíîñòè êàê ìåðû.
(3) Êëàññè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè, ïðèìåðû âåðîÿòíîñòíûõ ïðîñòðàíñòâ.
Ðàçëè÷íûå ìîäåëè ðàçìåùåíèé.
(4) Ãåîìåòðè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè. Ïðèìåðû:
• çàäà÷à Áþôôîíà,
• ïàðàäîêñ Áåðòðàíà.
(5) Íåçàâèñèìîñòü ñîáûòèé, óñëîâíàÿ âåðîÿòíîñòü, ôîðìóëà ïîëíîé âåðîÿòíîñòè, ôîðìóëà Áàéåñà. Ðàçëè÷íûå âèäû íåçàâèñèìîñòè ñîáûòèé, ïðèìåðû. Óðíîâàÿ ñõåìà Ëàïëàñà.
(6) Îïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû, ïîíÿòèå èçìåðèìîé ôóíêöèè. Ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû.
(7) Íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè, òåîðåìà Áåðíóëëè.
(8) Ëîêàëüíàÿ è èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà, ëåììà î íàèáîëåå
âåðîÿòíîì ÷èñëå óñïåõîâ.
(9) Òåîðåìà Ïóàññîíà î ñõåìå ñåðèé.
(10) Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû, îïðåäåëåíèå, ñâîéñòâà.
(11) Íåïðåðûâíûå è äèñêðåòíûå ñëó÷àéíûå âåëè÷èíû, îïðåäåëåíèÿ, ïðèìåðû.
(12) Òåîðåìà î ïîñòðîåíèè ñëó÷àéíîé âåëè÷èíû ïî çàäàííîé ôóíêöèè ðàñïðåäåëåíèÿ.
(13) Ðàñïðåäåëåíèå ñëó÷àéíîãî âåêòîðà â n-ìåðíîì âåùåñòâåííîì ïðîñòðàñòâå,
îïðåäåëåíèå, ñâîéñòâà. Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí.
(14) Ïîíÿòèå èíòåãðàëà Ñòèëòüåñà. Ôóíêöèÿ îò ñëó÷àéíûõ âåëè÷èí. Ïîíÿòèå
ñâåðòêè.
(15) Îïðåäåëåíèå è ñâîéñòâà ìàòåìàòè÷åñêîãî îæèäàíèÿ. Ïðèìåðû âû÷èñëåíèÿ äëÿ äèñêðåòíûõ è íåïðåðûâíûõ ñëó÷àéíûõ âåëè÷èí.
(16) Îïðåäåëåíèå è ñâîéñòâà äèñïåðñèè. Ïðèìåðû âû÷èñëåíèÿ äëÿ äèñêðåòíûõ è íåïðåðûâíûõ ñëó÷àéíûõ âåëè÷èí.
(17) Ìîìåíòû ñëó÷àéíûõ âåëè÷èí. Íåðàâåíñòâà, ñâÿçàííûå ñ ìîìåíòàìè. Êîâàðèàöèÿ è êîýôôèöèåíò êîððåëÿöèè. Ñâÿçü êîððåëÿöèè è íåçàâèñèìîñòè, ïðèìåð.
(18) Ðàçëè÷íûå âèäû ñõîäèìîñòè. Ëîãè÷åñêèå ñâÿçè ìåæäó îïðåäåëåíèÿìè,
äîêàçàòåëüñòâî èìïëèêàöèé. Ëåììà Áîðåëÿ-Êàíòåëëè.
(19) Çàêîí áîëüøèõ ÷èñåë è óñèëåííûé çàêîí áîëüøèõ ÷èñåë. Íåðàâåíñòâî
×åáûøåâà è Ìàðêîâà. ÇÁ× äëÿ ñóìì íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí.
ÇÁ× äëÿ ñëàáîçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí. Òåîðåìû Õèí÷èíà è Êîëìîãîðîâà.
(20) Õàðàêòåðèñòè÷åñêèå ôóíêöèè. Îïðåäåëåíèå, ñâîéñòâà, Òåîðåìà î ôîðìóëå îáðàùåíèÿ. Òåîðåìà åäèíñòâåííîñòè. Òåîðåìû î õàðàêòåðèñòè÷åñêèõ
ôóêöèÿõ.
(21) Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí
(22) Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà, òåîðåìû Ëèíäåáåðãà, Ëÿïóíîâà, Ëåâè.
Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà êàê ñëåäñòâèå ÖÏÒ.
ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
&
(23) Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Îñíîâíûå õàðàêòåðèñòèêè ñòàòèñòèê (íåñìåùåííîñòü, ñîñòîÿòåëüíîñòü, àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü).
(24) Òåîðåìà Ãëèâåíêî-Êàíòåëëè.
(25) Âûáîðî÷íîå ñðåäíåå, âûáîðî÷íàÿ äèñïåðñèÿ. Òåîðåìà î ñâîéñòâàõ ýòèõ
ñòàòèñòèê.
(26) Ïîðÿäêîâûå ñòàòèñòèêè, îïðåäåëåíèå, ñâîéñòâà, ïðèìåð ïîðÿäêîâûõ ñòàòèñòèê äëÿ ðàâíîìåðíîãî ðàñïðåäåëåíèÿ.
(27) Ñâîéñòâà âûáîðêè èç íîðìàëüíîãî çàêîíà, ëåììà Ôèøåðà. Îïðåäåëåíèå
ðàñïðåäåëåíèÿ è ðàñïðåäåëåíèÿ Ñòüþäåíòà.
Î. Å. Ùåðáàêîâà
&
27.
Ñïèñîê ëèòåðàòóðû
(1) Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. Îöåíêà ïàðàìåòðîâ. Ïðîâåðêà ãèïîòåç. 1984.Ì., "Íàóêà".
(2) Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. 2007. Ìîñêâà. Ôèçìàòëèò.
(3) Ãèõìàí È.È., Ñêîðîõîä À.Â. Ââåäåíèå â òåîðèþ ñëó÷àéíûõ ïðîöåññîâ.
1977. Ìîñêâà. "Íàóêà".
(4) Ãíåäåíêî Á.Â. Êóðñ òåîðèè âåðîÿòíîñòåé. 2001. Ìîñêâà. Èçäàòåëüñòâî
"ÓÐÑÑ"
(5) Êîëìîãîðîâ À.Í. Îñíîâíûå ïîíÿòèÿ òåîðèè âåðîÿòíîñòåé. 1998. Ìîñêâà.
Èçäàòåëüñòâî "Ôàçèñ"
(6) Êðàìåð Ã. Ìàòåìàòè÷åñêèå ìåòîäû ñòàòèñòèêè. 1975. Ì., "Ìèð".
(7) Ïðîõîðîâ À.Â., Óøàêîâ Â.Ã., Óøàêîâ Í.Ã. Çàäà÷è ïî òåîðèè âåðîÿòíîñòåé.
Îñíîâíûå ïîíÿòèÿ. Ïðåäåëüíûå òåîðåìû. Ñëó÷àéíûå ïðîöåññû. Ó÷åáíîå
ïîñîáèå. 2009. Ìîñêâà. Èçäàòåëüñòâî "ÊÄÓ"
(8) Ñåêåé Ã. Ïàðàäîêñû â òåîðèè âåðîÿòíîñòåé è ìàòåìàòè÷åñêîé ñòàòèñòèêå.
1990. Èçäàòåëüñòâî "Ìèð"
(9) Òèõîìèðîâ Ñ.Ð. Ðàñ÷åòíûå çàäàíèÿ ïî òåîðèè âåðîÿòíîñòåé. 1999. ÑàíêòÏåòåðáóðã. "Íåñòîð".
(10) Ôåëëåð Â. Ââåäåíèå â òåîðèþ âåðîÿòíîñòåé è åå ïðèëîæåíèÿ. 1984. Ì.,
"Ìèð". 1,2 òîì
(11) Øèðÿåâ À.Í. Âåðîÿòíîñòü. 1,2 òîì, 2004, Ìîñêâà, Èçäàòåëüñòâî ÌÖÍÌÎ
ÈÏÌÌ, ÑàíêòÏåòåðáóðãñêèé Ïîëèòåõíè÷åñêèé Óíèâåðñèòåò Ïåòðà Âåëèêîãî,
Ïîëèòåõíè÷åñêàÿ óë. 29, 195251, ÑàíêòÏåòåðáóðã, Ðîññèÿ
E-mail address : [email protected]