Терия вероятностей

Теория
вероятностей и
математическая
статистика
Список литературы
1. Н.Н. Одияко, Н.Ю. Голодная. Теория
вероятностей. Учебное пособие.
2. Н.Н. Одияко, Н.А. Бажанова. Обработка
одномерной выборки.
3. Н.Ю. Голодная, Н.Н. Одияко.
Математическая статистика. Теория
корреляции в расчетах. Часть2.
4. В.Е. Гмурман. Теория вероятностей и
математическая статистика.
5. В.Е. Гмурман. Руководство к решению
задач по теории вероятностей и
математической статистике.
Основные понятия
комбинаторики
Правило умножения
• Пусть требуется выполнить одно за
другим какие-то k действия. Если
первое действие можно выполнить n1
способом, второе действие - n2
способами, третье - n3 способами и т.д.
до k  го действия, которое можно
выполнить n k способами, то все k
действий вместе быть выполнены
могут быть выполнены n1  n2  n3  ...  nk
способами.
Правило сложения
• Если два действия взаимно исключают
друг друга , причём одно из них можно
выполнить m способами, а другое- n
способами, то выполнить одно любое из
этих действий можно n  m способами.
Это правило распространяется на любое
конечное число действий.
• Опр. Последовательность
элементов называется
упорядоченной, если порядок
следования элементов в ней задан
• Опр. Размещением из n элементов по
m элементов называется любое
упорядоченное подмножество из m
элементов множества, состоящего из
различных элементов:
n
n!
A 
( n  m)!
m
n
• Опр. Перестановками из n
элементов называется любое
упорядоченное множество,
в которое входят по одному разу
все n различные элементы
данного множества:
Pn  n!
• Опр. Сочетанием из n элементов по m
элементов называется любое
подмножество из m элементов, которые
принадлежат множеству, состоящему из
различных
элементов:
n
m
Cn
n!

m!n  m !
СЛУЧАЙНЫЕ СОБЫТИЯ И
ПРЕДМЕТ ТЕОРИИ
ВЕРОЯТНОСТЕЙ
Опр. Испытание (опыт, эксперимент)выполнение определенного комплекса
условий, в которых наблюдается то или
иное явление, фиксируется тот или иной
результат
• Опр. Событие называется случайным
по отношению к данному испытанию
(опыту), если при осуществлении этого
испытания (опыта) оно может наступить
или не наступить.
• Событие обозначается:
A, B, C ,....
Определения.
1.Событие , которое в результате
опыта обязательно произойдет
называется достоверным.
2.Событие, которое в результате
опыта никогда не наступит называется
невозможным.
3. Если одновременно одно
событие влечет за собой другое и
наоборот, такие события называются
равносильными.
4. События называются несовместными,
если наступление одного из них исключает
наступление любого другого.
5. События называются
равновозможными, если в результате
испытания по условиям симметрии ни одно
из этих событий не является объективно
более возможным.
6. События называются
единственно возможными, если появление в
результате испытания одного и только
одного из них является практически
достоверным событием.
7. Несколько событий образуют
полную группу, если они являются
единственно возможными и
несовместными исходами испытания.
Это означает, что в результате
испытания обязательно должно
произойти одно и только одно из этих
событий.
«Статистическое
определение» вероятности
случайного события
• Опр. Пусть при n - кратном повторении
опыта G событие A произошло m A
раз. Частотой  n (A) события A
называется отношение
mA
 n ( A) 
n
Опр.
Вероятность случайного события – это
связанное с данным событием постоянное
число, около которого колеблется частота
наступления этого события в длинных
сериях опытов.
0   n  A  1
0  P A  1
• Если событие A - достоверное, то
P A  1.
• Если событие A - невозможное, то
P A  0.
Комбинация событий
• Опр. Суммой событий A и B называется
событие A + B
, состоящее в том, что в
опыте произойдет хотя бы одно из этих
событий A или B .
A B
A
B
• Опр. Произведением событий A и B
называется событие AB , состоящее в
одновременном появлении этих
событий.
AB
A
B
• Опр. Событие А называется
противоположным событию A , если
оно считается наступившим тогда и
только тогда, когда A не наступает.
А
A
Опр. Разностью A  B двух событий
A и B называется событие, которое
состоится, если событие A произойдет, а
событие B не произойдет.
A B
A
B
Правило сложения
вероятностей.
Если события несовместны, то
вероятность их суммы равна сумме
вероятностей этих событий:
P A  B   P A  PB 
• Следствие.

P A  P A  1
P A  B  P A  PB  P(AB)
Классический способ
подсчета вероятности
• Эту формулу применяют в тех случаях,
когда исходы некоторого испытания
образуют полную группу событий и
равновозможны.
• Такие исходы называются элементарными
исходами
k
P  A 
n
• Вероятность события равна отношению
числа элементарных исходов,
благоприятных для этого события, к
общему числу элементарных исходов.
Геометрическое
определение
вероятности
Опр. Геометрической вероятностью
события A называется отношение меры
области благоприятствующей появлению
события A , к мере всей области
mes g
P  A 
mes G
Условная вероятность
• Опр. Условной вероятностью PB  A 
события A относительно события B
называется вероятность осуществления
события A при условии, что событие B
уже произошло.
P AB 
PB  A 
PB 
P AB   PB   PB  A
• Пример. Слово “лотос” составлено из
одинаковых букв- кубиков. Кубики
рассыпаны. Берут наугад один за
другим три кубика. Какова вероятность
того, что при этом появиться слово
“сто”.
• Решение: A - проявиться слово «сто»
A1 - первой извлечена “с”
A2 - второй извлечена “т”
A3 - третьей извлечена “о”
• Представим событие A в виде:
A  A1  A2  A3
Тогда:
1 1 2
P A  P A1   PA  A2   PA A  A3    
5 4 3
1
1 2
Независимые
события
• Опр. События называются
независимыми, если наступление одного
не меняет шансов появления другого .
Если события
A
и
B
независимы, то
P AB   P A  PB 
ЗАМЕЧАНИЯ.
• Для совместных событий:
P( А  В)  P( А)  P( В)  P( АВ);
• Для несовместных событий:
P( А  В)  P( А)  P( В);
• Для независимых событий:
P( AB)  P( A)  P( B);
• Для зависимых событий:
P AB   P A  PA B 
ФОРМУЛА ПОЛНОЙ
ВЕРОЯТНОСТИ
• Предположим, что событие A может наступить
только вместе с одним из нескольких попарно
несовместных событий
Н1 ,..., Н n
тогда имеет место формула
n
P( А)   P( H i )  PH ( A)
i 1
i
ФОРМУЛА БАЙЕСА
• Эта формула
решает
следующую
задачу: пусть произведен опыт, и в
результате него наступило событие A.
Сам по себе этот факт ещё не позволяет
сказать, какое из событий Н1 ,..., Н n имело
место в проделанном опыте. Можно
поставить следующую задачу: найти
вероятности PA H i
 
PA H i  
PH i   PH  A
P  A
i
Формула Бернулли
P( A)  Pn ( k )  C  p  q
k
n
k
n k
• где n- столько раз проводили опыт;
k - число появления соб. A ;
p - вероятность появления соб. A ;
q - вероятность не появления соб. A ,
( q  1  p ).
Замечание.
• Формулу Бернулли используют при
n  10
n 1
(q  p)  q  C  q  p 
n
C q
2
n
n2
n
1
n
n 1
n
n 1
 p  ...  C  q  p  p
2
n
т.к. p  q  1 и Pn ( k )  Cnk  p k , q n k
то эту формулу можно переписать в виде
Pn (0)  Pn (1)  Pn (2)  ...  Pn (n  1)  Pn (n)  1
• Событие
A произойдет:
• а) менее
k
раз
Pn (0)  Pn (1)  Pn (2)  ...  Pn (k  1);
• б) не менее
k
раз
Pn (k )  Pn (k  1)  ...  Pn (n  1)  Pn (n);
• в) более
k
раз
Pn (k  1)  Pn (k  2)  ...  Pn (n  1)  Pn (n);
• г) не более
k
раз
Pn (0)  Pn (1)  Pn (2)  ...  Pn (k  1)  Pn (k );
Наиболее вероятное
число успехов
• Рассмотрим
Pn (0), Pn (1), Pn (2),...., Pn (n)
Pn (k )  Pn (k  1)
k 1 q
 1
nk p
( k  1)  q  ( n  k )  p
k  np  q
или
Pn (k )  Pn (k  1)
k 1 q
 1
nk p
( k  1)  q  ( n  k )  p
k  np  q
np  q  k0  np  p
Вероятность
Pn (k )
при больших значениях
n
Локальная приближенная
формула Лапласа
( n -велико)
Pn ( k ) 
где
x
1
npq
  ( x),
k  np
npq
;
 ( x) 
1
e
2
x2

2
;
 ( x)   ( x)
Интегральная формула
Лапласа
• Формула позволяет найти
k k2
 P (k )  P (k
k  k1
n
n
1
 k  k2 )
x2
0
x2
x1
x1
0
Pn (k1  k  k2 )    ( x )dx    ( x )dx    ( x )dx 
x1
x2
0
0
    ( x )dx    ( x )dx.
• Пусть
x
x
t2

2
1
 ( x )    (t )dt 
  e dt;
2

0
0
 (  x )   ( x )
Свойства интегральной функции
Лапласа
1)
 (  x )   ( x )
2) при
x   x  0,5
• Тогда
Pn (k1  k  k2 )  ( x1 )  ( x2 ),
где
x1 
k1  np
npq
, x2 
k 2  np
npq
.
• Формулы применяются при
npq  9,
но при npq  20 дают
незначительную погрешность при
выполнении условия
Вероятность того, что частота
наступления соб. A в n опытах
отклонится от вероятности
соб. A не более чем на  :

 mA

P
 p     2  
 n


n 

pq 
Приближенная формула
Пуассона
•
n  велико,
p  0,1
  np  10
Pn (k ) 

k
k!
e

• Док-во: Воспользуемся формулой Бернулли
Pn (k )  C  p  q
k
n
т.к.
  np
, то
p
k

n
n k
,
n!
  
Pn k  
    1  
k!n  k !  n  
n
k

n  k !n  k  1  ...  n  1  n   
Pn k  
 
k!n  k !
n
k
nk
 
 1  
n

nk
n n  1 n  (k  1) 
Pn (k )  
 ... 

n n
n
k!
k
при
 
 1 
 n
n
Pn ( k ) 

k
k!
e

n
  
  1  
  n

k
• Формулу Пуассона можно использовать
если n  велико, p  0,1
  np  10
Случайные величины
• Опр. Случайной называется
величина, которая в результате
опыта может принять то или
иное
возможное
значение,
неизвестное
заранее,
но
обязательно одно.
• Опр. Дискретной случайной
величиной называют такую
случайную величину, множество
возможных значений которой
либо конечно, либо бесконечно,
но обязательно счетно.
• Опр. Непрерывной случайной
величиной называют такую
случайную величину, которая
может принять любое значение
из некоторого конечного или
бесконечного интервала.
• Случайные величины:
• значения:
x, y, z,.... .
X ,Y , Z ,....;
Операции над случайными
величинами.
X : x1 , x2 ,..., xi ,..., xn ;
Y : y1 , y2 ,..., y j ,..., ym .
Определение.
• Суммой X  Y случайных
величин X и Y
называется случайная
величина Z , возможные
значения которой есть
x1  y1 , x1  y2 , x1  y3 ,..., x1  y j ,
x2  y1 , x2  y2 ,..., x2  y j ,...,
xi  y1 ,
xi  y 2 ,
xi  y3 ,...,
xi  y j ,..., xn  y m .
• Опр. Произведением X  Y
случайных величин X и Y
называется случайная
величина Z , возможные
значения которой есть
x1  y1 , x1  y 2 , ..., x1  y j ,
x2  y1 , x2  y2 ,...,
x2  y j ,..
..., xi  y1 , xi  y2 ,..., xi  y j ,..
..., xn  ym .
• Опр. Произведением C  X
случайной величины X на C
постоянную называется случайная
величина Z , возможные значения
которой есть
Cx1 , Cx2 , Cx3 ,..., Cxi .
Закон распределения
случайной величины
• Опр. Законом распределения
дискретной случайной величины
называется всякое соотношение,
устанавливающее связь между
возможными значениями
случайной величины и
соответствующими вероятностями.
• Закон распределения
случайной величины можно
задать, как и функцию:
табличным, графическим и
аналитическим способами.
• Опр. Две случайные величины
называются независимыми,
если закон распределения
вероятностей одной из них не
зависит от того какие
возможные значения приняла
другая.
Табличный способ
Ряд распределения
случайной величины
• Пусть
X  x1 тогда
P( X  x1 )  p1 ;
X  x2 тогда P( X  x2 )  p2 ;
X  x3 тогда
P ( X  x3 )  p 3 ;
…………………………………
X  xn тогда
P ( X  x n )  p n.
n
p
i 1
i
 1.
xi
x1
x2
x3
pi
p1
p2
p3
n
p
i 1
i
 1.
……
xn
……
pn
Графический способ
Многоугольник
распределения
xi
1
2
3
4
5
pi
0,1
0,3
0,2
0,3
0,1
pi
0,3
0,2
0,1
1
2
3
4
5
xi
Аналитический
способ
Функция распределения
вероятностей
• Опр. Функцией распределения
вероятностей случайной величины X
называется функция F (x) , задающая
вероятность того, что случайная
величина X принимает значение,
меньшее x , т.е.
.
F ( x)  P( X  x)
Свойства функции
распределения.
• 1. 0  F ( x )  1 ;
Т.к F ( x)  P( X  x) , а 0  p  1.
• 2. F (x ) - неубывающая функция и для
  
P(  X   )  F ( )  F (  );
A:
X  ;
B:
X  ;
C:
  X  .
B  AC
P( A)  P( X   )  F ( );
P( B)  P( X   )  F (  );
P(C )  P(  X   ).
P( B)  P( A)  P(C ),
F (  )  F ( )  P(  X   ),
P(  X   )  F (  )  F ( ),
• Т.к.
P(  X   )  0  F (  )  F ( )  0,
F (  )  F ( ).
Отсюда
F (x ) - неубывающая.
3. Если F (x ) - функция распределения,
lim F x   1
то lim F x   0
x
x
4.Если X - непрерывная случайная
величина, то
.
P( X   )  0
P(  X   )  P(  X   ) 
 P(  X   )  P(  X   ).
• Если X - дискретная случайная величина,
F ( x) 
то
 P( X  x ).
i
xi  x
xi
x1
x2
x3
pi
p1
p2
p3
in
p
i 1
i
 1.
……..
……..
xn
pn
x  x1 ,
F ( x)  P( X  x1 )  0;
x1  x  x2 ,
x2  x  x3 ,
F ( x)  P( X  x2 )  P( X  x1 )  p1;
F ( x)  P( X  x3 )  P( X  x1 )  P( X  x2 )  p1  p2 ;
…………………………………………...........
xn1  x  xn , F ( x)  P( X  xn )  P( X  x1 )  P( X  x2 )  ...  P( X  xn1 ) 
 p1  p2  ...  pn1;
x  xn ,
F ( x)  P( X  xn )  p1  p2  ...  pn  1.
x  x1 ;
0,
p ,
;
x

x

x
2
1
1

 p1  p2 ,
x2  x  x3 ;
F ( x)  
..........
..........

 p1  p2  ...  pn 1 , xn 1  x  xn ;

1,
x  xn .
F (x )
1
p1  p2  ...  pn1
...............
p1  p2
p1
x1 x 2 x3 ........ x n
pi
Плотность распределения
вероятностей
• Пусть X -непрерывная случайная
величина.
Рассмотрим вероятность попадания
значений случайной величины в
элементарный участок ( x; x  x) :
P( x  X  x  x)  F ( x  x)  F ( x),
P( x  X  x  x) F ( x  x)  F ( x)

,
x
x
P( x  X  x  x)
F ( x  x)  F ( x)
 lim
 F ( x).
lim
x
x
x 0
x 0
Обозначим
F ( x)  f ( x).
• Опр. Дифференциальной функцией
распределения или плотностью
распределения вероятностей наз.
первая производная интегральной
функции распределения F (x ).
• График дифференциальной функции
распределения f (x) наз. кривой
распределения:
f (x )
x
Свойства плотности
распределения
вероятности.
• 1.Для x f ( x)  0.
• 2.Для f (x ) имеет место равенство

P(  X   )   f ( x)dx.


• 3.
 f ( x)dx  1.

x
• 4.
F ( x) 
 f (t )dt

Числовые характеристики
случайных величин.
Математическое
ожидание.
xi
x1
x2
x3
pi
p1
p2
p3
in
p
i 1
i
 1.
……..
……..
xn
pn
• Опр. Математическим ожиданием MX
дискретной случайной величины X наз.
сумма произведений всех возможных
значений случайной величины на
соответствующие вероятности появления
этих значений:
n
MX   xi  pi .
i 1
• Пусть случайная величина X приняла
значения
x1 , x2 ,..., xk .
Причем x1 появилось m1 раз,
x 2 появилось m2 раз,
……………………….,
x k появилось m k раз.
x1  m1  x2  m2  ...  xk  mk
mk
m1
m2
X
 x1   x2   ...  xk  ,
m1  m2  ...  mk
n
n
n
где
m1  m2  ...  mk  n.
• При n  
• Тогда
mi
 pi .
n
X  MX
.
• Опр. Математическим ожиданием
непрерывной случайной величины X ,
возможные значения которой
принадлежат a; b , называется
b
 f ( x)dx.
a
• Если возможные значения принадлежат
 ;

, то
MX 
 f ( x)dx.

Свойства
математического
ожидания
1. MC  C.
2. M (CX )  C  MC .
3.Если X , Y независимые случайные
величины, то
M ( X  Y )  MX  MY .
4.Если X , Y  независимые случайные
величины, то
M ( XY )  MX  MY .
5. M ( X  MX )  0.
• Пример 1.
xi
2
5
8
19
p i 0,2 0,3 0,4 0,1
MX  2  0,2  5  0,3  8  0,4  19  0,1  7.
Пример 2.
0 ,
 x  1,

f ( x)  

x

3
,

0,
x  1;
1  x  2;
2  x  3;
x  3.

MX   x  f ( x)dx 

1
2
3

2

1
2
3
1
  x  0dx   x  ( x  1)dx   x  (3  x)dx   x  0dx   ( x 2  x)dx 
3
  (3x  x 2 )dx 
2
2
x x 
   
 3 2 1
3
2
2
 3x x 
 
   2.
3 2
 2
2
3
f (x )
2
1
2
3
xi
Дисперсия
• Опр. Математическое ожидание
квадрата отклонения СВ X от её
математического ожидания MX
называют дисперсией СВ X :
•
DX  M ( X  MX ) .
2
• Если СВ
X
- дискретная СВ, то
n
DX   ( xi  MX )  pi .
2
i 1
• Если СВ
X
- дискретная СВ, то

DX   ( x  MX )  f ( x)dx.
2

• Среднее квадратическое отклонение
 ( x)  DX .
Свойства дисперсии
•
•
•
•
•
1.
2.
3.
4.
5.
D( X  Y )  DX  DY .
DC  0.
D(CX )  C  DX .
2
DX  MX  ( MX ) .
2
2
D( X  MX )  DX .
• Опр. СВ X  MX называется
центрированной:
M ( X  MX )  0, D( X  MX )  DX .
•
Опр. СВ
X  MX
x
называется стандартной:
 X  MX 
 X  MX 
  0, D
  1.
M 
 x 
 x 
• Опр. Начальным моментом k  го
порядка  k СВ X называется
 k  MX .
k
k
MX :
• Опр. Центральным моментом k
порядка  k СВ X называется
 го
M ( X  MX ) :  k  M ( X  MX ) .
k
k
• Опр. Коэффициентом асимметрии
наз-ся величина :  3

3
x
.
3
A 3.
x
A
• Опр. Эксцессом
4
 3.
4
x
E
наз-ся величина
4
E  4  3.
x
Виды распределения
Равномерное
распределение
0,
 1

f ( x)   ,
a

b

0,
x  a;
a  x b;
x  b.
f (x )
1
ba
a
ba
MX 
,
2
b
x
(b  a)
DX 
,
12
2
A  0, E  0.
Нормальное
распределение
f ( x) 
1
  2
e

( xa )
2
2
2
.
MX  a,
• Если СВ
X~
DX   ,
2
A  0,
E  0.
N ( a,  ) , то
   a    a 
P(  X   )  Ф
  Ф
.
     
• Если СВ
X
~
N ( a,  ) , то

P ( X  a   )  2  Ф


.

• Обозначим

z

, тогда
P( X  a    z)  2  Фz .
• Пусть
z  1,
P( X  a   )  2Ф(1)  0,6437;
z  2,
P( X  a  2 )  2Ф(2)  0,9545;
z  3,
P( X  a  3 )  2Ф(3)  0,9973.
• Правило «трёх сигм»: если СВ X
распределена по нормальному закону, то
отклонение этой величины от её MX по
абсолютной величине практически не
превышает утроенного среднего
квадратического отклонения.
• Если СВ X ~ N (0;1) , т.е.
СВ X - стандартная, то
P( X   )  2  Ф .
Биномиальное
распределение
xi
pi
x1
x2
…………
xn
p1
p2
…………
pn
in
p
i 1
pi  Pn (k )  C  p  q
k
n
MX  np,
k
i
nk
 1.
,
DX  npq.
Распределение Пуассона
xi
pi
x1
x2
…………
xn
p1
p2
…………
pn
in
p
i 1
pi  Pn (k ) 
MX   ,

k
k!

e ,
DX  .
i
 1.
Закон больших чисел
Неравенство
Чебышева
• Пусть имеется СВ X с математическим
ожиданием
и дисперсией
m .
Каково бы ни D
было положительное
число , вероятность того, что
величина отклонится от своего
математического ожидания не меньше
чем на
, ограничена сверху числом
D
:
2



P X  m    
D

2
• Если СВ X , для которой существует
математическое ожидание m , может
принимать только неотрицательные
значения(т.е. P X  0  0 ), то вероятность
того, что принятое ею значение окажется
не меньше 1, не превосходит числа m :
P X  1  m.
• Следствие P  X  m     1 
D

2
.
P X  m     P X  m     1,
P X  m     1  P X  m    
P X  m     1 
D

2
.
D

2
,
Теорема Чебышева
• Пусть имеется бесконечная
последовательность независимых
случайных величин X 1 , X 2 ,..., X n с одним и
тем же математическим ожиданием и
дисперсиями, ограниченными одной и той же
M  X 1   M  X 2   ...  M  X n   m,
постоянной:
D X 1   C, D X 2   C, ...., D X n   C.
• Тогда каково бы ни было положительное
число  ,
 X 1  X 2  ...  X n

P
 m     1, при n  .
n

