Числовые характеристики случайных величин

{ определение случайных величин - математическое ожидание - примеры – дисперсия – центральные и
начальные моменты – коэффициент корреляции - ковариация }
Математическое ожидание
Математическим ожиданием дискретной случайной величины
() называется величина
M

 (  )p(  )

 

Если д.с.в.  имеет математическое ожидание, то оно находится
как сумма всех произведений значений случайных величин на их
вероятности
n
P
M
Pj
x
j 1

xj

j
pj
Случайных величин без математического
ожидания не бывает, так как, если у нас есть
случайная величина мы всегда в праве от нее
что-нибудь ожидать.
Из студенческой контрольной работы
Пример
@
Найти математическое ожидание для биномиального распределения
дискретной случайной величины.
Решение
M(  ) 
n
n
j 1
m 1
 x j p j   mC p g
m
n
m
n m
n
 m
m 1
n!
p m g n m 
m !( n  m ) !
(n-1)!
p m 1 g n  m 
m 1 ( m - 1 ) !(( n - 1 ) - ( m - 1 )) !
n
 np 
n
 np  C
m 1
m 1
n 1
p
m 1
g
( n 1 ) ( m 1 )
 np
n
C
m  0
m
n
m
p g
n  m 
 np
M (  )  np
Математическое ожидание случайной величины
Математическим ожиданием непрерывной случайной величины 
называется величина
M


 xf ( x )dx

Свойства:
Mc  c
Mc  cM
f(x)
n
Mj 
j 1
x
n
 M
j 1
j
M(    )  M(  ) M(  )
( и  – независимые СВ)
Пример
@
Найти математическое ожидание для нормального распределения
непрерывной случайной величины.
Решение
1
σ 2π
M 
M

2π
2π

te

(t  m) 2
2σ 2
dt 


1




 ( z  m )e

z2
2
(t  m )
d(t  m ) 1
z 
 dt  dz 
σ
σ
σ
=1!
dz 

ze

z2
2
dz  m(

=0!
1
2π

e

z2
2
dz )  m

M() = m
Дисперсия случайной величины
Дисперсия случайной величины  определяется как
математическое ожидание квадрата отклонения случайной
величины от её математического ожидания
M(ξ  Mξ )  M(ξ )  M(ξ )  0
 - cреднее квадратичное отклонение
D  M(   M ) 2   2
D  M(   M ) 2  M(  2 )  M( 2  M)  M(M 2  )
 Dξ  M(ξ 2 )  ( Mξ ) 2
f(x)
Д.С.В. D   pj (x j M ) 2   x j2 pj  (  x j pj )
Н.С.В. D 
j

j
 f (x)(x  M )

Свойства:
x
Dc  0
2
dx 
2
j

x
2
f (x)dx  (

Dc   c 2 D 

 xf (x)dx)
2

D   j   D j
j
j
j независимы в совокупности
D(    )  D(  )  D(  )
Пример
@
Найти дисперсию для биномиального распределения
Решение
Предварительно найдем дисперсию в распределении Бернулли
X
0
P q
1
p
MX  0  q  1  p  p MX 2  0  q  1  p  p
DX  MX 2  (MX) 2  p  p 2  p( 1  p)  pg
  X 1  X 2  ....  X n
D 
n
 DX
j 1
j
M 
n
 MX
j 1
j
 np
 npg    npq
Пример
@
Найти дисперсию для равномерного распределения
f(x)
 1
, x  [a, b]

f (x)   b  a
 0 , x  [a, b]

b
M   x
a
1
x
dx 
b a
2 (b  a )
2
b
a
b
x
a b
2

a
1
x
M   x
dx 
b a
3 (b  a)
a
2
3
2
b
a
b
a 2  ab  b 2

3
a 2  ab  b 2 (a  b) 2 (b  a) 2
D   M   (M  ) 


3
4
12
2
2
Центральные и начальные моменты
Математическим моментом случайной величины называется
k
математическое ожидание величины ( - a) k : μk (a)  M(ξ  a)
Если a = M() , момент называется центральным, если a = 0 , то
начальным - k
k
Абсолютный момент k-го порядка: mk (a)  M |   a |
 1  M(ξ ), 0  1, 1  0 , 2 (a)  M(   a) 2  M(  2 )  (M ) 2   2   12
3   3  3 2 1  2  13
4   4  4 3 1  6 2  3
2
1
n 
A
n
 ( 1 )
n k
k 2
C  k
k
n
3
3

23 / 2  3
Коэффициент ассиметрии
n k
1
E 
f(x)
4
1
 ( 1 )
n 1
(n  1 )
n
1
3 > 0
3 < 0
4
3
4

Эксцесс – степень крутости распределения
E=0 для случая Н.З. распределения
Пример
@
Определить числовые характеристики для экспоненциального
распределения
  e   x , x  0
f (x )  
x 0
 0 ,
D   2  
A 
2
1
 2

  x 2  e   x dx 
0
3  3  3  1 2  2 

3
3

1 
 
 
3
1
M 
1
f(x)

2
1
2

(
1
/

)

2
2
6
1 2
1

3

2
3
 2
3  2
 
3
1 
 
 
E 
4
3  9
4

M = 1/2
A  2
D = 1/4
Числовые характеристики зависимости двух случайных величин
Для независимых случайных величин с конечными вторыми моментами дисперсия их
суммы равна сумме их дисперсий. Чему равна дисперсия суммы в общем случае?
D(    )  M(    ) 2  ( M(    )) 2  M(  2   2  2)  ( M ) 2  ( M ) 2  2MM
D(    )  D  D  2( M( )  MM )
Величина M(ξη) - MξMη равняется нулю, если случайные величины ξ и η независимы.
Однако из равенства ее нулю вовсе не следует независимость. Эту величину часто
используют как «индикатор наличия зависимости» пары случайных величин.
Ковариацией cov(ξ,η) случайных величин ξ и η называется число
cov( ξ,η )  M(( ξ  Mξ )( η  Mη ))
cov( ξ,η )  M(( ξ  Mξ )( η  Mη ))  M( ξη )  MMη
D( ξ1  ...  ξn ) 
cov( ξ,ξ )  Dξ cov( ξ,η )  cov( η,ξ )
n
Dξ  cov( ξ ,ξ
i
i 1
i
i j
j
) 
n
Dξ  2 cov( ξ ,ξ
i
i 1
i
i j
j
) 
cov( ξ ,ξ
i
j
)
i ,j
Если ковариация cov(ξ,η) отлична от нуля, то величины ξ и η зависимы !
Пример
@
Пусть ξ и η — независимые случайные величины, и дисперсия
ξ отлична от нуля. Доказать, что ξ и ξ + η зависимы.
M ( ξ ( ξ  η ))  M ξ 2  M  M 
M  M ( ξ  η ))  ( M ξ ) 2  M  M 
cov( ξ,ξ  η )  Mξ 2  M Mη  (( Mξ ) 2  M Mη ) 
 Dξ  0
Следовательно, ξ и ξ + η зависимы
Коэфициент корреляции
Ковариация – размерная величина. Её нужно нормировать так, чтобы она не
менялась при умножении или сдвиге случайных величин и
свидетельствовала о силе их зависимости.
Говоря о «силе» зависимости между с.в., мы имеем в виду следующее.
Самая сильная зависимость – функциональная, а из функциональных –
линейная зависимость, когда ξ = aη + b.
Коэффициентом корреляции ρ(ξ, η) случайных величин ξ, η,
дисперсии которых существуют и отличны от нуля, называется число
cov (ξ , η)
ρ(ξ,η) 
Dξ Dη
1. Если с. в. ξ и η независимы, то ρ(ξ, η) = cov(ξ, η) = 0
2. | ρ(ξ, η) | 1
3. | ρ(ξ, η) | = 1, если и только если случайные величины ξ и η с
вероятностью 1 линейно связаны, т.е. существуют числа а  0 и b такие,
что P( η = a, ξ = b) = 1
Пример
@
Найти коэффициент корреляции для ξ и ξ +η .
ξ , η - независимые случайные величины, дисперсии ξ и η равны между
собой и отличны от нуля.
Решение
cov( ξ,ξ  η )  M ξ 2  M  M η  (( M ξ ) 2  M  M η )  Dξ
ρ(ξ, ξ  η) 
cov (ξ , ξ  η)

Dξ D(ξ  η)
Dξ


Dξ Dξ  Dη
Dξ
1

2
Dξ 2Dξ
ξ и ξ + η зависимы с коэффициентом корреляции r = 0.707
Пример
@
Найти коэффициент корреляции между числом выпадений единицы и
числом выпадений шестерки при n подбрасываниях симметричного
кубика.
Решение
Обозначим для i = 1, 2, 3, 4, 5, 6 через ξi случайную величину, равную
числу выпадений грани с i очками при n подбрасываниях кубика.
Подсчитаем cov(ξ1, ξ6)
Каждая из случайных величин ξi имеет биномиальное распределение
с параметрами n и p =1/6, поэтому
n
Mξi  np 
6
1 5 5n
Dξi  npg  np ( 1  p )  n

6 6 36
Пример
@
Cумма ξ1 + … + ξn равна n. В силу симметрии кубика, все математические
ожидания Mi,j равны, но отличаются от Mi,i
5n n 2
M ξ1ξ 2  M ξ1ξ 3 ....  M ξ1ξ 6 Mξ1ξ1  Mξ  Dξ1  ( Mξ1 ) 

36 36
n2
или по другому
Mξ1( ξ1  ...  ξ6 )  Mξ1n 
6
2
1
2
2
5
n
n
Mξ1( ξ1  ...  ξ 6 )  Mξ12  5 Mξ1ξ 6 

 5 Mξ1ξ 6
36 36
n2  n n2

M( ξ1ξ6 )  Mξ1Mξ6
36   1
ρ(ξ1,ξ6 ) 
ρ ( ξ1, ξ6 )  36
5n
5
Dξ1 Dξ6
36
Зависимость между двумя величинами
Даны два множества величин xi и yi , где yi – измеряется с ошибкой.
Рассмотрим задачу установления функциональной зависимости
между двумя величинами y=(x) по результатам измерений, в
которых значения функции определяются с ошибкой – случайной
величиной, которая подчиняется нормальному закону.
yi  (y1,y 2,y 3, .... ,y n )
y
m  (xi )
y =  (x)
xi
dPi  fi (yi )dy i 
x
1
dP  
e
2π
i 1 σ
n
σ 1  σ 2  .....  σ i  ...  σ
min
[y i (x i )] 2

2σ 2
1
e
σ 2π
[y i (x i )] 2

2σ 2
n
dy i  Ke
dy i
1
 2
[y i (x i )] 2
2σ i 1

Метод наименьших квадратов
Данная совокупность измеренных значений величин yi будет
наивероятнейшей, если сумма квадратов отклонений наблюдаемых
значений yi от предполагаемых  ( xi ) будет минимальной.
Получаем использование метода максимального правдоподобия для
получения статистических оценок.
y  (x,a,b,c,. ..)
a  ?,b  ?, c  ?,...
n
 [y
i 1
i
n
2
[y


(x
,a,b,c,...
)]
 min
 i
i
i 1
 (xi ,a,b,c,... )](/a)i  0
y
.......... .......... .......... .......... ..........  0
n
 [y
i 1
i
 (xi ,a,b,c,... )](/c)i  0
y =  (x, a, b, c,..)
xi
x
Подбор параметров для линейной функции
n
( /a )i  xi
( /b )i  1
y
 [y
i 1
n
y  (x,a,b)  ax  b
x
n
x y
i 1
n
i
n
y
i 1
n
i
n
i
a
x
i 1
x
i 1
n
i
b
x
i 1
n
i
[ y x
i 1
n
0
i
i
i
 ax i  b]xi  0
 ax i  b]
0
 ax i xi  bxi ]  0
 ax i ]  bn
0
0
n
~ 
m
x
i
[ y
i 1
b
i 1
n
n
2
n
n
a
i
 [y
i
 xi
i 1
n
n
~ 
, m
y
 yi
i 1
n
n
, ~1,1 
 xi yi
i 1
n
n
, ~2 
2
x
 i
i 1
n
Подбор параметров для линейной функции
ν~2[x]
 ~
 m
 x
Решение
~
~
a

ν
mx  
1,1[x,y]
    ~
1  b   my




Система уравнений
примет вид
~m
~
ν~1,1[x,y]  m
x y
~  am
~
a  ~
,
b

m
y
x
2
~
ν 2[x]  mx
Запись уравнений упрощается, если ввести “центральные моменты”
~
~m
~
K xy  ν~1,1[x,y]  m
x y
~
~ )2
Dx  ν~2[x]  (m
x
~ Решение
K xy
~  am
~
a  ~ , b m
y
x
Dx
Подбор параметров для линейной функции
В приведенных формулах появляются выборочные средние, дисперсия и
корреляционный момент
~
1 n
1 n
1 n
~
~
~ )2
mx   xi , my   yi , Dx   (xi  m
x
n i 1
n i 1
n i 1
~
1 n
~ )(y  m
~ )  cov (x,y)  M((x  Mx)(y  My))
K xy   (xi  m
x
y
i
n i 1
~
K xy
~
~ )
y  my  ~ (x  m
x
Dx
n
K xy 
x y
i 1
n
Dx 
i
n
x
i 1
n
i
i
 mx my
y
Линейная регрессия
2
 mx2
x