�ݺ�ߣ

Лекция 6. Совместное распределение двух
дискретных случайных величин
Курбацкий А. Н.
МШЭ МГУ
13 октября 2016
Курбацкий А. Н. (МШЭ МГУ) Совместное распределение дискретных с.в. 13 октября 2016 1 / 26

Содержание
1 Совместное распределение двух дискретных величин
2 Маргинальные распределения
3 Независимость случайных величин
4 Условное распределение и условное математическое ожидание

Совместное распределение
Определение
Говорят, что задано совместное распределение двух дискретных
случайных величин, измеряемых в одном и том же случайном
эксперименте, если для каждой пары значений этих величин (xi , yj )
задана вероятность P(X = xi , Y = yj ) = pij , где xi , i = 1, . . . , n -
множество возможных значений X, а yj , j = 1, . . . , m - множество
всех возможных значений Y .
Совместное распределение двух дискретных случайных величин
удобно записывать в виде таблицы:
X Y y1 y2 . . . ym
x1 p11 p12 . . . p1m
x2 p21 p22 . . . p2m
. . . . . . . . . . . . . . .
xn pn1 pn2 . . . pnm
Сумма всех значений pij :
m
j=1
n
i=1
pij = 1

Попробуйте самостоятельно!
Пример
Игральную кость бросают два раза. Определим случайную величину X
как число выпавших шестерок. Случайная величина Y будет
принимать значение 0, если хотя бы на одной кости выпадет нечетное,
и 1, если на обеих костях выпадет четное. Выпишем таблицу
совместного распределения случайных величин X и Y .

Попробуйте самостоятельно!
Пример
Игральную кость бросают два раза. Определим случайную величину X
как число выпавших шестерок. Случайная величина Y будет
принимать значение 0, если хотя бы на одной кости выпадет нечетное,
и 1, если на обеих костях выпадет четное. Выпишем таблицу
совместного распределения случайных величин X и Y .
Случайная величина X может принимать три значения - 0, 1, 2, а
случайная величина Y - два значения 0, 1. Следовательно, таблица
совместного распределения будет иметь вид:
X Y 0 1
0 p11 p12
1 p21 p22
2 p31 p32
Осталось вычислить все вероятности pij = P(X = xi , Y = yj ).

Решение
Легко видеть, что p32 = P(X = 2, Y = 1) = 1/36, так как ей
соответствует только элементарный исход ωe= {6, 6}.
p31 = P(X = 2, Y = 0) = 0.
p22 = P(X = 1, Y = 1) = 4/36 = 1/8, так как этому событию
соответствует 4 элементарных исхода: {6,2}, {6,4}, {2,6}, {4,6}.
удовлетворяют исходы: {6,1}, {6,3}, {2,5}, {1,6}, {3,6}, {5,6}.
соответствуют исходы: {2,2}, {2,4}, {4,2}, {4,4}.
p11 = P(X = 0, Y = 0) может быть вычислено как
1 − p12 − p21 − p22 − p31 − p32 =
1 − 4/36 − 6/36 − 4/36 − 0 − 1/36 = 21/36.
Итого, таблица совместного распределения X и Y имеет вид:
X Y 0 1
0 21/36 4/36
1 6/36 4/36
2 0 1/36

Маргинальные распределения
Из таблицы совместного распределения двух дискретных случайных
величин можно получить распределение каждой из случайных величин
X и Y . Такие распределения называются маргинальными или
частными.
Для того, чтобы получить маргинальное распределение X, то есть
найти вероятность P(X = xi ), надо просуммировать вероятности в
i-ой строке таблицы совместного распределения:
P(X = xi ) = pi1 + pi2 + . . . + pim.
Для того, чтобы получить маргинальное распределение Y , то есть
найти вероятности P(Y = yi ), надо просуммировать вероятности в
j-ом столбце таблицы совместного распределения:
P(Y = yj ) = p1j + p2j + . . . + pnj .

Пример
Задача
Рассмотрим совместное распределение X и Y из предыдущего
примера
X Y 0 1
0 21/36 4/36
1 6/36 4/36
2 0 1/36
Найти маргинальные распределения случайных величин X и Y .

Пример
Задача
Рассмотрим совместное распределение X и Y из предыдущего
примера
X Y 0 1
0 21/36 4/36
1 6/36 4/36
2 0 1/36
Найти маргинальные распределения случайных величин X и Y .
Решение
Маргинальные распределения X и Y задаются таблицами:
X 0 1 2
p 25/36 10/36 1/36
Y 0 1
p 27/36 9/36

Понятие независимости
Теорема
Дискретные случайные величины X и Y независимы тогда и только
тогда, когда для любых i и j, i = 1, . . . , n, j = 1, . . . , m
pij = P(X = xi , Y = yj ) = P(X = xi ) · P(Y = yj ).
Эту формулу можно использовать для проверки независимости двух
дискретных случайных величин.
Пример
Рассмотрим случайные величины X и Y , определенные в примере 1
X Y 0 1
0 21/36 4/36
1 6/36 4/36
2 0 1/36
Являются ли эти случайные величины независимыми?

Решение
Рассмотрим вероятность p11 = P(X = 0, Y = 0) = 21/36.
Мы уже находили маргинальные распределения X и Y
X 0 1 2
p 25/36 10/36 1/36
Y 0 1
p 27/36 9/36
В частности: P(X = 0) = 25/36 и P(Y = 0) = 27/36.
Проверим выполнение условий независимости:
P(X = 0, Y = 0) = P(X = 0) · P(Y = 0)
21/36 = 25/36 · 27/36.
Следовательно, X и Y зависят друг от друга. В этом примере нам
повезло, так как проверка ограничилась лишь исследованием
равенства для i = 1 и j = 1. Так бывает не всегда. Если бы условие
независимости выполнялось бы для p11, то нам пришлось бы
проверять это условие для всех остальных pij .

Ковариация
Когда случайные величины X и Y зависимы, представляет интерес
сила их взаимосвязи. Для этого используется понятие ковариации (то
есть совместной вариации) двух случайных величин.
Ковариацией двух случайных величин X и Y называется
cov(X, Y ) = E[(X − E(X))(Y − E(Y ))].
На практике для вычисления cov(X, Y ) чаще используется формула
cov(X, Y ) = E(X · Y ) − E(X) · E(Y ).
Теорема
Если случайные величины X и Y независимы, то cov(X, Y ) = 0;
Пусть X1 = a1 + b1X и Y1 = a2 + b2Y , тогда
cov(X1, Y1) = b1b2 cov(X, Y ).
Другими словами, величина ковариации между двумя случайными
величинам зависит от их единиц измерения.

Корреляция
Более удобную меру связи двух с. в. даёт коэффициент корреляции.
Корреляцией двух случайных величин называется:
corr(X, Y ) =
cov(X, Y )
D(X) D(Y )
.
Теорема
Если X и Y независимы, то corr(X, Y ) = 0.
| corr(X, Y )| ≤ 1.
Если corr(X, Y ) = 1, то Y = a + bX, где b > 0.
Если corr(X, Y ) = −1, то Y = a + bX, где b < 0.
Пусть X1 = a1 + b1X и Y1 = a2 + b2Y , тогда
corr(X1, Y1) = corr(X, Y ), если b1 · b2 > 0 и
corr(X1, Y1) = − corr(X, Y ), если b1 · b2 < 0.

Пример
Совместное распределение двух дискретных случайных величин X и Y
задано таблицей:
X Y 0 1
0 0.1 0.3
1 0.4
Найти cov(X, Y ) и corr(X, Y ).
Решение. Заполним до конца таблицу совместного распределения
P(X = 1, Y = 1) = 1 − 0.1 − 0.3 − 0.4 = 0.2. Вычислим маргинальные
распределения X и Y :
X 0 1
p 0.4 0.6
Y 0 1
p 0.5 0.5
При этом E(X) = 0.6, а E(Y ) = 0.5.

Найдем распределение случайной величины X · Y . Эта величина
может принимать только два значения 0 и 1.
P(X · Y = 1) = P(X = 1, Y = 1) = 0.2. Следовательно,
P(X · Y = 0) = 1 − 0.2 = 0.8 и распределение X · Y задается таблицей:
X · Y 0 1
p 0.8 0.2
cov(X, Y ) = E(X · Y ) − E(X) · E(Y ) = 0 · 0.8 + 1 · 0.2 − 0.6 · 0.5 =
0.2 − 0.3 = −0.1.
Для нахождения корреляции, необходимо вычислить дисперсии:
D(X) = E(X2
) − [E(X)]2
= 0.4 · 0.6 = 0.24,
D(Y ) = E(Y 2
) − [E(Y )]2
= 0.5 · 0.5 = 0.25.
Отсюда: corr(X, Y ) = cov(X,Y )
√
D(X)
√
D(Y )
= −0.1√
0.24
√
0.25
≈ −0.4.

Корреляция и независимость
Важно!
Если случайные величины независимы, то их корреляция равна нулю.
А вот обратное утверждать, как правило, нельзя.
Пример
Пусть совместное распределение X и Y задается таблицей:
X Y −1 0 1
−1 0 0.2 0
0 0.2 0.2 0.2
1 0 0.2 0
Вычислим cov(X, Y ) и проверим величины на независимость.

Корреляция и независимость
Важно!
Если случайные величины независимы, то их корреляция равна нулю.
А вот обратное утверждать, как правило, нельзя.
Пример
Пусть совместное распределение X и Y задается таблицей:
X Y −1 0 1
−1 0 0.2 0
0 0.2 0.2 0.2
1 0 0.2 0
Вычислим cov(X, Y ) и проверим величины на независимость.
cov(X, Y ) = E(X · Y ) − E(X) · E(Y ) = 0
Убедитесь, что величины не являются независимыми!

Условное распределение
Условным законом распределения с.в. X при условии Y называется
любое соотношение, ставящее в соответствие значениям с.в. X
условные вероятности их принятия при условии Y = y
PX|Y (xi |yj ) = P(X = xi |Y = yj ) =
P(X = xi , Y = yj )
P(Y = yj )
Условное мат. ожидание с.в. X при условии Y = y называется
математическое ожидание условного распределения X при условии
Y = y
E(X|Y = yj ) =
i
xi PX|Y (xi |yj )

Функция регрессии
Функция регрессии с.в. X по Y называется функция, ставящее в
соответствие числу y условное мат. ожидание X при условии y:
ϕX|Y (y) = E(X|Y = y)
Функция регрессии характеризует среднее значение одной с.в. при
известном значении другой. Если разброс невелик, то это может быть
информативно!
Условным математическим ожиданием X по Y называется называется
случайная величина, равная ϕX|Y (Y ), которая обозначается E(X|Y )

Пример
Совместный закон распределения с. в. X и Y задан таблицей:
X Y 0 1 3
0 0.15 0.05 0.3
−1 0 0.15 0.1
−2 0.15 0 0.1
Найдите
а) законы распределения случайных величин X и Y ;
б) EX, EY , DX, DY , cov(X, Y ), corr(X, Y ), а также математическое
ожидание и дисперсию случайной величины V = 6X − 4Y + 3.
в) Найдите условное математическое ожидание E(X|Y = 0) и
выпишите функцию регрессии ϕX|Y (y).

Пример
Совместный закон распределения с. в. X и Y задан таблицей:
X Y 0 1 3
0 0.15 0.05 0.3
−1 0 0.15 0.1
−2 0.15 0 0.1
Найдите
а) законы распределения случайных величин X и Y ;
б) EX, EY , DX, DY , cov(X, Y ), corr(X, Y ), а также математическое
ожидание и дисперсию случайной величины V = 6X − 4Y + 3.
в) Найдите условное математическое ожидание E(X|Y = 0) и
выпишите функцию регрессии ϕX|Y (y).
Решение. Для того, чтобы найти законы распределений X и Y нужно
просуммировать вероятности по строкам и столбцам соответственно:
X 0 −1 −2
P 0, 5 0, 25 0, 25
Y 0 1 3
P 0, 3 0, 2 0, 5

Зная законы распределений вычисляем математические ожидания,
дисперсии и ковариацию:
EX = 0·0.5−1·0.25−2·0.25 = −0.75, EY = 0·0.3+1·0.2+3·0.5 = 1.7,
DX = E(X2
) − (EX)2
= 02
· 0.5 + (−1)2
· 0.25 + (−2)2
· 0.25 − (−0.75)2
=
= 1.25 − 0.5625 = 0.6875,
DY = E(Y 2
) − (EY )2
= 02
· 0.3 + 12
· 0.2 + 32
· 0.5 − (1.7)2
=
= 4.7 − 2.89 = 1.81,
cov(X; Y ) = E(XY ) − EX · EY =
= −1 · 1 · 0.15 − 1 · 3 · 0.1 − 2 · 3 · 0.1 + 0.75 · 1.7 = 0.225.
corr(X; Y ) =
0.225
√
0.6875
√
1.81
≈ 0.2.

Мат. ожидание и дисперсию с.в. V вычислим по свойствам:
EV = E(6X −4Y +3) = 6EX −4EY +3 = −6·0.75−4·1.7+3 = −8.3,
DV = D(6X − 4Y + 3) = 36DX + 16DY + 2 · 6 · (−4) cov(X; Y ) =
= 36 · 0.6875 + 16 · 1.81 − 48 · 0.225 = 53.71 − 10.8 = 42.91.
Составим условное распределение X от Y , пользуясь формулой
P(X|Y = 0) = P(X∩Y =0)
P(Y =0) :
P(X = 0|Y = 0) =
P(X = 0, Y = 0)
P(Y = 0)
=
0.15
0.3
= 1/2,
P(X = −1|Y = 0) =
P(X = −1, Y = 0)
P(Y = 0)
= 0,
P(X = −2|Y = 0) =
P(X = −2, Y = 0)
P(Y = 0)
=
0.15
0.3
= 1/2
Откуда E(X|Y = 0) = 0 · 1
2 − 1 · 0 − 2 · 1
2 = −1.

Аналогично вычислим условные математические ожидания для Y = 1
и Y = 3
Для Y = 1:
P(X = 0|Y = 1) =
P(X = 0, Y = 1)
P(Y = 1)
=
0.05
0.2
= 0.25,
P(X = −1|Y = 1) =
P(X = −1, Y = 1)
P(Y = 1)
=
0.15
0.2
= 0.75,
P(X = −2|Y = 1) =
P(X = −2, Y = 1)
P(Y = 1)
=
0
0.2
= 0,
Откуда E(X|Y = 1) = 0 · 1
2 − 1 · 0.75 − 2 · 0 = −0.75.

Для Y = 3:
P(X = 0|Y = 3) =
P(X = 0, Y = 3)
P(Y = 3)
=
0.3
0.5
= 0.6,
P(X = −1|Y = 3) =
P(X = −1, Y = 3)
P(Y = 3)
=
0.1
0.5
= 0.2,
P(X = −2|Y = 3) =
P(X = −2, Y = 3)
P(Y = 3)
=
0.1
0.5
= 0.2
Откуда E(X|Y = 3) = 0 · 0.6 − 1 · 0.2 − 2 · 0.2 = −0.6.
Поэтому функция регрессии имеет вид
Y 0 1 3
ϕX|Y (y) −1 −0.75 −0.6

�ݺ�ߣ

Лекция 6. Совместный закон распределения

Recommended

More Related Content

What's hot (20)

Viewers also liked (15)

More from Kurbatskiy Alexey (18)

Лекция 6. Совместный закон распределения