10. 10
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
次のようなn個の観測データが得られていたとする。
y x1 x2 x3 ??? xp
1 y1 x11 x21 x31 ??? xp1
2 y2 x12 x22 x32 ??? xp2
3 y3 x13 x23 x33 ??? xp3
: : : : : :
n yn x1n x2n x3n ??? xpn
yとx1, x2, ???, xpとの間の関係を定式化すると,
0 1 1 2 2i i i p pi iy x x xβ β β β ε= + + + + +? 誤差項 or
確率的攪乱項
11. 11
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
0 1 1 2 2i i i p pi iy x x xβ β β β ε= + + + + +?
誤差自乗和が最小となるときの回帰係数を採用する。
( ){ }
2
2
0 1 1 2 2
1 1
n n
i i i i p pi
i i
S y x x xε β β β β
= =
= = ? + + + +∑ ∑ ?
( ){ }0 1 1 2 2
10
2 0
n
i i i p pi
i
S
y x x xβ β β β
β =
?
=? ? + + + + =
?
∑ ?
( ){ }1 0 1 1 2 2
11
2 0
n
i i i i p pi
i
S
x y x x xβ β β β
β =
?
=? ? + + + + =
?
∑ ?
( ){ }2 0 1 1 2 2
12
2 0
n
i i i i p pi
i
S
x y x x xβ β β β
β =
?
=? ? + + + + =
?
∑ ?
???
12. 12
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
整理すると,
0 1 1 2 2
1 1 1 1
n n n n
i i i p pi
i i i i
y n x x xβ β β β
= = = =
= + + + +∑ ∑ ∑ ∑?
1 0 1 1 1 1 2 1 2 1
1 1 1 1 1
n n n n n
i i i i i i i p i pi
i i i i i
x y x x x x x x xβ β β β
= = = = =
= + + + +∑ ∑ ∑ ∑ ∑?
???
2 0 2 1 2 1 2 2 2 2
1 1 1 1 1
n n n n n
i i i i i i i p i pi
i i i i i
x y x x x x x x xβ β β β
= = = = =
= + + + +∑ ∑ ∑ ∑ ∑?
0 1 1 2 2
1 1 1 1 1
n n n n n
pi i pi pi i pi i p pi pi
i i i i i
x y x x x x x x xβ β β β
= = = = =
= + + + +∑ ∑ ∑ ∑ ∑?
???①
???②
13. 13
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
①について,
0 1 1 2 2
1 1 1 1
n n n n
i i i p pi
i i i i
y n x x xβ β β β
= = = =
= + + + +∑ ∑ ∑ ∑?
1 2
0 1 2
1 1 1 1
1 n n n n
p
i i i pi
i i i i
y x x x
n n n n
ββ β
β
= = = =
? ?
= ? + + +? ?
? ?
∑ ∑ ∑ ∑?
整理して両辺nで割ると,
つまり,
( )0 1 1 2 2 p py x x xβ β β β= ? + + +?
1 1
1 1n n
i k ki
i i
y y x x
n n= =
= =∑ ∑ただし, である(平均値)。
???①’
14. 14
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
②について,
0 1 1 2 2
1 1 1 1 1
n n n n n
pi i pi pi i pi i p pi pi
i i i i i
x y x x x x x x xβ β β β
= = = = =
= + + + +∑ ∑ ∑ ∑ ∑?
ここで,①’を代入すると,
( ){ }1 1 2 2
1
n
pi i p p p
i
x y y x x x nxβ β β
=
= ? + + +∑ ?
1 1 2 2
1 1 1
n n n
pi i pi i p pi pi
i i i
x x x x x xβ β β
= = =
+ + + +∑ ∑ ∑?
整理すると,
1
n
p
pi pi p p p
i
x x x x
n
β
β
=
+ + ?∑?
1 2
1 1 1 2 2 2
1 1 1
1 n n n
pi i p pi i p pi i p
i i i
x y x y x x x x x x x x
n n n
β β
β β
= =
?= ? + ?∑ ∑ ∑
15. 15
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
ここで,共分散の定義が,
1
1 n
p pi pi p p
i
x x x x
n
β
=
? ?
+ + ?? ?
? ?
∑?
1 1 1 2 2 2
1 1 1
1 1 1n n n
pi i p pi i p pi i p
i i i
x y x y x x x x x x x x
n n n
β β
= =
? ? ? ?
?= ? + ?? ? ? ?
? ? ? ?
∑ ∑ ∑
(つづき)
( )( )
1 1 1 1
1 1n n n n
xy i i i i i i
i i i i
x x y y x y y x x y nxy
n n
σ
= = = =
? ?
= ? ?= ? ? +? ?
? ?
∑ ∑ ∑ ∑
1 1
1 1n n
i i i i
i i
x y xy xy xy x y xy
n n=
= ? ? += ?∑ ∑
と変形できることに着目すると,
16. 16
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
(つづき)
1
1 n
p pi pi p p
i
x x x x
n
β
=
? ?
+ + ?? ?
? ?
∑?
1 1 1 2 2 2
1 1 1
1 1 1n n n
pi i p pi i p pi i p
i i i
x y x y x x x x x x x x
n n n
β β
= =
? ? ? ?
?= ? + ?? ? ? ?
? ? ? ?
∑ ∑ ∑
σpy
σp1 σp2
σpp
つまり,
1 1 11 2 12 1
2 1 21 2 22 2
y p p
y p p
σ β σ β σ β σ
σ β σ β σ β σ
= + + +
= + + +
?
?
1 1 2 2py p p p ppσ β σ β σ β σ= + + +?
???
という連立方程式を解けば,回帰係数が得られる。
通常,パッ
ケージソフト
等を用いる。
17. 17
重回帰分析の基本的な流れ
2020年度 建築計画第二 第10回(沖 拓弥)
1 1 11 2 12 1
2 1 21 2 22 2
y p p
y p p
σ β σ β σ β σ
σ β σ β σ β σ
= + + +
= + + +
?
?
1 1 2 2py p p p ppσ β σ β σ β σ= + + +?
???
という連立方程式を解けば,回帰係数が得られる。
(つづき)
1 11 12 1 1
2 21 22 2 2
1 2
y p
y p
py p p pp p
σ σ σ σ β
σ σ σ σ β
σ σ σ σ β
? ? ? ? ? ?
? ? ? ? ? ?
? ? ? ? ? ?=
? ? ? ? ? ?
? ? ? ? ? ?
? ? ? ? ? ?? ? ? ? ? ?
?
?
? ? ? ? ? ?
?
???? = ????