狠狠撸

狠狠撸Share a Scribd company logo
?? ? ??4
nonezerok@gmail.com
1
2
??1
??, ??, ? , ??
??? ?? ???? ? ???? ?? ??? ? ?? ?
??? ??;inference
? ??? ???; ?? ???? ??? ???? ?
? ??? ???? ???? ???? ?
? ??? ????
? ??? ?? = ?? ?? = ?? ??
3
??; parameter
? ???? ??? ??? ?
4
????; maximum likelihood
? ??? ???
? ??? ???? ?? ??????(??)??
? ??; likelihood : ? ? ?? ?? ? ? ?? ? ??? ???
5
??, ?, ??
? ??, ? , ??
? ??, ? , ?? = ???
?? ???
?? ? ???
?? = ? ?? = ?? ? ?? = ?? ? ? ?? = ??
??? ?? ??, ??? ??? ??
? ??, ? , ??; ? ????
???? ??? ??
? ??, ?, ??? ??? ?? ?,
? ???? ? ??, ? , ??; ? ? ????? ? ?
? ???? ?? ?,
? ????? ??? ?? ????? ?? ? ?? ???? ??
? maximum log likelihood estimator
6
Ronald Aylmer Fisher (1890~1962)
???? ??? ??? ??
? ?? ????? ?? ????? ?? ??
7
?? = ?
1
0
??? ??? ??? ??
? ?? ??
? ?? = 1 = ?, ? ?? = 0 = 1 ? ?
? ?? = ? = ?? 1 ? ? ???, ? ∈ 0,1
??? ? ??? ? ??? ??? ? ?? ?? ??
8
? ??, ? , ??; ? = ? ?? = ??, ? , ?? = ??; ?
= ??? 1 ? ? ???? ? ??? 1 ? ? ???? = ?∑ ?? 1 ? ? ∑ ????
??? ? ??, ? , ??|? = log ?∑ ?? 1 ? ? ∑ ????
= log ?∑ ?? + log 1 ? ? ∑ ????
= ? ??
?
?
log ? + ? 1 ? ??
?
?
log 1 ? ? 5 log? + 5 log 1 ? ?
9
??? ?? ??
? = ? ? = 1 = 1
??? ?? ??
? = ? ? = 1 = 0
???
???? ??? ?? ??
01
10
??? ??? ?? ?? ??
? = ? ? = 1 = 0.5
0.5
11
?? 70%? ?? 30%?? ??
0.7
? = ? ? = 1 = 0.7
12
?
??
??? ? ??, ? , ??; ?
=
?
??
? ??
?
?
log ? + ? 1 ? ??
?
?
log 1 ? ?
= ? ??
?
?
1
?
+ ? 1 ? ??
?
?
?1
1 ? ?
?? ??? ?????, ???? 0?? ??? ???
13
? ??
?
?
1
??
? ? 1 ? ??
?
?
1
1 ? ??
= 0
∑ ??
?
?
??
=
∑ 1 ? ??
?
?
1 ? ??
=
? ? ∑ ??
?
?
1 ? ??
? ??
?
?
? ? ??
?
?
?? = ??? ? ? ????
?
?
?? =
∑ ??
?
?
?
∑ ??
?
?
?
??? ???
??? ??? ?, 0??.
?? ??? ???
14
? ??, ? , ??; ?, ?
=
1
? 2?
??? ?
?? ? ? ?
2?? × ? ×
1
? 2?
??? ?
?? ? ? ?
2??
= ?
1
? 2?
??? ?
?? ? ? ?
2??
?
???
=
1
??
1
2?
?/?
exp ?
∑ ?? ? ? ?
2??
15
??? ? ??, ? , ??; ?, ?
= ???
1
??
1
2?
?/?
exp ?
∑ ?? ? ? ??
?
2??
= ? ?log ? ?
?
2
log 2? ?
∑ ?? ? ? ??
?
2??
16
?
??
??? ? ??, ? , ??; ?, ?
=
?
??
? ?log ? ?
?
2
log 2? ?
∑ ?? ? ? ??
?
2??
= ?2
∑ ?? ? ??
?
2?? ?1 =
∑ ?? ? ??
?
??
∑ ?? ? ???
?
??
= 0 ? ?? ? ??
?
?
= 0 ?? = ? ??
?
?
/?
gnuplot> plot [-1:1] exp(-x**2)
17
?
??
??? ? ??, ? , ??; ?, ?
=
?
??
? ?log ? ?
?
2
log 2? ?
∑ ?? ? ? ??
?
2??
= ?
?
?
?
∑ ?? ? ? ??
?
2
?
??
??? = ?
?
?
?
∑ ?? ? ? ??
?
2
?2 ???
?
?
??
+ ? ?? ? ? ?
?
?
/??? = 0 ?? = ? ?? ? ?? ?
?
?
/?
?/?
gnuplot> set yrange [-10:100]
gnuplot> plot [0:0.3] -100*log(x)-50*log(2*3.14)-100*0.01/(2*x**2)
?? ??? ???
? ?? = ∑ ??
?
? /?
? ?? = ∑ ?? ? ?? ??
? / ? ? 1
?/?
18
?? = ? ??
?
?
/?
? = ? ?? ? ?? ?
?
?
/?
?/?
? = ? ?? ? ?? ?
?
?
/ ? ? 1
?/?
MLE ??? ???…
MLE ?? ???? ??
19
?? =
∑ ??
?
?
?
? = ?? = ? ?? ? ?? ?
?
?
/ ? ? 1
?/?
?? = ?? = ? ??
?
?
/?
??, ??, ? , ??
????
?????
? ???? ??
? ??? ?? ??? ???? ??? ??
? ?????? ??? ??confidence ?? ??
20
???? ???? ????? ?
? ???????? ???? ?
? -1 ~ 1 ???? ???? ?? ??: 68.3%
? -2 ~ 2 ???? ???? ?? ??: 95.4%
? -3 ~ 3 ???? ???? ?? ??: 99.7%
? 95%? ??? ??? ?? ? ?? ???: ?1.96
? 99%? ??? ??? ?? ? ?? ???: ?2.58
21
? ?1.96 ≤
? ? ?
?
≤ +1.96 = 0.95
?? ?? ? ??… ???? ??? ????? ????? ?? ?
?? ??? ?? ????? ??
? 95%? ??? ??? ??? ??
? ?1.96 ~1.96
? ?2.1 ~ 1.86
[??]
22
??1
? ?? ??? ?? ???? ?? ????
? ?? ??? 95%
? ???? ?? ?????? ??
? ??? 160??
? ????? 10??
23
?1.96 ≤
? ? 160
10
≤ 1.96, 140.4, 179.6
????? ??? ??? ??
??2
? ??? 100? ??? ?,
? ??? ??? ??? ? ?(??)??? ???, 95% ????
24
95%
??
??2
? ??? 100? ??? ?,
? ??? ?? ?? ? = 1/2
? 95% ??? ??? ??? ??? ??? ??? ??
? ?? ??? ??? ??? ??? ???? ??? ??
? ? ????? ?? ??? ??? ?~?(?, ?)
? ????? ???, ?? ??? ????? ??? ? ??
25
?1.96 ≤
? ? ?
?
≤ 1.96
26
?~?(??, ??(1 ? ?))
? = 1
2?
? = ?? = 100
2? = 50
? = ??(1 ? ?) = 100
2
? = 10
2? = 5
?1.96 ≤
? ? 50
5
≤ 1.96, 40.2, 59.8
? = 100
????? ??? ??? ??
??? ??
? ?? ??? 10? ???(? ?? ????)
? 95% ????,
? ?? ?? ?? ? ??? ??? ?? ????
? ?? ????? ?? ? ?? ????? ??
27
??? ??? ?? ?? ??
?? ??? 10? ?? ??? ????.
??? ??
? ?? ??? 10? ???(? ?? ????)
? ?? ?? ??? ??,
? ?? ?? ?? ? ??? ??? ?? ????
? ?? ????? ?? ? ?? ????? ??
28
??? ??
? ?? ??? 10? ???(? ?? ????)
? 95% ??? ??,
? ?? ?? ?? ? ??? ??? ?? ????
? ?? ????? ?? ? ?? ????? ??
29
30
? = ? ? = ?? = ? × 1
2?
?? = ??? ? = ?? 1 ? ? = ? × 1
2? × 1
2?
? =
10 ? ?
2?
?
2
?
P 13 ≤ ? ≤ 30 ≈ ?
P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95
?
95%? ???? ??
31
? = 2? + 1
? ? = ?
? ? = 2? + 1
? =
1
2
? ?
1
2
? ? = ?
? ? =
1
2
? ?
1
2
?? ?? ?? ?? ?? ??
P 13 ≤ ? ≤ 30 ≈ ?
P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95
?? ?? ?? ??; ????????? ???
??. ?? ??? ? ??.
?? ?? ?? ??
??? ?? ??.
32
??? 10? ??? ?,
?? ?? ?? 13~30???.
P 13 ≤ ? ≤ 30 ≈ ?
??? ?? ??? ???? ?? ??.
33
??? 10? ??? ?,
?? ?? ?? 13~30???? 95% ????.
P 13 ≤ ? ≤ 30 ≈ ?
??? ??? 95%??? ??? ????.
P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95
34
??? 10? ??? ?,
?? ?? ?? 13~30???? 95% ????.
P 13 ≤ ? ≤ 30 ≈ ?
95%? ?? ?? ?!
100?? ???, 999?? ???.
???? ??? ???? ??
????
?? 95% ????,
?? ?? 95% ????.
?? ??? ??? ?? ????? 95%?.
? ??? ?? ???? ????
??? ??? ???!
? ????.
?? ??? ?? ?????.
? ?? ??? ??. 95%? ???? ? ???? ??? ??? ??.
?? ????? ??. ???? ? ?? ???? ?? ???? ???? ???. ???.
35
??? 10? ??? ?,
???? 95%??,
?? ?? ?? 13~30??.
P 13 ≤ ? ≤ 30 ≈ ?
95%? ??,
??????? ??? ???? ?? ????? ??.
??? ??? N? ????? ????(??)??.
??? 10? ??? ?,
?? ?? ?? 13~30??.
???
? ???? ???? ???, ??? ??? ???? ?
? ??? ??? ?? ?? ?? ???? ??,
? ????? 5.0?? ?? ??? ??
? ?? ??? ??? 20?
? 95% ????,
? ?? ?? ? ?? ??? ?? ????
36
????
?? ? ???? ??? ??? ?? ??? ? ? ???? ??? ??
37
P ?1.96 ≤
? ? ?
5
≤ 1.96 ≈ 0.95
→ ? ?9.8 ≤ 20 ? ? ≤ 9.8 ≈ 0.95
→ ? ?29.8 ≤ ?? ≤ ?10.2 ≈ ?
→ ? 10.2 ≤ ? ≤ 29.8 ≈ ?
20?? ????? ?,
?? ??? 10.2??? 29.8 ??? ??? 95% ????.
?? ??? ??? ?? ????? 95%?.
????
? ???? 1?
? 1,000?? ???? ???? ??
? ? ? 55%?? A?? ??
? ???? ??, ???? ??? ??? ???? ???? ??
? ????? ??? ?? ????, ?[??] = ?
? ?? ?? ?? ???? ?? ???? ??? ??
38
?? = 0.55
? ? ???? ??? ??? ??.
39
? ?1.96 ≤
?? ? ?
? ?
≤ 1.96 ≈ 0.95
? ?1.96? ? ≤ ?? ? ? ≤ 1.96? ? ≈ 0.95
? ? ? 1.96? ? ≤ ?? ≤ ? + 1.96? ? ≈ 0.95
? ??? ????? ?? ?,
???? ?? ??? ??? ? ??? ??? ? ?? ??
95% ???
40
? ?1.96 ≤
?? ? ?
? ?
≤ 1.96 ≈ 0.95
???? ?? ???? ??? ?
? ??? ?? ?? ??? ? ?? ??
95% ????, 95% ??????
? ?1.96? ? ≤ ?? ? ? ≤ 1.96? ? ≈ 0.95
? ?? ? 1.96? ? ≤ ? ≤ ?? + 1.96? ? ≈ ?
??? ? ? ?? ? 1.96? ? ? 1.96? ? ???? 95% ??
95% ????
? ??? ? ? ?? ? 1.96? ? ? 1.96? ? ???? 95% ??
? ??? ? ? 95% ???? ??: ?? ? 1.96? ? ~ 1.96? ?
? ? ???
? ?? ??? ?? ??? ??? 0.95?? ????? ? ?
41
‘95% ????’??? ??? ? ?? ??
???? ??? ?? ?????
? ????? ?? ???? ??
? ?????? ?? ???? ??
? ?? ~ ? ? ?? , ??? ?? = ? ?,
?(???)
?
42
43
?? ?? ≡
?? (1 ? ??)
?
? ?? ? 1.96? ? ≤ ? ≤ ?? + 1.96? ? ≈ 0.95
? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ?
?? ??? ???? ?? ???
? ?1.96 ≤ ? ≤ +1.96 = 0.95
44
?? ?? =
0.55 (1 ? 0.55)
1000
= 0.0157
? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ?
?? = 0.55
0.55 ? 1.96 × 0.0157
= 0.55 ? 0.031
? 0.519 ≤ ? ≤ 0.581
? 95% ??????
? ? = 0.55
? ????? 3%
95% ????; 95% ????? ??
? ??? ????? ???? ??? ??? ??
? ??? ??? ???? ???
? ?? ?? ?? ?? ? ???? ???? ??; ??
45
(95%) ????
95% ??? ?? ??
??? ?? ?? ??
?? ? ?? ????
46
20? ?? 1? ??
95% ??
????
47
??????
??? ? ? ?? ?? ??? ?? ? ??
(95%? ??)
48
? ??? 4
? ????? 1
? ???? 100
? ?? 100?
(??) ??? ?, ????? ?? ??? ??, ?????, pp.329-330.
??
9, 10, 34, 67, 84?
??? 4? ????
?? ??.
100? ?? 95??
????.
95
100? = 0.95
99% ????
? 0.99
? 2.58
49
0.99
? ? 2.58?
0.55 ? 2.58 × 0.0157
= 0.55 ? 0.041
? 0.509 ≤ ? ≤ 0.591
? 99% ??????
? ? = 0.55
? ????? 4%
99% ????, ????? 0.01
? 95%? ? ? = 1.96
?? (????)
?
? 99%? ? ? = 2.58
?? (????)
?
? ?? = 0.50 ?? ????,
50
? =
1.96 ?
?? (1 ? ??)
??
? =
2.58 ??? (1 ? ??)
??
? =
2.58 ?
0.5 (1 ? 0.5)
0.01?
=
(6.65)(0.25)
0.0001
= 16,641
? 99% ??????
? ? = 0.50
? ????? 1%
??
1?6?? ???? ???.
??? ?????
? ???? ??
? ???? ?? ??? ??
? ?? ~ ? ? ?? , ??? ?? = ? ?,
??
?
51
52
? ?1.96 ≤ ? ≤ +1.96 = 0.95
? ?1.96 ≤
?? ? ?
?
??
≤ 1.96 ≈ 0.95
? ?1.96 ≤
?? ? ?
?
??
≤ 1.96 ≈ 0.95
? = ? ?? ? ?? ?
?
?
/ ? ? 1
?/?
?? = ? ??
?
?
/?
53
? ?1.96 ≤
?? ? ?
?
??
≤ 1.96 ≈ 0.95
? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ?
?? ?? = ?
??
??? ?? ?? ? 1.96?? ?? ??? ????? 95% ??
?? ???? ??? ?? ???
? ?? ?? ???? ??? ?? 92?
? ???? ?? = 145.2 ???, ???? ???
? ???? ? = 23.7 ???
? ???? ?? ?
? ? ?? ?? ???? ?? ???? ?? ?? ?? ???
95% ??? ? ??
54
?? ?? = ?
?? = 23.7
92
? = 2.47
?? ? 1.96?? ?? = 145.2 ? 1.96 2.47 = 145.2 ? 4.8
?? ??? ??? ?????
? Student ? ? ?? ??
? ??? ? ? ???? ??? ???
? ??? ?? ??? 1 ? ? ? 100% ???? ??
? ????? ????? ????? ???? ??
55
?? ?? = ?
??? = ?? ? ??
?? ?? ?? ,
??
?? ? ???? ? ? 1? ? ? ??? ???
56
degree of
freedom
?
2?
??
??
??? ????
? ??? ?? 10?? ?? ??, 5?
? ???? ????? 150, 400, 720, 500, 930??
? ?? ????? ???, 95% ????
? ?? ????? ????? ?????? ??
57
?? ?? = 229
5
?
?? = 540
?? ????, ???????? ?????.
??? ????
? ??? ?? 10?? ?? ??, 5?
? ???? ????? 150, 400, 720, 500, 930??
? ?? ????? ???, 95% ????
? ?? ????? ????? ?????? ??
58
?? ?? = 229
5
?
? = ?? ? ??
?? ?? ?? = 540 ? 2.78 229
5
? = 540 ? 372
?? = 540 ??
?? = ??.??
?? = ??.??? = 2.78
?? ???.
??? ????
? ??? ?? 10?? ?? ??, 5?
? ???? ????? 150, 400, 720, 500, 930??
? ?? ????? ???, 95% ????
? ?? ????? ????? ?????? ??
59
?? ?? = 229
5
?
? = ?? ? ??
?? ?? ?? = 540 ? 2.78 229
5
? = 540 ? 372
?? = 540 ??
?? = ??.??
?? = ??.??? = 2.78 ??? 4? ???
?? ???.
????…
? ???? ??? ??
? 1 ? ? ? 100% ?????
60
? = ?? ? ??
?? ?? ??
?? ?? =
?? 1 ? ??
??
? ? ???? ??? ???; ??
? = ?? ? ??
?? ?? ??
?? ?? = ?
??
? ? ?? ??? ???; ??
? = ?? ? ??
?? ?? ?? ,
?? ?? = ?
??
? ? ?? ??? ???; ??
??? ??? ?, ??? ?? ??? ??? ??, ??? ??
????
? Sheldon M. Ross, Introduction to Probability and Statistics for
Engineers and Scientists, 5th Edition, Academic Press
? ??? ?, ???? ??? ??, ???????
? chap. 7
61

More Related Content

What's hot (7)

Le creole reunionnaisLe creole reunionnais
Le creole reunionnais
Coralielfle
?
CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要
Joe Suzuki
?
IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?
IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?
Claude LaCombe
?
摆授业闭洞察问题解决プロセスの分析(眼编)
摆授业闭洞察问题解决プロセスの分析(眼编)摆授业闭洞察问题解决プロセスの分析(眼编)
摆授业闭洞察问题解决プロセスの分析(眼编)
Reiji Ohkuma
?
Winfinith Plan PDF.pdf
Winfinith Plan PDF.pdfWinfinith Plan PDF.pdf
Winfinith Plan PDF.pdf
Happiness World
?
行銷企劃實戰力 Marketing Planning
行銷企劃實戰力 Marketing Planning行銷企劃實戰力 Marketing Planning
行銷企劃實戰力 Marketing Planning
Norika
?
滨罢滨行销报告-小美冰淇淋
滨罢滨行销报告-小美冰淇淋滨罢滨行销报告-小美冰淇淋
滨罢滨行销报告-小美冰淇淋
Angela Chen
?
Le creole reunionnaisLe creole reunionnais
Le creole reunionnais
Coralielfle
?
CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要
Joe Suzuki
?
IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?
IM?GENES SUBLIMINALES OCULTAS EN LAS PUBLICACIONES DE LOS TESTIGOS DE JEHOV?
Claude LaCombe
?
摆授业闭洞察问题解决プロセスの分析(眼编)
摆授业闭洞察问题解决プロセスの分析(眼编)摆授业闭洞察问题解决プロセスの分析(眼编)
摆授业闭洞察问题解决プロセスの分析(眼编)
Reiji Ohkuma
?
行銷企劃實戰力 Marketing Planning
行銷企劃實戰力 Marketing Planning行銷企劃實戰力 Marketing Planning
行銷企劃實戰力 Marketing Planning
Norika
?
滨罢滨行销报告-小美冰淇淋
滨罢滨行销报告-小美冰淇淋滨罢滨行销报告-小美冰淇淋
滨罢滨行销报告-小美冰淇淋
Angela Chen
?

Similar to [????]04???? (20)

0307 1 estimation_theory
0307 1 estimation_theory0307 1 estimation_theory
0307 1 estimation_theory
Jeonghun Yoon
?
?? ?? ??1
?? ?? ??1?? ?? ??1
?? ?? ??1
Seong-Bok Lee
?
2012-12-25 ??????2????????-??????
2012-12-25 ??????2????????-??????2012-12-25 ??????2????????-??????
2012-12-25 ??????2????????-??????
Seok-kyu Kong ???
?
????? ????
????? ????????? ????
????? ????
Yoonwhan Lee
?
??????
????????????
??????
kidoki
?
Variational inference intro. (korean ver.)
Variational inference intro. (korean ver.)Variational inference intro. (korean ver.)
Variational inference intro. (korean ver.)
Kiho Hong
?
Maximum likelihood estimation
Maximum likelihood estimationMaximum likelihood estimation
Maximum likelihood estimation
chs71
?
0307 2 hypothesis_testing
0307 2 hypothesis_testing0307 2 hypothesis_testing
0307 2 hypothesis_testing
Jeonghun Yoon
?
Decision tree
Decision treeDecision tree
Decision tree
Jeonghun Yoon
?
0228 2 sample_distribution
0228 2 sample_distribution0228 2 sample_distribution
0228 2 sample_distribution
Jeonghun Yoon
?
? ?? ?? ?? ???? ??? ???? ?? ??
? ?? ?? ?? ???? ??? ???? ?? ??? ?? ?? ?? ???? ??? ???? ?? ??
? ?? ?? ?? ???? ??? ???? ?? ??
iremain
?

More from jaypi Ko (20)

CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic ModelCVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
jaypi Ko
?
?? ??? ?? Variational Autoencoder (VAE)
?? ??? ?? Variational Autoencoder (VAE)?? ??? ?? Variational Autoencoder (VAE)
?? ??? ?? Variational Autoencoder (VAE)
jaypi Ko
?
[?????]???????????
[?????]???????????[?????]???????????
[?????]???????????
jaypi Ko
?
?????
??????????
?????
jaypi Ko
?
???? ??? ???? ?
???? ??? ???? ????? ??? ???? ?
???? ??? ???? ?
jaypi Ko
?
C?? ????
C?? ????C?? ????
C?? ????
jaypi Ko
?
C?? ???? ?? ??? ?
C?? ???? ?? ??? ?C?? ???? ?? ??? ?
C?? ???? ?? ??? ?
jaypi Ko
?
MFC ???? ????
MFC ???? ????MFC ???? ????
MFC ???? ????
jaypi Ko
?
01 ??????? ????
01 ??????? ????01 ??????? ????
01 ??????? ????
jaypi Ko
?
13 ??? ??? ??
13 ??? ??? ??13 ??? ??? ??
13 ??? ??? ??
jaypi Ko
?
12 ?????? ??? ??
12 ?????? ??? ??12 ?????? ??? ??
12 ?????? ??? ??
jaypi Ko
?
11 ????????
11 ????????11 ????????
11 ????????
jaypi Ko
?
10 ??????
10 ??????10 ??????
10 ??????
jaypi Ko
?
09 ??????
09 ??????09 ??????
09 ??????
jaypi Ko
?
08 ????? ?????
08 ????? ?????08 ????? ?????
08 ????? ?????
jaypi Ko
?
07 ??? ??
07 ??? ??07 ??? ??
07 ??? ??
jaypi Ko
?
06 ??? ??? ????
06 ??? ??? ????06 ??? ??? ????
06 ??? ??? ????
jaypi Ko
?
05 ??? ???? ??
05 ??? ???? ??05 ??? ???? ??
05 ??? ???? ??
jaypi Ko
?
04 ?????
04 ?????04 ?????
04 ?????
jaypi Ko
?
03 ???????
03 ???????03 ???????
03 ???????
jaypi Ko
?
CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic ModelCVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
CVPR 2022 Tutorial? ?? ?? ??? Diffusion Probabilistic Model
jaypi Ko
?
?? ??? ?? Variational Autoencoder (VAE)
?? ??? ?? Variational Autoencoder (VAE)?? ??? ?? Variational Autoencoder (VAE)
?? ??? ?? Variational Autoencoder (VAE)
jaypi Ko
?
[?????]???????????
[?????]???????????[?????]???????????
[?????]???????????
jaypi Ko
?
???? ??? ???? ?
???? ??? ???? ????? ??? ???? ?
???? ??? ???? ?
jaypi Ko
?
C?? ???? ?? ??? ?
C?? ???? ?? ??? ?C?? ???? ?? ??? ?
C?? ???? ?? ??? ?
jaypi Ko
?
MFC ???? ????
MFC ???? ????MFC ???? ????
MFC ???? ????
jaypi Ko
?
01 ??????? ????
01 ??????? ????01 ??????? ????
01 ??????? ????
jaypi Ko
?
13 ??? ??? ??
13 ??? ??? ??13 ??? ??? ??
13 ??? ??? ??
jaypi Ko
?
12 ?????? ??? ??
12 ?????? ??? ??12 ?????? ??? ??
12 ?????? ??? ??
jaypi Ko
?
08 ????? ?????
08 ????? ?????08 ????? ?????
08 ????? ?????
jaypi Ko
?
06 ??? ??? ????
06 ??? ??? ????06 ??? ??? ????
06 ??? ??? ????
jaypi Ko
?
05 ??? ???? ??
05 ??? ???? ??05 ??? ???? ??
05 ??? ???? ??
jaypi Ko
?

[????]04????

  • 2. 2 ??1 ??, ??, ? , ?? ??? ?? ???? ? ???? ?? ??? ? ?? ?
  • 3. ??? ??;inference ? ??? ???; ?? ???? ??? ???? ? ? ??? ???? ???? ???? ? ? ??? ???? ? ??? ?? = ?? ?? = ?? ?? 3
  • 4. ??; parameter ? ???? ??? ??? ? 4
  • 5. ????; maximum likelihood ? ??? ??? ? ??? ???? ?? ??????(??)?? ? ??; likelihood : ? ? ?? ?? ? ? ?? ? ??? ??? 5 ??, ?, ?? ? ??, ? , ?? ? ??, ? , ?? = ??? ?? ??? ?? ? ??? ?? = ? ?? = ?? ? ?? = ?? ? ? ?? = ?? ??? ?? ??, ??? ??? ?? ? ??, ? , ??; ? ????
  • 6. ???? ??? ?? ? ??, ?, ??? ??? ?? ?, ? ???? ? ??, ? , ??; ? ? ????? ? ? ? ???? ?? ?, ? ????? ??? ?? ????? ?? ? ?? ???? ?? ? maximum log likelihood estimator 6 Ronald Aylmer Fisher (1890~1962)
  • 7. ???? ??? ??? ?? ? ?? ????? ?? ????? ?? ?? 7 ?? = ? 1 0 ??? ??? ??? ?? ? ?? ?? ? ?? = 1 = ?, ? ?? = 0 = 1 ? ? ? ?? = ? = ?? 1 ? ? ???, ? ∈ 0,1 ??? ? ??? ? ??? ??? ? ?? ?? ??
  • 8. 8 ? ??, ? , ??; ? = ? ?? = ??, ? , ?? = ??; ? = ??? 1 ? ? ???? ? ??? 1 ? ? ???? = ?∑ ?? 1 ? ? ∑ ???? ??? ? ??, ? , ??|? = log ?∑ ?? 1 ? ? ∑ ???? = log ?∑ ?? + log 1 ? ? ∑ ???? = ? ?? ? ? log ? + ? 1 ? ?? ? ? log 1 ? ? 5 log? + 5 log 1 ? ?
  • 9. 9 ??? ?? ?? ? = ? ? = 1 = 1 ??? ?? ?? ? = ? ? = 1 = 0 ??? ???? ??? ?? ?? 01
  • 10. 10 ??? ??? ?? ?? ?? ? = ? ? = 1 = 0.5 0.5
  • 11. 11 ?? 70%? ?? 30%?? ?? 0.7 ? = ? ? = 1 = 0.7
  • 12. 12 ? ?? ??? ? ??, ? , ??; ? = ? ?? ? ?? ? ? log ? + ? 1 ? ?? ? ? log 1 ? ? = ? ?? ? ? 1 ? + ? 1 ? ?? ? ? ?1 1 ? ? ?? ??? ?????, ???? 0?? ??? ???
  • 13. 13 ? ?? ? ? 1 ?? ? ? 1 ? ?? ? ? 1 1 ? ?? = 0 ∑ ?? ? ? ?? = ∑ 1 ? ?? ? ? 1 ? ?? = ? ? ∑ ?? ? ? 1 ? ?? ? ?? ? ? ? ? ?? ? ? ?? = ??? ? ? ???? ? ? ?? = ∑ ?? ? ? ? ∑ ?? ? ? ? ??? ??? ??? ??? ?, 0??.
  • 14. ?? ??? ??? 14 ? ??, ? , ??; ?, ? = 1 ? 2? ??? ? ?? ? ? ? 2?? × ? × 1 ? 2? ??? ? ?? ? ? ? 2?? = ? 1 ? 2? ??? ? ?? ? ? ? 2?? ? ??? = 1 ?? 1 2? ?/? exp ? ∑ ?? ? ? ? 2??
  • 15. 15 ??? ? ??, ? , ??; ?, ? = ??? 1 ?? 1 2? ?/? exp ? ∑ ?? ? ? ?? ? 2?? = ? ?log ? ? ? 2 log 2? ? ∑ ?? ? ? ?? ? 2??
  • 16. 16 ? ?? ??? ? ??, ? , ??; ?, ? = ? ?? ? ?log ? ? ? 2 log 2? ? ∑ ?? ? ? ?? ? 2?? = ?2 ∑ ?? ? ?? ? 2?? ?1 = ∑ ?? ? ?? ? ?? ∑ ?? ? ??? ? ?? = 0 ? ?? ? ?? ? ? = 0 ?? = ? ?? ? ? /? gnuplot> plot [-1:1] exp(-x**2)
  • 17. 17 ? ?? ??? ? ??, ? , ??; ?, ? = ? ?? ? ?log ? ? ? 2 log 2? ? ∑ ?? ? ? ?? ? 2?? = ? ? ? ? ∑ ?? ? ? ?? ? 2 ? ?? ??? = ? ? ? ? ∑ ?? ? ? ?? ? 2 ?2 ??? ? ? ?? + ? ?? ? ? ? ? ? /??? = 0 ?? = ? ?? ? ?? ? ? ? /? ?/? gnuplot> set yrange [-10:100] gnuplot> plot [0:0.3] -100*log(x)-50*log(2*3.14)-100*0.01/(2*x**2)
  • 18. ?? ??? ??? ? ?? = ∑ ?? ? ? /? ? ?? = ∑ ?? ? ?? ?? ? / ? ? 1 ?/? 18 ?? = ? ?? ? ? /? ? = ? ?? ? ?? ? ? ? /? ?/? ? = ? ?? ? ?? ? ? ? / ? ? 1 ?/? MLE ??? ???…
  • 19. MLE ?? ???? ?? 19 ?? = ∑ ?? ? ? ? ? = ?? = ? ?? ? ?? ? ? ? / ? ? 1 ?/? ?? = ?? = ? ?? ? ? /? ??, ??, ? , ?? ????
  • 20. ????? ? ???? ?? ? ??? ?? ??? ???? ??? ?? ? ?????? ??? ??confidence ?? ?? 20
  • 21. ???? ???? ????? ? ? ???????? ???? ? ? -1 ~ 1 ???? ???? ?? ??: 68.3% ? -2 ~ 2 ???? ???? ?? ??: 95.4% ? -3 ~ 3 ???? ???? ?? ??: 99.7% ? 95%? ??? ??? ?? ? ?? ???: ?1.96 ? 99%? ??? ??? ?? ? ?? ???: ?2.58 21 ? ?1.96 ≤ ? ? ? ? ≤ +1.96 = 0.95 ?? ?? ? ??… ???? ??? ????? ????? ?? ?
  • 22. ?? ??? ?? ????? ?? ? 95%? ??? ??? ??? ?? ? ?1.96 ~1.96 ? ?2.1 ~ 1.86 [??] 22
  • 23. ??1 ? ?? ??? ?? ???? ?? ???? ? ?? ??? 95% ? ???? ?? ?????? ?? ? ??? 160?? ? ????? 10?? 23 ?1.96 ≤ ? ? 160 10 ≤ 1.96, 140.4, 179.6 ????? ??? ??? ??
  • 24. ??2 ? ??? 100? ??? ?, ? ??? ??? ??? ? ?(??)??? ???, 95% ???? 24 95% ??
  • 25. ??2 ? ??? 100? ??? ?, ? ??? ?? ?? ? = 1/2 ? 95% ??? ??? ??? ??? ??? ??? ?? ? ?? ??? ??? ??? ??? ???? ??? ?? ? ? ????? ?? ??? ??? ?~?(?, ?) ? ????? ???, ?? ??? ????? ??? ? ?? 25 ?1.96 ≤ ? ? ? ? ≤ 1.96
  • 26. 26 ?~?(??, ??(1 ? ?)) ? = 1 2? ? = ?? = 100 2? = 50 ? = ??(1 ? ?) = 100 2 ? = 10 2? = 5 ?1.96 ≤ ? ? 50 5 ≤ 1.96, 40.2, 59.8 ? = 100 ????? ??? ??? ??
  • 27. ??? ?? ? ?? ??? 10? ???(? ?? ????) ? 95% ????, ? ?? ?? ?? ? ??? ??? ?? ???? ? ?? ????? ?? ? ?? ????? ?? 27 ??? ??? ?? ?? ?? ?? ??? 10? ?? ??? ????.
  • 28. ??? ?? ? ?? ??? 10? ???(? ?? ????) ? ?? ?? ??? ??, ? ?? ?? ?? ? ??? ??? ?? ???? ? ?? ????? ?? ? ?? ????? ?? 28
  • 29. ??? ?? ? ?? ??? 10? ???(? ?? ????) ? 95% ??? ??, ? ?? ?? ?? ? ??? ??? ?? ???? ? ?? ????? ?? ? ?? ????? ?? 29
  • 30. 30 ? = ? ? = ?? = ? × 1 2? ?? = ??? ? = ?? 1 ? ? = ? × 1 2? × 1 2? ? = 10 ? ? 2? ? 2 ? P 13 ≤ ? ≤ 30 ≈ ? P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95 ? 95%? ???? ??
  • 31. 31 ? = 2? + 1 ? ? = ? ? ? = 2? + 1 ? = 1 2 ? ? 1 2 ? ? = ? ? ? = 1 2 ? ? 1 2 ?? ?? ?? ?? ?? ?? P 13 ≤ ? ≤ 30 ≈ ? P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95 ?? ?? ?? ??; ????????? ??? ??. ?? ??? ? ??. ?? ?? ?? ?? ??? ?? ??.
  • 32. 32 ??? 10? ??? ?, ?? ?? ?? 13~30???. P 13 ≤ ? ≤ 30 ≈ ? ??? ?? ??? ???? ?? ??.
  • 33. 33 ??? 10? ??? ?, ?? ?? ?? 13~30???? 95% ????. P 13 ≤ ? ≤ 30 ≈ ? ??? ??? 95%??? ??? ????. P ?1.96 ≤ ? ≤ +1.96 ≈ 0.95
  • 34. 34 ??? 10? ??? ?, ?? ?? ?? 13~30???? 95% ????. P 13 ≤ ? ≤ 30 ≈ ? 95%? ?? ?? ?! 100?? ???, 999?? ???. ???? ??? ???? ?? ???? ?? 95% ????, ?? ?? 95% ????. ?? ??? ??? ?? ????? 95%?. ? ??? ?? ???? ???? ??? ??? ???! ? ????. ?? ??? ?? ?????. ? ?? ??? ??. 95%? ???? ? ???? ??? ??? ??. ?? ????? ??. ???? ? ?? ???? ?? ???? ???? ???. ???.
  • 35. 35 ??? 10? ??? ?, ???? 95%??, ?? ?? ?? 13~30??. P 13 ≤ ? ≤ 30 ≈ ? 95%? ??, ??????? ??? ???? ?? ????? ??. ??? ??? N? ????? ????(??)??. ??? 10? ??? ?, ?? ?? ?? 13~30??.
  • 36. ??? ? ???? ???? ???, ??? ??? ???? ? ? ??? ??? ?? ?? ?? ???? ??, ? ????? 5.0?? ?? ??? ?? ? ?? ??? ??? 20? ? 95% ????, ? ?? ?? ? ?? ??? ?? ???? 36 ???? ?? ? ???? ??? ??? ?? ??? ? ? ???? ??? ??
  • 37. 37 P ?1.96 ≤ ? ? ? 5 ≤ 1.96 ≈ 0.95 → ? ?9.8 ≤ 20 ? ? ≤ 9.8 ≈ 0.95 → ? ?29.8 ≤ ?? ≤ ?10.2 ≈ ? → ? 10.2 ≤ ? ≤ 29.8 ≈ ? 20?? ????? ?, ?? ??? 10.2??? 29.8 ??? ??? 95% ????. ?? ??? ??? ?? ????? 95%?.
  • 38. ???? ? ???? 1? ? 1,000?? ???? ???? ?? ? ? ? 55%?? A?? ?? ? ???? ??, ???? ??? ??? ???? ???? ?? ? ????? ??? ?? ????, ?[??] = ? ? ?? ?? ?? ???? ?? ???? ??? ?? 38 ?? = 0.55 ? ? ???? ??? ??? ??.
  • 39. 39 ? ?1.96 ≤ ?? ? ? ? ? ≤ 1.96 ≈ 0.95 ? ?1.96? ? ≤ ?? ? ? ≤ 1.96? ? ≈ 0.95 ? ? ? 1.96? ? ≤ ?? ≤ ? + 1.96? ? ≈ 0.95 ? ??? ????? ?? ?, ???? ?? ??? ??? ? ??? ??? ? ?? ?? 95% ???
  • 40. 40 ? ?1.96 ≤ ?? ? ? ? ? ≤ 1.96 ≈ 0.95 ???? ?? ???? ??? ? ? ??? ?? ?? ??? ? ?? ?? 95% ????, 95% ?????? ? ?1.96? ? ≤ ?? ? ? ≤ 1.96? ? ≈ 0.95 ? ?? ? 1.96? ? ≤ ? ≤ ?? + 1.96? ? ≈ ? ??? ? ? ?? ? 1.96? ? ? 1.96? ? ???? 95% ??
  • 41. 95% ???? ? ??? ? ? ?? ? 1.96? ? ? 1.96? ? ???? 95% ?? ? ??? ? ? 95% ???? ??: ?? ? 1.96? ? ~ 1.96? ? ? ? ??? ? ?? ??? ?? ??? ??? 0.95?? ????? ? ? 41 ‘95% ????’??? ??? ? ?? ??
  • 42. ???? ??? ?? ????? ? ????? ?? ???? ?? ? ?????? ?? ???? ?? ? ?? ~ ? ? ?? , ??? ?? = ? ?, ?(???) ? 42
  • 43. 43 ?? ?? ≡ ?? (1 ? ??) ? ? ?? ? 1.96? ? ≤ ? ≤ ?? + 1.96? ? ≈ 0.95 ? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ? ?? ??? ???? ?? ??? ? ?1.96 ≤ ? ≤ +1.96 = 0.95
  • 44. 44 ?? ?? = 0.55 (1 ? 0.55) 1000 = 0.0157 ? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ? ?? = 0.55 0.55 ? 1.96 × 0.0157 = 0.55 ? 0.031 ? 0.519 ≤ ? ≤ 0.581 ? 95% ?????? ? ? = 0.55 ? ????? 3%
  • 45. 95% ????; 95% ????? ?? ? ??? ????? ???? ??? ??? ?? ? ??? ??? ???? ??? ? ?? ?? ?? ?? ? ???? ???? ??; ?? 45 (95%) ???? 95% ??? ?? ?? ??? ?? ?? ?? ?? ? ?? ????
  • 46. 46 20? ?? 1? ?? 95% ?? ????
  • 47. 47 ?????? ??? ? ? ?? ?? ??? ?? ? ?? (95%? ??)
  • 48. 48 ? ??? 4 ? ????? 1 ? ???? 100 ? ?? 100? (??) ??? ?, ????? ?? ??? ??, ?????, pp.329-330. ?? 9, 10, 34, 67, 84? ??? 4? ???? ?? ??. 100? ?? 95?? ????. 95 100? = 0.95
  • 49. 99% ???? ? 0.99 ? 2.58 49 0.99 ? ? 2.58? 0.55 ? 2.58 × 0.0157 = 0.55 ? 0.041 ? 0.509 ≤ ? ≤ 0.591 ? 99% ?????? ? ? = 0.55 ? ????? 4%
  • 50. 99% ????, ????? 0.01 ? 95%? ? ? = 1.96 ?? (????) ? ? 99%? ? ? = 2.58 ?? (????) ? ? ?? = 0.50 ?? ????, 50 ? = 1.96 ? ?? (1 ? ??) ?? ? = 2.58 ??? (1 ? ??) ?? ? = 2.58 ? 0.5 (1 ? 0.5) 0.01? = (6.65)(0.25) 0.0001 = 16,641 ? 99% ?????? ? ? = 0.50 ? ????? 1% ?? 1?6?? ???? ???.
  • 51. ??? ????? ? ???? ?? ? ???? ?? ??? ?? ? ?? ~ ? ? ?? , ??? ?? = ? ?, ?? ? 51
  • 52. 52 ? ?1.96 ≤ ? ≤ +1.96 = 0.95 ? ?1.96 ≤ ?? ? ? ? ?? ≤ 1.96 ≈ 0.95 ? ?1.96 ≤ ?? ? ? ? ?? ≤ 1.96 ≈ 0.95 ? = ? ?? ? ?? ? ? ? / ? ? 1 ?/? ?? = ? ?? ? ? /?
  • 53. 53 ? ?1.96 ≤ ?? ? ? ? ?? ≤ 1.96 ≈ 0.95 ? ?? ? 1.96?? ?? ≤ ? ≤ ?? + 1.96?? ?? ≈ ? ?? ?? = ? ?? ??? ?? ?? ? 1.96?? ?? ??? ????? 95% ??
  • 54. ?? ???? ??? ?? ??? ? ?? ?? ???? ??? ?? 92? ? ???? ?? = 145.2 ???, ???? ??? ? ???? ? = 23.7 ??? ? ???? ?? ? ? ? ?? ?? ???? ?? ???? ?? ?? ?? ??? 95% ??? ? ?? 54 ?? ?? = ? ?? = 23.7 92 ? = 2.47 ?? ? 1.96?? ?? = 145.2 ? 1.96 2.47 = 145.2 ? 4.8
  • 55. ?? ??? ??? ????? ? Student ? ? ?? ?? ? ??? ? ? ???? ??? ??? ? ??? ?? ??? 1 ? ? ? 100% ???? ?? ? ????? ????? ????? ???? ?? 55 ?? ?? = ? ??? = ?? ? ?? ?? ?? ?? , ?? ?? ? ???? ? ? 1? ? ? ??? ???
  • 57. ??? ???? ? ??? ?? 10?? ?? ??, 5? ? ???? ????? 150, 400, 720, 500, 930?? ? ?? ????? ???, 95% ???? ? ?? ????? ????? ?????? ?? 57 ?? ?? = 229 5 ? ?? = 540 ?? ????, ???????? ?????.
  • 58. ??? ???? ? ??? ?? 10?? ?? ??, 5? ? ???? ????? 150, 400, 720, 500, 930?? ? ?? ????? ???, 95% ???? ? ?? ????? ????? ?????? ?? 58 ?? ?? = 229 5 ? ? = ?? ? ?? ?? ?? ?? = 540 ? 2.78 229 5 ? = 540 ? 372 ?? = 540 ?? ?? = ??.?? ?? = ??.??? = 2.78 ?? ???.
  • 59. ??? ???? ? ??? ?? 10?? ?? ??, 5? ? ???? ????? 150, 400, 720, 500, 930?? ? ?? ????? ???, 95% ???? ? ?? ????? ????? ?????? ?? 59 ?? ?? = 229 5 ? ? = ?? ? ?? ?? ?? ?? = 540 ? 2.78 229 5 ? = 540 ? 372 ?? = 540 ?? ?? = ??.?? ?? = ??.??? = 2.78 ??? 4? ??? ?? ???.
  • 60. ????… ? ???? ??? ?? ? 1 ? ? ? 100% ????? 60 ? = ?? ? ?? ?? ?? ?? ?? ?? = ?? 1 ? ?? ?? ? ? ???? ??? ???; ?? ? = ?? ? ?? ?? ?? ?? ?? ?? = ? ?? ? ? ?? ??? ???; ?? ? = ?? ? ?? ?? ?? ?? , ?? ?? = ? ?? ? ? ?? ??? ???; ?? ??? ??? ?, ??? ?? ??? ??? ??, ??? ??
  • 61. ???? ? Sheldon M. Ross, Introduction to Probability and Statistics for Engineers and Scientists, 5th Edition, Academic Press ? ??? ?, ???? ??? ??, ??????? ? chap. 7 61