狠狠撸

狠狠撸Share a Scribd company logo
PRML 復習レーン 2.3.1 – 2.3.3 2010 年 5 月 30 日 石川 康太 (twitter: @_kohta)
ひたすら顽张って计算しましょう
2.3.1 条件付きガウス分布
その前に 線形代数の復習
線形代数の復習 2.3.1~2.3.3で使う線形代数の公式
線形代数の復習 2.3.1~2.3.3で使う線形代数の公式 両辺の転置をとる よって 両辺に A の逆行列を掛ける
線形代数の復習 2.3.1~2.3.3で使う線形代数の公式
線形代数の復習 2.3.1~2.3.3で使う線形代数の公式 テキスト p.85  演習 2.24 右辺に        を掛ける M -1 M  : シューア補行列
今度こそ 2.3.1 条件付きガウス分布
多変量ガウス分布 多変量ガウス分布に従う確率変数 確率変数ベクトル  の一部が得られたとき わからない わかった(得られた) 条件付分布        はどう書けるか? 多変量ガウス分布に従う確率変数 確率変数ベクトル  の一部が得られたとき
条件付き分布 条件付き分布の定義    の関数として         に比例する がガウス分布なら        もガウス分布 を   について整理し、   の 2 次項と 1 次項を求めればよい
計算方法 ガウス分布を求める       = 平均ベクトルと分散共分散行列を求める と   がわかる 規格化する
計算方法 expの肩を求めればよい によらない項 exp の肩が以下のように書けた 分散共分散行列は対称 この形に書き下せばよい
計算方法 条件付分布の場合 と置いて 精度行列 を   について整理すればよい 平方完成
計算方法 注意点 よって 同様に
計算方法 2次項 1次項 精度行列ではなく、分散共分散行列を使って书くと?
計算方法 さっきの公式
計算方法     、    の式に代入
2.3.2 周辺ガウス分布
周辺分布 条件付き分布がわかったので、周辺分布も知りたい について積分したい についてガウス分布の標準形にすれば(平方完成) 積分できる   
計算方法   について平方完成する(expの肩) 今度はこれを   について整理する (さっきは   について整理した)
計算方法   による項
計算方法   について積分すると に依存する項 に依存しない項(規格化定数に押し込める) 定数になる
計算方法 定数以外の残った項 =   に依存する項 を代入して頑張って整理すると
計算方法 まとめると について平方完成 について积分して整理
計算方法 まとめると よって周辺分布の分散共分散行列は 平均は について积分して整理
計算方法 元の分散共分散行列を使って書くと 結局 周辺分布の平均 周辺分布の 分散共分散行列 分割したパラメータ そのもの!
条件付き分布と周辺分布 条件付き分布 周辺分布
ていうか
周辺分布って じゃね? わざわざ積分とかする必要なくね?
こっそり a と b を逆に書き換えれば…
よって これを頑張って計算すればさっきと同じ結果が得られます 計算は省略!
2.3.3 ガウス変数に対するベイズの定理
条件付きモデル これまでは同時分布が与えられてから条件付き分布、周辺分布を計算していた 今度は条件付き分布と周辺分布を先に与えるモデルを考える
条件付きモデル モデル 求めたい分布 とおいて を求めたい p(z) もガウス分布なのでこれまでと同じように 平均ベクトルと分散共分散行列を求めればよい 事前分布 (周辺分布) 条件付き分布
計算方法      のexpの肩 これを無理やり (?)z の関数として書き直す
計算方法 2 次項 x または y についての 2 次項 =  z についての 2 次項
計算方法 2次項      の精度行列は 分散共分散行列は 逆行列の公式
計算方法 1次項     の平均は
周辺分布 周辺分布の平均と分散 周辺分布の平均ベクトルと分散共分散行列は同時分布の平均、分散共分散を単純に分割したものに等しかったことを思い出すと さっきの一般的公式
条件付き分布 同様に条件付き分布については さっきの一般的公式 さっきの一般的公式
まとめ やったこと 多変量ガウス分布の同時分布が与えられたときに、条件付き分布を計算した 多変量ガウス分布の条件付き分布と周辺分布(事前分布)が与えられたときに同时分布、ベイズ事后分布を计算した

More Related Content

What's hot (20)

PDF
PRML_titech 2.3.1 - 2.3.7
Takafumi Sakakibara
?
PDF
PRML上巻勉強会 at 東京大学 資料 第2章2.3.3 ? 2.3.6
Hiroyuki Kato
?
PPTX
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
Nagayoshi Yamashita
?
PPTX
笔搁惭尝第6章「カーネル法」
Keisuke Sugawara
?
PDF
PRML復々習レーン#2 2.3.6 - 2.3.7
sleepy_yoshi
?
PPTX
PRML2.4 指数型分布族
hiroki yamaoka
?
PDF
レプリカ交换モンテカルロ法で乱数の生成
Nagi Teramo
?
PDF
PRML勉強会第3回 2章前半 2013/11/28
kurotaki_weblab
?
PDF
PRML上巻勉強会 at 東京大学 資料 第1章前半
Ohsawa Goodfellow
?
PDF
笔搁惭尝読书会#4资料+补足
Hiromasa Ohashi
?
PPTX
PRML 2.3 ガウス分布
KokiTakamiya
?
PDF
Chapter2.3.6
Takuya Minagawa
?
PDF
PRML上巻勉強会 at 東京大学 資料 第1章後半
Ohsawa Goodfellow
?
PDF
笔搁惭尝轮読#4
matsuolab
?
PDF
Prml4.4 ラプラス近似~ベイズロジスティック回帰
Yuki Matsubara
?
PDF
PRML 2.3節 - ガウス分布
Yuki Soma
?
PPT
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
Yoshinori Kabeya
?
PDF
笔搁惭尝轮読#1
matsuolab
?
PPTX
Prml 1.3~1.6 ver3
Toshihiko Iio
?
PDF
笔搁惭尝轮読#3
matsuolab
?
PRML_titech 2.3.1 - 2.3.7
Takafumi Sakakibara
?
PRML上巻勉強会 at 東京大学 資料 第2章2.3.3 ? 2.3.6
Hiroyuki Kato
?
パターン認識と機械学習(PRML)第2章 確率分布 2.3 ガウス分布
Nagayoshi Yamashita
?
笔搁惭尝第6章「カーネル法」
Keisuke Sugawara
?
PRML復々習レーン#2 2.3.6 - 2.3.7
sleepy_yoshi
?
PRML2.4 指数型分布族
hiroki yamaoka
?
レプリカ交换モンテカルロ法で乱数の生成
Nagi Teramo
?
PRML勉強会第3回 2章前半 2013/11/28
kurotaki_weblab
?
PRML上巻勉強会 at 東京大学 資料 第1章前半
Ohsawa Goodfellow
?
笔搁惭尝読书会#4资料+补足
Hiromasa Ohashi
?
PRML 2.3 ガウス分布
KokiTakamiya
?
Chapter2.3.6
Takuya Minagawa
?
PRML上巻勉強会 at 東京大学 資料 第1章後半
Ohsawa Goodfellow
?
笔搁惭尝轮読#4
matsuolab
?
Prml4.4 ラプラス近似~ベイズロジスティック回帰
Yuki Matsubara
?
PRML 2.3節 - ガウス分布
Yuki Soma
?
C:\D Drive\Prml\プレゼン\パターン認識と機械学習2 4章 D0703
Yoshinori Kabeya
?
笔搁惭尝轮読#1
matsuolab
?
Prml 1.3~1.6 ver3
Toshihiko Iio
?
笔搁惭尝轮読#3
matsuolab
?

Similar to PRML_2.3.1~2.3.3 (20)

PPTX
PRML2.3.1-2.3.3
とっきー Ishikawa
?
PDF
PRML 2.3
Yuto Suzuki
?
PDF
PRML上巻勉強会 at 東京大学 資料 第2章2.3.3 ? 2.5.2
Hiroyuki Kato
?
PDF
PRML 2.3節
Rei Takami
?
PDF
PRML 2.3.1-2.3.2
KunihiroTakeoka
?
PDF
Bishop prml 10.2.2-10.2.5_wk77_100412-0059
Wataru Kishimoto
?
PDF
PRML復々習レーン#3 前回までのあらすじ
sleepy_yoshi
?
PDF
PRML セミナー
sakaguchi050403
?
PDF
Prml 1.2,4 5,1.3|輪講資料1120
Hayato K
?
PDF
Prml1.2.4
Tomoyuki Hioki
?
PPTX
PRML6.4
hiroki yamaoka
?
PDF
14.05.25 大阪PRML読書会 第2章 2.3.3-2.3.6 (pp.88-100)
由来 藤原
?
PDF
PRML 2.3.9-2.4.1
marugari
?
PDF
Prml sec6
Keisuke OTAKI
?
PDF
PRML 6.4-6.5
正志 坪坂
?
PDF
Bishop prml 9.3_wk77_100408-1504
Wataru Kishimoto
?
PDF
PRML10-draft1002
Toshiyuki Shimono
?
PDF
PRML 10.3, 10.4 (Pattern Recognition and Machine Learning)
Toshiyuki Shimono
?
PDF
Prml 10 1
正志 坪坂
?
PPTX
PRMLrevenge_3.3
Naoya Nakamura
?
PRML2.3.1-2.3.3
とっきー Ishikawa
?
PRML 2.3
Yuto Suzuki
?
PRML上巻勉強会 at 東京大学 資料 第2章2.3.3 ? 2.5.2
Hiroyuki Kato
?
PRML 2.3節
Rei Takami
?
PRML 2.3.1-2.3.2
KunihiroTakeoka
?
Bishop prml 10.2.2-10.2.5_wk77_100412-0059
Wataru Kishimoto
?
PRML復々習レーン#3 前回までのあらすじ
sleepy_yoshi
?
PRML セミナー
sakaguchi050403
?
Prml 1.2,4 5,1.3|輪講資料1120
Hayato K
?
Prml1.2.4
Tomoyuki Hioki
?
14.05.25 大阪PRML読書会 第2章 2.3.3-2.3.6 (pp.88-100)
由来 藤原
?
PRML 2.3.9-2.4.1
marugari
?
Prml sec6
Keisuke OTAKI
?
PRML 6.4-6.5
正志 坪坂
?
Bishop prml 9.3_wk77_100408-1504
Wataru Kishimoto
?
PRML10-draft1002
Toshiyuki Shimono
?
PRML 10.3, 10.4 (Pattern Recognition and Machine Learning)
Toshiyuki Shimono
?
Prml 10 1
正志 坪坂
?
PRMLrevenge_3.3
Naoya Nakamura
?
Ad

More from Kohta Ishikawa (11)

PDF
[Paper reading] Hamiltonian Neural Networks
Kohta Ishikawa
?
PDF
Spherical CNNs paper reading
Kohta Ishikawa
?
PDF
Model Transport: Towards Scalable Transfer Learning on Manifolds 論文紹介
Kohta Ishikawa
?
PDF
A brief explanation of Causal Entropic Forces
Kohta Ishikawa
?
PDF
量子アニーリング解説 1
Kohta Ishikawa
?
PDF
R Language Definition 2.2 to 2.3
Kohta Ishikawa
?
PDF
Nonlinear Filtering and Path Integral Method (Paper Review)
Kohta Ishikawa
?
PDF
Introduction to pairtrading
Kohta Ishikawa
?
PDF
Particle Filter Tracking in Python
Kohta Ishikawa
?
PDF
搁で颈蝉辞尘补辫(多様体学习のはなし)
Kohta Ishikawa
?
PDF
Introduction to statistics
Kohta Ishikawa
?
[Paper reading] Hamiltonian Neural Networks
Kohta Ishikawa
?
Spherical CNNs paper reading
Kohta Ishikawa
?
Model Transport: Towards Scalable Transfer Learning on Manifolds 論文紹介
Kohta Ishikawa
?
A brief explanation of Causal Entropic Forces
Kohta Ishikawa
?
量子アニーリング解説 1
Kohta Ishikawa
?
R Language Definition 2.2 to 2.3
Kohta Ishikawa
?
Nonlinear Filtering and Path Integral Method (Paper Review)
Kohta Ishikawa
?
Introduction to pairtrading
Kohta Ishikawa
?
Particle Filter Tracking in Python
Kohta Ishikawa
?
搁で颈蝉辞尘补辫(多様体学习のはなし)
Kohta Ishikawa
?
Introduction to statistics
Kohta Ishikawa
?
Ad

PRML_2.3.1~2.3.3