![トラブルシューティング その１
? bn.fitで落ちる
– 原因：確率変数、実現値の数が多い → 対策：それらを減らす
? 推論(querygrain)の結果がNaN
– 原因：与えるエビデンスが多すぎる → 対策：エビデンスを減らす
? ?0 ?1, ?2, … )
? ? =○,
? ? =○, …
? ? =○,
? ? =×, …
…
? ? =○
? ? =×
?2
?0?1
?
原因の実現値の組み合わせ数
Error in table(data[, c(node, parents), drop = FALSE]) :
attempt to make a table with >= 2^31 elements
2017/1/7 パーティクルフィルタ研究会 12/14
? ?, ?1 = ?1, ?2 = ?2, … , ?? = ? ? = ? ?|?1 = ?1, ?2 = ?2, … , ?? = ? ? ×
?(?1 = ?1, ?2 = ?2, … , ?? = ? ?)原因=エビデンス結果
計算機で表せる
最小値を下回る](https://image.slidesharecdn.com/kochifinal-170111094112/85/R-12-320.jpg)
![[DL輪読会]Deep Learning 第2章 線形代数](https://cdn.slidesharecdn.com/ss_thumbnails/deeplearningchapter2-180601014406-thumbnail.jpg?width=560&fit=bounds)
More Related Content
What's hot (20)
Similar to 搁によるベイジアンネットワーク入门 (13)
![[The Elements of Statistical Learning]Chapter8: Model Inferennce and Averaging](https://cdn.slidesharecdn.com/ss_thumbnails/theelementsofstatisticallearningchapter8modelinferennceandaveraging-181109001318-thumbnail.jpg?width=560&fit=bounds)
More from Okamoto Laboratory, The University of Electro-Communications (19)
搁によるベイジアンネットワーク入门
- 2. はじめに ? 実現値 ：確率変数がとる値 – 例：確率変数”天気” → ”天気”=?, ”天気”＝?, ”天気”＝? ?, ?, ?は”天気”がとる実現値 ? 同時確率 ：XとYが同時に起きる確率 – ? ?, ? = ? ? ?(?) （XとYが独立として） ? 条件付確率：Yを条件としてXが起きる確率 – ? ?|? = ? ?, ? /?(?) ? チェインルール：同時確率を条件付確率で計算 – ? ?, ?, ? = ? ?, ? ? ? ? = ? ? ?, ? ? ? ? ?(?) 2017/1/7 パーティクルフィルタ研究会 2/14
- 3. ベイジアンネットワーク ? 確率変数の因果関係をグラフで表現 ? 条件付き独立 – 矢印のない関係は条件付き独立 ?2 ?4 ?3?1 ?5 ?(?4|?5)?(?5) ?(?2) ?(?1|?2, ?5) ?(?3|?1) ?(?3, ?1, ?2, ?4, ?5) = ?(?3|?1, ?2, ?4, ?5) ?(?1|?2, ?4, ?5) ?(?2|?4, ?5) ?(?4|?5)?(?5) 条件付独立で同時確率の 計算量を減らせる 2017/1/7 パーティクルフィルタ研究会 B A 原因から結果に矢印を引く ?(?|?) 原因結果 原因の 確率変数 結果の 確率変数 Zを条件としてXとYは条件付き独立 ? ? ?, ? ? = ? ? ? ? ? ? 条件付確率の定義より ? ?, ? ? = ? ? ?, ? ? ? ? それぞれの右辺を比べると? ? ? を消去できて ? ? ?, ? = ?(?|?) 3/14
- 4. ベイジアンネットワークの応用例（併せ買いの推薦） ? 併せ買いの確率としての同時確率 – 例：P( ＝○, ＝○) = 0.98 ? パンとコーヒーは98%で一緒に買われる ? 情報推薦としてのベイジアンネットワーク P( ＝○, ＝○)＝0.98 P( ＝○, ＝○)＝0.65 ? max{P( ＝○,？＝○)} 構造学習 ○ × ○ × ○ ○ ? 2017/1/7 パーティクルフィルタ研究会 4/14
- 5. 本日の内容 ? ? = ????, ? = ???? =? ? ? = ?????, ? = ???? =? 1. hc関数による構造学習 2. bn.fit関数による条件付確率表の 作成 3. gRainによる厳密な推論 4. bnlearnによる近似推論 環境 – 言語 – Rのライブラリ – OS 2017/1/7 パーティクルフィルタ研究会 Radhakrishnan Nagarajan, Marco Scutari , Sophie Lèbre 著 『Bayesian Networks in R: with Applications in Systems Biology (Use R!)』 ISBN 978-1-4614-6446-4 ：R(最新のもの) ：bnlearn, gRain ：mac, linux, windows 5/14
- 6. 下準備 #bnleranとgRainのインストール(詳細はhttps://www.bioconductor.org) source("https://bioconductor.org/biocLite.R") biocLite(c("bnlearn", "gRain")) #ライブラリの読み込み library(bnlearn) library(gRain) #データセットの読み込み dataset = read.csv("./dataset.csv", header=T, row.names=T, colClasses="factor") id 確率変数? ? 確率変数? ? 確率変数? ? ??? 1 ○ × ○ 2 × ○ ○ ? ? factor型で読む テーブル形式のデータ 2017/1/7 パーティクルフィルタ研究会 6/14
- 7. 1. hc関数による構造学習 #hill-climbingによる学習 res = hc(dataset, score='bic', debug=F, max.iter=10000) ?1 ?3 ?4 ?2 ?1 ?2 ?1 ?2 ?1 ?2 ?1, ?2 ?1, ?3 ?1, ?4 ?2, ?3 ?2, ?4 ?3, ?4 Score 関数 6000 5000 3000 (?1, ?2)には を適用 データとのマッチ度 - スコアが改善 - max.iterに未到達 yes no 終了 １イテレーション 終わらない場合は max.iterを減らす 2017/1/7 パーティクルフィルタ研究会 7/14
- 8. 2. bn.fit関数による条件付確率表の作成 #条件付確率表(CPT:ConditionalProbabilityTable) の計算 fitted = bn.fit(res, dataset, method='bayes') ? ?2 ?1)?(?1) ? ?＝〇 0.60 ? ?＝× 0.40 ? ?＝〇 ? ? ＝× ? ?＝〇 0.60 0.45 ? ?＝× 0.40 0.55 id ? ? ? ? ? ? ? 1 ○ × ○ 2 × ○ ○ ? ? 数え上げる ?1 ?2 2017/1/7 パーティクルフィルタ研究会 0頻度問題を回避 8/14
- 9. 推論とその方法 ? 推論とは – エビデンス（わかっていること）を与えて、同時確率を求めること ? 推論の方法 – 厳密な推論 → 3.gRainによる厳密な推論（次スライド） ? 低速 ? 推論結果が一意に定まる – 近似推論 → 4.bnlearnによる近似推論（次々スライド） ? 高速 ? 推論結果が実行毎に変わる 2017/1/7 パーティクルフィルタ研究会 ? ? =○ ? ? =× ？ ？ ?(?2, ?1 =○) エビデンス 9/14
- 10. 3. gRainによる厳密な推論（おすすめ） #gRainによる厳密な推論 #コンパイル model = compile(as.grain(fitted), propagate=T) #エビデンスの設定 nodes = c(“X1") #エビデンスをセットする確率変数(複数可) states = c("〇") #ノードにセットする実現値(複数可) model.evidence = setEvidence(model, nodes=nodes, states=states) #p(X2,X1="○")の計算 state_predicted = querygrain(model.evidence, nodes=c("X2"), type="marginal", exclude=F) 厳密推論のための計算 1.モラル化 2.三角化 3.クリーク 4.ジャンクションツリー 5.パラメータの再設定 推論を行う箇所 (compileの実行は一度でよい) 大量な確率変数、実現値ではcompile()で落ちる可能性 → bnlearnによる近似推論（次スライド） 2017/1/7 パーティクルフィルタ研究会 ? ? =○ ? ? =× 0.95 0.05 ?(?2, ?1 =○) エビデンス予測したい 確率変数 10/14
- 11. 4. bnlearnによる近似推論 #bnlearnによる近似推論 #bnlearnではcompileはいらない #エビデンスをセットと推論を一緒にできる particles = cpdist(fitted, nodes='X2', evidence=(X1=="〇")) #結果を見る prop.table(table(particles)) 近似推論の注意点 ? 実行毎に結果が変わる（乱数を用いているため） ? エビデンスの設定が面倒 #paste関数などを用いて文字列を生成する str_eval = '(X2=="〇")&(X3=="×")' #生成した文字列をparseしてevalする particles = cpdist(fitted, nodes='X2', evidence=eval(parse(str_eval))) 2017/1/7 パーティクルフィルタ研究会 ? ? =○ ? ? =× 0.95 0.05 ?(?2, ?1 =○) エビデンス予測したい 確率変数 11/14
- 12. トラブルシューティング その１ ? bn.fitで落ちる – 原因：確率変数、実現値の数が多い → 対策：それらを減らす ? 推論(querygrain)の結果がNaN – 原因：与えるエビデンスが多すぎる → 対策：エビデンスを減らす ? ?0 ?1, ?2, … ) ? ? =○, ? ? =○, … ? ? =○, ? ? =×, … … ? ? =○ ? ? =× ?2 ?0?1 ? 原因の実現値の組み合わせ数 Error in table(data[, c(node, parents), drop = FALSE]) : attempt to make a table with >= 2^31 elements 2017/1/7 パーティクルフィルタ研究会 12/14 ? ?, ?1 = ?1, ?2 = ?2, … , ?? = ? ? = ? ?|?1 = ?1, ?2 = ?2, … , ?? = ? ? × ?(?1 = ?1, ?2 = ?2, … , ?? = ? ?)原因=エビデンス結果 計算機で表せる 最小値を下回る
- 13. トラブルシューティング その２ 2017/1/7 パーティクルフィルタ研究会 ? ０頻度問題 – 条件付確率が0になると推論ができない ?数え上げで下駄をはかせる（スムージング） – スムージングを行うオプション → method ? method='bayes'：スムージング有り ? method='mle' ：スムージング無し – はかせる下駄の程度（Imaginary Sample Size) → iss ? 自動的に設定されるので指定しなくてもよい ? iss=20 :20サンプルの下駄上げ #issも指定した計算例 fitted = bn.fit(res, dataset, method='bayes', iss=20) ? ?＝〇 ? ? ＝× ? ?＝〇 0 12 ? ?＝× 21 152 ? ?＝〇 ? ? ＝× ? ?＝〇 20 32 ? ?＝× 41 172 条件付確率 の計算へ+20 13/14
- 14. おわりに ? Rによるベイジアンネットワークの一通りの手順を紹介 – データセットから因果関係と条件付確率表の学習方法 – ベイジアンネットワークによる推論の2つの方法 ? 厳密推論 ? 近似推論 – トラブルシューティング ? 参考文献（全て英語） – Radhakrishnan Nagarajan, Marco Scutari , Sophie Lèbre : 『Bayesian Networks in R: with Applications in Systems Biology (Use R!)』 – bnlearnのドキュメントおよびソースコード https://cran.r-project.org/web/packages/bnlearn/bnlearn.pdf https://github.com/cran/bnlearn – gRainのドキュメントおよびソースコード https://cran.r-project.org/web/packages/gRain/gRain.pdf https://github.com/cran/gRain 2017/1/7 パーティクルフィルタ研究会 14/14