狠狠撸

狠狠撸Share a Scribd company logo
研究紹介 (学生向け)
鈴木譲
2017年4月7日
ロードマップ
1. 系列に確率を割当てる
2. 独立性
3. グラフィカルモデル
4. グラフィカルモデルのデータからの学習
5. 計算量の低減
6. モデル選択としての解析
7. 連続変数を含む場合の概要
8. 応用:独立性検定、ゲノム解析
9. 近況 (Rパッケージ、英単行本出版)
10. まとめ
研究绍介(学生向け)
研究绍介(学生向け)
研究绍介(学生向け)
若い顷に提案した推定量
は過学習、 は確率1で正しい結論
3変数の因数分解
ベイジアンネットワーク
マルコフネットワーク
確率分布との関係は、初回(4/10(月))の講義で説明します。
ベイジアンネットワークも、マルコフネットワークも
変数間の条件付き独立性を表現
データフレーム
それぞれに事前確率をかけたものを比較する 3変数ではなく、p変数に拡張可能
森: ループをもたない無向グラフ
ベイジアンネットワークにもなる
森への近似の場合
最大化
データフレームから出発
モデル選択の誤り率
生じやすい
生じにくい
nとともに指数的に0
pに対して指数的な計算量
深さ優先探索: 分枝限定法で不要な計算量を削減
Alarm
(p=37)
Insurance
(p=26)
連続量を含む相互情報量の推定
提案の手順
1. X軸、Y軸とも、順序によって、サンプルが等しい個数になるように、メッシュに区切る
2. 色々な幅のメッシュで区切り、その量子化(離散化)されたデータから相互情報量を推定する
3. 得られた相互情报量の中の最大値を、相互情报量の推定値とする。
独立性検定への応用
Arthur Gretton教授
応用: ゲノム解析
1000遺伝子の発現量と
case/controlの変量
(1001ノード)
p値の小さい変数は、
森でもハブになっている。
青: 遺伝子発現量
赤: SNP
Int. J. Approximate
Reasoning に掲載(2016)
Rパッケージ BNSL
(Bayesian Network Structure Learning)
2017年3月5日公開
提案アルゴリズムの他、
ベイジアンネットワーク
の自動生成など
鈴木譲 (阪大)
川原純(NAIST)
Foundations of Probabilistic Graphical Models (Springer)
「既存のテキストの
問題点を改善する」
ということで、
Springerと契約した
1. Introduction;
2. Graphical Models;
3. Probabilistic Graphical Models;
4. Learning Bayesian Networks;
5. Learning Markov Networks;
6. Model selection with Information Criteria;
7.Probabilistic Inference with Graphical
まとめ
グラフィカルモデルの構造学習というくくりで、研究内容を紹介した
? 連続変量を含む場合のベイジアンネットワークの構造学習
? ゲノム解析で、マイクロアレイではなく、RNAシーケンスの場合
? サンプル数nを固定した場合に、pに対して多項式になるか
? マルコフネットワークの構造学習
今後の課題
研究绍介(学生向け)
研究绍介(学生向け)

More Related Content

What's hot (20)

机械学习におけるオンライン确率的最适化の理论
机械学习におけるオンライン确率的最适化の理论机械学习におけるオンライン确率的最适化の理论
机械学习におけるオンライン确率的最适化の理论
Taiji Suzuki
?
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
Deep Learning JP
?
ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
?
グラフデータの机械学习における特徴表现の设计と学习
グラフデータの机械学习における特徴表现の设计と学习グラフデータの机械学习における特徴表现の设计と学习
グラフデータの机械学习における特徴表现の设计と学习
Ichigaku Takigawa
?
猫でも分かりたい线形回帰の自由度
猫でも分かりたい线形回帰の自由度猫でも分かりたい线形回帰の自由度
猫でも分かりたい线形回帰の自由度
YukinoriKambe
?
(実験心理学徒だけど)一般化线形混合モデルを使ってみた
(実験心理学徒だけど)一般化线形混合モデルを使ってみた(実験心理学徒だけど)一般化线形混合モデルを使ってみた
(実験心理学徒だけど)一般化线形混合モデルを使ってみた
Takashi Yamane
?
情報検索の基礎 #9適合フィードバックとクエリ拡張
情報検索の基礎 #9適合フィードバックとクエリ拡張情報検索の基礎 #9適合フィードバックとクエリ拡張
情報検索の基礎 #9適合フィードバックとクエリ拡張
nishioka1
?
第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)
Yoshitake Takebayashi
?
深层学习と确率プログラミングを融合した贰诲飞补谤诲について
深层学习と确率プログラミングを融合した贰诲飞补谤诲について深层学习と确率プログラミングを融合した贰诲飞补谤诲について
深层学习と确率プログラミングを融合した贰诲飞补谤诲について
ryosuke-kojima
?
笔搁惭尝轮読#8
笔搁惭尝轮読#8笔搁惭尝轮読#8
笔搁惭尝轮読#8
matsuolab
?
Deep Learningを用いたロボット制御
Deep Learningを用いたロボット制御Deep Learningを用いたロボット制御
Deep Learningを用いたロボット制御
Ryosuke Okuta
?
连続変量を含む相互情报量の推定
连続変量を含む相互情报量の推定连続変量を含む相互情报量の推定
连続変量を含む相互情报量の推定
Joe Suzuki
?
変分推論と Normalizing Flow
変分推論と Normalizing Flow変分推論と Normalizing Flow
変分推論と Normalizing Flow
Akihiro Nitta
?
机械学习モデルのハイパパラメータ最适化
机械学习モデルのハイパパラメータ最适化机械学习モデルのハイパパラメータ最适化
机械学习モデルのハイパパラメータ最适化
gree_tech
?
5分で分かる自己组织化マップ
5分で分かる自己组织化マップ5分で分かる自己组织化マップ
5分で分かる自己组织化マップ
Daisuke Takai
?
Probabilistic Graphical Models 輪読会 #1
Probabilistic Graphical Models 輪読会 #1Probabilistic Graphical Models 輪読会 #1
Probabilistic Graphical Models 輪読会 #1
Takuma Yagi
?
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
Preferred Networks
?
项目反応理论による尺度运用
项目反応理论による尺度运用项目反応理论による尺度运用
项目反応理论による尺度运用
Yoshitake Takebayashi
?
Oracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslassoOracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslasso
Satoshi Kato
?
5 クラスタリングと異常検出
5 クラスタリングと異常検出5 クラスタリングと異常検出
5 クラスタリングと異常検出
Seiichi Uchida
?
机械学习におけるオンライン确率的最适化の理论
机械学习におけるオンライン确率的最适化の理论机械学习におけるオンライン确率的最适化の理论
机械学习におけるオンライン确率的最适化の理论
Taiji Suzuki
?
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
【DL輪読会】A Time Series is Worth 64 Words: Long-term Forecasting with Transformers
Deep Learning JP
?
ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定ようやく分かった!最尤推定とベイズ推定
ようやく分かった!最尤推定とベイズ推定
Akira Masuda
?
グラフデータの机械学习における特徴表现の设计と学习
グラフデータの机械学习における特徴表现の设计と学习グラフデータの机械学习における特徴表现の设计と学习
グラフデータの机械学习における特徴表现の设计と学习
Ichigaku Takigawa
?
猫でも分かりたい线形回帰の自由度
猫でも分かりたい线形回帰の自由度猫でも分かりたい线形回帰の自由度
猫でも分かりたい线形回帰の自由度
YukinoriKambe
?
(実験心理学徒だけど)一般化线形混合モデルを使ってみた
(実験心理学徒だけど)一般化线形混合モデルを使ってみた(実験心理学徒だけど)一般化线形混合モデルを使ってみた
(実験心理学徒だけど)一般化线形混合モデルを使ってみた
Takashi Yamane
?
情報検索の基礎 #9適合フィードバックとクエリ拡張
情報検索の基礎 #9適合フィードバックとクエリ拡張情報検索の基礎 #9適合フィードバックとクエリ拡張
情報検索の基礎 #9適合フィードバックとクエリ拡張
nishioka1
?
第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)第4回DARM勉強会 (構造方程式モデリング)
第4回DARM勉強会 (構造方程式モデリング)
Yoshitake Takebayashi
?
深层学习と确率プログラミングを融合した贰诲飞补谤诲について
深层学习と确率プログラミングを融合した贰诲飞补谤诲について深层学习と确率プログラミングを融合した贰诲飞补谤诲について
深层学习と确率プログラミングを融合した贰诲飞补谤诲について
ryosuke-kojima
?
笔搁惭尝轮読#8
笔搁惭尝轮読#8笔搁惭尝轮読#8
笔搁惭尝轮読#8
matsuolab
?
Deep Learningを用いたロボット制御
Deep Learningを用いたロボット制御Deep Learningを用いたロボット制御
Deep Learningを用いたロボット制御
Ryosuke Okuta
?
连続変量を含む相互情报量の推定
连続変量を含む相互情报量の推定连続変量を含む相互情报量の推定
连続変量を含む相互情报量の推定
Joe Suzuki
?
変分推論と Normalizing Flow
変分推論と Normalizing Flow変分推論と Normalizing Flow
変分推論と Normalizing Flow
Akihiro Nitta
?
机械学习モデルのハイパパラメータ最适化
机械学习モデルのハイパパラメータ最适化机械学习モデルのハイパパラメータ最适化
机械学习モデルのハイパパラメータ最适化
gree_tech
?
5分で分かる自己组织化マップ
5分で分かる自己组织化マップ5分で分かる自己组织化マップ
5分で分かる自己组织化マップ
Daisuke Takai
?
Probabilistic Graphical Models 輪読会 #1
Probabilistic Graphical Models 輪読会 #1Probabilistic Graphical Models 輪読会 #1
Probabilistic Graphical Models 輪読会 #1
Takuma Yagi
?
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
自然言語処理を 役立てるのはなぜ難しいのか(2022/10/25東大大学院「自然言語処理応用」)
Preferred Networks
?
项目反応理论による尺度运用
项目反応理论による尺度运用项目反応理论による尺度运用
项目反応理论による尺度运用
Yoshitake Takebayashi
?
Oracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslassoOracle property and_hdm_pkg_rigorouslasso
Oracle property and_hdm_pkg_rigorouslasso
Satoshi Kato
?
5 クラスタリングと異常検出
5 クラスタリングと異常検出5 クラスタリングと異常検出
5 クラスタリングと異常検出
Seiichi Uchida
?

More from Joe Suzuki (20)

搁と笔测迟丑辞苍を比较する
搁と笔测迟丑辞苍を比较する搁と笔测迟丑辞苍を比较する
搁と笔测迟丑辞苍を比较する
Joe Suzuki
?
搁集会蔼统数研
搁集会蔼统数研搁集会蔼统数研
搁集会蔼统数研
Joe Suzuki
?
E-learning Development of Statistics and in Duex: Practical Approaches and Th...
E-learning Development of Statistics and in Duex: Practical Approaches and Th...E-learning Development of Statistics and in Duex: Practical Approaches and Th...
E-learning Development of Statistics and in Duex: Practical Approaches and Th...
Joe Suzuki
?
分枝限定法でモデル选択の计算量を低减する
分枝限定法でモデル选択の计算量を低减する分枝限定法でモデル选択の计算量を低减する
分枝限定法でモデル选択の计算量を低减する
Joe Suzuki
?
连続変量を含む条件付相互情报量の推定
连続変量を含む条件付相互情报量の推定连続変量を含む条件付相互情报量の推定
连続変量を含む条件付相互情报量の推定
Joe Suzuki
?
E-learning Design and Development for Data Science in Osaka University
E-learning Design and Development for Data Science in Osaka UniversityE-learning Design and Development for Data Science in Osaka University
E-learning Design and Development for Data Science in Osaka University
Joe Suzuki
?
UAI 2017
UAI 2017UAI 2017
UAI 2017
Joe Suzuki
?
AMBN2017 サテライトワークショップ
AMBN2017 サテライトワークショップAMBN2017 サテライトワークショップ
AMBN2017 サテライトワークショップ
Joe Suzuki
?
CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要
Joe Suzuki
?
Forest Learning from Data
Forest Learning from DataForest Learning from Data
Forest Learning from Data
Joe Suzuki
?
A Bayesian Approach to Data Compression
A Bayesian Approach to Data CompressionA Bayesian Approach to Data Compression
A Bayesian Approach to Data Compression
Joe Suzuki
?
A Conjecture on Strongly Consistent Learning
A Conjecture on Strongly Consistent LearningA Conjecture on Strongly Consistent Learning
A Conjecture on Strongly Consistent Learning
Joe Suzuki
?
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
Joe Suzuki
?
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
Joe Suzuki
?
Bayesian Criteria based on Universal Measures
Bayesian Criteria based on Universal MeasuresBayesian Criteria based on Universal Measures
Bayesian Criteria based on Universal Measures
Joe Suzuki
?
MDL/Bayesian Criteria based on Universal Coding/Measure
MDL/Bayesian Criteria based on Universal Coding/MeasureMDL/Bayesian Criteria based on Universal Coding/Measure
MDL/Bayesian Criteria based on Universal Coding/Measure
Joe Suzuki
?
The Universal Measure for General Sources and its Application to MDL/Bayesian...
The Universal Measure for General Sources and its Application to MDL/Bayesian...The Universal Measure for General Sources and its Application to MDL/Bayesian...
The Universal Measure for General Sources and its Application to MDL/Bayesian...
Joe Suzuki
?
Universal Prediction without assuming either Discrete or Continuous
Universal Prediction without assuming either Discrete or ContinuousUniversal Prediction without assuming either Discrete or Continuous
Universal Prediction without assuming either Discrete or Continuous
Joe Suzuki
?
Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Bayesian network structure estimation based on the Bayesian/MDL criteria when...Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Joe Suzuki
?
The Universal Bayesian Chow-Liu Algorithm
The Universal Bayesian Chow-Liu AlgorithmThe Universal Bayesian Chow-Liu Algorithm
The Universal Bayesian Chow-Liu Algorithm
Joe Suzuki
?
搁と笔测迟丑辞苍を比较する
搁と笔测迟丑辞苍を比较する搁と笔测迟丑辞苍を比较する
搁と笔测迟丑辞苍を比较する
Joe Suzuki
?
搁集会蔼统数研
搁集会蔼统数研搁集会蔼统数研
搁集会蔼统数研
Joe Suzuki
?
E-learning Development of Statistics and in Duex: Practical Approaches and Th...
E-learning Development of Statistics and in Duex: Practical Approaches and Th...E-learning Development of Statistics and in Duex: Practical Approaches and Th...
E-learning Development of Statistics and in Duex: Practical Approaches and Th...
Joe Suzuki
?
分枝限定法でモデル选択の计算量を低减する
分枝限定法でモデル选択の计算量を低减する分枝限定法でモデル选択の计算量を低减する
分枝限定法でモデル选択の计算量を低减する
Joe Suzuki
?
连続変量を含む条件付相互情报量の推定
连続変量を含む条件付相互情报量の推定连続変量を含む条件付相互情报量の推定
连続変量を含む条件付相互情报量の推定
Joe Suzuki
?
E-learning Design and Development for Data Science in Osaka University
E-learning Design and Development for Data Science in Osaka UniversityE-learning Design and Development for Data Science in Osaka University
E-learning Design and Development for Data Science in Osaka University
Joe Suzuki
?
AMBN2017 サテライトワークショップ
AMBN2017 サテライトワークショップAMBN2017 サテライトワークショップ
AMBN2017 サテライトワークショップ
Joe Suzuki
?
CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要CRAN Rパッケージ BNSLの概要
CRAN Rパッケージ BNSLの概要
Joe Suzuki
?
Forest Learning from Data
Forest Learning from DataForest Learning from Data
Forest Learning from Data
Joe Suzuki
?
A Bayesian Approach to Data Compression
A Bayesian Approach to Data CompressionA Bayesian Approach to Data Compression
A Bayesian Approach to Data Compression
Joe Suzuki
?
A Conjecture on Strongly Consistent Learning
A Conjecture on Strongly Consistent LearningA Conjecture on Strongly Consistent Learning
A Conjecture on Strongly Consistent Learning
Joe Suzuki
?
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
A Generalization of the Chow-Liu Algorithm and its Applications to Artificial...
Joe Suzuki
?
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
A Generalization of Nonparametric Estimation and On-Line Prediction for Stati...
Joe Suzuki
?
Bayesian Criteria based on Universal Measures
Bayesian Criteria based on Universal MeasuresBayesian Criteria based on Universal Measures
Bayesian Criteria based on Universal Measures
Joe Suzuki
?
MDL/Bayesian Criteria based on Universal Coding/Measure
MDL/Bayesian Criteria based on Universal Coding/MeasureMDL/Bayesian Criteria based on Universal Coding/Measure
MDL/Bayesian Criteria based on Universal Coding/Measure
Joe Suzuki
?
The Universal Measure for General Sources and its Application to MDL/Bayesian...
The Universal Measure for General Sources and its Application to MDL/Bayesian...The Universal Measure for General Sources and its Application to MDL/Bayesian...
The Universal Measure for General Sources and its Application to MDL/Bayesian...
Joe Suzuki
?
Universal Prediction without assuming either Discrete or Continuous
Universal Prediction without assuming either Discrete or ContinuousUniversal Prediction without assuming either Discrete or Continuous
Universal Prediction without assuming either Discrete or Continuous
Joe Suzuki
?
Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Bayesian network structure estimation based on the Bayesian/MDL criteria when...Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Bayesian network structure estimation based on the Bayesian/MDL criteria when...
Joe Suzuki
?
The Universal Bayesian Chow-Liu Algorithm
The Universal Bayesian Chow-Liu AlgorithmThe Universal Bayesian Chow-Liu Algorithm
The Universal Bayesian Chow-Liu Algorithm
Joe Suzuki
?

研究绍介(学生向け)