狠狠撸

狠狠撸Share a Scribd company logo
ACL2011
               EXPLOITING WEB-DERIVED
              SELECTIONAL PREFERENCE TO
           IMPROVE STATISTICAL DEPENDENCY
                      PARSING (1156)

       GUANGYOU ZHOU, JUN ZHAO, KANG LIU, AND LI CAI

                         2011/09/03
                   Yuya Unno (@unnonouno)


2011   9   3
?                               (selectional preference)   web



   ? Higher-order   Eisner                              N           PMI



   ?                         :-)


2011   9   3
?


   ?


   ?

2011   9   3
?


           ?   …

           ?




   ? http://d.hatena.ne.jp/usata3/20070416/p2


2011   9   3
?


   ?




   ?           Web



2011   9   3
PMI

   ?                            (Point-wise Mutual Information)

           ?


           ? PMI(x, y)   = log (P(x, y) / P(x)P(y))

           ?


   ?


2011   9   3
? Google V1


           ? Web


   ? Google API

           ?



2011   9   3
?


   ? PMI(x, y, z)   = log ( P(x, y, z) / P(x, y)P(y, z) )

   ? x, y      y, z PMI




2011   9   3
PP-ATACHEMENT

   ?


   ? PMIIN(x, z)   = P(x, IN, z) / P(x)

   ?           PMI

   ?           3


2011   9   3
EISNER       LOG-
                                         LINEAR

                                                                      ρ    →

   ?       Eisner

           ?


           ?    CKY

           ?


                 ?   http://www.slideshare.net/unnonouno/ss-5724050

   ?       PMI                                                                 (PMI - μ) / σ


2011   9    3
?   dep1: 1 Eisner, dep2: 2   Eisner, +hits: Google API, +V1: Google V1 Corpus


   ?


   ? Google API


2011   9   3
?




               ?




2011   9   3
?             Gigword
                                 (NEWS)



               ?   Unigram



               ?




2011   9   3
?




2011   9   3
WEB
               NGRAM
                       ?




                       ? Bio


                       ?




2011   9   3
?




   ?




   ?




2011   9   3
?           Web

   ?                 PMI



   ?




           ?


2011   9   3

More Related Content

Viewers also liked (6)

???贵滨の研究开発现场
???贵滨の研究开発现场???贵滨の研究开発现场
???贵滨の研究开発现场
Yuya Unno
?
公司における自然言语処理技术利用の最先端
公司における自然言语処理技术利用の最先端公司における自然言语処理技术利用の最先端
公司における自然言语処理技术利用の最先端
Yuya Unno
?
Statistical Semantic入門 ~分布仮説からword2vecまで~
Statistical Semantic入門 ~分布仮説からword2vecまで~Statistical Semantic入門 ~分布仮説からword2vecまで~
Statistical Semantic入門 ~分布仮説からword2vecまで~
Yuya Unno
?
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
Yuya Unno
?
「知識」のDeep Learning
「知識」のDeep Learning「知識」のDeep Learning
「知識」のDeep Learning
Yuya Unno
?
深层学习时代の自然言语処理
深层学习时代の自然言语処理深层学习时代の自然言语処理
深层学习时代の自然言语処理
Yuya Unno
?
???贵滨の研究开発现场
???贵滨の研究开発现场???贵滨の研究开発现场
???贵滨の研究开発现场
Yuya Unno
?
公司における自然言语処理技术利用の最先端
公司における自然言语処理技术利用の最先端公司における自然言语処理技术利用の最先端
公司における自然言语処理技术利用の最先端
Yuya Unno
?
Statistical Semantic入門 ~分布仮説からword2vecまで~
Statistical Semantic入門 ~分布仮説からword2vecまで~Statistical Semantic入門 ~分布仮説からword2vecまで~
Statistical Semantic入門 ~分布仮説からword2vecまで~
Yuya Unno
?
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
公司における自然言语処理技术の活用の现场(情报処理学会东海支部主催讲演会蔼名古屋大学)
Yuya Unno
?
「知識」のDeep Learning
「知識」のDeep Learning「知識」のDeep Learning
「知識」のDeep Learning
Yuya Unno
?
深层学习时代の自然言语処理
深层学习时代の自然言语処理深层学习时代の自然言语処理
深层学习时代の自然言语処理
Yuya Unno
?

More from Yuya Unno (19)

深层学习で切り拓くパーソナルロボットの未来
深层学习で切り拓くパーソナルロボットの未来深层学习で切り拓くパーソナルロボットの未来
深层学习で切り拓くパーソナルロボットの未来
Yuya Unno
?
深層学習時代の 自然言語処理ビジネス
深層学習時代の自然言語処理ビジネス深層学習時代の自然言語処理ビジネス
深層学習時代の 自然言語処理ビジネス
Yuya Unno
?
ベンチャー公司で言叶を扱うロボットの研究开発をする
ベンチャー公司で言叶を扱うロボットの研究开発をするベンチャー公司で言叶を扱うロボットの研究开発をする
ベンチャー公司で言叶を扱うロボットの研究开発をする
Yuya Unno
?
PFNにおける セミナー活動
PFNにおけるセミナー活動PFNにおけるセミナー活動
PFNにおける セミナー活動
Yuya Unno
?
深層学習フレームワーク Chainerとその進化
深層学習フレームワークChainerとその進化深層学習フレームワークChainerとその進化
深層学習フレームワーク Chainerとその進化
Yuya Unno
?
进化する颁丑补颈苍别谤
进化する颁丑补颈苍别谤进化する颁丑补颈苍别谤
进化する颁丑补颈苍别谤
Yuya Unno
?
予测型戦略を知るための机械学习チュートリアル
予测型戦略を知るための机械学习チュートリアル予测型戦略を知るための机械学习チュートリアル
予测型戦略を知るための机械学习チュートリアル
Yuya Unno
?
深层学习による机械とのコミュニケーション
深层学习による机械とのコミュニケーション深层学习による机械とのコミュニケーション
深层学习による机械とのコミュニケーション
Yuya Unno
?
最先端NLP勉強会 “Learning Language Games through Interaction” Sida I. Wang, Percy L...
最先端NLP勉強会“Learning Language Games through Interaction”Sida I. Wang, Percy L...最先端NLP勉強会“Learning Language Games through Interaction”Sida I. Wang, Percy L...
最先端NLP勉強会 “Learning Language Games through Interaction” Sida I. Wang, Percy L...
Yuya Unno
?
Chainer, Cupy入門
Chainer, Cupy入門Chainer, Cupy入門
Chainer, Cupy入門
Yuya Unno
?
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
Yuya Unno
?
深层学习フレームワーク颁丑补颈苍别谤の特徴
深层学习フレームワーク颁丑补颈苍别谤の特徴深层学习フレームワーク颁丑补颈苍别谤の特徴
深层学习フレームワーク颁丑补颈苍别谤の特徴
Yuya Unno
?
子供の言语获得と机械の言语获得
子供の言语获得と机械の言语获得子供の言语获得と机械の言语获得
子供の言语获得と机械の言语获得
Yuya Unno
?
NIP2015読み会「End-To-End Memory Networks」
NIP2015読み会「End-To-End Memory Networks」NIP2015読み会「End-To-End Memory Networks」
NIP2015読み会「End-To-End Memory Networks」
Yuya Unno
?
颁丑补颈苍别谤入门と最近の机能
颁丑补颈苍别谤入门と最近の机能颁丑补颈苍别谤入门と最近の机能
颁丑补颈苍别谤入门と最近の机能
Yuya Unno
?
Chainerの使い方と 自然言語処理への応用
Chainerの使い方と自然言語処理への応用Chainerの使い方と自然言語処理への応用
Chainerの使い方と 自然言語処理への応用
Yuya Unno
?
骋笔鲍上での狈尝笔向け深层学习の実装について
骋笔鲍上での狈尝笔向け深层学习の実装について骋笔鲍上での狈尝笔向け深层学习の実装について
骋笔鲍上での狈尝笔向け深层学习の実装について
Yuya Unno
?
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
Yuya Unno
?
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
Yuya Unno
?
深层学习で切り拓くパーソナルロボットの未来
深层学习で切り拓くパーソナルロボットの未来深层学习で切り拓くパーソナルロボットの未来
深层学习で切り拓くパーソナルロボットの未来
Yuya Unno
?
深層学習時代の 自然言語処理ビジネス
深層学習時代の自然言語処理ビジネス深層学習時代の自然言語処理ビジネス
深層学習時代の 自然言語処理ビジネス
Yuya Unno
?
ベンチャー公司で言叶を扱うロボットの研究开発をする
ベンチャー公司で言叶を扱うロボットの研究开発をするベンチャー公司で言叶を扱うロボットの研究开発をする
ベンチャー公司で言叶を扱うロボットの研究开発をする
Yuya Unno
?
PFNにおける セミナー活動
PFNにおけるセミナー活動PFNにおけるセミナー活動
PFNにおける セミナー活動
Yuya Unno
?
深層学習フレームワーク Chainerとその進化
深層学習フレームワークChainerとその進化深層学習フレームワークChainerとその進化
深層学習フレームワーク Chainerとその進化
Yuya Unno
?
进化する颁丑补颈苍别谤
进化する颁丑补颈苍别谤进化する颁丑补颈苍别谤
进化する颁丑补颈苍别谤
Yuya Unno
?
予测型戦略を知るための机械学习チュートリアル
予测型戦略を知るための机械学习チュートリアル予测型戦略を知るための机械学习チュートリアル
予测型戦略を知るための机械学习チュートリアル
Yuya Unno
?
深层学习による机械とのコミュニケーション
深层学习による机械とのコミュニケーション深层学习による机械とのコミュニケーション
深层学习による机械とのコミュニケーション
Yuya Unno
?
最先端NLP勉強会 “Learning Language Games through Interaction” Sida I. Wang, Percy L...
最先端NLP勉強会“Learning Language Games through Interaction”Sida I. Wang, Percy L...最先端NLP勉強会“Learning Language Games through Interaction”Sida I. Wang, Percy L...
最先端NLP勉強会 “Learning Language Games through Interaction” Sida I. Wang, Percy L...
Yuya Unno
?
Chainer, Cupy入門
Chainer, Cupy入門Chainer, Cupy入門
Chainer, Cupy入門
Yuya Unno
?
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
颁丑补颈苍别谤のテスト环境と顿辞肠办别谤での颁鲍顿础の利用
Yuya Unno
?
深层学习フレームワーク颁丑补颈苍别谤の特徴
深层学习フレームワーク颁丑补颈苍别谤の特徴深层学习フレームワーク颁丑补颈苍别谤の特徴
深层学习フレームワーク颁丑补颈苍别谤の特徴
Yuya Unno
?
子供の言语获得と机械の言语获得
子供の言语获得と机械の言语获得子供の言语获得と机械の言语获得
子供の言语获得と机械の言语获得
Yuya Unno
?
NIP2015読み会「End-To-End Memory Networks」
NIP2015読み会「End-To-End Memory Networks」NIP2015読み会「End-To-End Memory Networks」
NIP2015読み会「End-To-End Memory Networks」
Yuya Unno
?
颁丑补颈苍别谤入门と最近の机能
颁丑补颈苍别谤入门と最近の机能颁丑补颈苍别谤入门と最近の机能
颁丑补颈苍别谤入门と最近の机能
Yuya Unno
?
Chainerの使い方と 自然言語処理への応用
Chainerの使い方と自然言語処理への応用Chainerの使い方と自然言語処理への応用
Chainerの使い方と 自然言語処理への応用
Yuya Unno
?
骋笔鲍上での狈尝笔向け深层学习の実装について
骋笔鲍上での狈尝笔向け深层学习の実装について骋笔鲍上での狈尝笔向け深层学习の実装について
骋笔鲍上での狈尝笔向け深层学习の実装について
Yuya Unno
?
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
大規模データ時代に求められる自然言語処理 -言語情報から世界を捉える-
Yuya Unno
?
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
ACL読み会@PFI “How to make words with vectors: Phrase generation in distributio...
Yuya Unno
?

ACL2011読み会 Exploiting Web-Derived Selectional Preference to Improve Statistical Dependency Parsing

  • 1. ACL2011 EXPLOITING WEB-DERIVED SELECTIONAL PREFERENCE TO IMPROVE STATISTICAL DEPENDENCY PARSING (1156) GUANGYOU ZHOU, JUN ZHAO, KANG LIU, AND LI CAI 2011/09/03 Yuya Unno (@unnonouno) 2011 9 3
  • 2. ? (selectional preference) web ? Higher-order Eisner N PMI ? :-) 2011 9 3
  • 3. ? ? ? 2011 9 3
  • 4. ? ? … ? ? http://d.hatena.ne.jp/usata3/20070416/p2 2011 9 3
  • 5. ? ? ? Web 2011 9 3
  • 6. PMI ? (Point-wise Mutual Information) ? ? PMI(x, y) = log (P(x, y) / P(x)P(y)) ? ? 2011 9 3
  • 7. ? Google V1 ? Web ? Google API ? 2011 9 3
  • 8. ? ? PMI(x, y, z) = log ( P(x, y, z) / P(x, y)P(y, z) ) ? x, y y, z PMI 2011 9 3
  • 9. PP-ATACHEMENT ? ? PMIIN(x, z) = P(x, IN, z) / P(x) ? PMI ? 3 2011 9 3
  • 10. EISNER LOG- LINEAR ρ → ? Eisner ? ? CKY ? ? http://www.slideshare.net/unnonouno/ss-5724050 ? PMI (PMI - μ) / σ 2011 9 3
  • 11. ? dep1: 1 Eisner, dep2: 2 Eisner, +hits: Google API, +V1: Google V1 Corpus ? ? Google API 2011 9 3
  • 12. ? ? 2011 9 3
  • 13. ? Gigword (NEWS) ? Unigram ? 2011 9 3
  • 14. ? 2011 9 3
  • 15. WEB NGRAM ? ? Bio ? 2011 9 3
  • 16. ? ? ? 2011 9 3
  • 17. ? Web ? PMI ? ? 2011 9 3