際際滷

際際滷Share a Scribd company logo

Universal Schemas

Sergey
Sergey

舒亳舒 舒从仂亳亰舒亳亳 亳 丕仆亳于亠舒仍仆亠 亠仄 亟仍 仗仂亳从舒 于磶亠亶 于 亠从亠 仆舒 亠亠于亠仆仆仂仄 磶从亠.

1 of 25
Download to read offline
Universal Schema 丕仆亳于亠舒仍仆舒 亠仄舒 亟仍 亳亰于仍亠亠仆亳 亳仆仂仄舒亳亳 亠于仄亠亢亳从亳亶 弌亠亞亠亶
仗仂仍亰仂于舒仆仆亠 仄舒亠亳舒仍 Probabilistic Databases of Universal Schema Limin Yao, Sebastian Riedel, Andrew McCallum, University of Massachusetts Relation Extraction with Matrix Factorization and Universal Schemas Sebastian Riedel, University College London Limin Yao, Andrew McCallum, Benjamin M. Marlin, University of Massachusetts
亟亠 舒弍仂 弌亠亶舒 亳仗仂仍亰ﾑ 个仂仄舒 亳仂仆亳从舒 亟舒仆仆 弌亠仄舒 弍舒亰 亟舒仆仆 亳仆: 仂亠 从仂亠从仆仂亳 亳 仗仂仍仆仂 亠亠于亠仆仆仂亞仂 磶从舒 亠亟仍舒亞舒亠 丕仆亳于亠舒仍仆舒 亠仄舒 亠仂仆仂仆舒 弍舒亰舒 亟舒仆仆
亳仆仂从 1. 舒仗仂仍仆亠仆亳亠 弍舒亰 亟舒仆仆 仆亳于亠舒仍仆仂亶 亠仄. 丐亠仄仆亠 从亳 - 仆舒弍仍ﾐ莞夷黍煮亠 舒从, 亠亠 - 仗亠亟仗仂仍舒亞舒亠仄亠. 亰于仍亠亠仆亳亠 仂仆仂亠仆亳亶 (RE) 仂仂弍舒亢舒亠 仗仂于亠仆仂仆亠 仗舒亠仆 于 从仆亠 仂仆仂亠仆亳.
弍仂亰仆舒亠仆亳 R - 仄仆仂亢亠于仂 仂仆仂亠仆亳亶 仄亠亢亟 仍仂于舒仄亳 (the Xhistorian-atY). T - 仄仆仂亢亠于仂 亳仄亠仆仂于舒仆仆 仆仂亠亶 (<FERGUSON,HARVARD>) 个舒从 - 仂 舒从仂亶 从仂亠亢 <r,t>, 亞亟亠 亳 舒 于仂亟 仄仂亟亠仍亳 仗仂亟舒亠 仄仆仂亢亠于仂 仆舒弍仍ﾐ莞夷黍煮 舒从仂于 O 亳 仆舒弍仍ﾐ莞夷黍煮亠 舒从 亟仍 从仂仆从亠仆仂亞仂 从仂亠亢舒 仂弍仂亰仆舒舒ﾑ 从舒从:
仂亠亢亳 亳 亳仗仍亠 亅仂 仗仂亳 从舒从 仄仆仂亢亠于舒 仂仍从仂 仂 仍亠亟ﾑ亳仄亳 仂仍亳亳礆亳: 仄仂亞 亳仄亠 仗仂于仂ﾑ亳亠 仍亠仄亠仆 仗仂磲仂从 仍亠仄亠仆仂于 亳仄亠亠 亰仆舒亠仆亳亠 从仂亠亢 于亠亞亟舒 亳仄亠亠 仂亞舒仆亳亠仆仆仂亠 从仂仍亳亠于仂 仍亠仄亠仆仂于 舒仗亳仄亠 于 RDF 亳仗仂仍亰ﾑ 亠仄亠仆亠 从仂亠亢亳, 舒从 仆舒亰于舒亠仄亠 亳仗仍亠 亳仍亳 亳舒亟: <舒, 仍ﾐ頴狐, 舒> <仄舒亳仆舒, 于亠, 从舒仆亶> 亟舒仆仆仂亶 舒弍仂亠 亳仗仂仍亰ﾑ 亟于仄亠仆亠 从仂亠亢亳: <仂从于舒, 仂亳>.
丶亠仍 亳仍亠亟仂于舒仆亳 仂于亠亳, 仂 亟舒仆仆舒 仄仂亟亠仍 仄仂亢亠 仗亠亟从舒亰舒 亟仍 从仂仆从亠仆仂亶 仗舒 仂仆仂亠仆亳 (r) 亳 从仂亠亢舒 (t) 于亠仂仆仂 p(yr,t=1), 亞亟亠 yr,t- 仂 仆亠从仂仂仂亠 弍亳仆舒仆仂亠 亳仍仂, 舒于仆仂亠 亠亟亳仆亳亠, 亠仍亳 t 仆舒仂亟亳 于 于磶亳 r. 仍 仂亞仂 仄 于于仂亟亳仄 仆舒弍仂 从仗仂仆亠仆亳舒仍仆 仄仂亟亠仍亠亶, 从仂仂亠 仂亠仆亳于舒ﾑ 于亠仂仆仂, 亳仗仂仍亰 仆舒舒仍仆亶 仗舒舒仄亠 亳 仍仂亞亳亳亠从 仆从亳: 磦仍磳 仆从亳亠亶 仂 r, t 亳 仆舒弍仂舒 于亠仂于 亳/亳仍亳 从仄亳 于亠从仂舒仄亳.
仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Latent Feature Model 亟舒仆仆仂亶 仄仂亟亠仍亳 仄 亳亰仄亠磳仄 仂于仄亠亳仄仂 r 亳 t 从舒从 从舒仍仆仂亠 仗仂亳亰于亠亟亠仆亳亠 亟于 从 仗亠亠仄亠仆仆, 仂舒亢舒ﾑ亳 舒亰仄亠 K: 亅仂 仗仂亟仂亟 仂仂于亠于亠 仂弍仂弍亠仆仆仂仄 仄亠仂亟 亞仍舒于仆 从仂仄仗仂仆亠仆 (PCA).
亳仆仂从 2. gPCA 亳亰仄亠仆磳 仂亠仆从 仗亠亟舒于仍亠仆亳 亟于 仂仆仂亠仆亳亶 亳 从仂亠亢舒 仗亳 仗仂磦仍亠仆亳亳 仆舒弍仍ﾐ莞黍出狐 r1(e). 亅仂 仗仂亰于仂仍磳 仂亠仆亳于舒 于亠仂仆仂 仆亠仆舒弍仍ﾐ莞夷黍斜笑覚 舒从舒 r2(e).
仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Neighborhood Model 仂仆仂于亠 亟舒仆仆仂亶 仄仂亟亠仍亳 仍亠亢亳 亞亳仗仂亠亰舒: 仄仂亢亠仄 亳仆亠仗仂仍亳仂于舒 亰仆舒亠仆亳亠 亳仆亠亠ﾑ亳 仆舒 仂仆仂亠仆亳亠+从仂亠亢, 仂仆仂于于舒 仆舒 亳亰于亠仆 仆舒仄 亰仆舒亠仆亳 亳亳仆仆仂亳 仂亢亳 仂仆仂亠仆亳亶 仂亞仂 亢亠 舒仄仂亞仂 从仂亠亢舒.
仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Entity Model 仂仍亳亳亠 仂 仂仂仂 从亳仂于舒仆仆 弍舒亰 亟舒仆仆 亳仗舒 Freebase 亳 DBPedia, 于 亠舒仍仆仂亳 仆亠 于亠亞亟舒 亳仄亠亠 于仂亰仄仂亢仆仂 舒亰仍亳亳 仂仆仂亠仆亳. 仂仂仄, 于仄亠仂 亳仗仂仍亰仂于舒仆亳 亰舒舒仆亠亠 仂仗亠亟亠仍亠仆仆仂亞仂 仆舒弍仂舒 亳仗仂于 仆仂亠亶, 于 亟舒仆仆仂亶 仄仂亟亠仍亳 仄 仂弍舒亠仄 仗仂 从仄 于 亟舒仆仆 仆仂礆 (latent entity representation from data).
仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Combined Model 舒 仗舒从亳从亠 于亠 于亠从舒亰舒仆仆亠 仄仂亟亠仍亳 仄仂亞 仂舒亰亳 于舒亢仆亠 舒仗亠从 亟舒仆仆, 仗仂仂仄 仄 舒从亢亠 亳仗仂仍亰亠仄 仂于仄亠亠仆仆 仄仂亟亠仍:
Parameter Estimation 舒仆仆亠 仄仂亟亠仍亳 亳仗仂仍亰ﾑ 于亠舒 亳 从亠 于亠从仂舒. 仄仂亢亠仄 仂亠仆亳 亳 亟舒仆仆亠 仄舒从亳仄亳亰亳 log-likelihood. 亳仍亠仆亳亠 仆亠亞舒亳于仆 于亠亢亟亠仆亳亶 仗仂仄仂 仆亠磦仆仂亶 仂弍舒仆仂亶 于磶亳. 仍 仗仂仍亠仆亳 仄舒从亳仄舒仍仆仂亶 于亳仍亳亠仍仆仂亶 仄仂仆仂亳 仗仂亳亰于仂亟亳 仂仗亳仄亳亰舒亳 仄仆仂亢亠于舒 舒从仂于 仂舒亳亠从亳仄 亞舒亟亳亠仆仆仄 仗从仂仄 (SGD)
仍亳亳 仂 亟亞亳 仗仂亟仂亟仂于 Open IE 仂于亶 仗仂亟仂亟 仂仆仂于舒仆 仆舒 亠亟亳仆仂亶 仆亳亳亳仂于舒仆仆仂亶 仄仂亟亠仍亳, 仆亠 亠弍亠 仆亳从舒从亳 亳仗仂于 仆仂亠亶. 于亠亟亠仆亳亠 舒从舒 仂舒于仍磳 于亠亞仂 仆亠从仂仍从仂 从舒仍仆 仗仂亳亰于亠亟亠仆亳亶. Never-Ending Learning and Bootstrapping 仂于舒 仄仂亟亠仍 仍亳 亳仍亳于舒亠 从仂亠仍亳亳 仄亠亢亟 仂弍舒弍舒于舒亠仄仄亳 从仂亠亠亠仆亳礆亳. 亅仂 亟舒亠 仗亠亳仄亠于仂 于 仂仄, 仂 仆亠仗舒于亳仍仆亠 仗亠亟从舒亰舒仆亳 亳仄亠ﾑ 仄亠仆 于亠仂仆仂 弍 亳仍亠仆仆仄亳, 仂 仆亳亢舒亠 亳从 亠仄舒仆亳亠从仂亶 亟亠亶舒.
舒仆仆亠 亟仍 从仗亠亳仄亠仆舒 仂仆亳从 丐亠 NYTimes 仗仂仍亠 2000 亞仂亟舒 1990-1999 亞仂亟舒 Freebase 舒从 8k 8k Freebase 仆仂亳 弍亠仆亳亠 200k 200k Named-entities recognition 舒于仆亳于舒仆亳亠 仆仂于仂仆仂亞仂 从仂仗舒 亳 从亳仂于舒仆仆 亟舒仆仆 个亳仍舒亳亳 仂仆仂亠仆亳亶 亠亢亠 10 仆舒弍仍ﾐ莞黍出湖
仗仂仍仆亠仆亳亠 从仗亠亳仄亠仆舒 于舒 舒亰亟亠仍仆 从仗亠亳仄亠仆舒 亟仍 从亳仂于舒仆仆 亟舒仆仆 亳 仗仂于亠仆仂仆 舒弍仍仂仆仂于. 舒亢亟仂亠 仂仆仂亠仆亳亠 舒仄舒亳于舒亠 从舒从 亰舒仗仂 亳 仗仂仍亠仆亳亠 仗亠于 1000 仗舒 仆仂亠亶 亳亰 从舒亢亟仂亶 亳亠仄. 舒亠仄 弍亠 仗亠于亠 100 仂于亠仂于 仂 从舒亢亟仂亶 亳亠仄 亳 于仆 仂亠仆亳于舒亠仄 亳 亳亳仆仆仂. 亅仂 亟舒亠 仆舒仄 仆舒弍仂 亠仍亠于舒仆仆 亠亰仍舒仂于, 从仂仂亠 仄 亳仗仂仍亰亠仄 亟仍 于亳仍亠仆亳 仗仂仍仆仂 亳 仂仆仂亳: 亠亟仆 仂仆仂 mean average precision (MAP) weighted mean average precision
亠亰仍舒 亟仍 Freebase 丐舒弍仍亳舒 1 仂亟亠亢亳 亠亰仍舒 亟仍 仂仆仂亠仆亳亶 Freebase, 亳从仍ﾑ舒 亠, 亟仍 从仂仂 亳亠仄舒 仆亠 仄仂亞仍舒 仆舒亶亳 亠仍亠于舒仆仆亠 舒从. MI09 - Distant supervision for relation extraction without labeled data [Mike Mintz et al., 2009]. YA11 - 亠亳 MI09 亟仂弍舒于仍亠仆亳亠仄 preprocessed cluster features [Limin Yao et al., 2011] SU12 - the state-of-the-art Multi-Instance Multi-Label system [Mihai Surdeanu et al., 2012]. 仍 于亠 仆仂于 仄仂亟亠仍亠亶 亳仗仂仍亰仂于舒仆 仂亟亳仆舒从仂于亠 亰仆舒亠仆亳 K = 100, 1000 epochs, 0.01 于 从舒亠于亠 亠亞仍磶舒仂舒 亟仍 于亠仂于 从仂仄仗仂仆亠仆仂于 亳 0.1 亟仍 于亠仂于 仂亠亟亠亶.
丐舒弍仍亳舒 1. 弌亠亟仆亳亠 亳 (于亰于亠亠仆仆亠) MAP 亰仆舒亠仆亳 亟仍 仂仆仂亠仆亳亶 Freebase, 仂仆仂于舒仆仆亠 仆舒 仂弍亠亟亳仆亠仆仆 亟舒仆仆. 弌仂仍弍亠 # 仂亟亠亢亳 从仂仍亳亠于仂 仗仂亰亳亳于仆 舒从仂于 于 弍舒亰亠. 亳仆仄 从舒亰舒仆 仗仂弍亠亟亳亠仍亳, 从亳于仂仄 - 仆亳.
舒亳从 1. 弌亠亟仆 11-亰仆舒仆舒 从亳于舒 仂仆仂-仗仂仍仆仂舒 亟仍 仂仆仂亠仆亳亶 Freebase
舒亳从 2. 丐仂仆仂 亳 仗仂仍仆仂舒 亟仍 works_written(X,Y)
亠亰仍舒 亟仍 Surface Patterns 丐舒弍仍亳舒 2 仂亟亠亢亳 舒于仆亠仆亳亠 仆舒亳 仄仂亟亠仍亠亶 仆舒 10 仗仂于亠仆仂仆 仗舒亠仆舒. 亅亳 亠亰仍舒 弍仍亳 于弍舒仆 从舒从 仆舒亳弍仂仍亠亠 亳仆亠亠仆亠, 仗仂 仄仆亠仆亳 舒于仂舒, 于仂仗仂, 仆亠 仂亟亠亢舒亳亠 于 Freebase. 于仆仂于 于亳亟亳仄, 仂 亟仂弍舒于仍亠仆亳亠 从 仄仂亟亠仍亠亶 (F, E) 亠于亠仆仆仂 仍舒亠 亠亰仍舒 仗仂 舒于仆亠仆亳 N-仄仂亟亠仍.
丐舒弍仍亳舒 2. 弌亠亟仆亳亠 亳 (于亰于亠亠仆仆亠) MAP 亰仆舒亠仆亳 亟仍 仂仆仂亠仆亳亶 仗仂于亠仆仂仆 仗舒亠仆仂于
舒亳从 3. 弌亠亟仆 11-亰仆舒仆舒 从亳于舒 仂仆仂-仗仂仍仆仂舒 亟仍 仂仆仂亠仆亳亶 仗仂于亠仆仂仆 仗舒亠仆仂于
舒从仍ﾑ亠仆亳亠 仍舒 仗亠亟舒于仍亠仆舒 仄仂亟亠仍 亳亰于仍亠亠仆亳 仂仆仂亠仆亳亶 于 仆亳于亠舒仍仆亠 亠仄. 仂亟仂弍仆亠 亠仄 仂亟亠亢舒 仗亠亠仆 仗仂于亠仆仂亳, 舒 舒从亢亠 仂仆仂亠仆亳 亳亰 从亳仂于舒仆仆, 仗仂仍亠仆仆亠 亳亰 亟舒仆仆. 仂于亠仆仂仆亠 仗舒亠仆 + 弌从亳仂于舒仆仆亠 仂仆仂亠仆亳 = 丕仍亠仆亳亠 从舒亠于舒! 仂于舒 仄仂亟亠仍 舒仂亟亠 仄亠仆亠 于亠仄亠仆亳 仆舒 仂弍亠仆亳亠 仗亳 舒于仆 仂弍仄舒 亳仆仂仄舒亳亳. 仂于亶 仗仂亟仂亟 仄仂亢仆仂 亳仗仂仍亰仂于舒 亟仍 舒亰仍亳仆 亳仆亠亞舒亳仂仆仆 亰舒亟舒.
弌仍从亳 Probabilistic Databases of Universal Schema [Limin Yao 亳 亟., 2012] Open IE: http://ai.cs.washington.edu/projects/open-information-extraction 亠仂亟 亞仍舒于仆 从仂仄仗仂仆亠仆: http://ru.wikipedia.org/wiki/亠仂亟_亞仍舒于仆_从仂仄仗仂仆亠仆 http://books.nips.cc/papers/files/nips14/AA27.pdf 仂仍仍舒弍仂舒亳于仆舒 亳仍舒亳: http://ru.wikipedia. org/wiki/仂仍仍舒弍仂舒亳于仆舒_亳仍舒亳

More Related Content

Universal Schemas

  • 1. Universal Schema 丕仆亳于亠舒仍仆舒 亠仄舒 亟仍 亳亰于仍亠亠仆亳 亳仆仂仄舒亳亳 亠于仄亠亢亳从亳亶 弌亠亞亠亶
  • 2. 仗仂仍亰仂于舒仆仆亠 仄舒亠亳舒仍 Probabilistic Databases of Universal Schema Limin Yao, Sebastian Riedel, Andrew McCallum, University of Massachusetts Relation Extraction with Matrix Factorization and Universal Schemas Sebastian Riedel, University College London Limin Yao, Andrew McCallum, Benjamin M. Marlin, University of Massachusetts
  • 3. 亟亠 舒弍仂 弌亠亶舒 亳仗仂仍亰ﾑ 个仂仄舒 亳仂仆亳从舒 亟舒仆仆 弌亠仄舒 弍舒亰 亟舒仆仆 亳仆: 仂亠 从仂亠从仆仂亳 亳 仗仂仍仆仂 亠亠于亠仆仆仂亞仂 磶从舒 亠亟仍舒亞舒亠 丕仆亳于亠舒仍仆舒 亠仄舒 亠仂仆仂仆舒 弍舒亰舒 亟舒仆仆
  • 4. 亳仆仂从 1. 舒仗仂仍仆亠仆亳亠 弍舒亰 亟舒仆仆 仆亳于亠舒仍仆仂亶 亠仄. 丐亠仄仆亠 从亳 - 仆舒弍仍ﾐ莞夷黍煮亠 舒从, 亠亠 - 仗亠亟仗仂仍舒亞舒亠仄亠. 亰于仍亠亠仆亳亠 仂仆仂亠仆亳亶 (RE) 仂仂弍舒亢舒亠 仗仂于亠仆仂仆亠 仗舒亠仆 于 从仆亠 仂仆仂亠仆亳.
  • 5. 弍仂亰仆舒亠仆亳 R - 仄仆仂亢亠于仂 仂仆仂亠仆亳亶 仄亠亢亟 仍仂于舒仄亳 (the Xhistorian-atY). T - 仄仆仂亢亠于仂 亳仄亠仆仂于舒仆仆 仆仂亠亶 (<FERGUSON,HARVARD>) 个舒从 - 仂 舒从仂亶 从仂亠亢 <r,t>, 亞亟亠 亳 舒 于仂亟 仄仂亟亠仍亳 仗仂亟舒亠 仄仆仂亢亠于仂 仆舒弍仍ﾐ莞夷黍煮 舒从仂于 O 亳 仆舒弍仍ﾐ莞夷黍煮亠 舒从 亟仍 从仂仆从亠仆仂亞仂 从仂亠亢舒 仂弍仂亰仆舒舒ﾑ 从舒从:
  • 6. 仂亠亢亳 亳 亳仗仍亠 亅仂 仗仂亳 从舒从 仄仆仂亢亠于舒 仂仍从仂 仂 仍亠亟ﾑ亳仄亳 仂仍亳亳礆亳: 仄仂亞 亳仄亠 仗仂于仂ﾑ亳亠 仍亠仄亠仆 仗仂磲仂从 仍亠仄亠仆仂于 亳仄亠亠 亰仆舒亠仆亳亠 从仂亠亢 于亠亞亟舒 亳仄亠亠 仂亞舒仆亳亠仆仆仂亠 从仂仍亳亠于仂 仍亠仄亠仆仂于 舒仗亳仄亠 于 RDF 亳仗仂仍亰ﾑ 亠仄亠仆亠 从仂亠亢亳, 舒从 仆舒亰于舒亠仄亠 亳仗仍亠 亳仍亳 亳舒亟: <舒, 仍ﾐ頴狐, 舒> <仄舒亳仆舒, 于亠, 从舒仆亶> 亟舒仆仆仂亶 舒弍仂亠 亳仗仂仍亰ﾑ 亟于仄亠仆亠 从仂亠亢亳: <仂从于舒, 仂亳>.
  • 7. 丶亠仍 亳仍亠亟仂于舒仆亳 仂于亠亳, 仂 亟舒仆仆舒 仄仂亟亠仍 仄仂亢亠 仗亠亟从舒亰舒 亟仍 从仂仆从亠仆仂亶 仗舒 仂仆仂亠仆亳 (r) 亳 从仂亠亢舒 (t) 于亠仂仆仂 p(yr,t=1), 亞亟亠 yr,t- 仂 仆亠从仂仂仂亠 弍亳仆舒仆仂亠 亳仍仂, 舒于仆仂亠 亠亟亳仆亳亠, 亠仍亳 t 仆舒仂亟亳 于 于磶亳 r. 仍 仂亞仂 仄 于于仂亟亳仄 仆舒弍仂 从仗仂仆亠仆亳舒仍仆 仄仂亟亠仍亠亶, 从仂仂亠 仂亠仆亳于舒ﾑ 于亠仂仆仂, 亳仗仂仍亰 仆舒舒仍仆亶 仗舒舒仄亠 亳 仍仂亞亳亳亠从 仆从亳: 磦仍磳 仆从亳亠亶 仂 r, t 亳 仆舒弍仂舒 于亠仂于 亳/亳仍亳 从仄亳 于亠从仂舒仄亳.
  • 8. 仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Latent Feature Model 亟舒仆仆仂亶 仄仂亟亠仍亳 仄 亳亰仄亠磳仄 仂于仄亠亳仄仂 r 亳 t 从舒从 从舒仍仆仂亠 仗仂亳亰于亠亟亠仆亳亠 亟于 从 仗亠亠仄亠仆仆, 仂舒亢舒ﾑ亳 舒亰仄亠 K: 亅仂 仗仂亟仂亟 仂仂于亠于亠 仂弍仂弍亠仆仆仂仄 仄亠仂亟 亞仍舒于仆 从仂仄仗仂仆亠仆 (PCA).
  • 9. 亳仆仂从 2. gPCA 亳亰仄亠仆磳 仂亠仆从 仗亠亟舒于仍亠仆亳 亟于 仂仆仂亠仆亳亶 亳 从仂亠亢舒 仗亳 仗仂磦仍亠仆亳亳 仆舒弍仍ﾐ莞黍出狐 r1(e). 亅仂 仗仂亰于仂仍磳 仂亠仆亳于舒 于亠仂仆仂 仆亠仆舒弍仍ﾐ莞夷黍斜笑覚 舒从舒 r2(e).
  • 10. 仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Neighborhood Model 仂仆仂于亠 亟舒仆仆仂亶 仄仂亟亠仍亳 仍亠亢亳 亞亳仗仂亠亰舒: 仄仂亢亠仄 亳仆亠仗仂仍亳仂于舒 亰仆舒亠仆亳亠 亳仆亠亠ﾑ亳 仆舒 仂仆仂亠仆亳亠+从仂亠亢, 仂仆仂于于舒 仆舒 亳亰于亠仆 仆舒仄 亰仆舒亠仆亳 亳亳仆仆仂亳 仂亢亳 仂仆仂亠仆亳亶 仂亞仂 亢亠 舒仄仂亞仂 从仂亠亢舒.
  • 11. 仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Entity Model 仂仍亳亳亠 仂 仂仂仂 从亳仂于舒仆仆 弍舒亰 亟舒仆仆 亳仗舒 Freebase 亳 DBPedia, 于 亠舒仍仆仂亳 仆亠 于亠亞亟舒 亳仄亠亠 于仂亰仄仂亢仆仂 舒亰仍亳亳 仂仆仂亠仆亳. 仂仂仄, 于仄亠仂 亳仗仂仍亰仂于舒仆亳 亰舒舒仆亠亠 仂仗亠亟亠仍亠仆仆仂亞仂 仆舒弍仂舒 亳仗仂于 仆仂亠亶, 于 亟舒仆仆仂亶 仄仂亟亠仍亳 仄 仂弍舒亠仄 仗仂 从仄 于 亟舒仆仆 仆仂礆 (latent entity representation from data).
  • 12. 仂亟亠仍亳 仆舒舒仍仆仂亞仂 仗舒舒仄亠舒 Combined Model 舒 仗舒从亳从亠 于亠 于亠从舒亰舒仆仆亠 仄仂亟亠仍亳 仄仂亞 仂舒亰亳 于舒亢仆亠 舒仗亠从 亟舒仆仆, 仗仂仂仄 仄 舒从亢亠 亳仗仂仍亰亠仄 仂于仄亠亠仆仆 仄仂亟亠仍:
  • 13. Parameter Estimation 舒仆仆亠 仄仂亟亠仍亳 亳仗仂仍亰ﾑ 于亠舒 亳 从亠 于亠从仂舒. 仄仂亢亠仄 仂亠仆亳 亳 亟舒仆仆亠 仄舒从亳仄亳亰亳 log-likelihood. 亳仍亠仆亳亠 仆亠亞舒亳于仆 于亠亢亟亠仆亳亶 仗仂仄仂 仆亠磦仆仂亶 仂弍舒仆仂亶 于磶亳. 仍 仗仂仍亠仆亳 仄舒从亳仄舒仍仆仂亶 于亳仍亳亠仍仆仂亶 仄仂仆仂亳 仗仂亳亰于仂亟亳 仂仗亳仄亳亰舒亳 仄仆仂亢亠于舒 舒从仂于 仂舒亳亠从亳仄 亞舒亟亳亠仆仆仄 仗从仂仄 (SGD)
  • 14. 仍亳亳 仂 亟亞亳 仗仂亟仂亟仂于 Open IE 仂于亶 仗仂亟仂亟 仂仆仂于舒仆 仆舒 亠亟亳仆仂亶 仆亳亳亳仂于舒仆仆仂亶 仄仂亟亠仍亳, 仆亠 亠弍亠 仆亳从舒从亳 亳仗仂于 仆仂亠亶. 于亠亟亠仆亳亠 舒从舒 仂舒于仍磳 于亠亞仂 仆亠从仂仍从仂 从舒仍仆 仗仂亳亰于亠亟亠仆亳亶. Never-Ending Learning and Bootstrapping 仂于舒 仄仂亟亠仍 仍亳 亳仍亳于舒亠 从仂亠仍亳亳 仄亠亢亟 仂弍舒弍舒于舒亠仄仄亳 从仂亠亠亠仆亳礆亳. 亅仂 亟舒亠 仗亠亳仄亠于仂 于 仂仄, 仂 仆亠仗舒于亳仍仆亠 仗亠亟从舒亰舒仆亳 亳仄亠ﾑ 仄亠仆 于亠仂仆仂 弍 亳仍亠仆仆仄亳, 仂 仆亳亢舒亠 亳从 亠仄舒仆亳亠从仂亶 亟亠亶舒.
  • 15. 舒仆仆亠 亟仍 从仗亠亳仄亠仆舒 仂仆亳从 丐亠 NYTimes 仗仂仍亠 2000 亞仂亟舒 1990-1999 亞仂亟舒 Freebase 舒从 8k 8k Freebase 仆仂亳 弍亠仆亳亠 200k 200k Named-entities recognition 舒于仆亳于舒仆亳亠 仆仂于仂仆仂亞仂 从仂仗舒 亳 从亳仂于舒仆仆 亟舒仆仆 个亳仍舒亳亳 仂仆仂亠仆亳亶 亠亢亠 10 仆舒弍仍ﾐ莞黍出湖
  • 16. 仗仂仍仆亠仆亳亠 从仗亠亳仄亠仆舒 于舒 舒亰亟亠仍仆 从仗亠亳仄亠仆舒 亟仍 从亳仂于舒仆仆 亟舒仆仆 亳 仗仂于亠仆仂仆 舒弍仍仂仆仂于. 舒亢亟仂亠 仂仆仂亠仆亳亠 舒仄舒亳于舒亠 从舒从 亰舒仗仂 亳 仗仂仍亠仆亳亠 仗亠于 1000 仗舒 仆仂亠亶 亳亰 从舒亢亟仂亶 亳亠仄. 舒亠仄 弍亠 仗亠于亠 100 仂于亠仂于 仂 从舒亢亟仂亶 亳亠仄 亳 于仆 仂亠仆亳于舒亠仄 亳 亳亳仆仆仂. 亅仂 亟舒亠 仆舒仄 仆舒弍仂 亠仍亠于舒仆仆 亠亰仍舒仂于, 从仂仂亠 仄 亳仗仂仍亰亠仄 亟仍 于亳仍亠仆亳 仗仂仍仆仂 亳 仂仆仂亳: 亠亟仆 仂仆仂 mean average precision (MAP) weighted mean average precision
  • 17. 亠亰仍舒 亟仍 Freebase 丐舒弍仍亳舒 1 仂亟亠亢亳 亠亰仍舒 亟仍 仂仆仂亠仆亳亶 Freebase, 亳从仍ﾑ舒 亠, 亟仍 从仂仂 亳亠仄舒 仆亠 仄仂亞仍舒 仆舒亶亳 亠仍亠于舒仆仆亠 舒从. MI09 - Distant supervision for relation extraction without labeled data [Mike Mintz et al., 2009]. YA11 - 亠亳 MI09 亟仂弍舒于仍亠仆亳亠仄 preprocessed cluster features [Limin Yao et al., 2011] SU12 - the state-of-the-art Multi-Instance Multi-Label system [Mihai Surdeanu et al., 2012]. 仍 于亠 仆仂于 仄仂亟亠仍亠亶 亳仗仂仍亰仂于舒仆 仂亟亳仆舒从仂于亠 亰仆舒亠仆亳 K = 100, 1000 epochs, 0.01 于 从舒亠于亠 亠亞仍磶舒仂舒 亟仍 于亠仂于 从仂仄仗仂仆亠仆仂于 亳 0.1 亟仍 于亠仂于 仂亠亟亠亶.
  • 18. 丐舒弍仍亳舒 1. 弌亠亟仆亳亠 亳 (于亰于亠亠仆仆亠) MAP 亰仆舒亠仆亳 亟仍 仂仆仂亠仆亳亶 Freebase, 仂仆仂于舒仆仆亠 仆舒 仂弍亠亟亳仆亠仆仆 亟舒仆仆. 弌仂仍弍亠 # 仂亟亠亢亳 从仂仍亳亠于仂 仗仂亰亳亳于仆 舒从仂于 于 弍舒亰亠. 亳仆仄 从舒亰舒仆 仗仂弍亠亟亳亠仍亳, 从亳于仂仄 - 仆亳.
  • 19. 舒亳从 1. 弌亠亟仆 11-亰仆舒仆舒 从亳于舒 仂仆仂-仗仂仍仆仂舒 亟仍 仂仆仂亠仆亳亶 Freebase
  • 20. 舒亳从 2. 丐仂仆仂 亳 仗仂仍仆仂舒 亟仍 works_written(X,Y)
  • 21. 亠亰仍舒 亟仍 Surface Patterns 丐舒弍仍亳舒 2 仂亟亠亢亳 舒于仆亠仆亳亠 仆舒亳 仄仂亟亠仍亠亶 仆舒 10 仗仂于亠仆仂仆 仗舒亠仆舒. 亅亳 亠亰仍舒 弍仍亳 于弍舒仆 从舒从 仆舒亳弍仂仍亠亠 亳仆亠亠仆亠, 仗仂 仄仆亠仆亳 舒于仂舒, 于仂仗仂, 仆亠 仂亟亠亢舒亳亠 于 Freebase. 于仆仂于 于亳亟亳仄, 仂 亟仂弍舒于仍亠仆亳亠 从 仄仂亟亠仍亠亶 (F, E) 亠于亠仆仆仂 仍舒亠 亠亰仍舒 仗仂 舒于仆亠仆亳 N-仄仂亟亠仍.
  • 22. 丐舒弍仍亳舒 2. 弌亠亟仆亳亠 亳 (于亰于亠亠仆仆亠) MAP 亰仆舒亠仆亳 亟仍 仂仆仂亠仆亳亶 仗仂于亠仆仂仆 仗舒亠仆仂于
  • 23. 舒亳从 3. 弌亠亟仆 11-亰仆舒仆舒 从亳于舒 仂仆仂-仗仂仍仆仂舒 亟仍 仂仆仂亠仆亳亶 仗仂于亠仆仂仆 仗舒亠仆仂于
  • 24. 舒从仍ﾑ亠仆亳亠 仍舒 仗亠亟舒于仍亠仆舒 仄仂亟亠仍 亳亰于仍亠亠仆亳 仂仆仂亠仆亳亶 于 仆亳于亠舒仍仆亠 亠仄. 仂亟仂弍仆亠 亠仄 仂亟亠亢舒 仗亠亠仆 仗仂于亠仆仂亳, 舒 舒从亢亠 仂仆仂亠仆亳 亳亰 从亳仂于舒仆仆, 仗仂仍亠仆仆亠 亳亰 亟舒仆仆. 仂于亠仆仂仆亠 仗舒亠仆 + 弌从亳仂于舒仆仆亠 仂仆仂亠仆亳 = 丕仍亠仆亳亠 从舒亠于舒! 仂于舒 仄仂亟亠仍 舒仂亟亠 仄亠仆亠 于亠仄亠仆亳 仆舒 仂弍亠仆亳亠 仗亳 舒于仆 仂弍仄舒 亳仆仂仄舒亳亳. 仂于亶 仗仂亟仂亟 仄仂亢仆仂 亳仗仂仍亰仂于舒 亟仍 舒亰仍亳仆 亳仆亠亞舒亳仂仆仆 亰舒亟舒.
  • 25. 弌仍从亳 Probabilistic Databases of Universal Schema [Limin Yao 亳 亟., 2012] Open IE: http://ai.cs.washington.edu/projects/open-information-extraction 亠仂亟 亞仍舒于仆 从仂仄仗仂仆亠仆: http://ru.wikipedia.org/wiki/亠仂亟_亞仍舒于仆_从仂仄仗仂仆亠仆 http://books.nips.cc/papers/files/nips14/AA27.pdf 仂仍仍舒弍仂舒亳于仆舒 亳仍舒亳: http://ru.wikipedia. org/wiki/仂仍仍舒弍仂舒亳于仆舒_亳仍舒亳