![[DL輪読会]Learning Latent Dynamics for Planning from Pixels](https://cdn.slidesharecdn.com/ss_thumbnails/taniguchi20181221-190104064850-thumbnail.jpg?width=560&fit=bounds)
Ad
More Related Content
What's hot (20)
More from Ruo Ando (20)
Ad
解説#82 記号論理学
- 3. ? AIの分野には、３つの潮流 – 記号の時代、確率と因果の時代、 そしてニューラルネットワークの時代 – がありました。 ? 形式体系で表現される抽象言語と記号推論のパワーを重視する 初期のアイディアは非常に重要であり、このうえなく正しいア イディアでした。 - ジョシュア?テネンバウム MIT計算論的認知科学教授 人工知能のアーキテクトたち ―AIを築き上げた人々が語るその 真実 Martin Ford (著), 松尾 豊 (監修), 水原 文 (翻訳) オライリージャパン (2020/8/25)
- 4. 記号論理学とは（１） ? 記号論理学とは、文で表された論理を記号で表現し、それを操 作の対象として機械的な推論を行う。 ? ブール代数は「演算」を扱い、記号論理学は「推論」を扱う。 ? 記号論理学の推論の対象は記号で表された論理式 ? 論理式を表す論理には、命題論理と述語論理がある。 ? （参考）記号論理学は、研究対象が論理的思考であり、その論 理的思考を論理的思考に基づいて研究していかなければならな い。つまり対象としての論理と、対象をあつかうための論理と いう二重構造がある。
- 5. 命題論理と述語論理 ? 記号論理学で扱う論理には、命題論理と述語論理がある。 ? 命題論理:命題論理は、真か偽かのいずれかの一方の値をとる 命題を対象とする。論理代数とも呼ばれる。ブール代数（B2: 零元に０，単位元に１の数字をあてたもの）で成立する様々な 性質は命題論理でも成立する。 ? 述語論理:命題論理の表現能力を高め、対象としている「も の」の持つ性質やそれらの間の関係なども表すことができるよ うに命題論理を拡張したもの。
- 8. 述語論理 ? 述語論理は命題の真偽値だけでなく、ある事象?実物の性質やそれ らの間の関係も含めた命題の内部構造までも表現する。 ? 「地球は太陽の周りを公転している」「ソクラテスは死ぬ」「６は 素数である」 「公転している」や「死ぬ」、「偶数」などのある関係を示すものを 述語と呼び、「太陽」や「地球」、「ソクラテス」、６のようにその 性質をなっているものを項と呼ぶ。 P: 公転(地球、太陽） Q: 死ぬ（ソクラテス） R: 偶数(6)
- 9. 命題論理と述語論理 (1) イルカは哺乳類である (2) イルカは水棲動物である (3) イルカは水棲の哺乳類である (4) 水棲の哺乳類は存在するか (5) 水棲の哺乳類を求めよ (4)は真偽判定であるが、命題論理では計算できない。 (5)は真偽値以外の値を求める質問なので、命題論理では扱えない。 (4)は述語論理では、積集合か空集合かを判定すればよい。 (5)は述語論理では、積集合の要素を求めればよい。 哺乳類（イルカ） 水棲動物（イルカ） ------------------------------------------ 哺乳類（イルカ）∧水棲動物（イルカ） イルカ→哺乳類 イルカ→水棲動物 ------------------------------- イルカ→哺乳類∧水棲動物 命題論理 述語論理
- 10. 命題とドメイン(関心領域） 真の命題 (1) ソクラテスは死ぬ (2) f(x) = x^2 + x -2 のとき、f(1) = 0 (3) a,bを任意の整数として、(a+b)^2 = a^2 + 2ab+ b^2 (4) a^2 + b^2 = c^2となる自然数a,b,cが存在する 偽の命題 (5) ソクラテスは死なない (6) f(x) = x^2 + x -2 とすると、f(2) = 0 (7) a,bを任意の整数として、a^2 + 2ab + b^2 > 0 (8) a^3 + b^3 = c^3となる自然数a,b,cが存在する 命題(1)(2)(3)(4)は事実を主張しているのに対し、命題(3)(4)(7)(8)では対象としてい る領域がある。(3)(7)は整数の領域、(4)(8)は自然数の領域。この領域をドメイン （関心領域）という。
- 11. 全称命題と存在命題 ?全称命題:ドメイン内のすべての要素が条件を満たすとき真となる。 整数をドメインとする全称命題 真:(3) a,bを任意の整数として、(a+b)^2 = a^2 + 2ab+ b^2 偽:(7) a,bを任意の整数として、a^2 + 2ab + b^2 > 0 全称命題で、条件が成立しない事例をその命題の反例という。 (7)では、a=2, b=-2とすると条件を満たさないため、 (7)は偽であり、a=2, b=-2は反例である。 ?存在命題:ドメイン内のすべての要素が条件を満たすとき真となる。 自然数をドメインとする存在命題 真:(4) a^2 + b^2 = c^2となる自然数a,b,cが存在する(a, b, c) = (3, 4, 5) 偽:(8) a^3 + b^3 = c^3となる自然数a,b,cが存在する
- 12. 述語論理と限量記号(?, ?) ?ある事象?事物の性質や関係をしめしたものを述語という。 ??:全称記号（Zは自然数） 偽:?a,b ∈ Z (a+b)^2 = a^2 + 2ab + b^2 整数のすべての要素a,bについて(a+b)^2 = a^2 + 2ab + b^2が成立す る (a, b) = (3, 4) 7^2 > 9 + 14 + 16 ??:存在記号（Nは自然数） 真:?a,b ∈ N a^2 + b^2 = c^2 自然数の任意の要素a,bについてa^2 + b^2 = c^2が成立する (a, b, c) = (3, 4, 5)
- 14. 記号論理学とは（２） ? 記号論理学は推論の科学 ? 推論とは正しいと仮定された事実から、別の事実を導き出すこと。 ? 推論に使う計算を論理計算、推論の過程を証明と呼ぶ。 ? 論期計算における記号操作法は推論規則と呼ばれる。代表的な推 論規則には、三段論法がある。 ? 記号論理の推論のプログラミングには「導出原理」が使われる。
- 15. 演繹?帰納?発想推論 ? 推論には、演繹?帰納?発想の３種類がある。 ? 大前提「人間は死ぬ」:一般的規則 ? 小前提「ソクラテスは人間である」:具体的規則 ? 帰結「ソクラテスは死ぬ」 ? 演繹推論:大前提と小前提から帰結を導く ? 帰納推論:小前提と帰結から大前提を導く（この場合、いくつ かの具体的規則が必要） ? 発想推論:仮説を導く
- 16. 推論規則 - 三段論法 推論における記号操作法は推論規則と呼ばれる。 肯定式(modus ponens):P→QとPからQを導く p→q:コイルに電流が流れていれば磁界ができる。 p:コイルに電流が流れている。 q:磁界ができる。 三段論法(syllogism):P→QとQ→RからP→Rを導く p→q:ソクラテスは人間である。 q→r:人間は死ぬ。 p→r:ソクラテスは死ぬ。
- 17. 推論規則の例 - 三段論法 推論における記号操作法は推論規則と呼ばれる。 命題論理での三段論法:AとA?BからBを導く A:ソクラテスは人間である。 A?B:人間は死ぬ。 B:ソクラテスは死ぬ 述語論理で一般化（形式化）すると下記のようになる。 A: aはP1である。→ P1(a) A?B: P1はP2である。→ P1?P2 B:aはP2である。→ P1(a)
- 18. 推論規則 - 導出原理 ? ある述語の正のリテラルを含む選言式と負のリテラル を含む選言式からその述語を削除した選言式を導くこ とができる。 ? A, ￢A ∨ B ((P → P') ≡ (￢P ∨P')) ? pを正のリテラル、P、Qを論理式として、 p∨Qと～p∨Rを真とするあらゆる解釈に対してQ∨Rも 真となる。
- 19. 推論規則 - 導出原理 ? ある述語の正のリテラルを含む選言式と負のリテラルを含む選言式 からその述語を削除した選言式を導くことができる。 ? 肯定式: A, ￢A ∨ B ? B : ((P → P') ≡ (￢P ∨P')) ? 三段論法: A, A → B, B → C ? C : A ∧ (A → B) ∧ (B → C) 反駁 : A ∧ (A → B) ∧ (B → C)に￢Cを加えて矛盾を導く A ∧ (A → B) ∧ (B → C) ∧ ￢C ≡ A ∧ (￢A ∨ B) ∧ (￢B ∨ C) ∧ ￢C ≡ □(矛盾)
- 20. 帰納推論 – 演繹推論との違い ? 帰納推論は、帰結と小前提から大前提を導く ? 演繹推論は機械的に正しく実行できるが、帰納推論は機械化が難しい。 ? 理由:与えられた帰結と小前提の組が説明できる仮説が１つ以上ある。 「人間は死ぬ」だけでなく、「動物は死ぬ」も妥当な仮説であり、反例が 与えられない限り、「すべてのものは死ぬ」も妥当な仮説。 ? 機械推論は各文の意味を考えているわけではなく、記号のみの操作を行っ ているので、機械的にどの文が無関係かを判定するのは容易ではない。 ? 考えうる仮説群の中からは適切な仮説を選択する基準として、「バイア ス」や「記述量」がある。
- 21. 帰納推論 – 仮説の問題 ? 帰納推論の機械化の第一歩は、妥当な仮説の列挙 ? 仮説には強弱がある。 ? 「すべてのものは死ぬ」は強すぎる ? 「学者は死ぬ」は弱すぎる（モーツァルトは死ぬ） ? 仮説の正しさの問題 ? 必ずしも完全に正しい仮説が存在しない。 ? データ（小前提?帰結）の誤差?予測の誤り ? 正解があるにも関わらず、帰納推論システムがそれを発見?選択できない場合。
- 22. 帰納推論 – バイアス ? 正解があるにも関わらず、帰納推論システムがそれを発見?選択できない場合。 ? １、３、７、□という行列があるとする。仮説の候補としては、 ? 13: f(n) = n^2 + 1 ? 15: f(n) = 2^n – 1 ? F(n) = n^3 + 5n^2 + 10n – 5 ? F(n) = 2n^3 + 11n^2 +21n – 11 このような場合、考えうる仮説に対して制限を加えることが必要になる。例えば、「仮説 は２次式である」など。このような制限をバイアスと言う。帰納推論（機械学習）にとっ てバイアスは不可欠である。
- 24. 帰納推論 – 記述量 ? 学習の目的の１つは、記述量の節約 ? もし学習しても、その記述量が変わらなければ、丸暗記と同じ。 ? 概念を記憶するために必要な記述量と正確に捉えるのは容易ではな い。 ? もし仮説の記述が大変複雑になり、それが元々の事例集合の記述よ りも複雑になってしまったら、そのような仮説はルールとしての価 値を見失ってしまう。 ? 記述量の理論は、学習理論ばかりでなく、通信理論や画像処理にお いても大切な役割を演じる。(MPEG/JPEG/ハフマン符号）
- 25. 帰納推論 – 記述量 ? 記述量は、バイアスと共に、多くの仮説の中から適切な仮説を 選択するのに用いられる。 ? バイアスは仮説空間を制限するが、記述量は多くの無矛盾な仮 説の中から適切な仮説を選択するのに用いられる。 ? もし無矛盾な仮説がいくつか存在したのなら、その中から１つ を選ぶとしたら、最も簡潔なものを選ぶのが妥当。
- 26. ? また人類は、すでに確率的プロファイリングという技術を作り上げ ています。私が言いたいのは、これが論理言語やプログラミング言 語の表現力と学習能力を結び付けてくれるということです。 - スチュアート?Ｊ?ラッセル ULCA コンピュータサイエンス教授 ? 要するに、ニューラルネットワークは類似性に基づいて行える処理 を非常に得意にしている一方で、類似性がなくルールの理解が必要 な処理は非常に不得意なのです。この研究が行われたのは1992年で したが、25年後の現在でもその点は変わっていません。 - ゲアリー?マーカス ニューヨーク大学神経科学教授 人工知能のアーキテクトたち ―AIを築き上げた人々が語るその真実 Martin Ford (著), 松尾 豊 (監修), 水原 文 (翻訳) オライリージャパン (2020/8/25)