![[DL輪読会]It's not just size that maters small language models are also few sho...](https://cdn.slidesharecdn.com/ss_thumbnails/itsnotjustsizethatmaterssmalllanguagemodelsarealsofew-shotlearners-210910034516-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]World Models](https://cdn.slidesharecdn.com/ss_thumbnails/20180427-180427003856-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Xception: Deep Learning with Depthwise Separable Convolutions](https://cdn.slidesharecdn.com/ss_thumbnails/2017-06-22-170623004409-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Clebsch–Gordan Nets: a Fully Fourier Space Spherical Convolutional Neu...](https://cdn.slidesharecdn.com/ss_thumbnails/20181214clebschgordanmizuta-181214051939-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Few-Shot Unsupervised Image-to-Image Translation](https://cdn.slidesharecdn.com/ss_thumbnails/dlseminarfunit-190517005148-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Opening the Black Box of Deep Neural Networks via Information](https://cdn.slidesharecdn.com/ss_thumbnails/dlhacks10161-171027055615-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Focal Loss for Dense Object Detection](https://cdn.slidesharecdn.com/ss_thumbnails/focalloss-180208092846-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]A Bayesian Perspective on Generalization and Stochastic Gradient Descent](https://cdn.slidesharecdn.com/ss_thumbnails/20171106dl2-171108033614-thumbnail.jpg?width=560&fit=bounds)
![[DL輪読会]Autonomous Reinforcement Learning: Formalism and Benchmarking](https://cdn.slidesharecdn.com/ss_thumbnails/20220311arlfinal-220314025127-thumbnail.jpg?width=560&fit=bounds)
More Related Content
What's hot (20)
More from t dev (6)
Recently uploaded (11)
CNNとGAを用いた 組合せ最適化問題
- 4. 組合せ最適化問題とは ● 「ビンパッキング問題」に挑戦 許容量が限定された箱に入る物体の組合せと箱の数を最適 化 箱 許容量: 500g 物体1 重量: 50g 物体2 重量: 150g 物体3 重量: 500g 物体4 重量: 200g 1. 最適な物体の組合せは？ 2. 箱の必要最小数は？
- 5. 組合せ最適化問題とは ● モチベーション 様々な実問題に応用可能 – 引越し時のダンボールの必要数 – 最適な組合せで配送にかかるコストの削減 – 携帯電話と基地局の回線割当 – メモリの最適割り当てもできる？？ などなど
- 7. 各システム図(CNN) ● 入力：物体と箱の白黒画像（127*127） ● 出力：物体の重量と箱の容量を記録したtxtファイル CNN CNN 物体と箱の情 報 種類, 重量 -------------------- 物体1, 50 物体2, 150 ? ? ? 箱0, 500 -------------------- ｔｘｔファイル入力画像 CNN（回帰） 任意の枚数 （=任意の個数） 1枚(=1個)
- 8. 各システム図（GA） 物体と箱の情 報 種類, 重量 -------------------- 物体1, 50 物体2, 150 ? ? ? 箱0, 500 -------------------- GA 最適な物体組合せ と 箱の必要最小数 出力 ● 入力: 物体と箱の情報(物体の種類, 重量および箱の重量) ● 出力: 最適な物体の組合せと箱の必要最小数 入力
- 10. システム概要 - CNN ● CNN（Convolutional Newral Network） 網膜の細胞にも見られる入力?中間層の局所的な結合（全 結合ではない）構造を持ったニューラルネットワーク。 画像分類等に利用されている。 CNN imgimgimgimg 0.1 0.1 0.1 ... 学習 モデル 作成 CNN img 推定 ex:「猫」HDF5
- 11. CNN システム概要 - CNN ● 物体の重量を推定したい→回帰 ● 前回のキノコ用コード（分類）がある→誤差関数を２乗誤 差に ● 訓練画像はCGで自動生成しよう（４万枚） 2乗誤差 F.mean_squared_error …. Z値画像も作ったが性能 上がらず断念。物体の重さ?箱の容量はともに５ 種類
- 12. システム概要 - GA ● GAとは – 生物の進化による環境適応をアルゴリズム化 – 集団から適応度により個体を選択、交叉、突然変異に よって進化させ、環境に適応 前回作成したGAを今回は使用 集団の初期化 適応度計算 選択 交叉 突然変異
- 13. システム概要 - GA ● 適応度 – 個体の各遺伝子にはグループ番号を割り当てる – 同一のグループ番号であれば同じ箱に入る 1 1 2 2 2 3 遺伝子 1 –のグループの総重量 箱の許容量 = グループ適応度1 2のグループの総重量 - 箱の許容量 = グループ適応度2 3のグループの総重量 - 箱の許容量 = グループ適応度3 合計適応度 = グループ適応度1 + グループ適応度2 + グループ適応度3 合計適応度がより低いものが生存=優秀な組み合わせ ※グループ適応度計算時、箱の許容量を超えた場合は ペナルティとしてグループ総重量をグループ適応度に加算
- 14. デモ 一ヶ月の成果
- 15. ● 組み合わせ最適化の難しさ 物体数が増えると時間がかかり、最適解が出なくなる ex ：物体３,０００個 → 2?3時間かかった。 ● 既存のツールを使えば速く解けるかも???！ 課題
- 16. ● ortoolpyを使用する。 ● 物体数1000のビンパッキング問題を実行 ● 48時間経っても終わらない??? ● 内部でどのアルゴリズムを使っているかはわか らなかった。 既存モジュール
- 17. ● 組み合わせ最適化では、組み合わせが増えると 現実的な時間で解くことができない。 ● GAは（厳密解法ではないが）、一定の時間内 に解答を出すことができる GAのメリット 先行事例： 1. 遺伝アルゴリズムによる2次元ビンパッキング問題の解法 http://www.kochi-tech.ac.jp/library/ron/2010/2010info/1110292.pdf →物体の幅が大きいものから先に詰める解法が有効 2. ナップサック問題における動的計画法と遺伝アルゴリズムの比較?評価 http://www.kochi-tech.ac.jp/library/ron/2003/2003info/1040277.pdf →問題規模が大きく、かつ容積に対して物体の個数が少ない場合GAが有効 今回の問題とは違うが、「動的計画法」なら厳密解が出る???！？ 3. 遺伝的アルゴリズムでナップザック問題を攻略 http://qiita.com/simanezumi1989/items/10cfe1e8a23cd9d4c7b1
- 18. ● 動的計画法（Dynamic Programming, DP） 次を満たすアルゴリズムの総称。組合せ最適化問題で使用されている。 1. 分割統治法： 部分問題を解き、その結果を利用して問題全体を解く 2. メモ化： 部分問題の計算結果を記録して再利用する 上記により、同じ問題を２度解かない。→速くなる （※場合によっては数え上げ探索となりうる） 最適解が保証される。 動的計画法 具体的な動作等はこちらが詳しい 動的計画法 http://www.slideshare.net/KMC_JP/dp-34033161?next_slideshow=2 プログラミングコンテストでの動的計画法 http://www.slideshare.net/iwiwi/ss-3578511?next_slideshow=1
- 19. ● 「ビンパッキング問題」をGAで解いた ● 実社会への適用を考え、入力をCNNで与えた ● 組合せ最適化問題の実行時間に関して、GAが有効な 場合があることがわかった ● 他の手法を参考にGAの可能性を探っていきたい ※今回触れなかったがGAとNNの融合手法も存在する模様 まとめ