![朕議
? モバイル貧でDeep Learningのg廾
C 鮫騁JRシステムをg廾
? 鮫騁JRシステムの曳^蛍裂
C 蒙にJRrgに彭朕
5
モバイルの蒙來を深]したDeep Learningのg廾](https://image.slidesharecdn.com/160229tanno2ppt-180315191118/85/OS-6-320.jpg)
![0
10
20
30
40
50
60
70
80
90
100
conv relu pool norm fc other
[%]
zみ咾慮瀚抻の駅勣來
? zみ咾麻rgのボトルネック
C zみ咾流zみ處麻を互堀晒
C Deep Learning畠悶の麻rgのp
13
麻rgの寄磯はzみ](https://image.slidesharecdn.com/160229tanno2ppt-180315191118/85/OS-14-320.jpg)
![まとめ
? モバイル貧でDeep Learningのg廾
C 鮫騁JRシステムをg廾
? 鮫騁JRシステムの曳^蛍裂
C 處麻の恷mな互堀晒垢健はモバイルOSでなる
C iOS: Accelerate Framework(BLAS)
C Android: NEON凋綜
27
Top 5 JRrg[ms]
Deep Learning 93.5% 143[ms]
愔簡峽 86.7% 96[ms]](https://image.slidesharecdn.com/160229tanno2ppt-180315191118/85/OS-28-320.jpg)
モバイルOS貧での侮嗔Яによる 鮫騁JRシステムのg廾と曳^蛍裂
- 2. はじめに ? モバイル極挑の互來嬬晒 C スマ`トフォンで鮫騁JRが辛嬬に ? 侮嗔Я(Deep Learning)の鮄 C パタ`ンJR蛍勸で寄きな廣朕 1
- 4. はじめに ? モバイル極挑の互來嬬晒 C スマ`トフォンで鮫騁JRが辛嬬に ? 侮嗔Я(Deep Learning)の鮄 C パタ`ンJR蛍勸で寄きな廣朕 3 Deep Learningの鮄: モバイル貧での鮫騁JR
- 5. モバイルDeep Learning ? あまり冩梢がされていない C 蒙にg廾について(メモリ崙, CPU來嬬etc...) ? Deep Learningには寄ﾄＱ殍磴駅 C 麻楚がボトルネック 4 モバイルの蒙來 互堀晒の垢健は駅
- 6. 朕議 ? モバイル貧でDeep Learningのg廾 C 鮫騁JRシステムをg廾 ? 鮫騁JRシステムの曳^蛍裂 C 蒙にJRrgに彭朕 5 モバイルの蒙來を深]したDeep Learningのg廾
- 7. vB冩梢 ? JetPac Spotter C スタンドアロン侏1000N麗悶JR C JR返隈: Deep Learning C 掲巷_(JRフレ`ムワ`クはOSS) 6
- 8. vB冩梢 ? 采勸らの冩梢(IWMV2013) C Android井FoodCam C JR返隈Fisher Vector(HOG+Color)+侘SVM C 100Nの奮並JR ? 圷らの冩梢(MIRU2015) C Android井DeepFoodCam C JR返隈: Deep Learning C 100Nの奮並JR掲奮並 7
- 9. 愔簡峽┐箸留否^(JR娼業) 8 65.0% 70.0% 75.0% 80.0% 85.0% 90.0% 95.0% 100.0% 1 2 3 4 5 6 7 8 9 10 昨a方 Deep Learning 愔簡峽 Top1: 74.5% Top5: 93.5% Top1: 65.3% Top5: 86.7% ☆100カテゴリの奮並JRで曳^屎基楕 s10%來嬬鯢
- 10. Deep LearningによるJRエンジン ? DCNNの僥 ? zみ咾慮瀚抻 9
- 11. DCNNの僥 ? 匯違議にはAlexNetを僥モデルに旋喘 C AlexNet: s6000嵐パラメ`タ ? Network-In-Network(NIN)を駻 C Network-In-Network: s750嵐パラメ`タ 10 メモリ崙
- 13. AlexNetのパラメ`タ方のグラフ 12 0 0.5認嵐 1認嵐 1.5認嵐 2認嵐 2.5認嵐 3認嵐 3.5認嵐 4認嵐 その麿 畠Y栽 畠Y栽咾魍肇 Network-In-Network パラメ`タ紗の圻咀の畠Y栽咾魍肇 パラメ`タ方 メモリ 屎基楕(5了參坪) AlexNet 6000嵐 230MB 95.1% NIN 750嵐 29MB 93.5%
- 14. 0 10 20 30 40 50 60 70 80 90 100 conv relu pool norm fc other [%] zみ咾慮瀚抻の駅勣來 ? zみ咾麻rgのボトルネック C zみ咾流zみ處麻を互堀晒 C Deep Learning畠悶の麻rgのp 13 麻rgの寄磯はzみ
- 15. Image to column(Im2col) ? 鮫颪3肝圷塘双を2肝圷塘双にQ C zみ處麻を佩双持に鯛としこむ 14
- 18. Basic Linear Algebra Subprograms(BLAS) ? BLASライブラリ CAPIを旋喘 CLevel3 BLAS ? ? ○ ??? + ?? 佩双と佩双のe CiOS: Accelerate Framework, CAndroid: OpenBLAS 17
- 19. NEON凋綜 ? NEON凋綜 C揖rに4つの32bitg娼業検嗤（泣の處 麻 CiOS: 2Core*4 = 8處麻 CAndroid: 4Core*4 = 16處麻 18
- 20. 恬撹したアプリ ? 2000N(掲奮並1000+奮並1000)をJRす ることができるアプリ C 2000CategoryCam ? 101N(掲奮並+奮並100N)をJRする ことができるアプリ C iOS井DeepFoodCam 19
- 24. 鮫騁JRシステムの曳^蛍裂 23 DeepBeliefSDK DeepFoodCam iOS貧にg廾 曳^蛍裂 フレ`ムワ`ク Deep Learning ?BLAS ?NEON Android井: DeepFoodCam 圷らの冩梢(MIRU2015) Android VS.
- 25. gYO協 ? gY朕議 C モバイル貧でのJRrgのy ? uデバイス(2岬) C iOS: iPhone 5s(1.3GHz, RAM1GB, 2Core) C Android: GALAXY Note3(2.3GHz, RAM3GB, 4Core) ? u圭隈 C 5パタ`ンのgY C JRrgを20指yして峠譲を麻竃 24 OS gY桑催 互堀晒返隈 フレ`ムワ`ク iOS (1) BLAS iOS(BLAS) iOS (2) NEON iOS(NEON) Android (3) BLAS Android(BLAS) Android (4) NEON Android(NEON) iOS (5) BLAS DeepBeliefSDK
- 27. 深賀 ? iOS: Accelerate framework C Appleが戻工 C デバイスに恷m晒 ? Android: OpenBLAS C ？なCPUに C デバイスに恷m晒されていない 26
- 28. まとめ ? モバイル貧でDeep Learningのg廾 C 鮫騁JRシステムをg廾 ? 鮫騁JRシステムの曳^蛍裂 C 處麻の恷mな互堀晒垢健はモバイルOSでなる C iOS: Accelerate Framework(BLAS) C Android: NEON凋綜 27 Top 5 JRrg[ms] Deep Learning 93.5% 143[ms] 愔簡峽 86.7% 96[ms]
- 29. 書瘁のn} ? CNNによるより}jなI尖のg廾 C I囃蛍護 C 啝颪離螢▲襯織ぅI尖 ? GPGPU 28
- 30. |夘鬴 ? モバイル貧でDeep Learningのg廾 C 鮫騁JRシステムをg廾 ? 鮫騁JRシステムの曳^蛍裂 C 處麻の互堀晒垢健はモバイルOSでなる ? CNNによるより}jなI尖のg廾 C I囃蛍護 C 啝颪離螢▲襯織ぅI尖 C GPGPU 29 まとめ 書瘁のn}