狠狠撸

狠狠撸Share a Scribd company logo

顿尝モデル开発中の雑务が嫌で支援プラットフォームを作った话

?Download as PPTX, PDF?
?
Kamonohashi
Kamonohashi

2019/5/16に行われたGPU Deep Learning Community #11にて、LT発表させていただいた資料です。掲載に合わせ、少し改変しています。 https://gdlc.connpass.com/event/128748/ Deep Learning開発を行うにあたり、弊社の研究チームが直面した課題と、その解決方法として開発した支援プラットフォームKAMONOHASHIを紹介します。

1 of 34
Downloaded 14 times
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. DLモデル開発中の雑務が嫌で 支援プラットフォームを作った話 日鉄ソリューションズ株式会社 システム研究開発センター
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. Question 2 AIの 開発環境 どうしてますか？ 特にDeep Learning
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 本日の主題 3 効率的?効果的に AI開発するために作った 弊社環境について紹介
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 弊社のAI開発体制 4 Storage GPU a GPU a GPU b GPU b GPU c GPU c GPU d GPU d GPU e GPU e GPU f GPU f GPU f GPU f GPU g GPU g GPU g GPU g ???
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. そもそも 5 AI開発の 何が辛いのか
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 6 GPU GPU モデル開発 学習 推論
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 7 GPU GPU モデル開発 学習 推論 だけじゃない
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 8
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 9
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 10 使うたびに環境構築 蓄積され続けるデータの管理 実験の履歴を欠かさず記録 計算リソースの割り当て管理
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 11 使うたびに環境構築 蓄積され続けるデータの管理 実験の履歴を欠かさず記録 雑務 雑務 雑務 計算リソースの割り当て管理 雑務
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 12 雑務多すぎ
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 13 支援プラットフォーム 作りました
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 14 支援プラットフォーム 作りました
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 15 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job Minio User Browser CLI Container
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 16 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application Minio User Browser CLI GPU Nodes GPU Job Container コンテナで環境をポータブル化
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 17 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Web Application GPU Nodes GPU Job Minio User Browser CLI ContainerCluster Manager GPU対応ジョブスケジューラ
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 18 S3 NFS Gateway Model Source NFS Storage Cluster Manager GPU Nodes GPU Job Minio User Browser CLI Container System Nodes Database PostgreSQL Web Application 履歴は全てDB管理 WebアプリをかぶせてUX向上
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 履歴の記録 19 学習環境 python, TensorFlow等 リソース CPU/メモリ/GPU GPU GPU 学習結果 （AI） 大量のデータ (画像等) 学習モデル (pythonコード) 実行コマンド (python train.py) Storage モデル開発のすべては ストレージに自動保存
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 20 S3 NFS Gateway NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job Minio User Browser CLI Container Model Source 開発したモデルはGitで管理
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 21 Model Source System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job User Browser CLI Container S3 NFS Gateway NFS Storage Minio アプリからNFSへは ObjectStorageとしてアクセス データはNFSで一元管理 ＆コンテナへマウント
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 22 DEMO
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 実例と実績 23 ? NSSOL AI開発人材のパフォーマンスを KAMONOHASHIで最大化した成果 ? 参加チーム数:1,316 ? 日本のチーム内では1位 https://www.kaggle.com/c/quickdraw-doodle-recognition/leaderboard Kaggle Competitionで世界6位入賞
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. ごめんなさい 24 ここからCMです
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 25 AI開発プラットフォーム KAMONOHASHI 皆様もご利用になれます
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. KAMONOHASHIがなかった頃のプロセス 26 ? AI技術者の時間が本来の作業に使えない ? 計算リソースがフル活用できない 計 算 リ ソ ー ス の 確 保 入 力 デ ー タ の 用 意 学 習 の 計 画 環 境 の 用 意 学 習 結 果 と 履 歴 の 保 存 モ デ ル の 配 備 計 算 リ ソ ー ス の 確 保 入 力 デ ー タ の 用 意 学 習 環 境 の 用 意 モ デ ル の 配 備 学 習 案 件 A 結 果 と 履 歴 の 保 存 本来の作業 副次的作業
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 現在のプロセス 27 ? AI技術者と計算リソースのパフォーマンスを最適化 ? AI技術者のモチベーション向上、スキルアップにも貢献 KAMONOHASHI に 指 示 学 習 の 計 画 学 習 …学 習 案 件 A 副次的作業本来の作業
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 28
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 29 でもお高いんでしょう？
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 30 特報
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 特報 31 技術で世界を変えるAI開発者へ 2019/5 OSS公開予定
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. ご興味があればお声がけください 32 公開に向けて絶賛準備中 https://kamonohashi.ai Twitter: @kamonohashi_kqi
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 終幕 33 ご清聴ありがとう ございました
Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 商標についての注記 34 – NS Solutions は、日鉄ソリューションズ株式会社の登録商標です – KAMONOHASHI及びKAMONOHASHI(ロゴ)は、日鉄ソリューションズ株式会社の 登録商標です – その他本文記載の会社名及び製品名はそれぞれ各社の商標又は登録商標です

More Related Content

顿尝モデル开発中の雑务が嫌で支援プラットフォームを作った话

  • 1. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. DLモデル開発中の雑務が嫌で 支援プラットフォームを作った話 日鉄ソリューションズ株式会社 システム研究開発センター
  • 2. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. Question 2 AIの 開発環境 どうしてますか？ 特にDeep Learning
  • 3. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 本日の主題 3 効率的?効果的に AI開発するために作った 弊社環境について紹介
  • 4. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 弊社のAI開発体制 4 Storage GPU a GPU a GPU b GPU b GPU c GPU c GPU d GPU d GPU e GPU e GPU f GPU f GPU f GPU f GPU g GPU g GPU g GPU g ???
  • 5. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. そもそも 5 AI開発の 何が辛いのか
  • 6. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 6 GPU GPU モデル開発 学習 推論
  • 7. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 7 GPU GPU モデル開発 学習 推論 だけじゃない
  • 8. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 8
  • 9. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 9
  • 10. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 10 使うたびに環境構築 蓄積され続けるデータの管理 実験の履歴を欠かさず記録 計算リソースの割り当て管理
  • 11. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. AIの開発プロセス 11 使うたびに環境構築 蓄積され続けるデータの管理 実験の履歴を欠かさず記録 雑務 雑務 雑務 計算リソースの割り当て管理 雑務
  • 12. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 12 雑務多すぎ
  • 13. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 13 支援プラットフォーム 作りました
  • 14. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 14 支援プラットフォーム 作りました
  • 15. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 15 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job Minio User Browser CLI Container
  • 16. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 16 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application Minio User Browser CLI GPU Nodes GPU Job Container コンテナで環境をポータブル化
  • 17. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 17 S3 NFS Gateway Model Source NFS Storage System Nodes Database PostgreSQL Web Application GPU Nodes GPU Job Minio User Browser CLI ContainerCluster Manager GPU対応ジョブスケジューラ
  • 18. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 18 S3 NFS Gateway Model Source NFS Storage Cluster Manager GPU Nodes GPU Job Minio User Browser CLI Container System Nodes Database PostgreSQL Web Application 履歴は全てDB管理 WebアプリをかぶせてUX向上
  • 19. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 履歴の記録 19 学習環境 python, TensorFlow等 リソース CPU/メモリ/GPU GPU GPU 学習結果 （AI） 大量のデータ (画像等) 学習モデル (pythonコード) 実行コマンド (python train.py) Storage モデル開発のすべては ストレージに自動保存
  • 20. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 20 S3 NFS Gateway NFS Storage System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job Minio User Browser CLI Container Model Source 開発したモデルはGitで管理
  • 21. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. アーキテクチャ 21 Model Source System Nodes Database PostgreSQL Cluster Manager Web Application GPU Nodes GPU Job User Browser CLI Container S3 NFS Gateway NFS Storage Minio アプリからNFSへは ObjectStorageとしてアクセス データはNFSで一元管理 ＆コンテナへマウント
  • 22. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 22 DEMO
  • 23. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 実例と実績 23 ? NSSOL AI開発人材のパフォーマンスを KAMONOHASHIで最大化した成果 ? 参加チーム数:1,316 ? 日本のチーム内では1位 https://www.kaggle.com/c/quickdraw-doodle-recognition/leaderboard Kaggle Competitionで世界6位入賞
  • 24. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. ごめんなさい 24 ここからCMです
  • 25. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 25 AI開発プラットフォーム KAMONOHASHI 皆様もご利用になれます
  • 26. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. KAMONOHASHIがなかった頃のプロセス 26 ? AI技術者の時間が本来の作業に使えない ? 計算リソースがフル活用できない 計 算 リ ソ ー ス の 確 保 入 力 デ ー タ の 用 意 学 習 の 計 画 環 境 の 用 意 学 習 結 果 と 履 歴 の 保 存 モ デ ル の 配 備 計 算 リ ソ ー ス の 確 保 入 力 デ ー タ の 用 意 学 習 環 境 の 用 意 モ デ ル の 配 備 学 習 案 件 A 結 果 と 履 歴 の 保 存 本来の作業 副次的作業
  • 27. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 現在のプロセス 27 ? AI技術者と計算リソースのパフォーマンスを最適化 ? AI技術者のモチベーション向上、スキルアップにも貢献 KAMONOHASHI に 指 示 学 習 の 計 画 学 習 …学 習 案 件 A 副次的作業本来の作業
  • 28. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 28
  • 29. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 29 でもお高いんでしょう？
  • 30. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 30 特報
  • 31. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 特報 31 技術で世界を変えるAI開発者へ 2019/5 OSS公開予定
  • 32. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. ご興味があればお声がけください 32 公開に向けて絶賛準備中 https://kamonohashi.ai Twitter: @kamonohashi_kqi
  • 33. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 終幕 33 ご清聴ありがとう ございました
  • 34. Copyright ?2019 NS Solutions Corporation. All Rights Reserved. 商標についての注記 34 – NS Solutions は、日鉄ソリューションズ株式会社の登録商標です – KAMONOHASHI及びKAMONOHASHI(ロゴ)は、日鉄ソリューションズ株式会社の 登録商標です – その他本文記載の会社名及び製品名はそれぞれ各社の商標又は登録商標です

Editor's Notes

  • #5: オンプレです
  • #16: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos
  • #17: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos
  • #18: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos
  • #19: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos
  • #21: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos
  • #22: Browser Logo http://icooon-mono.com/11398-%E3%83%96%E3%83%A9%E3%82%A6%E3%82%B6%E3%82%A6%E3%82%A3%E3%83%B3%E3%83%89%E3%82%A6%E3%81%AE%E3%82%A2%E3%82%A4%E3%82%B3%E3%83%B3/ Postgres Logo Trademark Policy Inclusion of the name(s) or logo in your software or documentation to indicate that it runs on or with PostgreSQL. Kubernetes Branding GUidelines https://github.com/kubernetes/kubernetes/blob/master/logo/usage_guidelines.md https://www.linuxfoundation.jp/trademark-usage/ Git Logo by Jason Long is licensed under the Creative Commons Attribution 3.0 Unported License. https://git-scm.com/downloads/logos