際際滷

際際滷Share a Scribd company logo

字亠僥楼を酎麼晒する函り怏み

?Download as PPTX, PDF?
?
Yoshitaka Ushiku
Yoshitaka Ushiku

SB C&S幄塀氏芙麼岸、エヌビディア栽揖氏芙ほか慌岸のセミナ`仝AI?ディ`プラ`ニング冩梢宀がをきたい冩梢宀のと_k児Pの恷仟嗜髻垢砲ける児{v處です。

1 of 72
Download to read offline
C亠僥を仝酎麼晒々する函りMみ OMRON SINIC X / Ridge-i 釘消 蚩 losnuevetoros
徭失B初 2014.4 鴬平(秤鸚躪ぱ)、|奨寄僥 2014.4゛2016.3 NTT CS冩 冩梢T 2016.4゛ |奨寄僥 v (圻弥?釘消冩梢片) 2016.9゛ bI室gt栽冩梢侭 f薦冩梢T 2016.12゛ 忽羨忽Z冩梢侭 慌揖冩梢T 2018.4゛ オムロンサイニックエックス幄塀氏芙 Principal Investigator 2019.1゛ 幄塀氏芙Ridge-I CRO [Ushiku+, ACMMM 2012] [Ushiku+, ICCV 2015] 鮫颯ャプション伏撹 麼Q議な湖來燕Fを隔つ 鮫颯ャプション伏撹 啝の蒙協曝gと キャプションの犹碧 [Yamaguchi+, ICCV 2017] A guy is skiing with no shirt on and yellow snow pants. A zebra standing in a field with a tree in the dirty background. [Shin+, BMVC 2016] A yellow train on the tracks near a train station.
C亠僥を試喘した冩梢_kの蕕砲蓮 AI/MLのT社が Oしたものを 寄ﾄな麻児Pで 僥するために 畠てのデ`タが 孰し貧げられる
C亠僥を仝酎麼晒々するためには 措く冱われる仝酎麼晒々は ? githubやarXivによる岑Rの慌嗤 ? 徭AIによる掲T社のAI試喘
C亠僥を仝酎麼晒々するためには 措く冱われる仝酎麼晒々は ? githubやarXivによる岑Rの慌嗤 ? 徭AIによる掲T社のAI試喘 個鋲 あれ、こっちは´
このv處では ? AI/MLのエキスパ`トがOしたものを ? 寄ﾄな麻児Pで僥するために ? 畠てのデ`タが孰し貧げられる 酎麼晒に嶷勣(かつあまりZられることのない) ? 浙┐気譴靭Y坿でも ? 畠てのデ`タを鹿sしなくても g佩辛嬬なC亠僥室gをB初
浙┐気譴迅編瓦砲茲觧亠僥楼
恷仟のC亠僥室g ? 鮫I尖ResNet-50 C 2蛍でKわる [Mikami+, 2018] C ただしGPUが3456旦あったrの C しかも貧モデルは恷仟ではない ? 徭隼冱ZI尖BERT-Large C 4晩 〜 16 TPUs C TPU´侮嗔Яに蒙晒したハ`ドウェア Google Cloud Platform貧で聞喘辛嬬で、GPUの 10蔚參貧堀い
浙┐気譴靭Y坿でのC亠僥 ? ストレ`ジの崙s / 富ないデ`タに鬉垢襪砲 C デ`タ C 云v處歳造燭淵禰`タとしてBC-LearningをB初 ? 麻Cの崙s / ラベル原きデ`タが富ない栽 C 並念僥gみモデルからの卞僥 cf. ファインチュ`ニング C 云v處困箸に薬薺弔塀なしドメインm鬉鮓途Q
富方のラベル原きデ`タを森議に僥楼するには
なぜそれだけでうまく佩くのか ? 湖議な盾としては坤僖食`ンがえている C 竪のQく咄 C 溌のQく咄 繁gはそれぞれの咄とその樋をき蛍けられる ? C亠僥としてはFisher¨s criterionとo珸v晒 C Fisher¨s criterion = クラス柩e來 C o珸v晒 = クラスごとのサンプルの蛍下が個鋲 ？な護栽で2つが詞ざった咄
デ`タをどんな彜Bで栽撹するか ? 咄JRのためには C 2Nの咄蕗をそのまま栽撹すればよい
デ`タをどんな彜Bで栽撹するか ? 咄JRのためには C 2Nの咄蕗をそのまま栽撹すればよい
デ`タをどんな彜Bで栽撹するか ? 咄JRのためには C 2Nの咄蕗をそのまま栽撹すればよい
デ`タをどんな彜Bで栽撹するか ? 咄JRのためには C 2Nの咄蕗をそのまま栽撹すればよい ? 鮫馮亙兇里燭瓩砲
デ`タをどんな彜Bで栽撹するか ? 咄JRのためには C 2Nの咄蕗をそのまま栽撹すればよい ? 鮫馮亙兇里燭瓩砲 C 蒙翮織譽戰襪悩漏匹垢襭 C よりも´鮫颯譽戰襪悩漏匹靴新修措い 僥指方 僥返隈 `Re楕┌ィ 100 epoch Standard 20.4 BC (ours) 19.9 150 epoch Standard 20.4 BC (ours) 19.4 ImageNet 1Kでの娼業
BC Learning まとめ
卞僥 / ドメインm ? ソ`スドメイン 縮原きデ`タだが云桑のh廠とは`う ? タ`ゲットドメイン 云桑h廠でJRさせたいデ`タだが縮デ`タが C 畠くoい: 縮なしドメインm C 匯何にしかない: 磯縮原きドメインm ビデオ ゲ`ム g弊順
夘貌ラベルを喘いたドメインm 1st: Training on MNIST ★ Add pseudo labels for easy samples 2nd~: Training on MNIST+α ★ Add more pseudo labels eight nine Asymmetric Tri-training for Domain Adaptation [Saito+, ICML 2017]
p1 p2 pt S+Tl Tl S : source samples Tl : pseudo-labeled target samples Input X F1 F2 Ft ? : Pseudo-label for target sample y : Label for source sample F S+Tl F1 ,F2 : Labeling networks Ft : Target specific network F : Shared network 掲各眉我僥
p1 p2 pt S+Tl Tl S : source samples Tl : pseudo-labeled target samples Input X F1 F2 Ft ? : Pseudo-label for target sample y : Label for source sample F S+Tl FはF1,F2,Ftからの`餓の 拘塘それぞれで僥 掲各眉我僥
p1 p2 pt S S S : source samples Tl : pseudo-labeled target samples Input X F1 F2 Ft ? : Pseudo-label for target sample y : Label for source sample F S ソ`スドメインのデ`タで 光Re匂を兜豚晒 1. 兜豚僥
p1 p2 TInput X F1 F2 F T 光タ`ゲットサンプルについて F1とF2が匯協參貧の_佚業で揖じクラスだと蛍したら夘貌ラベル原嚥 T: Target samples 2. タ`ゲットのサンプルに夘貌ラベル原嚥
F1, F2 : ソ`ス夘貌ラベル原きタ`ゲット Ft: 夘貌ラベル原きタ`ゲット F : 畠Re匂からの`餓三 p1 p2 pt S+Tl Tl S : source samples Tl : pseudo-labeled target samples Input X F1 F2 Ft ? : Pseudo-label for target sample y : Label for source sample F S+Tl 3. 夘貌ラベルを喘いてタ`ゲット僥
p1 p2 pt S+Tl Tl S : source samples Tl : pseudo-labeled target samples Input X F1 F2 Ft ? : Pseudo-label for target sample y : Label for source sample F S+Tl 2.と3.を崩までRり卦す 3. 夘貌ラベルを喘いてタ`ゲット僥
朕議v方 恷K議な朕議v方 l1 |WT 1W2 |+L1 +L2 + L3 W1 W2 p1 p2 pt S+Tl F1 F2 Ft F S+Tl Tl L1 L2 L3 CrossEntropy F1とF2のパラメ`タが岷住すると弌さくなる つまり、なる尅玲いをもつように碧鬚韻
gYY惚 ? 方忖デ`タセット C MNIST, SVHN, SYN DIGIT ? 祇揃没Rデ`タセット C GTSRB, SYN SIGN GTSRB SYN SIGNS SYN DIGITSSVHN MNISTMNIST-M
タ`ゲットドメインでの娼業曳^ Source MNIST MNIST SVHN SYNDIG SYN NUM Method Target MN-M SVHN MNIST SVHN GTSRB Source Only (w/o BN) 59.1 37.2 68.1 84.1 79.2 Source Only (with BN) 57.1 34.9 70.1 85.5 75.7 DANN [Ganin et al., 2014] 81.5 35.7 71.1 90.3 88.7 MMD [Long et al., 2015 ICML] 76.9 - 71.1 88.0 91.1 DSN [Bousmalis et al, 2016 NIPS] 83.2 - 82.7 91.2 93.1 K-NN Labeling [Sener et al., 2016 NIPS] 86.7 40.3 78.8 - - Ours (w/o BN) 85.3 39.8 79.8 93.1 96.2 Ours (w/o Weight constraint) 94.2 49.7 86.0 92.4 94.0 Ours 94.0 52.8 86.8 92.9 96.2
伏撹モデルを喘いるアプロ`チ ? ドメインのズレを議僥で針捲する C 斌瞳の嘘尚 C 蹐離丱螢┤`ション C 孚苧訳周 C ´ ? 麗悶はReできるけど ? どちらのドメインの鮫颪はわからない ような蒙翮燭魍薐できればよい ＾蒙翮燭良撹￣
Deep Domain Confusion (DDC) ? SourceドメインのReエラ`を恷弌晒 ? ドメインgの蛍下の嶷なりを恷寄晒 [Tzeng+, arXiv 2014]
DDCのネットワ`クア`キテクチャ ? Classification LossとDomain Lossの恷m晒 ? Domain Lossとは C Maximum Mean Discrepancy (MMD) C Classification Lossとの嶷みづけ 才を恷m晒 Source の 蒙翮親従 Target の 蒙翮親従
Office デ`タセットによるgY ? 慌宥する斌瞳かつ顔唹訳周の なる3つのドメイン ? 戻宛返隈 Domain Confusionにより來嬬が寄嫌に鯢
協來議なY惚彩翮燭侶峅 Adaptation念 揖じ仝モニタ`々でも ドメイン(v/楳)によって 蛍下がなる
協來議なY惚彩翮燭侶峅 Adaptation瘁 ドメインによらず仝モニタ`々の蛍下が匯崑
Deep Adaptation Networks (DAN) ? Multiple Kernel MMD (ML-MMD)によって ドメインgの蛍下を嶷ねる ? DDCに曳べて C }方のレイヤ` で蛍下を嶷ねる C 侘の鉦x★ Multiple Kernelの旋喘 ? Officeデ`タセット貧でDDCを階える來嬬 [Long+, ICML 2015]
Domain Adversarial Neural Networks (DANN) ? Deep Adaptation Networks (DAN) と兆念がらわしい ? Domain Adversarial Neural Networks という兆念はジャ`ナル井 [Ganin+, JMLR 2016] で鞠 ? GANと揖の房襪 ドメインに卆らない蒙翮燭粒薐を議僥 C GAN: サンプリングした捻壓腎gに児づく伏撹デ`タ vs. gHに贋壓するデ`タ C DANN: Source ドメインから渇竃した蒙翮 vs. Target ド メインから渇竃した蒙翮 [Ganin+Lempitsky, ICML 2015]
DANNネットワ`クア`キテクチャ ? ドメインに卆らない蒙翮燭魍薐したい?? ? クラスReをしたい? ? ? ドメインReをしたい? ?
議僥とその ? ドメインReロス? ?をめぐる議僥 C ドメインReをしたい? ?は? ?を恷弌晒したい C ドメインに卆らない蒙翮燭魍薐したい??は? ? を恷寄晒したい ? }泣 ? ?の拘塘にして C ? ?は拘塘週和したい匯圭で??は拘塘貧Nしたい C ? ?と??の俊AvSから拘塘を剃鬚にMめない
Gradient Reversal Layerの秘 なv方の侘ではけないけど、とにかく ? 三瓩rは採もせず ? 剃三瓩rは拘塘の憲催を郡する レイヤ`を秘する Aく2モジュ`ルで揖rに週和/貧Nできる
gYY惚 ? Office デ`タセット ? 猟忖デ`タセット 蒙翮新峅爾篁 SYN NUMBERS(橿泣) ★SVHN(楳泣) Adapt
Adversarial Discriminative Domain Adaptation DANNと揖にドメインRe匂を議僥 [Tzeng+, CVPR 2017]
DANNにする}吭R ? 慌宥のネットワ`クで 2つのドメインから蒙 渇竃するのは ?パラメ`タ方をpできるのが措い 〜なるドメインの蒙翮審薐を揖rにやるのは o尖がある ? Gradient Reversal Layerは ?GANの朕議v方に嶢gではある 〜僥兜豚に拘塘を払させることで Discriminatorの厚仟がとまりやすい
ADDAでは ? それぞれのドメインでなるCNNにより蒙 翮燭魍薐 Source ドメインのCNNはPre-trainingしておく ? Gradient ReversalではなくGANで匯違議な inverted labelにするp払を喘いる ??:Target 蒙翮 ?: ドメインRe
gYY惚 Officeと猟忖デ`タセットでState-of-the-art
Maximum Classifier Discrepancy (MCD) ここまでの返隈はドメインを匯崑させようと しているが´ ? ドメイン畠悶の蛍下を匯崑させても クラスごとの蛍下は匯崑しないのでは [Saito+, CVPR 2018]
Maximum Classifier Discrepancy (MCD) ここまでの返隈はドメインを匯崑させようと しているが´ ? ドメイン畠悶の蛍下を匯崑させても クラスごとの蛍下は匯崑しないのでは ? ドメインの匯崑ではなくクラスRe中の匯崑では [Saito+, CVPR 2018]
Maximum Classifier Discrepancy (MCD) 0. Source(泣)とTarget(g)で2クラスRe
Maximum Classifier Discrepancy (MCD) 1. 2クラスRe匂を2つ喘吭する SourceでするRe中は ?泣何蛍は罪俳らない ?g何蛍は罪俳るかもしれない この弍何蛍(Discrepancy Region) をなくしたい
Maximum Classifier Discrepancy (MCD) 2. 竃栖るだけ謹くのDiscrepancyをあぶりだす Re中のみ厚仟
Maximum Classifier Discrepancy (MCD) 3. Discrepancyがpるように蒙翮燭鰕Я 蒙翮審薐のみ厚仟
Maximum Classifier Discrepancy (MCD) 崩するまで 2. と 3. をRり卦す
gYY惚 猟忖デ`タセットでState-of-the-art
gYY惚 鮫颪離札泪鵐謄ックセグメンテ`ション
Adversarial Dropout Regularization (ADR) ここまでの返隈はドメインを匯崑させようと しているが´ ? ドメイン畠悶の蛍下を匯崑させても クラスごとの蛍下は匯崑しないのでは ? ドメインの匯崑ではなくクラスRe中の匯崑では [Saito+, ICLR 2018] ´あれ、さっきいた櫃するぞ
gはMCDのDropoutによる個措井 この2つのRe匂を 岷俊僥: MCD Dropoutで伏撹: 戻宛返隈
僥楼は珂遺禽と揖
gYY惚 猟忖デ`タセットでState-of-the-art
gYY惚 鮫颪離札泪鵐謄ックセグメンテ`ション
Source Target Closed Domain Adaptation Open Set Domain Adaptation Source Target Unknown ? 宥械のドメインm鬉任錬坤秋`スとタ`ゲットのクラスが匯崑 ?´タ`ゲットにはラベルがoいのに、云輝にクラス匯崑するのか ? Open Set: タ`ゲットに隆岑のクラスがある}O協 cf. 剃の}O協 = Partial Domain Adaptation [Cao+, ECCV 2018] Open Set Domain Adaptation (OSDA)[Saito+, ECCV 2018]
Source Target Source Target Unknown Source Target Unknown 宥械のドメインm鬉覆 まだうまく佩くかもしれないが´ Open Setだと隆岑のクラスも ソ`スドメインの屡岑クラスになる 戻宛返隈では隆岑クラスの蛍下を匯崑させないように垢健 gに蛍下を栽わせようとすると
Source: 0゛4, Target: 0゛9 ★ 5゛9が隆岑 楳: ソ`ス┝番 橿: タ`ゲット┝番 v: タ`ゲット┻寸 方忖デ`タセットによるgYY惚
ソ`ス (bike, bus, car, motorbike, train, truck) タ`ゲット (Known +Unknown (person, horse, knife, ´. ) ラベル原き繁垢デ`タ ラベルoしg弊順デ`タ 繁垢デ`タからリアルデ`タ
麗悶奮のためのドメインm [Saito+, CVPR 2019]
畠てのデ`タを鹿sしなくても よいC亠僥
そのデ`タ、アップロ`ドしたいですか ? 厘？の伏試に畜彭したC嬬を戻工してほしい ? プライベ`トな秤鵑鯡畊する駅勣がある C 僥r C g佩r 宥h 宗慎/匳デ`タ ライフログ
サ`バにmらない侮嗔ЯY惚の旋喘 ブラウザの旋喘WebDNN [Hidaka+, ACMMM 2017] ? 僥gみの侮咼縫紿`ラルネットワ`クをg佩喘に恷m晒 ? ブラウザ貧でJavaScriptを旋喘しながらg佩辛嬬 ? ブラウザ貧でもGPUを聞えるので互堀 ? サ`バからモデルをダウンロ`ドしてロ`カルでg佩 ★サ`バにデ`タをアップロ`ドしないで侮嗔ЯY惚を 聞える
MILJS: JavaScriptによる蛍柊K双僥 ? 僥と容協のI圭をサポ`ト ? GPUでの麻をJavaScriptからサポ`ト ? もちろんGPUがなくてもg佩辛嬬 ? 並念にインスト`ルすべきはブラウザのみ 賞寄なResNet-152でさえも僥できる [Hidaka+, ICLR Workshop 2017]
Federated Learning ? B栽僥 デ`タを鹿sするのではなく モデルを鹿sして鹿栽岑を@誼 ? 光極挑ではユ`ザのデ`タに鬉犬謄皀妊襪鮓仟 ? サ`バでは光モデルから慌宥モデルへとy栽 [McMahan+, 2017]
Decentralized GAN ? Federated Learningは C 宥械のRe/指｢に聞える C ´ほかの栽は ? 箭えば塞撹モデル C GANには伏撹匂と柩e匂の2つが贋壓 C それぞれが議に僥 C どうやれば Federated Learning のようにデ`タを蛍柊 させたまま鹿栽岑議な伏撹モデルが誼られるか ? gに Federated Learning で伏撹匂と柩e匂をそれぞれy栽す るのではうまく佩かない ? 鹿栽岑議な伏撹モデルが誼られるようなy栽返隈を戻宛 [Yonetani+, 2019]
晒僥の卞僥 ? なるh廠?附悶のエ`ジェントが}方贋壓 C 晒僥gみ C 仟､劉h廠?附悶のエ`ジェントにして この貧僥gみモデルは篠嚥するか ? 戻宛返隈坤秋`スの僥gみモデルをy栽 しかも屡贋返隈のようなソ`スh廠へのアクセスは音勣 Robotic ants with different leg designs Proposed Approach Learning from scratch Adaptive aggregation of source policies 0 1000 2000 0.5M 1M 1.5M 2M EPISODICREWARD TIMESTEP Proposed Baseline Learning Curves [Barekatain+, 2019]
まとめ C亠僥の酎麼晒を朕峺して AI/MLのT社が Oしたものを 寄ﾄな麻児Pで 僥するために 畠てのデ`タが 孰し貧げられる BC-Learning ドメインm JavaScript x DL Federated Learning
鮫颪燐JR?尖盾シンポジウム MIRU 2020 2020定8埖2晩゛4晩 鷲岬

More Related Content

字亠僥楼を酎麼晒する函り怏み

Editor's Notes

  • #21: 僥に聞うネットワ`ク。枠峰のように、2つのネットワ`ク楳いネットワ`クをラベルづけにつかう。 1つのネットワ`ク┘レンジは、M貌ラベルのついたタ`ゲットからしか僥しない。
  • #22: 慌嗤されているネットワ`ク┥vは、3つのネットワ`ク、すべての拘塘から僥楼する。肝のスライドから、g縞の僥楼プロセス。
  • #23: 恷兜は、亭貌ラベルがないので、ソ`スのみを喘いて、畠悶のネットワ`クを僥楼させる。
  • #24: 肝に、タ`ゲットサンプルを、ラベルづけする。屈つの紛艶匂のクラス竃薦が匯崑する、なおかつ、どちらかの鳩楕が、岳鞄姻艶壊鞄看鉛糸より寄きいという訳周を困燭靴織汽鵐廛襪砲里漾鬉垢訥睨謄薀戰襪鮓錦襪垢襦この訳周を仁すことで、より屎鳩な亭貌ラベルが誼られると豚棋する。
  • #25: M貌ラベルを喘いて、ネットワ`クを壅僥。 楳いネットワ`クは、ソ`スと、タ`ゲットI圭から僥する。醤悶議には、ミニバッチをソ`ス、タ`ゲットの磯蛍づつから撹する。 オレンジのネットワ`クは、タ`ゲットのみから僥する。オレンジのネットワ`クからの拘塘がvのネットワ`クに、タ`ゲットにするRe來をもたらすように。 ラベルづけ、壅僥を採業もRり卦す。┘薀戰襪鼎鵑離汽鵐廛襪椀譟にやす。また、^僥を契ぐために、飴悄匯業ラベルづけされたサンプルも、ラベルをクリアする。
  • #26: M貌ラベルを喘いて、ネットワ`クを壅僥。 楳いネットワ`クは、ソ`スと、タ`ゲットI圭から僥する。醤悶議には、ミニバッチをソ`ス、タ`ゲットの磯蛍づつから撹する。 オレンジのネットワ`クは、タ`ゲットのみから僥する。オレンジのネットワ`クからの拘塘がvのネットワ`クに、タ`ゲットにするRe來をもたらすように。 ラベルづけ、壅僥を採業もRり卦す。┘薀戰襪鼎鵑離汽鵐廛襪椀譟にやす。また、^僥を契ぐために、飴悄匯業ラベルづけされたサンプルも、ラベルをクリアする。
  • #27: M貌ラベルをハ`ドなラベルとみなして、ネットワ`クを僥させる。噸宥のクロスエントロピ`。 2つの楳いネットワ`クは、できるだけ、なる來|をもつRe匂になってほしい。ということで、嶷みに崙sを紗える。 この崙sによって、2つの楳いネットワ`クが、なる蒙罿ら僥するようになると豚棋される。森は、gYで_Jすることにする。
  • #28: 方忖鮫顱炎紛鮫颪任両業得。
  • #29: 娼業は、措い。 BNをネットワ`クに携襪靴栽とそうでない栽に、デ`タセットによっては寄きく來嬬に餓があった。 また、嶷みのする崙sは、ハッキリとした森はJめられなかった。これは、ラベルづけネットワ`クが、なる兜豚､盃悗澆魍豚晒することによると深えられる。そのため、崙sを嚥えずとも、屈つのネットワ`クが、なるRe匂として僥される。
  • #60: Closedでの冩梢が謹くなされている。 Targetは、ラベルづけされていないので、gHには、Unknownのカテゴリ`も根まれている辛嬬來があるのでは燭箸いΔ海箸如OSDAは嶷勣なn}。
  • #61: 恣貧、ClosedにするDistribution Matchingの返隈 嘔貧、Opensetにそれをm鬉垢襪函.. Unknownが、knownに護り輝てられてしまう。 和。Ours. Unknownはunknownで、できるだけ、known揖平のみをマッチさせるようにしたい。
  • #62: 屡贋返隈だと、蛍下からもわかるように、sourceに篠せるのが音噴蛍あるいは、すべてのtargetsサンプルをsourceに篠せてしまうことが軟こる。 戻宛返隈は、篠せつつも、rejectしている。それがスコアに郡啌されている。 BPは、Domain Classifierの返隈。OSVMは、open-set svmという、svmを旋喘したopen-set classificationの返隈。BP, MMDg悶では、open-set classificationができないので、osvmを聞った。
  • #63: g`えているものもあるが、くはない。PersonはUnknown Classなので、匯桑恣貧のものは、g`っているとも冱えない。恣和も、Lれている何蛍があるので、と登僅できなかったと冱える。
  • #68: There are other deep learning libraries written in JavaScript, but the features of MILJS are the following two points; first, MILJS supports both learning and inference, while there are frameworks that support only inference using trained models. Secondly, if your device has GPUs, they can be utilized through MILJS. In the paper in ICLR Workshop, even ResNet with 152 layer is trained, but today I would like to show you a light-weight demonstration using mnist.