際際滷

際際滷Share a Scribd company logo
???
???? ????? ???
???? ????? ??????
? ? ?? ??
? ? ?? ?? ??? ???
?? ?????? ?? ? ??...
??
??
???? ???? ??? ?????
??
??
?????????
???
???? ??
??? ?? ?? ????
??
??? ??/???? ???,
??? ????,
??? ???
UI ?, ?? ??+
???? ????? ???
???? ????? ???
???? ????? ???
???? ??????
?? ?? ??
??
??
????
???? ?
???? ??? ???? ??? ????? ??
??? ?? ??
? ??? ??
???? ???? ?? ???
?? ??? ??? ????
?????, ?? ????
? ?????. (??)
???
???? ??
??? ?? ?? ????
??
???? ??
??? ????? ??? ???? ??
???? ??
??? ??? ?????
???
????? 2.0 ???
https://www.tensorflow.org/community/roadmap
??? ???
Don`t panic
???? ????
?????? ?? ???
???
?? ?? ???
Train a simple deep CNN on the CIFAR10 small images dataset.
https://keras.io/examples/cifar10_cnn
P.421
??? ? ?????. ???? ???? ?? ???
??? ???? ??? ????
?? X ?? ?? Y? ???? ??? ?????.
P.408
????? ?? ?? ?? ???.
??? ???? ??? ?? ??? ??? ???.
Cats and dogs and convolutional neural networks
http://bitly.kr/5ma9W
P.408
?? ?? ?? ??? ?? ?? ????
??? ? ???.
0 = ???
1 = ?
??
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
??? ???
Don`t panic
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
0 = ???
1 = ?
????
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
?? ??
?? ??
0.3
0.6
0.0
??
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
w11
w12
w21
w22
0.3
0.6
0.4
0.8
0.3 1
w11 w12 w21 w22 w31 w32
0.2 0.1 0.9 0.7 0.3 0.1 ○ ?? ? Random
?? ?? ???
?? ??? ??
^?? ? ?? ̄
?? ??
?? ???? ??
w31
w32
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
w11
w12
w21
w22
0.3
0.6
0.4
0.8
0.3 1
w11 w12 w21 w22 w31 w32
0.2 0.1 0.9 0.7 0.4 0.2
??? ???? ??? ?? ????
?? ?? ????? ??
?? ???? ??
w31
w32
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
w11
w12
w21
w22
0.3
0.6
0.4
0.8
0.3 1
w11 w12 w21 w22 w31 w32
0.1 0.2 0.8 0.6 0.4 0.2
???? ??
?? ?? ????? ??
?? ???? ??
w31
w32
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
w11
w12
w21
w22
0.3
0.6
0.7
0.5
0.5 1
w11 w12 w21 w22 w31 w32
0.1 0.2 0.8 0.6 0.4 0.2
?? ?? ??
?? ?? ????? ??
?? ???? ??
w31
w32
P.408
???? ?? ??? ??? ???? ???? ??? ?
? ???? ?? ???? ????
??? ???? ??? ????? ?????.
w11
w12
w21
w22
0.3
0.6
?
?
1.0 1
w11 w12 w21 w22 w31 w32
? ? ? ? ? ?
??? ???? ??? ? ??
?? ?? ????? ??
?? ??
?? ??
w31
w32
?? ??
???? ??
???? ?? ??
???? ??
??? ???? ??? ???? ?? X ?? ?? Y? ??
???? ????
???? ????
???? ??
??? ???? ??? ???? ?? X ?? ?? Y? ??
???? ??
??? ???? ??? ???? ?? X ?? ?? Y? ??
XOR ??
???? ??
??? ???? ??? ???? ?? X ?? ?? Y? ??
??? ?? ??? ???
??? ???
P.421
??? ? ?????. ???? ???? ?? ???
??? ???? ??? ????
?? X ?? ?? Y? ???? ??? ?????.
???
???? ??
??? ?? ?? ????
??
??? ??
?? ??
?? ??? ?? ??? ??
??? ?? ??
??? ??
?? ??? ??
?? ????? ?? ?? ?? ??
?? ??
?? + ?? ??? ????
?? ??? ??
?? ???
?? ??
??? ??
GAN, VAE
??? ?? ???? ??
NO ???
?? ??? ??? ??
?? ??? ??? ??
?? ??
?? ??? ??
IF ? ?? ??? ??, ?? ??? ??
"???/???? 100% ??? ??? (??)
? ??? ???? ??? ???? ?????."
??, ??, ?? ING
?? ??? ??? ??
?? ??
??? ????? ??
"??? ??? ??, ???? ??? ?????
??? ??? ??? ??? ?? ???????."
?? ??? ??? ??
?? ??
?? ??? ??? ??? ??
?? ???? ??? ??? ??? ???
? ???? ??? ??...
?? ??? ??
??? ??
???? ??
?? ??
????? ?? ?? ?????
??
???? ?? ????
????? ???
?? ?? ???? ????
??? ?? ???? ??? ???? ??
??? ???? ?? ???? ???? ??? ???
?? ??? ? ? ???? ???
??
??? ??? ????
?? ??? ??? ????? ??
??? ??
??? ???? ?
??? ??? ?????, ?? ?? ???
e.g. ?? ??, TF-IDF
??? ???? ??
?? ??
?? ??
?? ??
?? ??
1277
?
??? ????
Fully Connected Neural Network
?? ??? ????? ??
???? ??
Recurrent Neural Network
??? ??? ?? ????, ??? ??? ????
??? ??
??? ????
Convolutional Neural Network
?? ??? ?? ?? ??? ?? ?? ?? ??
An intuitive guide to Convolutional Neural Networks
http://bitly.kr/P4oXb
??? ??? ??????
??? ?? ??
???? ???? ??!!!!
??? ????
Convolutional Neural Network
?? ??? ?? ?? ??? ?? ?? ?? ??
?? ?? ?? ?? ??
?? ?? ??? ??
1. ?? ??? ??
2. ?? ? ?? ?? ??
?? ??
?? ??
??? ????
Auto Encoder
?? ?? ??? ?? ?? ?? ???? ??
???? ???,
?? ??? ?? ??? ???
? ???? ?? ?
Applied Deep Learning - Part 3: Autoencoders
http://bitly.kr/dmRcT
??
??? ??? ? ?? ??? ?? ?? ??? ????,
?? ??? ???? ??? ????? ?????.
? ?, ?? ???? ??? ??
??? ??? ??? ?? ? ???.
?, ??? ?? ?? ???
??? ?? ???
? ?? ? ??.
??
??? ???? ????, ?? ??? ???.
??? ?? ?? ???? ?? ??? ??? ??
e.g BU, ? ?? ???, ??? ???
PCA ?? ???? VAE ?? ????
TO
??? ???? ???? ???, ???? ???????. ?? ??? ?? ?????. ??? ??? ???++
????
?? ??
?? ??
??? ??? ??
4?? ?? ??? ???
2?? 2000? 3?? 2000? Random 2000?
?? ??
PCA
silhouette ?? : 0.3990474343299866
clusters ? : 7
2 3 Random
A 613 39 % 29 % 31 %
B 635 34 % 29 % 36 %
C 930 40 % 29 % 30 %
D 579 35 % 29 % 34 %
E 1016 34 % 30 % 35 %
F 1637 26 % 40 % 32 %
G 590 31 % 34 % 33 %
?? ??
CNN AE, ?? ?? ??
silhouette ?? : 0.45135506987571716
clusters ? : 3
2 3 Random
A 2384 33 % 34 % 31 %
B 1590 31 % 32 % 35 %
C 2026 33 % 32 % 33 %
?..?;??;;
?? ??
CNN AE, ?? ??
silhouette ?? : 0.5805606842041016
clusters ? : 2
2 3 Random
A 3326 37 % 27 % 34 %
B 2674 27 % 40 % 32 %
??? ??? ??
????? ? ?? ??? ??
?? ??????
? ? ??
(?? ????..)
????, ?? ??? ????
Fully Connected Neural Network
silhouette ?? : 0.7792009115219116
clusters ? : 3
2 3 Random
A 4328 46 % 31 % 22 %
B 1046 0 % 0 % 100 %
C 626 0 % 100 % 0 %
CNN, ?? ??
silhouette ?? : 0.999113917350769
clusters ? : 4
2 3 Random
A 1999 0 % 0 % 99 %
B 2001 99 % 0 % 0 %
C 1998 0 % 100 % 0 %
D 2 0 % 0 % 100 %
???
???? ??
??? ?? ?? ????
??
?? ???? ??? ?? ?? ??
FCNNVS ??? CNN
???...
??? ????
^???? ???? ??(??)?? ??? ??? ??,
? ??? ?????? ???. ̄
^??? ??? ?? ??? ??? ??? ???,
?? ??? ?? ??? ?? ? ??? ???. ̄
??? ????? ??? ??? ??
?? ??
???? ??? ??? ??? ??
?? ??
??? ?? ?? ??
1. ??? ???? ????? ???. (50)
2. ??? ????, ? ?? ??? ????. (80)
3. ??? ??, ? ?? ??? ??????. (100)
4. ???? ??? ??? ?? ?? ? ??. (120)
^??? ? ?????. ???? ???? ?? ???
??? ???? ??? ????
?? X ?? ?? Y? ???? ??? ?????. ̄
???? ????? ???
?????, ????
Notes from Coursera Deep Learning courses by Andrew Ng
/TessFerrandez/notes-from-coursera-deep-learning-courses-by-andrew-ng

More Related Content

???? ????? ???

  • 1. ???
  • 4. ? ? ?? ?? ? ? ?? ?? ??? ??? ?? ?????? ?? ? ??... ?? ??
  • 5. ???? ???? ??? ????? ?? ?? ?????????
  • 6. ??? ???? ?? ??? ?? ?? ???? ??
  • 7. ??? ??/???? ???, ??? ????, ??? ??? UI ?, ?? ??+
  • 11. ???? ?????? ?? ?? ?? ?? ?? ????
  • 13. ???? ??? ???? ??? ????? ?? ??? ?? ?? ? ??? ?? ???? ???? ?? ??? ?? ??? ??? ???? ?????, ?? ???? ? ?????. (??)
  • 14. ??? ???? ?? ??? ?? ?? ???? ??
  • 15. ???? ?? ??? ????? ??? ???? ??
  • 16. ???? ?? ??? ??? ????? ???
  • 18. ??? ??? Don`t panic ???? ???? ?????? ?? ??? ??? ?? ?? ??? Train a simple deep CNN on the CIFAR10 small images dataset. https://keras.io/examples/cifar10_cnn
  • 19. P.421 ??? ? ?????. ???? ???? ?? ??? ??? ???? ??? ???? ?? X ?? ?? Y? ???? ??? ?????.
  • 20. P.408 ????? ?? ?? ?? ???. ??? ???? ??? ?? ??? ??? ???. Cats and dogs and convolutional neural networks http://bitly.kr/5ma9W
  • 21. P.408 ?? ?? ?? ??? ?? ?? ???? ??? ? ???. 0 = ??? 1 = ? ??
  • 22. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. ??? ??? Don`t panic
  • 23. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. 0 = ??? 1 = ? ????
  • 24. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. ?? ?? ?? ?? 0.3 0.6 0.0 ??
  • 25. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. w11 w12 w21 w22 0.3 0.6 0.4 0.8 0.3 1 w11 w12 w21 w22 w31 w32 0.2 0.1 0.9 0.7 0.3 0.1 ○ ?? ? Random ?? ?? ??? ?? ??? ?? ^?? ? ?? ̄ ?? ?? ?? ???? ?? w31 w32
  • 26. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. w11 w12 w21 w22 0.3 0.6 0.4 0.8 0.3 1 w11 w12 w21 w22 w31 w32 0.2 0.1 0.9 0.7 0.4 0.2 ??? ???? ??? ?? ???? ?? ?? ????? ?? ?? ???? ?? w31 w32
  • 27. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. w11 w12 w21 w22 0.3 0.6 0.4 0.8 0.3 1 w11 w12 w21 w22 w31 w32 0.1 0.2 0.8 0.6 0.4 0.2 ???? ?? ?? ?? ????? ?? ?? ???? ?? w31 w32
  • 28. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. w11 w12 w21 w22 0.3 0.6 0.7 0.5 0.5 1 w11 w12 w21 w22 w31 w32 0.1 0.2 0.8 0.6 0.4 0.2 ?? ?? ?? ?? ?? ????? ?? ?? ???? ?? w31 w32
  • 29. P.408 ???? ?? ??? ??? ???? ???? ??? ? ? ???? ?? ???? ???? ??? ???? ??? ????? ?????. w11 w12 w21 w22 0.3 0.6 ? ? 1.0 1 w11 w12 w21 w22 w31 w32 ? ? ? ? ? ? ??? ???? ??? ? ?? ?? ?? ????? ?? ?? ?? ?? ?? w31 w32 ?? ?? ???? ?? ???? ?? ??
  • 30. ???? ?? ??? ???? ??? ???? ?? X ?? ?? Y? ?? ???? ???? ???? ????
  • 31. ???? ?? ??? ???? ??? ???? ?? X ?? ?? Y? ??
  • 32. ???? ?? ??? ???? ??? ???? ?? X ?? ?? Y? ?? XOR ??
  • 33. ???? ?? ??? ???? ??? ???? ?? X ?? ?? Y? ?? ??? ?? ??? ??? ??? ???
  • 34. P.421 ??? ? ?????. ???? ???? ?? ??? ??? ???? ??? ???? ?? X ?? ?? Y? ???? ??? ?????.
  • 35. ??? ???? ?? ??? ?? ?? ???? ??
  • 36. ??? ?? ?? ?? ?? ??? ?? ??? ?? ??? ?? ?? ??? ?? ?? ??? ?? ?? ????? ?? ?? ?? ?? ?? ?? ?? + ?? ??? ???? ?? ??? ?? ?? ??? ?? ?? ??? ?? GAN, VAE
  • 37. ??? ?? ???? ?? NO ??? ?? ??? ??? ??
  • 38. ?? ??? ??? ?? ?? ?? ?? ??? ?? IF ? ?? ??? ??, ?? ??? ?? "???/???? 100% ??? ??? (??) ? ??? ???? ??? ???? ?????." ??, ??, ?? ING
  • 39. ?? ??? ??? ?? ?? ?? ??? ????? ?? "??? ??? ??, ???? ??? ????? ??? ??? ??? ??? ?? ???????."
  • 40. ?? ??? ??? ?? ?? ?? ?? ??? ??? ??? ?? ?? ???? ??? ??? ??? ??? ? ???? ??? ??...
  • 41. ?? ??? ?? ??? ?? ???? ?? ?? ?? ????? ?? ?? ?????
  • 42. ?? ???? ?? ???? ????? ??? ?? ?? ???? ????
  • 43. ??? ?? ???? ??? ???? ?? ??? ???? ?? ???? ???? ??? ??? ?? ??? ? ? ???? ???
  • 44. ?? ??? ??? ???? ?? ??? ??? ????? ??
  • 45. ??? ?? ??? ???? ? ??? ??? ?????, ?? ?? ??? e.g. ?? ??, TF-IDF ??? ???? ?? ?? ?? ?? ?? ?? ?? ?? ?? 1277 ?
  • 46. ??? ???? Fully Connected Neural Network ?? ??? ????? ?? ???? ?? Recurrent Neural Network ??? ??? ?? ????, ??? ??? ???? ??? ??
  • 47. ??? ???? Convolutional Neural Network ?? ??? ?? ?? ??? ?? ?? ?? ?? An intuitive guide to Convolutional Neural Networks http://bitly.kr/P4oXb ??? ??? ?????? ??? ?? ?? ???? ???? ??!!!!
  • 48. ??? ???? Convolutional Neural Network ?? ??? ?? ?? ??? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ??? ?? 1. ?? ??? ?? 2. ?? ? ?? ?? ?? ?? ?? ?? ??
  • 49. ??? ???? Auto Encoder ?? ?? ??? ?? ?? ?? ???? ?? ???? ???, ?? ??? ?? ??? ??? ? ???? ?? ? Applied Deep Learning - Part 3: Autoencoders http://bitly.kr/dmRcT
  • 50. ?? ??? ??? ? ?? ??? ?? ?? ??? ????, ?? ??? ???? ??? ????? ?????. ? ?, ?? ???? ??? ?? ??? ??? ??? ?? ? ???. ?, ??? ?? ?? ??? ??? ?? ??? ? ?? ? ??.
  • 51. ?? ??? ???? ????, ?? ??? ???. ??? ?? ?? ???? ?? ??? ??? ?? e.g BU, ? ?? ???, ??? ??? PCA ?? ???? VAE ?? ???? TO ??? ???? ???? ???, ???? ???????. ?? ??? ?? ?????. ??? ??? ???++
  • 53. ?? ?? ??? ??? ?? 4?? ?? ??? ??? 2?? 2000? 3?? 2000? Random 2000?
  • 54. ?? ?? PCA silhouette ?? : 0.3990474343299866 clusters ? : 7 2 3 Random A 613 39 % 29 % 31 % B 635 34 % 29 % 36 % C 930 40 % 29 % 30 % D 579 35 % 29 % 34 % E 1016 34 % 30 % 35 % F 1637 26 % 40 % 32 % G 590 31 % 34 % 33 %
  • 55. ?? ?? CNN AE, ?? ?? ?? silhouette ?? : 0.45135506987571716 clusters ? : 3 2 3 Random A 2384 33 % 34 % 31 % B 1590 31 % 32 % 35 % C 2026 33 % 32 % 33 %
  • 57. ?? ?? CNN AE, ?? ?? silhouette ?? : 0.5805606842041016 clusters ? : 2 2 3 Random A 3326 37 % 27 % 34 % B 2674 27 % 40 % 32 %
  • 58. ??? ??? ?? ????? ? ?? ??? ?? ?? ?????? ? ? ?? (?? ????..)
  • 59. ????, ?? ??? ????
  • 60. Fully Connected Neural Network silhouette ?? : 0.7792009115219116 clusters ? : 3 2 3 Random A 4328 46 % 31 % 22 % B 1046 0 % 0 % 100 % C 626 0 % 100 % 0 %
  • 61. CNN, ?? ?? silhouette ?? : 0.999113917350769 clusters ? : 4 2 3 Random A 1999 0 % 0 % 99 % B 2001 99 % 0 % 0 % C 1998 0 % 100 % 0 % D 2 0 % 0 % 100 %
  • 62. ??? ???? ?? ??? ?? ?? ???? ??
  • 63. ?? ???? ??? ?? ?? ?? FCNNVS ??? CNN ???...
  • 64. ??? ???? ^???? ???? ??(??)?? ??? ??? ??, ? ??? ?????? ???. ̄ ^??? ??? ?? ??? ??? ??? ???, ?? ??? ?? ??? ?? ? ??? ???. ̄
  • 65. ??? ????? ??? ??? ?? ?? ?? ???? ??? ??? ??? ?? ?? ??
  • 66. ??? ?? ?? ?? 1. ??? ???? ????? ???. (50) 2. ??? ????, ? ?? ??? ????. (80) 3. ??? ??, ? ?? ??? ??????. (100) 4. ???? ??? ??? ?? ?? ? ??. (120)
  • 67. ^??? ? ?????. ???? ???? ?? ??? ??? ???? ??? ???? ?? X ?? ?? Y? ???? ??? ?????. ̄
  • 69. ?????, ???? Notes from Coursera Deep Learning courses by Andrew Ng /TessFerrandez/notes-from-coursera-deep-learning-courses-by-andrew-ng