Metody Deep Learning - Wykład 2
•Download as PPTX, PDF•
0 likes•1,073 views
Druga część wykładów na temat deep learning i uczenia maszynowego. Prowadzone były na AGH, przez firme Craftinity (Craftinity.com), razem z kołem naukowym BIT (http://knbit.edu.pl/pl/)
![Mathematical Optimization
● wiki: “[...] finding "best available" values of
some objective function given [...] a set of
constraints [...]”](https://image.slidesharecdn.com/wykad2copy-150603143308-lva1-app6891/85/Metody-Deep-Learning-Wyklad-2-12-320.jpg)
Metody Deep Learning - Wykład 2
- 1. Metody Deep Learning Wykład 2 http://arxiv.org/pdf/1502.01852.pdf
- 3. Artificial neuron c.d ● Neuron pre-activation ● Neuron activation ● - wagi ● - bias ● - funkcja aktywacji (activation function)
- 6. Klasyfikacja
- 7. Klasyfikacja
- 11. Zaczynamy
- 12. Mathematical Optimization ● wiki: “[...] finding "best available" values of some objective function given [...] a set of constraints [...]”
- 13. Gradient Descent
- 14. Gradient Descent
- 15. Gradient Descent ● gwarancja zbieżności do minimum lokalnego ● łatwe do implementacji ● działa dobrze w praktyce
- 16. Gradient Descent
- 17. NN objective (cost) function Błąd średnio kwadratowy (mean square error) Entropia krzyżowa (cross entropy)
- 20. Feedforward
- 21. Backpropagation
- 23. Homework
Editor's Notes
- #4: obliczanie wyjścia w dwóch fazach
- #6: zbiór punktów dwuwymiarowych należących do dwóch klas, np. {0,1} rozpatrzenie jednego neuronu z sigmoidą jako funkcją aktywacji wyjście z sigmoidy można traktować jako prawdopodobieństwo, że punkt przynależy do klasy - np.1 zastanowić się, gdzie przebiega granica pomiędzy klasami - jest to linia prosta wniosek: jeden sztuczny neuron działa jako klasyfikator binarny liniowo separując klasy
- #7: odchodzimy od sztucznego neuronu inne proste problemy liniowo separowalne
- #13: na tablicy oblicz minimum (wyjdzie -3/2)
- #14: obliczyć tutaj gradient tej funkcji na tablicy pokazać że niezależnie od pierwszego strzału zabawa ze styczną da dobre wyniki (narysować wykres tan x)