漫谈人工智慧：啟发自大脑科学的深度学习网路
Download as pptx, pdf28 likes3,246 views
文档讨论了人工智能和神经网络的基本概念，包括神经元、突触、动作电位以及不同类型的神经元模型，如感知机和卷积神经网络。还介绍了海柏学习法则、长效增强作用及各种网络结构的特点。最后，文档展望了人工智慧的未来发展方向。
![+
卷積神經網路
Convolutional layer
? Depth (D): filter (或稱 kernel) 組數
? Stride (S): 每一次 kernel 移動的間隔
? Zero padding (P): 每一輸入邊緣填 0 的
寬度
若以 W 表示輸入寬度大小，F 表示
filter 寬度大小， 卷積運算後 feature
map 的寬度大小公式為：
D 個 [(W - F + 2P) / S] + 1](https://image.slidesharecdn.com/nnintro-jasontsai2017-170321121408/85/-18-320.jpg)
漫谈人工智慧：啟发自大脑科学的深度学习网路
- 1. + 漫談人工智慧 Jason Tsai (蔡志順) 2017.03.22
- 6. + 皮質柱 (Cortical Column) 相同的接受域 (receptive field)
- 7. + 皮質訊息傳送
- 8. + 視覺皮質傳導路徑
- 12. + 第一／二代人工神經元模型
- 18. + 卷積神經網路 Convolutional layer ? Depth (D): filter (或稱 kernel) 組數 ? Stride (S): 每一次 kernel 移動的間隔 ? Zero padding (P): 每一輸入邊緣填 0 的 寬度 若以 W 表示輸入寬度大小，F 表示 filter 寬度大小， 卷積運算後 feature map 的寬度大小公式為： D 個 [(W - F + 2P) / S] + 1
- 21. + 卷積神經網路 Local receptive field, Sparse connectivity
- 22. + 卷積神經網路 Weight sharing ? 此處 w1 = w4 = w7, w2 = w5 = w8, w3 = w6 = w9 ? 具有 translational invariance 的特性
- 24. + Deep residual networks (ResNet) Highway networks: y = H(x,WH)?T(x,WT)+x?C(x,WC), C(?)=1?T(?) Residual networks: T(?)=C(?)=1, y = H(x,WH)+x (同上圖 F(x)+x)
- 25. + ResNet in recurrent form
- 27. + DenseNet
- 29. + Sparsity: Sparse Coding (稀疏編碼) / Sparse Representation / Dropout
- 30. + 第三代人工神經元模型 Spiking Neural Networks (脈衝神經網 路) SDTP (spike-timing-dependent plasticity)
- 31. + 人工智慧大未來 Q & A