Shallow Neural Network
Nerual Networks Overview
神經(jīng)元網(wǎng)絡就是把算法分解成一個個層，每次計算都回歸優(yōu)化前面的層，一次次優(yōu)化得到最終解
Neural Network Representation 神經(jīng)網(wǎng)絡代表
以方括號上標代表層數(shù)， 0 層為輸入層 最后一層為輸出層 中間為隱藏層
Computing a Neural Network's Output
隱藏層每一個節(jié)點用下標數(shù)字和上標方括號數(shù)字代表， 沒有下標的時候代表整體該層產(chǎn)出
Vectorizing across multiple examples
image.png
image.png
Explanation for Vectorized Implementation
image.png
image.png
Activation functions 激活函數(shù)
image.png
Why do you need non-linear activation functions
如果你選擇一個線性函數(shù) 那么如果沒有激活函數(shù) 你的結果永遠是線性的
Derivatives of activation functions 激活函數(shù)導數(shù)
Gradient descent for Neural Networks 神經(jīng)網(wǎng)絡梯度下降
正向傳播和反向傳播
初始化的知識
后向傳播
image.png
