deeplearning.ai 是機器學(xué)習(xí)領(lǐng)域大牛Andrew Ng在Coursera上公布的新的深度學(xué)習(xí)的課程，相比之前機器學(xué)習(xí)的課程，本課程更偏重于深度學(xué)習(xí)的領(lǐng)域。
本文是課程一《Neural Networks and Deep Learning》的第四周筆記，上周給大家介紹了Shallow Neural Networks，本周我們將為大家介紹Deep Neural Networks。
注：如果沒有任何機器學(xué)習(xí)基礎(chǔ)，直接學(xué)習(xí)本課程可能會有些費力，建議大家先去學(xué)習(xí)Andrew Ng機器學(xué)習(xí)課程，傳送門在此 Coursera Machine Learning
一、基本概念
深層神經(jīng)網(wǎng)絡(luò)，顧名思義，就是有很多隱藏層的神經(jīng)網(wǎng)絡(luò)，所以其符號表示與神經(jīng)網(wǎng)絡(luò)是一樣的，即使用中括號的上角標(biāo)來表示第幾層，比如a[0]表示第0層，即輸入層；a[2]則表示第二層隱藏層。
下圖即邏輯回歸、淺層神經(jīng)網(wǎng)絡(luò)與深層神經(jīng)網(wǎng)絡(luò)的對比。
由于其符號表示、前向傳播、反向傳播、參數(shù)及向量化已在前一章介紹過了，這里就不再贅述了，不清楚的可以回顧下上一周的筆記。
這里只是多了層數(shù)而已，完全套用前一章神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播即可。
二、直觀解釋
下圖為深層神經(jīng)網(wǎng)絡(luò)的直觀解釋，舉了圖像識別、語音識別等例子，詳細(xì)講解可以去看下視頻。 為什么使用深層表示.
三、參數(shù)與超參數(shù)
在神經(jīng)網(wǎng)絡(luò)中的參數(shù)指的是W,b，它們是在一次次梯度下降算法的迭代中不斷優(yōu)化的。
超參數(shù)指的是學(xué)習(xí)率、迭代數(shù)、隱藏層的層數(shù)和隱藏神經(jīng)元的個數(shù)（神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)）及激活函數(shù)的選擇等，超參數(shù)是需要我們在訓(xùn)練前手動設(shè)定的。
超參數(shù)的選擇會決定了最終的參數(shù)W,b，還會影響模型的訓(xùn)練速度等，所以超參數(shù)的選擇非常重要，在下一章中我們會講解如何選擇超參數(shù)。
四、本周內(nèi)容回顧
通過本周學(xué)習(xí)，我們學(xué)習(xí)到了：
- 深層神經(jīng)網(wǎng)絡(luò)的基本概念
- 深層神經(jīng)網(wǎng)絡(luò)的前向傳播和反向傳播
- 參數(shù)與超參數(shù)的解釋
最后貼出網(wǎng)易云課堂的鏈接，有興趣的可以關(guān)注下我的知乎或博客，鏈接在最下方，可以交流下學(xué)習(xí)經(jīng)驗哈
