image.png

本項(xiàng)目將《動(dòng)手學(xué)深度學(xué)習(xí)》 原書(shū)中MXNet代碼實(shí)現(xiàn)改為T(mén)ensorFlow2.0實(shí)現(xiàn)。經(jīng)過(guò)我的導(dǎo)師咨詢李沐老師，這個(gè)項(xiàng)目的實(shí)施已得到李沐老師的同意。原書(shū)作者：阿斯頓·張、李沐、扎卡里 C. 立頓、亞歷山大 J. 斯莫拉以及其他社區(qū)貢獻(xiàn)者，GitHub地址：https://github.com/d2l-ai/d2l-zh

此書(shū)的中、英版本存在一些不同，本項(xiàng)目主要針對(duì)此書(shū)的中文版進(jìn)行TensorFlow2.0重構(gòu)。另外，本項(xiàng)目也參考了對(duì)此書(shū)中文版進(jìn)行PyTorch重構(gòu)的項(xiàng)目Dive-into-DL-PyTorch，在此表示感謝。

現(xiàn)已更新到第五章，持續(xù)更新中。。。

簡(jiǎn)介

本倉(cāng)庫(kù)主要包含code和docs兩個(gè)文件夾（外加一些數(shù)據(jù)存放在data中）。其中code文件夾就是每章相關(guān)jupyter notebook代碼（基于TensorFlow2.0）；docs文件夾就是markdown格式的《動(dòng)手學(xué)深度學(xué)習(xí)》書(shū)中的相關(guān)內(nèi)容，然后利用docsify將網(wǎng)頁(yè)文檔部署到GitHub Pages上，由于原書(shū)使用的是MXNet框架，所以docs內(nèi)容可能與原書(shū)略有不同，但是整體內(nèi)容是一樣的。歡迎對(duì)本項(xiàng)目做出貢獻(xiàn)或提出issue。

面向人群

本項(xiàng)目面向?qū)ι疃葘W(xué)習(xí)感興趣，尤其是想使用TensorFlow進(jìn)行深度學(xué)習(xí)的童鞋。本項(xiàng)目并不要求你有任何深度學(xué)習(xí)或者機(jī)器學(xué)習(xí)的背景知識(shí)，你只需了解基礎(chǔ)的數(shù)學(xué)和編程，如基礎(chǔ)的線性代數(shù)、微分和概率，以及基礎(chǔ)的Python編程。

食用方法

方法一

本倉(cāng)庫(kù)包含一些latex公式，但github的markdown原生是不支持公式顯示的，而docs文件夾已經(jīng)利用docsify被部署到了GitHub Pages上，所以查看文檔最簡(jiǎn)便的方法就是直接訪問(wèn)本項(xiàng)目網(wǎng)頁(yè)版。當(dāng)然如果你還想跑一下運(yùn)行相關(guān)代碼的話還是得把本項(xiàng)目clone下來(lái)，然后運(yùn)行code文件夾下相關(guān)代碼。

方法二

你還可以在本地訪問(wèn)文檔，先安裝docsify-cli工具:

npm i docsify-cli -g

然后將本項(xiàng)目clone到本地:

git clone https://github.com/TrickyGo/Dive-into-DL-TensorFlow2.0
cd Dive-into-DL-TensorFlow2.0

然后運(yùn)行一個(gè)本地服務(wù)器，這樣就可以很方便的在http://localhost:3000實(shí)時(shí)訪問(wèn)文檔網(wǎng)頁(yè)渲染效果。

docsify serve docs

目錄

• 簡(jiǎn)介
• 閱讀指南
• 1. 深度學(xué)習(xí)簡(jiǎn)介
• 2. 預(yù)備知識(shí)
  • 2.1 環(huán)境配置
  • 2.2 數(shù)據(jù)操作
  • 2.3 自動(dòng)求梯度
  • 2.4 查閱文檔
• 3. 深度學(xué)習(xí)基礎(chǔ)
  • 3.1 線性回歸
  • 3.2 線性回歸的從零開(kāi)始實(shí)現(xiàn)
  • 3.3 線性回歸的簡(jiǎn)潔實(shí)現(xiàn)
  • 3.4 softmax回歸
  • 3.5 圖像分類數(shù)據(jù)集（Fashion-MNIST）
  • 3.6 softmax回歸的從零開(kāi)始實(shí)現(xiàn)
  • 3.7 softmax回歸的簡(jiǎn)潔實(shí)現(xiàn)
  • 3.8 多層感知機(jī)
  • 3.9 多層感知機(jī)的從零開(kāi)始實(shí)現(xiàn)
  • 3.10 多層感知機(jī)的簡(jiǎn)潔實(shí)現(xiàn)
  • 3.11 模型選擇、欠擬合和過(guò)擬合
  • 3.12 權(quán)重衰減
  • 3.13 丟棄法
  • 3.14 正向傳播、反向傳播和計(jì)算圖
  • 3.15 數(shù)值穩(wěn)定性和模型初始化
  • 3.16 實(shí)戰(zhàn)Kaggle比賽：房?jī)r(jià)預(yù)測(cè)
• 4. 深度學(xué)習(xí)計(jì)算
  • 4.1 模型構(gòu)造
  • 4.2 模型參數(shù)的訪問(wèn)、初始化和共享
  • 4.3 模型參數(shù)的延后初始化
  • 4.4 自定義層
  • 4.5 讀取和存儲(chǔ)
  • 4.6 GPU計(jì)算
• 5. 卷積神經(jīng)網(wǎng)絡(luò)
  • 5.1 二維卷積層
  • 5.2 填充和步幅
  • 5.3 多輸入通道和多輸出通道
  • 5.4 池化層
  • 5.5 卷積神經(jīng)網(wǎng)絡(luò)（LeNet）
  • 5.6 深度卷積神經(jīng)網(wǎng)絡(luò)（AlexNet）
  • 5.7 使用重復(fù)元素的網(wǎng)絡(luò)（VGG）
  • 5.8 網(wǎng)絡(luò)中的網(wǎng)絡(luò)（NiN）
  • 5.9 含并行連結(jié)的網(wǎng)絡(luò)（GoogLeNet）
  • 5.10 批量歸一化
  • 5.11 殘差網(wǎng)絡(luò)（ResNet）
  • 5.12 稠密連接網(wǎng)絡(luò)（DenseNet）
• 6. 循環(huán)神經(jīng)網(wǎng)絡(luò)
  • 6.1 語(yǔ)言模型
  • 6.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
  • 6.3 語(yǔ)言模型數(shù)據(jù)集（周杰倫專輯歌詞）
  • 6.4 循環(huán)神經(jīng)網(wǎng)絡(luò)的從零開(kāi)始實(shí)現(xiàn)
  • 6.5 循環(huán)神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)潔實(shí)現(xiàn)
  • 6.6 通過(guò)時(shí)間反向傳播
  • 6.7 門(mén)控循環(huán)單元（GRU）
  • 6.8 長(zhǎng)短期記憶（LSTM）
  • 6.9 深度循環(huán)神經(jīng)網(wǎng)絡(luò)
  • 6.10 雙向循環(huán)神經(jīng)網(wǎng)絡(luò)
• 7. 優(yōu)化算法
  • 7.1 優(yōu)化與深度學(xué)習(xí)
  • 7.2 梯度下降和隨機(jī)梯度下降
  • 7.3 小批量隨機(jī)梯度下降
  • 7.4 動(dòng)量法
  • 7.5 AdaGrad算法
  • 7.6 RMSProp算法
  • 7.7 AdaDelta算法
  • 7.8 Adam算法
• 8. 計(jì)算性能
  • 8.1 命令式和符號(hào)式混合編程
  • 8.2 異步計(jì)算
  • 8.3 自動(dòng)并行計(jì)算
  • 8.4 多GPU計(jì)算
• 9. 計(jì)算機(jī)視覺(jué)
  • 9.1 圖像增廣
  • 9.2 微調(diào)
  • 9.3 目標(biāo)檢測(cè)和邊界框
  • 9.4 錨框
  • 9.5 多尺度目標(biāo)檢測(cè)
  • 9.6 目標(biāo)檢測(cè)數(shù)據(jù)集（皮卡丘）
  • 待更新...
• 10. 自然語(yǔ)言處理
  • 10.1 詞嵌入（word2vec）
  • 10.2 近似訓(xùn)練
  • 10.3 word2vec的實(shí)現(xiàn)
  • 10.4 子詞嵌入（fastText）
  • 10.5 全局向量的詞嵌入（GloVe）
  • 10.6 求近義詞和類比詞
  • 10.7 文本情感分類：使用循環(huán)神經(jīng)網(wǎng)絡(luò)
  • 10.8 文本情感分類：使用卷積神經(jīng)網(wǎng)絡(luò)（textCNN）
  • 10.9 編碼器—解碼器（seq2seq）
  • 10.10 束搜索
  • 10.11 注意力機(jī)制
  • 10.12 機(jī)器翻譯

持續(xù)更新中......

原書(shū)地址

中文版：動(dòng)手學(xué)深度學(xué)習(xí) | Github倉(cāng)庫(kù)
English Version: Dive into Deep Learning | Github Repo

引用

如果您在研究中使用了這個(gè)項(xiàng)目請(qǐng)引用原書(shū):

@book{zhang2019dive,
    title={Dive into Deep Learning},
    author={Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola},
    note={\url{http://www.d2l.ai}},
    year={2019}
}