六、最好的機(jī)器學(xué)習(xí)資源
作者:Vishal Maini
譯者:飛龍
協(xié)議:CC BY-NC-SA 4.0
用于制定人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)課程表的資源概覽。
制定課程表的一般建議
上學(xué)獲得一個(gè)正式學(xué)位并不總是可行或者令人滿意的。對(duì)于那些考慮自學(xué)來代替的人,這就是寫給你們的。
1. 構(gòu)建基礎(chǔ),之后專攻興趣領(lǐng)域
你不能深入每個(gè)機(jī)器學(xué)習(xí)話題。有太多藥學(xué)的東西,并且領(lǐng)域的進(jìn)展較快。掌握基礎(chǔ)概念,之后專注特定興趣領(lǐng)域的項(xiàng)目 -- 無(wú)論是自然語(yǔ)言理解,計(jì)算機(jī)視覺,深度強(qiáng)化學(xué)習(xí),機(jī)器人,還是任何其它東西。
2. 圍繞最感興趣的話題設(shè)計(jì)你的課程表
對(duì)于一些長(zhǎng)期學(xué)習(xí),或事業(yè)目標(biāo)來說,動(dòng)機(jī)遠(yuǎn)比稍微優(yōu)化的學(xué)習(xí)策略重要。如果你玩的開心,你就會(huì)進(jìn)展較快。如果你嘗試強(qiáng)迫你自己前進(jìn),你就較慢。
我們包含了自己探索或高度推薦的資源。這個(gè)列表的并不打算非常詳盡。有數(shù)不清的選項(xiàng),也有很多選項(xiàng)是沒有作用的。但是如果我們錯(cuò)過了不錯(cuò)的資源,它屬于這里,請(qǐng)幫助我們。
基礎(chǔ)
譯者注:如果有翻譯過來的免費(fèi)中文版,會(huì)以中文版代替。如果中文版收費(fèi),則會(huì)同時(shí)提供英文和中文鏈接。
編程
- 語(yǔ)法和基礎(chǔ)概念:谷歌的 Python 課程、笨辦法學(xué) Python。
- 練習(xí):CoderByte、CodeWars、HackerRank。
線性代數(shù)
- 深度學(xué)習(xí)圣經(jīng),第二章:線性代數(shù)。機(jī)器學(xué)習(xí)相關(guān)的線性代數(shù)概念的快速概覽。
- A First Course in Linear Model Theory(線性模型理論的第一堂課)。Nalini Ravishanker 和 Dipak Dey 所著。在統(tǒng)計(jì)學(xué)語(yǔ)境下介紹線性代數(shù)的課本。
概率統(tǒng)計(jì)
MIT 18.05,概率統(tǒng)計(jì)導(dǎo)論,由 Jeremy Orloff 和 Jonathan Bloom 講授。提供概率歸因和統(tǒng)計(jì)推斷的知道,對(duì)于理解機(jī)器如何思考、規(guī)劃、和決策來說,它是無(wú)價(jià)的。
All of Statistics: A Concise Course in Statistical Inference(統(tǒng)計(jì)大全:統(tǒng)計(jì)推斷的短期課程),Larry Wasserman 所著。統(tǒng)計(jì)學(xué)的導(dǎo)論性課本。
微積分
可汗學(xué)院:微分。或者任何微積分課程或課本。
斯坦福 CS231n:導(dǎo)數(shù),反向傳播和向量化,Justin Johnson 所著。
機(jī)器學(xué)習(xí)
- 課程
- 吳恩達(dá)的機(jī)器學(xué)習(xí)課程,在網(wǎng)易云課堂上(更嚴(yán)格來說,是斯坦福 CS229。
- 數(shù)據(jù)科學(xué)訓(xùn)練營(yíng):Galvanize(全日制,三個(gè)月,較貴);Thinkful(時(shí)間靈活,六個(gè)月,較便宜)。
- 課本
深度學(xué)習(xí)
- 課程
- Deeplearning.ai,吳恩達(dá)的導(dǎo)論性深度學(xué)習(xí)課程。
- CS231n:用于視覺識(shí)別的卷積神經(jīng)網(wǎng)絡(luò),斯坦福的深度學(xué)習(xí)課程。有助于構(gòu)建概念,帶有吸引人的講義和演示性的問題集。
- 項(xiàng)目
- Fast.ai,有趣而遍歷的,基于項(xiàng)目的課程。項(xiàng)目包括貓狗的圖像分類,和尼采哲學(xué)的作品生成。
- 使用 TensorFlow 分類 MNIST 手寫數(shù)字。使用這個(gè) Google 的教程,以超過 99% 的準(zhǔn)確率,在三個(gè)小時(shí)內(nèi)分類手寫數(shù)字。
- 親自試試 Kaggle 的比賽。實(shí)現(xiàn)感興趣的深度學(xué)習(xí)論文,使用 Github 上的其它版本作為參考資料。
- 閱讀
- 深度學(xué)習(xí)圣經(jīng),Ian Goodfellow,Yoshua Bengio 和 Aaron Courville 所著。
- 神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí),清晰和在線刻度的深度學(xué)習(xí)教程,Michael Nielsen 所著。以一些到達(dá)人類級(jí)別的智能結(jié)尾。
- 深度學(xué)習(xí)論文閱讀路線圖,關(guān)鍵論文的全集,按照時(shí)間和研究領(lǐng)域組織。
強(qiáng)化學(xué)習(xí)
- 課程
- John Schulman 的 CS294:深度強(qiáng)化學(xué)習(xí),位于 UCB。
- David Silver 的 強(qiáng)化學(xué)習(xí)課程,位于倫敦大學(xué)學(xué)院。
- 深度 RL 訓(xùn)練營(yíng),由 OpenAI 和 UCB 組織。應(yīng)用當(dāng)前關(guān)閉了,但是值得看一看未來的課程。
- 項(xiàng)目
- Andrej Karpathy 的 Pong from Pixels。從零開始,在 130 行代碼之內(nèi),實(shí)現(xiàn)打乒乓球的智能體。
- Arthur Juliani 的 Simple Reinforcement Learning with Tensorflow(Tensorflow 簡(jiǎn)易強(qiáng)化學(xué)習(xí))。使用 TensorFlow 實(shí)現(xiàn) Q-learning, policy-learning 和 actor-critic 方法,和探索策略。
- 更多思路請(qǐng)查看 OpenAI 的 requests for research。
- 閱讀
- Richard Sutton 的書,Reinforcement Learning: An Introduction(強(qiáng)化學(xué)習(xí)導(dǎo)論)。
人工智能
- 人工智能:一種現(xiàn)代方法(英文,中文),由 Stuart Russell 和 Peter Norvig 所著。
- Sebastian Thrun 的優(yōu)達(dá)學(xué)城課程,人工智能導(dǎo)論。
- 獎(jiǎng)學(xué)金:Insight AI 伙伴計(jì)劃,谷歌大腦實(shí)習(xí)項(xiàng)目。
人工智能安全
- 對(duì)于短的版本,請(qǐng)閱讀:1)Johannes Heidecke 的 Risks of Artificial Intelligence(人工智能的風(fēng)險(xiǎn));2)OpenAI 和 谷歌大腦的合作,Concrete Problems in AI Safety(AI 安全中的具體問題);3)Wait But Why 的文章 AI Revolution(AI 的進(jìn)化)。
- 對(duì)于長(zhǎng)的版本,查看 Nick Bostrom 的 Superintelligence(超智能)。
- 查看 MIRI 和 FHI 發(fā)布的 AI 安全方面的研究。
- 保持關(guān)注 Reddit 上的
/r/ControlProblem。
時(shí)事通訊
- Import AI,每周的 AI 通訊,涵蓋業(yè)界的最新發(fā)展。由 OpenAI 的 Jack Clark 籌劃。
- Machine Learnings,由 Sam DeBrule 籌劃。它是這個(gè)領(lǐng)域中經(jīng)??痛膶<?。
- Nathan.ai,涵蓋近期新聞,和風(fēng)投視角的 AI/ML 評(píng)論。
- The Wild Week in AI,由 Denny Britz 維護(hù)。標(biāo)題說明了一切。
來自其他人的建議
- What is the best way to learn machine learning without taking any online courses?(不上任何在線課程的情況下,什么是學(xué)習(xí)機(jī)器學(xué)習(xí)的最佳方式?),由谷歌大腦的 Eric Jang 回答。
- What are the best ways to pick up deep learning skills as an engineer?(作為工程師,什么是修煉深度學(xué)習(xí)技能的最佳方式?),由 OpenAI 的 CTO Greg Brockman 回答。
- A16z 的 AI Playbook(AI 攻略書),更加基于代碼的介紹。
- AI safety syllabus(AI 安全大綱),由 80,000 Hours 設(shè)計(jì)。

你選擇了藍(lán)色藥丸,然后故事結(jié)束了。你在你的床上醒來,并且相信了你打算相信的任何東西。你選擇了紅色藥丸,仍然留在仙境中,然后我向你展示兔子洞有多深。-- Morpheus
最后祝你好運(yùn),再見。