一旦解決了數(shù)據(jù)表達和特征提取，很多人工智能任務(wù)也就解決了90%。

深度學(xué)習(xí)解決的核心問題之一就是自動地將簡單的特征組合成更加復(fù)雜的特征，并使用這些組合特征解決問題。深度學(xué)習(xí)是機器學(xué)習(xí)的一個分支，它除了可以學(xué)習(xí)特征和任務(wù)之間的關(guān)聯(lián)外，還能自動地從簡單特征中提取更加復(fù)雜的特征。

深度學(xué)習(xí)的通用性。

人工智能是一類非常廣泛的問題，機器學(xué)習(xí)是解決這類問題的一個重要手段，深度學(xué)習(xí)則是機器學(xué)習(xí)的一個分支。在很多人工智能問題上，深度學(xué)習(xí)的方法突破了傳統(tǒng)機器學(xué)習(xí)方法的瓶頸，推動了人工智能領(lǐng)域的發(fā)展。

深度學(xué)習(xí)，基本上是深層神經(jīng)網(wǎng)絡(luò)的一個代名詞。

神經(jīng)網(wǎng)絡(luò)的發(fā)展，大致可以分為三個階段：第一階段，感知機模型的提出（只能解決線性可分問題；當(dāng)時計算能力下，實現(xiàn)多層神經(jīng)網(wǎng)絡(luò)不可能）；第二階段，分布式知識表達和反向傳播算法的提出（分布式的知識表達的核心思想是現(xiàn)實世界中的知識和概念應(yīng)該通過多個神經(jīng)元來表達，而模型中的每一個神經(jīng)元也應(yīng)該參與表達多個概念，這樣就大大加強了模型表達能力，讓神經(jīng)網(wǎng)絡(luò)從寬度的方向走向了深度的方向。反向傳播算法大幅降低了訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需要的時間。失敗兩個原因，一是當(dāng)時計算資源下訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)非常困難，二是當(dāng)時數(shù)據(jù)量比較少，無法滿足訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)的需要）；第三階段，深度學(xué)習(xí)的發(fā)展開啟了一個AI的新時代。

深度學(xué)習(xí)里最經(jīng)典的模型是全連接的神經(jīng)網(wǎng)絡(luò)，就是每相臨的兩層之間節(jié)點之間是通過邊全連接；再就是卷積神經(jīng)網(wǎng)絡(luò)，這個在計算機視覺里面用得非常多；再就是循環(huán)神經(jīng)網(wǎng)絡(luò)RNN，這個在對系列進行建模，例如自然語言處理或者語音信號里面用得很多，這些都是非常成功的深度神經(jīng)網(wǎng)絡(luò)的模型。還有一個非常重要的技術(shù)就是深度強化學(xué)習(xí)技術(shù)，這是深度學(xué)習(xí)和強化學(xué)習(xí)的結(jié)合，也是AlphaGo系統(tǒng)所采用的技術(shù)。

深度學(xué)習(xí)的成功主要歸功于三大因素——大數(shù)據(jù)、大模型、大計算?，F(xiàn)在可以利用的數(shù)據(jù)特別是人工標(biāo)注的數(shù)據(jù)非常多，使得我們能夠從數(shù)據(jù)中學(xué)到以前沒法學(xué)習(xí)的東西。另外技術(shù)上的發(fā)展使得訓(xùn)練大模型成為了可能，例如上千層的深度神經(jīng)網(wǎng)絡(luò)，這個在四年以前（今年2017年）都覺得不能想象的事情，現(xiàn)在都已經(jīng)發(fā)展成為現(xiàn)實，并且在產(chǎn)品中都有了很廣泛的使用。再就是大計算，從CPU到GPU，可獲取的計算資源越來越豐富。