姓名：李興宇? 學(xué)號：16030110084

轉(zhuǎn)載自：http://www.sohu.com/a/206688392_136745，有刪節(jié)。

【嵌牛導(dǎo)讀】：隨著人工智能的發(fā)展，許多人對其安全性提出了質(zhì)疑，甚至有人說如果不對人工智能的發(fā)展加以控制，人類文明或?qū)в谌斯ぶ悄?。面對這樣的局面，人工智能的未來將何去何從，這是一個問題。

【嵌牛鼻子】：人工智能，機(jī)器崛起，索菲亞人形機(jī)器人

【嵌牛提問】：伴隨著人工智能的發(fā)展，面對機(jī)器的崛起，我們應(yīng)該為此感到憂慮嗎？

【嵌牛正文】：

應(yīng)「原理」邀請，來自劍橋大學(xué)計算機(jī)系的博士Partha Maji, 前ARM芯片工程師及deeplearning.ai的講師，和我們分享了他在研究人工智能時的一些體會，并根據(jù)他的研究經(jīng)歷回答了我們共同關(guān)心的一個問題——我們應(yīng)該為人工智能的發(fā)展而感到擔(dān)憂嗎？接下來是演講正文。

大家好，接下來讓我們來看看當(dāng)下社會最前端的發(fā)展趨勢，人工智能。

(進(jìn)入主題前，Partha Maji首先用一段視頻介紹了漢森機(jī)器開發(fā)研制的索菲亞人形機(jī)器人）

索菲亞是由漢森機(jī)器（Hanson Robotics Ltd）開發(fā)研制的人形機(jī)器人, 也是世界上第一個獲得一個國家公民身份（沙特阿拉伯）的機(jī)器人。我們生活在一個有趣的時代，從聲控設(shè)備到醫(yī)療設(shè)施，從網(wǎng)絡(luò)購物到自動駕駛（正在研發(fā)中），背后都有人工智能的身影。與此同時，最近的一個研究報告[1] 聲稱人工智能可以再2035年的時候為英國政府增加6億3千萬英鎊的財政收入，使其國民生產(chǎn)總值的增幅從2.5%增加到3.9%。在此，我們不禁會問，這樣的科技會對人類造成威脅嗎？

我們從現(xiàn)在的報紙和網(wǎng)絡(luò)上經(jīng)常能看到這樣的消息，例如哈佛一位哲學(xué)家聲稱人工智能的發(fā)展就像是一個孩子在玩炸彈。著名的神經(jīng)科學(xué)家及哲學(xué)家Sam Harris也曾聲稱制造人工智能就是在制造上帝。臉書（Facebook）也在他們制作的人工智能機(jī)器開發(fā)出了自己特有的一套語言系統(tǒng)之后決定將其關(guān)閉。那么問題來了，在這些媒體的渲染之下，我們真的需要擔(dān)心人工智能的發(fā)展嗎？

○ 大眾媒體對人工智能興起的恐慌。

要回答這個問題，我們需要先回過頭來看看人工智能的發(fā)展史。人工智能的開發(fā)從上世紀(jì)40年代末期就開始了。但到上世紀(jì)60年代以前，幾乎所有的研究都失敗了，而這段時間也被科學(xué)家們稱作人工智能領(lǐng)域的冬天。直到上世紀(jì)80年代科學(xué)家們探索出了新的算法并將其歸類為機(jī)器學(xué)習(xí)，人工智能的發(fā)展才開始慢慢起步。到90年代初期，神經(jīng)網(wǎng)絡(luò)模擬被用在了機(jī)器學(xué)習(xí)上，并因此衍生出一個新的領(lǐng)域——深度學(xué)習(xí)。但可惜的是這些研究終無建樹，而人工智能領(lǐng)域又走進(jìn)了一段黑暗的時間。直到谷歌的AlphaGo的出現(xiàn)，深度學(xué)習(xí)作為人工智能的一個分支，開始引領(lǐng)整個領(lǐng)域的發(fā)展，并受到了學(xué)術(shù)界和工業(yè)界無數(shù)大神的追捧。

我們先從生物學(xué)的角度來探索什么是深度學(xué)習(xí)。大腦是怎么運(yùn)作的呢？模擬大腦是一個很有趣的課題，但問題是我們自己對大腦本身都不完全理解。我們不能完全明白夢境、睡眠、甚至語言到底是怎么一回事。我們可能只對記憶有部分的了解。當(dāng)我們將一個圖片展示在人們面前，大腦的某一部分的功能就會被啟動。但我們?nèi)匀辉谂Φ奶剿鞔竽X作為一個擁有約860億個神經(jīng)元的整體是如何運(yùn)作的。所以，如果我們能模擬單個神經(jīng)元，或許意味著我們可以在一定程度上模擬大腦。

○ 神經(jīng)元。

我們先來看看單個的神經(jīng)元。單個的神經(jīng)元由中間的神經(jīng)元胞體和周圍的樹突等結(jié)構(gòu)組成。當(dāng)一個神經(jīng)元胞體產(chǎn)生出超過一定閾值的信號時，信號就會通過髓鞘傳至軸突末梢并傳向下一個神經(jīng)元。基于這種特性，我們能模擬神經(jīng)元的特性。神經(jīng)元胞體其實是一個累加器，將每個輸入加權(quán)之后進(jìn)行累加。累加之后的輸出信號會通過一個激活函數(shù)（activation function) 。這個函數(shù)實際上是一個閾值探測器，如果輸出信號大過設(shè)定的閾值，那么信號將會被傳輸?shù)较乱粋€模擬神經(jīng)元。

○ 神經(jīng)元模擬。

在深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)中，我們會有成千上萬這樣的模擬。一個深度神經(jīng)網(wǎng)絡(luò)由輸入層和輸出層組成。輸出層用于接受輸入，例如圖像，影像或者視頻等。輸出層負(fù)責(zé)在接收到輸入之后得出一個加權(quán)值。例如我們在輸入層輸入一些貓和狗的圖片，那么輸出層將會輸出其中每張圖片是狗或是貓的概率。

在深度神經(jīng)網(wǎng)絡(luò)中，輸入和輸出層之間可以有上百個中間層作為連接。我們需要用大量的數(shù)據(jù)來訓(xùn)練這個深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)。比如我們會用大量的貓和狗的圖片作為輸入傳輸給這個深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)。這個系統(tǒng)在每接收到一張圖片輸入之后做出圖片是狗或是貓的預(yù)判。錯誤的預(yù)判將會和正確的答案作比較，并用一套數(shù)學(xué)的算法得出成本函數(shù)之后被重新分配到這個神經(jīng)網(wǎng)絡(luò)中。這個方法我們稱之為反向傳播法。系統(tǒng)上的每一個節(jié)點(diǎn)都是一個加權(quán)的判定。在大量的數(shù)據(jù)輸入和反向傳播之后，成本函數(shù)得到不斷的修正，使得最后輸入能夠通過最優(yōu)化的成本函數(shù)到達(dá)輸出層。這個神經(jīng)網(wǎng)絡(luò)系統(tǒng)最終學(xué)會準(zhǔn)確做出預(yù)判?？偟恼f來整個神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程就是不斷地運(yùn)用概率學(xué)并對錯誤預(yù)判的概率值不斷地進(jìn)行修正。

○ 深度神經(jīng)網(wǎng)絡(luò)模擬。

在2010年之前，深度學(xué)習(xí)只是人工智能的一個分支。其他的分支還包括了自然語言處理，圖像處理，機(jī)器人設(shè)計等等。然而之后深度學(xué)習(xí)的興起使其和人工智能的研究并駕齊驅(qū)。甚至很多學(xué)者都錯誤得覺得之前所有屬于人工智能的分支都能在深度學(xué)習(xí)的幫助下完成，并開始大量投入深度學(xué)習(xí)的研究。這個現(xiàn)象其實是令人擔(dān)憂的。因為人工智能分為強(qiáng)人工智能和弱人工智能，而深度學(xué)習(xí)僅僅是弱人工智能的一個分支。

現(xiàn)在大多數(shù)的人工智能科技，包括自動駕駛和之前視頻中提到的索菲亞都屬于弱人工智能。因為這些都屬于監(jiān)督學(xué)習(xí)。意思就是說這些系統(tǒng)都需要使用者提供正確答案，在和正確答案做出比對之后無數(shù)次的通過反向傳播最終提高神經(jīng)網(wǎng)絡(luò)的正確性。強(qiáng)人工智能指的是非監(jiān)督學(xué)習(xí)。比如我們輸入大量貓和狗的照片，系統(tǒng)能夠自己歸納出兩種類別的特性，在使用者不告訴正確答案的前提下也能將兩種動物正確分類。強(qiáng)人工智能需要滿足四個條件，對周圍的意識（包括主觀的想法等），對自我的意識（有你我之分），對周圍的感知（比如對環(huán)境變化的感知），以及最終擁有智慧。這是研究人工智能最終極的目標(biāo)，然而現(xiàn)在的大多數(shù)研究卻僅僅停留在弱人工智能。一些對強(qiáng)人工智能開發(fā)的試驗也只是在起步階段。那么我們什么時候能看到強(qiáng)人工智能的應(yīng)用呢？或許會有極少數(shù)持非常樂觀態(tài)度的研究者會說在今后的100年左右，但絕大多數(shù)的研究者都不敢確定。

○ 或許人工智能與其它學(xué)科的本質(zhì)并無區(qū)別。

在大體了解了人工智能之后，我們先來回答這樣一個問題，人工智能的研究應(yīng)該受到法律的規(guī)范或限制嗎？在我個人看來，人工智能的發(fā)展仍在一個相對初級的階段，任何的法律規(guī)范或限制都可能會讓整個研究裹足不前。我們更應(yīng)該把這項技術(shù)看成一種工具，其本質(zhì)和物理化學(xué)或者科技并沒有什么區(qū)別。學(xué)界和業(yè)界的大佬們也都站出來反駁人工智能威脅論，希望大眾不要把人工智能看做是威脅。

○ 從弱人工智能到強(qiáng)人工智能的發(fā)展。

當(dāng)然這并不代表我們可以任由人工智能不受限制的發(fā)展，有很多道德層面上的問題還是值得深究的。比如非常著名的電車?yán)碚摗＞同F(xiàn)如今的技術(shù)看來，無論十幾年或者幾十年，無人駕駛汽車最終會成為一種趨勢。雖然現(xiàn)在的無人駕駛的研究僅僅著重于輔助駕駛員駕駛，但研究者們也從未放棄過對真正意義上的無人駕駛（無需駕駛員干預(yù)）的研究。那么這之中就有一個非常嚴(yán)重的問題。我們假設(shè)這樣一個場景，一個高速行駛的無人駕駛的汽車突然發(fā)現(xiàn)公路上有人，緊急剎車的話會導(dǎo)致車內(nèi)人死亡，而不剎車會導(dǎo)致路上的行人死亡，這時候人工智能應(yīng)該做怎樣的選擇呢？如果這種情況導(dǎo)致人死亡，我們又應(yīng)該起訴誰呢？車?yán)锏娜?？還是汽車的制造商？對于法律應(yīng)該如何在這種情景下界定責(zé)任，我們爭論了很多年，而至今也沒有結(jié)果。

無人機(jī)在軍事上的應(yīng)用也是一個大的問題。比如在無人機(jī)分析到恐怖分子活動空間之后，在消滅敵人的同時誤傷了平民，這又應(yīng)該誰來負(fù)責(zé)任呢？再比如現(xiàn)下最流行的電子助理，谷歌和亞馬遜都爭相推出了各種款式。然而這些產(chǎn)品也無時無刻不在侵犯你的隱私，你說的每句話都會被他們記錄下來，傳到服務(wù)器用于訓(xùn)練更好的下一代的產(chǎn)品。然而你說的很多話也許并不希望有人會聽到甚至拿去做分析。舉一個更平常的例子，人們平常刷微博發(fā)微信，手機(jī)上安裝新的APP，我們的個人信息都因此變得透明可跟蹤。而這些信息都可能被廠商所利用，畢竟在這個時代，擁有數(shù)據(jù)就擁有了無上的權(quán)利。更糟糕的是我們的很多工作也可能被人工智能所代替，如何平衡地分配人和人工智能間的協(xié)作，也是擺在我們面前的一個大問題。然而這僅僅是一個開始。

（最后，Partha Maji用另一段索菲亞人形機(jī)器人的視頻結(jié)束了此次演講）

問答環(huán)節(jié)

Q：回到之前提到的就業(yè)問題，我認(rèn)為這是現(xiàn)下大家對人工智能最恐慌的地方。你認(rèn)為政府是否應(yīng)該出面限制一些可能對社會造成巨大影響的人工智能開發(fā)？

A：我個人認(rèn)為現(xiàn)在技術(shù)的發(fā)展歸功于各個公司間的競爭，如果政府出面限制，那么整個行業(yè)的發(fā)展將會停滯不前。這將會是一個很大的問題。我覺得與其限制，我們更應(yīng)該引導(dǎo)這些技術(shù)的發(fā)展，使他們?yōu)槲覀兯谩?/p>

Q：在你研究的過程中，你覺得人工智能最大的危險是什么？是他們本身會造成的危險，還是他們落入壞人手里造成的危險？

A：站在研究者的角度，這些技術(shù)是會作為工具方便人類的。所以說到危險我覺得更多的是他們落到壞人手里之后造成的危險。比如無人機(jī)落到了恐怖分子的手里。因為如今即便是不懂人工智能的人也能從網(wǎng)上下載開源的軟件運(yùn)行人工智能。這方面我們確實需要一些條例來規(guī)范這些。

Q：我對之前臉書制造的兩個機(jī)器非常感興趣。媒體說他們通過相互對話制造出了自己的，人類無法識別的語言，科學(xué)家因此關(guān)閉了這兩臺機(jī)器，停止了研究。關(guān)于這個你怎么看？

A：首先需要澄清的是兩個機(jī)器并沒有制造出自己的語言。只是通過數(shù)學(xué)的方式找到了更加簡便的信息處理方式。比如其中一個機(jī)器無數(shù)次的說同樣的東西，比如一個披薩，一瓶可樂和一顆糖。次數(shù)多了之后他們會通過數(shù)學(xué)的方式將這三個東西用更簡單的方式來表示，比如說“吃”。這在人們聽起來是毫無邏輯的東西，但在機(jī)器來看僅僅是對一串不斷重復(fù)的相同文字串的一個更加節(jié)省功耗的表達(dá)方式而已。所以工程師們關(guān)閉了這兩個機(jī)器并不是因為恐懼他們產(chǎn)生了新的人類無法理解的交流方式，而僅僅是因為這個結(jié)果和他們生產(chǎn)這塊產(chǎn)品的目的背道而馳了，畢竟他們最初的目的是開發(fā)一個能和人類對話的產(chǎn)品。

Q：在我看來比起弱人工智能，強(qiáng)人工智能更可能帶來危害，畢竟他們更像人類卻有著人類無法匹敵的運(yùn)算能力。我的問題是計算機(jī)科學(xué)家們是否考慮過將研究限制在弱人工智能，這樣的話我們更能有效地限制強(qiáng)人工智能可能帶來的危害？

A：這也是一種選擇。但在我看來強(qiáng)人工智能也會有它的市場。雖然可能中我們一生也無法看到強(qiáng)人工智能的運(yùn)用，但畢竟還是有人希望強(qiáng)人工智能能夠幫助他們做一些事情。所以現(xiàn)在也已經(jīng)有一些公司在強(qiáng)人工智能上花了很大的功夫。研究者更希望運(yùn)用引導(dǎo)而非限制來解決技術(shù)可能帶來的問題。

Q：你認(rèn)為人工智能的研究的瓶頸在哪里？是數(shù)據(jù)，算法，機(jī)器還是其他？

A：首先第一個瓶頸我認(rèn)為是產(chǎn)品轉(zhuǎn)化的容易度?，F(xiàn)下人工智能的開發(fā)大多都集中在有監(jiān)督學(xué)習(xí)，即弱人工智能。因為這些技術(shù)很容易轉(zhuǎn)化為各種產(chǎn)品，使得更多資本也投向了比較容易出成果的弱人工智能領(lǐng)域。這導(dǎo)致了強(qiáng)人工智能的開發(fā)不僅在人才還是資金上都受到了限制。其次，我認(rèn)為瓶頸發(fā)生在運(yùn)行人工智能的機(jī)器上。即便是弱人工智能也需要很大的運(yùn)行能力。所以這些技術(shù)單個的計算機(jī)或者手機(jī)上是不會有很大的用處，因為運(yùn)行能力受到了很大的限制。現(xiàn)在唯一的解決辦法就是通過網(wǎng)絡(luò)將所有信息收集到服務(wù)器上并通過服務(wù)器處理之后返還移動端。也就是說現(xiàn)在我們所用到的人工智能大多數(shù)都是通過云處理。而這最大的問題就是受限于周圍的環(huán)境。舉個例子如果網(wǎng)斷了我們就什么也沒有了。所以機(jī)器的運(yùn)算能力也是現(xiàn)在非常大的瓶頸所在。