這本新書英文名為life3.0，直譯過來是生命3.0，副標(biāo)題是人工智能時(shí)代的人類。
作者叫麥克斯.泰格瑪克，是麻省理工學(xué)院物理學(xué)家，也是真正站在AI領(lǐng)域最前沿的研究者之一。該書于今年8月29日出版，上線僅一天就登上了美國亞馬遜人工智能和機(jī)器學(xué)習(xí)類書籍排行榜的首位。埃隆.馬斯克也在其推特上發(fā)文稱此書值得一讀，人工智能將是人類遇到的最棒或者最糟糕的東西，所以讓我們真去面對，能夠真正以冷靜客觀并且站在相當(dāng)?shù)母叨扰c深度來看待人工智能的人很少。
本書作者泰格瑪克正是其中一個(gè)，生命3.0一書深度遠(yuǎn)遠(yuǎn)超過市面上大多數(shù)關(guān)于人工智能的普及類書籍，其廣度也讓人吃驚。從AI的起源與背后的技術(shù)出發(fā)，一路上探討了諸多將被其深度影響的領(lǐng)域，比如工作社會(huì)戰(zhàn)爭犯罪等等。隨便舉舉書里談及的問題，在不可避免的自動(dòng)化浪潮中，我們要如何確保人們的工作與收入不會(huì)減少，如何避免智能化軍備競賽所帶來的全球性危機(jī)？我們給下一代的職業(yè)建議應(yīng)該是什么樣的，什么樣的職業(yè)將會(huì)成為下一個(gè)時(shí)代的寵兒，如何保障人工智能的安全性。如何保證AA始終在我們的控制之中，而不是如科幻電影那樣開始與人類對抗。
我個(gè)人判斷這本書可能是2017年以來關(guān)于人工智能話題最為深刻的一本書籍。
我們既有可能在地球上創(chuàng)造出前所未有的蓬勃發(fā)展的社會(huì)，也有可能創(chuàng)造出一個(gè)永遠(yuǎn)無法被推翻的無比壓抑的全球監(jiān)視系統(tǒng)。波多黎各會(huì)議結(jié)束時(shí)，泰格瑪克真切地相信關(guān)于未來AI的探討是我們這個(gè)時(shí)代最為重要的話題，這關(guān)乎我們所有人的未來，所以不應(yīng)該僅限于AI研究人員。我們想要什么樣的未來，在人工智能時(shí)代成為人類意味著什么？
這本書的目的就是幫助你加入這個(gè)對話，但是目前許多關(guān)于AI的爭論其實(shí)意義不大，因?yàn)閰⑴c討論的人們存在著不少基本的誤解，比如說對同一個(gè)詞匯有不同的理解，所以我們在進(jìn)入有價(jià)值的討論之前，首先應(yīng)該澄清一些最常見的誤解。
泰格瑪克提供了他對于一些核心術(shù)語的定義，并非說它的定義是最好的，只是泰格瑪克想通過明確的解釋來避免混淆，而且它采用的是廣義上的定義，避免以人類為中心的偏見。
這里我轉(zhuǎn)述一下比較重要的幾個(gè)：
智能指的是完成復(fù)雜目標(biāo)的能力。
弱人工智能指的是實(shí)現(xiàn)一組有限的目標(biāo)的能力，比如下圍棋或者駕駛汽車。
通用智能指的是有能力達(dá)成幾乎任何目標(biāo)，包括學(xué)習(xí)。
超人工智能指的是遠(yuǎn)超人類水平的通用智能。
除了混淆術(shù)語之外，許多AI的對話還被一些簡單的誤解所困擾，最常見的有以下三個(gè)：
第一個(gè)是關(guān)于時(shí)間表的神話。人類發(fā)展出超人工智能需要多長時(shí)間，在這個(gè)問題上最常見的誤解就是我們非常確定地知道答案，比如最流行的說法是我們知道自己將在本世紀(jì)內(nèi)創(chuàng)造出超人工智能，但是回顧一下歷史，我們曾經(jīng)也很確信自己會(huì)造出滿天飛的汽車，但是你現(xiàn)在看到了嗎？回到人工智能領(lǐng)域，上個(gè)世紀(jì)的50年代AI的創(chuàng)始人們就以為只要把大家聚在一起，花上兩個(gè)月的時(shí)間，就能搞清楚如何讓機(jī)器使用語言形成抽象概念，解決人類面臨的各種問題，并且做到自我完善。現(xiàn)在看來只能用過分樂觀來形容當(dāng)時(shí)人們的想法。
另一方面，一個(gè)流行的相反的說法則是我們確信自己本世紀(jì)內(nèi)造不出超人工智能，1956年天文學(xué)家理查德武力聲稱太空旅行絕對不可能。類似這樣事后看來可笑的預(yù)測在歷史上比比皆是。
物理學(xué)家知道大腦是由夸克和電子組成的一臺強(qiáng)大的計(jì)算機(jī)，所以沒有什么物理定律阻止我們構(gòu)建更加智能的夸克結(jié)構(gòu)。從這個(gè)意義上來說，我們不能鐵口斷言人類未來制造不出超人工智能。
現(xiàn)在已經(jīng)有一些調(diào)查詢問AI的研究人員，你們認(rèn)為多少年后我們至少有五成的概率制造出超人工智能，結(jié)論是這個(gè)領(lǐng)域的頂尖專家對此問題分歧極大，所以我們其實(shí)不知道答案?，F(xiàn)在有媒體宣稱過不了幾年超人工智能就要誕生了，其實(shí)呢那些對此表示擔(dān)憂的著名人士也認(rèn)為至少還有幾十年才會(huì)出現(xiàn)超人工智能，但是他們同時(shí)認(rèn)為，只要我們不能拍著胸脯保證本世紀(jì)內(nèi)不會(huì)出現(xiàn)超人工智能，那么現(xiàn)在就應(yīng)該開始相關(guān)的安全研究，因?yàn)檫@些問題太復(fù)雜了，可能需要好幾十年才能找到解決方案。
第二個(gè)誤解是關(guān)于爭議的神話，也就是誤以為AI研究者對于是否支持人工智能安全研究存在巨大的爭議，泰格瑪克認(rèn)為這也是媒體推波助瀾的結(jié)果，比如過于強(qiáng)調(diào)吳恩達(dá)的火星人口過剩論，其實(shí)吳恩達(dá)并非不在意人工智能的安全問題，只不過他關(guān)于超人工智能出現(xiàn)的時(shí)間表比較長，
所以傾向于優(yōu)先考慮短期內(nèi)的AI挑戰(zhàn)。
第三個(gè)誤解是關(guān)于風(fēng)險(xiǎn)的深化，相信你一定看過這樣的新聞標(biāo)題：霍金發(fā)出警告，機(jī)器人的崛起可能是人類的災(zāi)難，通常這類文章會(huì)搭配上一張裝備的武器的邪惡機(jī)器人的科幻圖片，文章還會(huì)告訴我們要警惕機(jī)器人發(fā)展出一時(shí)，并且變得邪惡，最終殺死人類。
這類文章很抓人眼球，但其實(shí)體現(xiàn)了一些人對于意識邪惡以及機(jī)器人這三個(gè)概念的誤解。如果你自己開車的話，你會(huì)有關(guān)于顏色聲音等的主觀上的體驗(yàn)，那么無人駕駛汽車會(huì)不會(huì)有這種主觀上的體驗(yàn)?zāi)兀克欠駮?huì)感覺到自己是一輛無人駕駛汽車還是像一個(gè)沒有任何主觀體驗(yàn)的僵尸？
雖然這個(gè)一時(shí)之謎是挺有意思的，但是他和人工智能的風(fēng)險(xiǎn)無關(guān)。
如果你被一輛無人駕駛汽車撞倒，那么他有沒有主觀意識跟你的腿有沒有斷沒有任何關(guān)系。
同理，超人工智能對人類的影響在于它會(huì)做什么，而不是它意識到什么，害怕機(jī)器變得邪惡也是無聊的問題。我們真正應(yīng)該擔(dān)心的不是機(jī)器的惡意，而是他的能力。根據(jù)定義，一個(gè)超人工智能非常擅長實(shí)現(xiàn)目標(biāo)，無論這個(gè)目標(biāo)是什么，所以我們需要確保其目標(biāo)與我們的一致。你可能本身并不討厭螞蟻，但如果你負(fù)責(zé)一個(gè)水力發(fā)電項(xiàng)目，那么有一個(gè)蟻穴在項(xiàng)目建設(shè)過程中被水淹沒就再正常不過了。益智運(yùn)動(dòng)就是希望努力避免人類遭遇和這些螞蟻同樣的命運(yùn)被沒有惡意但十分強(qiáng)大的超人工智能隨手毀滅。對于一時(shí)的誤解和另一則神話有關(guān)，那就是一些人所聲稱的機(jī)器無法擁有目標(biāo)。機(jī)器當(dāng)然可以擁有目標(biāo)了，一顆熱能追蹤導(dǎo)彈朝你飛來。從狹義上來說，他的目標(biāo)就是你，這和導(dǎo)彈是否有意識并且體驗(yàn)到一種目標(biāo)感無關(guān)。這一刻你只會(huì)感到很恐慌，而不會(huì)像哲學(xué)家一樣淡定的說。我不擔(dān)心，因?yàn)闄C(jī)器不可能擁有目標(biāo)。
第三個(gè)膚淺的理解是關(guān)于機(jī)器人，其實(shí)對我們有威脅的人工智能并不需要一個(gè)金屬怪物的身體，只要一個(gè)互聯(lián)網(wǎng)連接就夠了。
益智運(yùn)動(dòng)主要的關(guān)注點(diǎn)不在于機(jī)器人，而在于智能本身，具體而言就是與我們的目標(biāo)不符的智能，一個(gè)超人工智能可以很容易通過收買等手段操縱無數(shù)的人來執(zhí)行他的目標(biāo)，有些人以為機(jī)器不可能控制人類，事實(shí)上只要機(jī)器足夠聰明，他就能控制人類，正如同人類可以控制比我們強(qiáng)悍的多的老虎一樣。
好吧，澄清的這些常見的誤解，我們就可以一勞永逸地丟棄。
他們將我們和朋友的討論集中在許多有價(jià)值的議題上。
總結(jié)一下：
第一，生命是一個(gè)可以保持其復(fù)雜性和復(fù)制性的過程。生命可以分為三個(gè)階段，生命1.0為生物演變在其生命周期內(nèi)無法重新設(shè)計(jì)。他的軟硬件。生命2.0為文化演變，能夠在其生命周期內(nèi)重新設(shè)計(jì)它的大部分的軟件，但基本無法重新設(shè)計(jì)自己的硬件。生命3.0為技術(shù)演變，能夠重新設(shè)計(jì)自己的軟件和硬件。
第二，超人工智能是生命3.0的代表，除了反對人工智能的樂得份子，人工智能專家分為三個(gè)主要陣營，包括數(shù)字烏托邦主義者技術(shù)懷疑論者以及益智運(yùn)動(dòng)的支持者。數(shù)字烏托邦主義者相信并且期待超人工智能到來。技術(shù)懷疑論者認(rèn)為建立超人工智能非常困難，21世紀(jì)甚至數(shù)百年內(nèi)都不會(huì)出現(xiàn)，現(xiàn)在擔(dān)心這個(gè)問題是愚蠢的。益智運(yùn)動(dòng)派的認(rèn)為本世紀(jì)有可能出現(xiàn)超人工智能，但它并不保證對人類有良好的結(jié)果，需要通過辛勤的安全研究工作來確保結(jié)果向好。
第三，除了世界頂尖的人工智能專家之間存在的有價(jià)值的爭議之外，還有許多因?yàn)檎`解所引起的無聊爭論，比如明確你和你朋友所使用的術(shù)語的準(zhǔn)確定義，不要浪費(fèi)時(shí)間爭論生命智能或者一時(shí)等詞匯。另外，不要斷言超人工智能出現(xiàn)的時(shí)間表，不要過于關(guān)心邪惡機(jī)器人，不要誤以為機(jī)器沒有目標(biāo)或者無法控制人類。
關(guān)于未來的AI軍備競賽
今天的關(guān)鍵問題是要不要防止全球性的AI軍備競賽的啟動(dòng)。與核武器不同的是AI武器不需要昂貴或者難以獲得的原材料，所以它們會(huì)很便宜，而且無處不在。這些武器最終落到恐怖分子獨(dú)裁者以及計(jì)劃實(shí)行種族清洗的軍閥手里，只是一個(gè)時(shí)間問題。
自主武器是執(zhí)行暗殺破壞國家穩(wěn)定鎮(zhèn)壓老百姓以及選擇性的屠殺某個(gè)特定族群的理想工具。我們認(rèn)為，AI軍備競賽對于人類是有害的，正如大多數(shù)化學(xué)家和生物學(xué)家對制造生化武器毫無興趣一樣，大多數(shù)AI研究人員對制造AI武器也毫無興趣，不希望其他人這么做而玷污了這一領(lǐng)域，尤其是這可能會(huì)造成公眾對于人工智能的反感。
事實(shí)上，化學(xué)家和生物學(xué)家廣泛支持相關(guān)國際協(xié)定并由此成功的禁止生化武器的開發(fā)。本書作者起草的公開信不久就獲得了超過3000名AI研究人員的簽名，包括來自谷歌臉書微軟以及特斯拉的多位高管，另外17000位非專業(yè)人士也簽了名，包括我們熟悉的史蒂芬霍金，事實(shí)上，AI軍備競賽蓄勢待發(fā)。
2016年美國投資到民用AI項(xiàng)目的經(jīng)費(fèi)約為10億美元，而2017年美國五角大樓計(jì)劃投資與AI有關(guān)的軍事項(xiàng)目的資金就高達(dá)120-150億美元，中國和俄羅斯也是摩拳擦掌，是否應(yīng)該有相應(yīng)的禁止性的國際條約？
這個(gè)可能說起來容易做起來難，比如說條約只是禁止致命性的AI武器，還是將有傷害但非致命的武器一并禁止。條約是否適用于所有的自主武器系統(tǒng)還是對防御性的系統(tǒng)網(wǎng)開一面。再者，自主武器的大多數(shù)組成部分都具有民事用途，例如送郵件的無人機(jī)和運(yùn)炸彈的無人機(jī)沒有太大區(qū)別。我們要如何執(zhí)行條約呢？一些人認(rèn)為設(shè)計(jì)一個(gè)有效的AI武器的禁止性條約是幾乎不可能的，所以干脆不搞了吧，但是作者引用了肯尼迪在宣布登月任務(wù)時(shí)講的話：艱難的事情值得一試，因?yàn)橐坏┏晒θ祟惖奈磥硎钟欣?br>
在泰格瑪克與基辛格的一次交談中，雙方都認(rèn)為AI軍備競賽中獲益最多的不是超級大國，而是那些小型的流氓國家和恐怖分子，他們能夠通過黑市獲得武器，一旦開始大規(guī)模的生產(chǎn)AI驅(qū)動(dòng)的小型殺手無人機(jī)，它的成本可能比智能手機(jī)還低得多。
無論是恐怖分子想暗殺一位政治家或者是一個(gè)瘋子想報(bào)復(fù)他的前女友，他們需要做的就是把目標(biāo)的照片和地址上傳到無人機(jī)，然后這架無人機(jī)就會(huì)飛到目的地識別并殺害目標(biāo)，然后自我銷毀，使得我們無從追查操控者。對于那些計(jì)劃實(shí)行種族清洗的人來說，他們很容易通過編程使得無人機(jī)專門殺死具有某種膚色或種族的人，也許未來一輛卡車就能放出上百萬架小如昆蟲的殺手無人機(jī)。看過黑鏡這部電視劇的朋友應(yīng)該還記得其中有一集就為我們展示了這一可怕的場景。
