關(guān)于人工智能，一個廣為流傳的說法是：“弱人工智能并不可怕，強人工智能才是可怕的。而至少目前看來強人工智能是遙遙無期的，所以現(xiàn)在就擔心人工智能的危害還為時尚早?！敝拔乙灿蓄愃频南敕ǎm然我并不認為弱人工智能就完全沒有危害，但基本處于可控的范圍內(nèi)，至少不比核武器或者病毒之類更危險些。

這兩天我閑來無事，仔細想了想相關(guān)問題，又看了一些資料，突然發(fā)現(xiàn)事情和我之前想的有很大出入。不夸張地說，弱人工智能比強人工智能更可怕一些。我想很多人已經(jīng)意識到了這一點，才對人工智能如臨大敵的。

這里就不提“弱人工智能”和“強人工智能”的定義了，簡單說，弱人工智能會“忠實”地完成（人類給它的）任務(wù)，而不會有任何其他的“反?！毙袨椤６鴱娙斯ぶ悄艿男袨橛懈嗟淖灾餍?，具有更大的不可控性。

我的核心觀點是，當你命令一個比你聰明的機器完成某個確定的任務(wù)時，你是無法預料到它會使用怎樣的方式來實現(xiàn)的，而某種實現(xiàn)方式很可能在你還沒有反應過來時就產(chǎn)生了無法挽回的副作用。

這讓我想起了雅各布斯的《猴爪》，或者我可以編這樣一個比較俗套故事：

A某天意味獲得了一個魔鏡，魔鏡告訴他可以以許下任何愿望，它都可以將其實現(xiàn)。A大喜，然后許愿希望自己可以得到足夠他后半生使用的錢財。剛許完愿，一則新聞從電視機傳出，某航班飛機失事，所有乘客無一生還，而A的妻子正是其中之一。妻子所在的公司為出差的妻子投了數(shù)額可觀的商業(yè)保險，保險賠償足夠A后半生使用了。A和妻子相親相愛，之后A懊悔不已，從此一蹶不振，同時對魔鏡恨之入骨，打算將其扔掉而不再許任何愿望了。

鄰居B聽說此事，立即找A要走了這個魔鏡。他當然聽說了A的故事，但仔細考慮后發(fā)現(xiàn)并非無利可圖。于是他許下了這樣的愿望：我想要得到足夠后半生使用的錢財，同時自己和所有的親人朋友身體健康長命百歲。想必這回不會有任何差錯了。第二天B在自己的院子了發(fā)現(xiàn)了一個藏有大量現(xiàn)金的包裹，大喜過望。正當他數(shù)錢時，幾個警察破門而入。原來他們正在查一個涉案數(shù)額龐大的盜竊案，得到線索后立即趕來，逮捕了B。因為種種原因，B被認作小偷的同伙被監(jiān)禁了十幾年。等被釋放出來時，B已經(jīng)心灰意冷，整日在街頭流浪，然而身體卻很健康從不生病，直到百歲時壽終正寢。

在B被逮捕后，B的朋友C就盯上了那個魔鏡……

那么，如果有一天你得到了這個魔鏡，你是否能許下一個無懈可擊的愿望呢？

當人類給比自己聰明的機器下命令時，面臨著相同的問題，雖然我還沒想好一個比較切實的例子。我試舉一例：

將來的某年，人類發(fā)現(xiàn)大氣層中的臭氧越來越少，照射到地面的紫外線已經(jīng)對人類的健康產(chǎn)生了很大的威脅。于是派一些機器去大氣層，用人類已知的方法填補臭氧層，但效果甚微。因為機器是有智能的，于是人類給它提供了大量的信息，供機器產(chǎn)出更好的方法，同時可以實地驗證效果以加快進度。謹慎起見，科學家們每時每刻檢測著機器傳回的數(shù)據(jù)以及大氣層的各項指標，同時時刻準備在發(fā)生任何異常時給機器發(fā)送終止指令。

幾天時間內(nèi)，機器做了數(shù)百萬次的實驗，依然沒有發(fā)現(xiàn)任何有效的方法，科學家們也有些松懈了。直到某一天突然大氣層中某種化合物的含量急劇升高，這種化合物人類前所未見，它吸收紅外線的效果異常顯著，并且在吸收紅外線過程中會引發(fā)連鎖反應，制造出大量相同化合物。科學家們連忙終止機器的工作，并獲取到該化合物樣本，尋求解決方案。但在方案產(chǎn)生和成功實施之前，該化合物已經(jīng)布滿了地球上空，地表溫度慢慢降低到零下幾十攝氏度，人類文明就此結(jié)束。

這似乎是科幻小說中才有的情節(jié)，也許不可能在現(xiàn)實中發(fā)生，但難保某個相似版本在未來發(fā)生，而且是不遠的未來。

也許某些人認為弱人工智能不會比人類聰明。其實發(fā)生這樣的事情，無需機器的智力全方面超越人類，只需要它在解決某個特定領(lǐng)域問題的能力超過人類就行，而現(xiàn)在電腦在某種程度上就可以做到這一點?，F(xiàn)在類似這樣的事情不大可能發(fā)生，很大程度在于人類還沒有委任智能機器這樣的重任，機器也不可能在任何情況下產(chǎn)生不可挽回的后果。但隨著人工智能的發(fā)現(xiàn)，智能機器所承擔的角色和所做的事情毫無意外地會越來越重要。

可以說，如果弱人工智能出了問題，只能是人類自身的“失誤”導致的。但仔細想來，這種“失誤”的含義遠比字面上的深刻。人類如何能做到不允許這樣的“失誤”產(chǎn)生。

當我們以人工智能發(fā)展的角度看，人工智能可能剛剛起步，以后還有很長的路要走。但如果從人類文明的角度看，有可能終點就在不遠處。

將來會發(fā)生什么，只能拭目以待。