前段時(shí)間，讀書(shū)群里有一本書(shū)很火熱，叫《智人之上》。
我蹭了波熱度也去看了看。
這本書(shū)主要講的是人工智能的發(fā)展會(huì)對(duì)人類社會(huì)產(chǎn)生哪些嚴(yán)重危害。
這些危害包括但不限于侵犯隱私、破壞民主、加強(qiáng)極權(quán)等等。
其實(shí)看一眼我們現(xiàn)在的生活被智能手機(jī)入侵的程度，這些危害就都易于理解。
看完這本書(shū)，我仍能夠回想起來(lái)并想聊一聊的是以下兩個(gè)內(nèi)容：
一、信息網(wǎng)絡(luò)要在尋求真相和維持秩序之間尋找平衡。
天真的信息觀認(rèn)為：越是有足夠多的信息，就越能夠接近真想。
但當(dāng)扭曲的信息被傳播，而信息網(wǎng)絡(luò)又缺乏自我修正機(jī)制，“真相”就會(huì)造成災(zāi)難。
過(guò)去由人類連接的信息網(wǎng)絡(luò)，傳播范圍有限，但虛假信息制造的“真相”，造成了歐洲歷史上最大規(guī)模的獵巫行動(dòng)。
現(xiàn)在人工智能這些非人類實(shí)體正在加入信息網(wǎng)絡(luò)的各個(gè)節(jié)點(diǎn)，我們確實(shí)能了解更多的信息，但同時(shí)也接收了不計(jì)其數(shù)的、難以分辨的假信息，這無(wú)益于人類尋求真相。
臉書(shū)的算法機(jī)制跨越大洋制造了越南的內(nèi)部沖突，人工智能已經(jīng)有能力影響人類秩序。
當(dāng)權(quán)者為了社會(huì)秩序的穩(wěn)定偶爾甚至經(jīng)常會(huì)隱瞞真相，但加入信息網(wǎng)絡(luò)的人工智能則會(huì)創(chuàng)造“真相”。
這些由非人類創(chuàng)作出來(lái)的人類間的“真相”，則會(huì)進(jìn)一步加劇人類社會(huì)的緊張秩序。
所以作者說(shuō)，雖然真相和秩序是信息網(wǎng)絡(luò)最難平衡的地方，卻也必須被納入考慮范圍。
二、一致性目標(biāo)
不同于其他生物和非生物智能，人類會(huì)權(quán)衡利弊。
當(dāng)付出的代價(jià)超過(guò)其收益時(shí)，人類的理性會(huì)使其改變目標(biāo)爭(zhēng)取更大的利益。
這是地球人，再來(lái)看一看三體人。
三體人不會(huì)“說(shuō)謊”，他們所想即所說(shuō)。
三體人把質(zhì)子——這一封鎖地球科技發(fā)展的三體產(chǎn)物，告訴了地球人。地球人知道質(zhì)子的存在，也知道它存在的目的。
總的來(lái)說(shuō)，地球人會(huì)變通，三體人很直白。
人工智能則與人類截然不同，與三體人卻有異曲同工之處。
人工智能的核心程序完全由人類編寫(xiě)，AI不可能自己改寫(xiě)；
人工智能同時(shí)也是絕對(duì)完美的目標(biāo)主義者，他們所做一切皆為人類所想，非常直白。
為了達(dá)成人類所想——即人類為AI設(shè)定的目標(biāo)，人工智能在其強(qiáng)大的算法下總會(huì)找到一條足以毀滅人類自身的路徑。
電影《流浪地球》里的智能MOSS，人為它設(shè)定的目標(biāo)是“人類文明延續(xù)”，可MOSS的算法卻讓它相信達(dá)成目標(biāo)的唯一辦法是讓艦隊(duì)中的地球人活下來(lái)延續(xù)文明，地球毀滅是必須付出的代價(jià)。
這應(yīng)該不是人類想要的結(jié)局，但卻是人工智能在一致性目標(biāo)下為人類設(shè)定的結(jié)局。
人類還能擬寫(xiě)目標(biāo)方案，制定行動(dòng)計(jì)劃，公開(kāi)對(duì)話辯論，投票舉行表決。
這些步驟雖然繁瑣，充斥著官僚主義氣息，但至少滿足了人類一定的知情同意權(quán)，獲得了人類社會(huì)表面上的一致認(rèn)可。
而人工智能為達(dá)成目標(biāo)、在全球信息網(wǎng)絡(luò)支撐下的海量運(yùn)算路徑，最終交織成了一片“數(shù)據(jù)烏云”。
AI不會(huì)向人類解釋這片數(shù)據(jù)云中的每一滴水珠，人類大概也不想知道其中復(fù)雜的形成邏輯。
結(jié)局可能就是鮮紅的六個(gè)字：
你們都是蟲(chóng)子。
如今，非人類智能加入信息傳播網(wǎng)絡(luò)，在科技巨頭一致性目標(biāo)的驅(qū)動(dòng)下正在或者已經(jīng)影響了人類的現(xiàn)實(shí)秩序。
未來(lái)，人工智能的發(fā)展會(huì)把人類社會(huì)引向何處？
其實(shí)，我對(duì)人類文明的未來(lái)一直持悲觀態(tài)度。
歷史永遠(yuǎn)走在新生、壯大和毀滅的循環(huán)之路上。
毀滅人類的不是人工智能，也會(huì)是其他失控之物。
只不過(guò)人類這場(chǎng)毀滅之旅的波及范圍，并沒(méi)有因文明程度的增加而縮小，反而漸漸衍變成全人類的生存危機(jī)。
而“智人”下一次的重啟之日，又會(huì)何時(shí)到來(lái)？
