近日，一份由專注于AI領(lǐng)域的公司Gladstone AI撰寫的報告披露了人工智能技術(shù)對人類的潛在威脅，警告最先進的AI系統(tǒng)可能會對人類物種構(gòu)成滅絕級的威脅。這份報告基于對200多人的采訪得出，采訪對象包括來自領(lǐng)先AI公司的高管、網(wǎng)絡(luò)安全研究人員、大規(guī)模殺傷性武器專家和政府內(nèi)部的國家安全官員。美國國務(wù)院一名官員向CNN證實，其所在機構(gòu)委托撰寫了這份報告，但報告不代表美國政府的觀點。
1. 人工智能技術(shù)的雙重面向
人工智能技術(shù)的發(fā)展持續(xù)激發(fā)投資者和公眾的熱情，它帶來了巨大的經(jīng)濟變革力量，有望攻克疾病、推動科研進步，并解決之前看似無法攻克的難題。然而，隨著AI技術(shù)的不斷進步，其背后潛藏的風(fēng)險也在逐漸顯現(xiàn)出來。
2. 最嚴峻情況下的AI威脅
根據(jù)Gladstone AI的報告，在最嚴峻的情況下，尖端AI系統(tǒng)可能對人類種族構(gòu)成“滅絕級威脅”。這一結(jié)論是基于對超過200位業(yè)界權(quán)威人士的深入訪談得出的，包括頂尖AI企業(yè)高管、網(wǎng)絡(luò)安全研究專家、大規(guī)模殺傷性武器專家及政府內(nèi)部的國家安全官員。
Gladstone AI預(yù)測，AI和通用人工智能（AGI）技術(shù)的崛起或?qū)⑷缤宋淦髡Q生那樣顛覆全球安全格局。報告還警示存在AI引發(fā)軍備競賽、沖突，以及“與大規(guī)模殺傷性武器相當?shù)闹旅鹿省钡目赡苄浴?/p>
3. 美國政府對AI風(fēng)險的認識
美國國務(wù)院一名官員向CNN確認，國務(wù)院確實委托編制此份報告，旨在持續(xù)評估AI技術(shù)如何與維護美國國內(nèi)外利益的戰(zhàn)略目標相適應(yīng)。白宮新聞發(fā)言人羅賓·帕特森表示，美國總統(tǒng)拜登關(guān)于AI的行政命令是“全球任何政府為抓住AI的潛力和管控AI的風(fēng)險所采取的最重要行動”，美國將繼續(xù)與國際伙伴合作，并敦促國會通過兩黨立法來管控風(fēng)險。
4. 首當其沖的風(fēng)險：AI系統(tǒng)被軍事化
Gladstone AI在報告中指出，首當其沖的風(fēng)險在于，最高級的AI系統(tǒng)可能被軍事化，造成無法逆轉(zhuǎn)的損害。在激烈的市場競爭驅(qū)使下，企業(yè)急于推進AI技術(shù)研發(fā)，卻可能因此犧牲安全性，使得最尖端的AI系統(tǒng)存在被盜取并轉(zhuǎn)為針對美國的“武器化”風(fēng)險。
Gladstone AI聯(lián)合創(chuàng)始人兼首席執(zhí)行官（CEO）杰雷米?哈里斯12日告訴CNN，AI技術(shù)可以幫助人類治愈疾病，實現(xiàn)科學(xué)上的發(fā)現(xiàn)，并克服我們曾認為不可逾越的挑戰(zhàn)。但它也可能帶來嚴重的風(fēng)險，包括災(zāi)難性的風(fēng)險。越來越多的證據(jù)表明，超過一定的能力閾值。
5. 第二大風(fēng)險：AI實驗室失去對系統(tǒng)的掌控
報告還披露了另一個風(fēng)險，即AI實驗室內(nèi)部存在著一種擔(dān)憂，即在未來某一刻，它們可能對自身正在研發(fā)的系統(tǒng)失去掌控，進而給全球安全帶來“極具破壞性的后果”。
6. AI和通用人工智能（AGI）技術(shù)的崛起
Gladstone AI預(yù)測，AI和通用人工智能（AGI）技術(shù)的崛起或?qū)⑷缤宋淦髡Q生那樣顛覆全球安全格局。報告還警示存在AI引發(fā)軍備競賽、沖突，以及“大規(guī)模殺傷性武器級別意外事故”的可能性。
7. 采取激進新舉措應(yīng)對AI威脅
為了應(yīng)對這一嚴峻威脅，Gladstone AI建議采取一系列激進的新舉措，包括建立全新的AI管理機構(gòu)、實施針對AI模型訓(xùn)練所需計算資源的“應(yīng)急”監(jiān)管措施及限制。
8. 行業(yè)內(nèi)重量級人物的警告
除了Gladstone AI的報告外，行業(yè)內(nèi)也有許多重量級人物對AI技術(shù)的風(fēng)險發(fā)出過警告。被譽為“AI之父”的杰弗里·欣頓在去年離開谷歌職位后，對參與開發(fā)的技術(shù)發(fā)出預(yù)警，認為在接下來的三十年內(nèi)，AI導(dǎo)致人類滅絕的概率約為10%。
9. 商業(yè)領(lǐng)袖關(guān)注AI風(fēng)險
盡管商業(yè)領(lǐng)袖們在不斷加大投資AI領(lǐng)域的力度，但他們也越來越關(guān)注這類風(fēng)險。根據(jù)去年耶魯大學(xué)CEO峰會上的一項調(diào)查，受訪的42%的CEO認為，AI技術(shù)在5至10年內(nèi)有可能對人類社會造成毀滅性打擊。
10.國際社會對AI技術(shù)的關(guān)注和行動
除了美國政府，國際社會也越來越關(guān)注AI技術(shù)的風(fēng)險。在2019年，歐盟發(fā)布了《人工智能倫理指南》，旨在促進AI技術(shù)的可信任和可解釋性。在2021年，聯(lián)合國教科文組織（UNESCO）通過了《關(guān)于人工智能的推薦》，呼吁各國加強對AI技術(shù)的監(jiān)管和風(fēng)險管理。
本文來自微信公眾號“AI潮流圈”
