Google 于 2015 年開源的 TensorFlow 已成為最受歡迎的機(jī)器學(xué)習(xí)框架之一，影響和改變了世界各地人工智能研究和開發(fā)的現(xiàn)狀。借用 Google 首席執(zhí)行官的話來說，他們最終想要建立的是一個(gè)具有深遠(yuǎn)影響力的開放、免費(fèi)，且易于使用的 AI 技術(shù)。
隨著 TensorFlow 應(yīng)用越來越廣泛，也意味著它產(chǎn)生的力量已經(jīng)超出了 Google 的控制范圍。在之前兩年多的時(shí)間里，TensorFlow 主要是應(yīng)用在學(xué)術(shù)界和積極的技術(shù)領(lǐng)域上，但現(xiàn)在風(fēng)向出現(xiàn)了新的轉(zhuǎn)變。催化劑是??Reddit?上的一位 ID 為?deepfakes?用戶，他利于 TensorFlow 構(gòu)建出了可自動(dòng)將臉部圖像無縫地拼接到視頻中的算法，可以將女明星的臉實(shí)時(shí)“換”到原視頻中的人臉上，達(dá)到以假亂真的效果?！癲eepfakes” 也因此成為這項(xiàng)技術(shù)的代名詞。
在該算法獲得大量關(guān)注后，deepfakes?創(chuàng)建了自己的 subreddit 版塊，并積累了超過 9 萬個(gè)訂閱用戶。之后，該版塊中一位 ID 為 deepfakeapp 的 Reddit 用戶發(fā)布了一款名為 FakeApp 的工具，這是一個(gè)簡(jiǎn)單易操作的桌面應(yīng)用，下載使用后即可輕松實(shí)現(xiàn) deepfakes 的效果。隨后，Pornhub 出現(xiàn)了大量用 deepfakes 創(chuàng)造的視頻內(nèi)容。
也因此，該技術(shù)引起了關(guān)乎倫理道理的大量的質(zhì)疑和指責(zé)，甚至也有人將矛頭指向?Google 。作為開源軟件，任何人都可以下載 TensorFlow ，只有有數(shù)據(jù)支撐，他們可以實(shí)現(xiàn)任何想要的成果。Google 和微軟等大企業(yè)中研究開源 AI 框架的科學(xué)家都有簽署不對(duì)道德發(fā)展造成傷害的承諾，但對(duì)于下載和使用這些技術(shù)的用戶沒有進(jìn)行限制。 TensorFlow 網(wǎng)站有文檔告知如何使軟件運(yùn)行，但沒有要求用戶如何在道德倫理上進(jìn)行規(guī)避和限制的說明。
在沒有很好地解決方案之前，對(duì)于道德方面的管控任務(wù)也就自然的落在視頻和圖像被共享的平臺(tái)上。Gfycat 已刪除在其網(wǎng)站上托管的所有 Deepfakes GIF 圖，Reddit 已封禁 deepfakes 的社區(qū)，PornHub 也在對(duì)此類視頻進(jìn)行刪除。當(dāng)然，雖然這些主要的平臺(tái)在進(jìn)行管控，互聯(lián)網(wǎng)上還是會(huì)有其他的傳播途徑。
deepfakes 曾回應(yīng)道，任何技術(shù)都可以被邪惡的動(dòng)機(jī)利用，這種事情無法被禁止。他表示，技術(shù)都有兩面性，這項(xiàng)技術(shù)可以被用到色情暴力和政治視頻上，也可以用到像是《速度與激情7》中保羅沃克逝世后的后續(xù)視頻拍攝上。人人都可參與機(jī)器學(xué)習(xí)研究不是一件壞事。
對(duì)此，大家怎么看？歡迎評(píng)論探討！
