這是一個(gè)系列文章，從各個(gè)角度來評(píng)估一個(gè)問題：“我的業(yè)務(wù)要不要用 AI ？能不能用 AI？”
本期評(píng)估角度——黑箱
黑箱是人工智能的缺點(diǎn)
并非所有人工智能都是黑箱的，大家說的黑箱主要指當(dāng)下最熱門、效果也最好的「深度學(xué)習(xí)」。
在我之前寫的《一文看懂深度學(xué)習(xí)》中，舉過一個(gè)水龍頭的例子，從那個(gè)例子就可以看出：深度學(xué)習(xí)的工作原理不是講邏輯（基于規(guī)則），而是大力出奇跡（基于統(tǒng)計(jì)）。
大力出奇跡會(huì)導(dǎo)致幾個(gè)結(jié)果：
深度學(xué)習(xí)只能告訴你「是什么」，但是不能告訴你「為什么」
沒人能預(yù)知在什么情況下會(huì)出現(xiàn)錯(cuò)誤
而最可怕的是：當(dāng)我們發(fā)現(xiàn)問題時(shí)，并不能針對(duì)具體問題來對(duì)癥下藥。
我們過去的計(jì)算機(jī)科學(xué)大部分是基于規(guī)則的，很像一臺(tái)汽車，我們很清楚的知道這臺(tái)車是如何組裝起來的，所以發(fā)現(xiàn)螺絲松了就檸緊，哪個(gè)零件老化了就換一個(gè)。完全可以做到對(duì)癥下藥。
而深度學(xué)習(xí)則完全不一樣，當(dāng)我們發(fā)現(xiàn)問題時(shí)，不能做到對(duì)癥下藥，只能全局優(yōu)化（比如灌更多的數(shù)據(jù)）。
擴(kuò)展閱讀：
《深度 | Nature：我們能打開人工智能的“黑箱”嗎？》
哪些問題不適合「依賴」 AI ？
由于深度學(xué)習(xí)的黑箱特性，并非所有問題都適合用深度學(xué)習(xí)來解決。
我們?cè)u(píng)估哪些問題適合，哪些問題不適合的時(shí)候，可以從2個(gè)角度來評(píng)估：
是否需要解釋
錯(cuò)誤容忍度
我們先從這2個(gè)角度來看看普及率較高的AI應(yīng)用：
| 案例 | 是否需要解釋 | 錯(cuò)誤容忍度 |
|---|---|---|
| 語音識(shí)別 | 用戶只關(guān)心效果好不好，并不關(guān)心背后的原理是什么 | 偶爾出現(xiàn)一些錯(cuò)誤并不影響對(duì)整句話的理解。少量出錯(cuò)是可以接受的。 |
| 人臉識(shí)別 | 同上 | 相比語音識(shí)別，用戶對(duì)出錯(cuò)的容忍度要低一些，因?yàn)樾枰匦滤⒛槨?/td> |
| 機(jī)器翻譯 | 同上 | 跟語音識(shí)別類似，只要大面上準(zhǔn)確，并不影響整體的理解。 |
我們?cè)倏匆恍?AI 和人力結(jié)合的具體應(yīng)用：
| 案例 | 是否需要解釋 | 錯(cuò)誤容忍度 |
|---|---|---|
| 智能客服 | 用戶不關(guān)心是人工服務(wù)還是機(jī)器服務(wù)，只要能解決我的問題就行 | 如果機(jī)器客服不能理解我的意圖，無法幫我解決問題，用戶會(huì)很不滿意。所以當(dāng)機(jī)器搞不定 的時(shí)候需要人工來補(bǔ)位 |
| 內(nèi)容審核 | 對(duì)于審核不通過的內(nèi)容，需要解釋原因。通過的內(nèi)容不需要解釋為什么。 | 有一種職業(yè)叫「鑒黃師」，目前正在逐步被機(jī)器替代，但是并沒有完全替代，因?yàn)橛袝r(shí)候機(jī)器會(huì)拿不準(zhǔn)，這個(gè)時(shí)候人工來復(fù)審 |
最后看一些不適合AI落地的場(chǎng)景：
| 案例 | 是否需要解釋 | 錯(cuò)誤容忍度 |
|---|---|---|
| 推導(dǎo)定理 | 科學(xué)是絕對(duì)嚴(yán)謹(jǐn)?shù)?，一定是從邏輯上推?dǎo)出來的，而不是統(tǒng)計(jì)出來的。 | 如果有例外就不能稱作定理，一定是絕對(duì)正確沒有錯(cuò)誤的。 |
| 寫論文 | 人工智能已經(jīng)可以寫小說，詩歌，散文。但是論文這種文體要求非常嚴(yán)謹(jǐn)?shù)纳舷挛倪壿嫛?/td> | 論文里是不允許有錯(cuò)誤的，全文的邏輯要非常清晰，哪怕一個(gè)細(xì)節(jié)出現(xiàn)了邏輯問題，也會(huì)造成整篇論文沒有價(jià)值。 |
如果我們把上面提到的案例全部放在象限中，大致如下：
所以，在評(píng)估的時(shí)候有3條原則：
解決方案越需要解釋背后的原因，越不適合用深度學(xué)習(xí)
對(duì)錯(cuò)誤的容忍度越低，越不適合使用深度學(xué)習(xí)
上面2條并非絕對(duì)判斷標(biāo)準(zhǔn)，還需要看商業(yè)價(jià)值和性價(jià)比，自動(dòng)駕駛和醫(yī)療就是反例。
案例分析：醫(yī)療
人工智能在醫(yī)療行業(yè)的應(yīng)用被大家廣泛看好，因?yàn)獒t(yī)療行業(yè)有很多痛點(diǎn)：
醫(yī)療資源不足，尤其是優(yōu)質(zhì)的醫(yī)生
醫(yī)療資源的分配極度不均衡，中國(guó)很多疾病只有北京能治
其實(shí)醫(yī)生的誤診率也很高（惡性腫瘤誤診率40%，器官異位誤診率60%）
目前的人工智能已經(jīng)可以幫助人類做診斷并提供治療手段。
奇怪的是：無論是從可解釋性還是從錯(cuò)誤的容忍度上來講，醫(yī)療診斷都不適合用人工智能。
但當(dāng)我們將人工智能作為一種輔助，最終還是靠人類來做判斷和下決定時(shí)。人類和機(jī)器可以形成很好的互補(bǔ)。
工廠的發(fā)展也是類似的路徑：
一開始機(jī)器只做輔助，人力是最重要的
機(jī)械化和自動(dòng)化的程度越來越高，機(jī)器的作用越來越大
最終實(shí)現(xiàn)無人工廠（已經(jīng)實(shí)現(xiàn)）
所以從「可解釋性」和「錯(cuò)誤容忍度」上可以評(píng)估出來哪些問題不適合「完全依賴人工智能」。
但只要商業(yè)價(jià)值足夠大，還是有解決方案的——人類和機(jī)器相互配合，共同解決問題。并且隨著技術(shù)的進(jìn)步，不斷減少對(duì)人力的需求。
擴(kuò)展閱讀：
《人工智能輔助醫(yī)生“閱片”：診斷準(zhǔn)確率已超過95%》
《人工智能能夠幫助快速診斷疾病 但卻無法取代臨床醫(yī)生》
《2019中國(guó)人工智能醫(yī)療白皮書發(fā)布（附下載）》
本文首發(fā)自 產(chǎn)品經(jīng)理的 AI 學(xué)習(xí)庫 easyai.tech
