Neil Zhu，簡書ID Not_GOD，University AI 創(chuàng)始人 & Chief Scientist，致力于推進(jìn)世界人工智能化進(jìn)程。制定并實(shí)施 UAI 中長期增長戰(zhàn)略和目標(biāo)，帶領(lǐng)團(tuán)隊(duì)快速成長為人工智能領(lǐng)域最專業(yè)的力量。
作為行業(yè)領(lǐng)導(dǎo)者，他和UAI一起在2014年創(chuàng)建了TASA（中國最早的人工智能社團(tuán)）, DL Center（深度學(xué)習(xí)知識(shí)中心全球價(jià)值網(wǎng)絡(luò)），AI growth（行業(yè)智庫培訓(xùn)）等，為中國的人工智能人才建設(shè)輸送了大量的血液和養(yǎng)分。此外，他還參與或者舉辦過各類國際性的人工智能峰會(huì)和活動(dòng)，產(chǎn)生了巨大的影響力，書寫了60萬字的人工智能精品技術(shù)內(nèi)容，生產(chǎn)翻譯了全球第一本深度學(xué)習(xí)入門書《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》，生產(chǎn)的內(nèi)容被大量的專業(yè)垂直公眾號(hào)和媒體轉(zhuǎn)載與連載。曾經(jīng)受邀為國內(nèi)頂尖大學(xué)制定人工智能學(xué)習(xí)規(guī)劃和教授人工智能前沿課程，均受學(xué)生和老師好評(píng)。
Syntagmatic 關(guān)系發(fā)現(xiàn)：熵
Syntagmatic 關(guān)系 = 相關(guān)共現(xiàn)
當(dāng)“eats”出現(xiàn)時(shí)，其他什么樣的詞同樣可能會(huì)出現(xiàn)。
推測“eats”的左邊和右邊會(huì)出現(xiàn)什么詞？
詞的預(yù)測：直覺
預(yù)測問題：詞 W 出現(xiàn)（不出現(xiàn)）在這個(gè)分段中？
詞的預(yù)測：形式化定義
X_w 越是隨機(jī)，預(yù)測的難度就越高
那么如何來量化地度量諸如 X_w 的隨機(jī)性呢？
熵 H(X) 度量了 X 的隨機(jī)性
熵 H(x) ：拋硬幣
公平的硬幣其熵非常的高，偏差的硬幣則相反。
用于詞預(yù)測的熵
熵高的詞更難被預(yù)測對。而熵低的詞如 the 則由于其出現(xiàn)的概率接近 1 所以非常容易預(yù)測，然而這并沒有什么用。
