該系列文章為，觀看“吳恩達(dá)機(jī)器學(xué)習(xí)”系列視頻的學(xué)習(xí)筆記。雖然每個(gè)視頻都很簡(jiǎn)單，但不得不說(shuō)每一句都非常的簡(jiǎn)潔扼要，淺顯易懂。非常適合我這樣的小白入門(mén)。

本章含蓋

• 1.1 引言
• 1.2 機(jī)器學(xué)習(xí)是什么？
• 1.3 監(jiān)督學(xué)習(xí)
• 1.4 無(wú)監(jiān)督學(xué)習(xí)

引言

機(jī)器學(xué)習(xí)發(fā)源于人工智能領(lǐng)域 我們希望能夠創(chuàng)造出具有智慧的機(jī)器 我們通過(guò)編程來(lái)讓機(jī)器完成一些基礎(chǔ)的工作。比如，“如何找到從A到B的最短路徑”，但在大多數(shù)情況下我們并不知道如何顯式地編寫(xiě)人工智能程序來(lái)做一些更有趣的任務(wù)，比如，“網(wǎng)頁(yè)搜索”、“標(biāo)記照片”和“攔截垃圾郵件”等

你也許曾經(jīng)接觸過(guò)自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)。事實(shí)上，這些領(lǐng)域都是試圖通過(guò)人工智能來(lái)理解人類(lèi)的語(yǔ)言和圖像。如今大多數(shù)的自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)都是對(duì)機(jī)器學(xué)習(xí)的一種應(yīng)用，機(jī)器學(xué)習(xí)算法也在用戶(hù)自定制化程序(self-customizing program)中有著廣泛的應(yīng)用。每當(dāng)你使用亞馬遜 Netflix或iTunes Genius的服務(wù)時(shí)都會(huì)收到它們?yōu)槟懔可硗扑]的電影或產(chǎn)品，這就是通過(guò)學(xué)習(xí)算法來(lái)實(shí)現(xiàn)的。

最后，機(jī)器學(xué)習(xí)算法已經(jīng)被應(yīng)用于探究人類(lèi)的學(xué)習(xí)方式并試圖理解人類(lèi)的大腦。我們也將會(huì)了解到研究者是如何運(yùn)用機(jī)器學(xué)習(xí)的工具來(lái)一步步實(shí)現(xiàn)人工智能的夢(mèng)想。

1.2 機(jī)器學(xué)習(xí)是什么？

Tom Mitchell （來(lái)自卡內(nèi)基梅隆大學(xué)）定義的機(jī)器學(xué)習(xí)是：一個(gè)程序被認(rèn)為能從經(jīng)驗(yàn) E 中學(xué)習(xí)，解決任務(wù) T，達(dá)到性能度量值 P，當(dāng)且僅當(dāng)，有了經(jīng)驗(yàn) E 后，經(jīng)過(guò) P 評(píng)判，程序在處理 T 時(shí)的性能有所提升。
舉個(gè)例子，下棋 ——— 我認(rèn)為經(jīng)驗(yàn) E 就是程序上萬(wàn)次的自我練習(xí)（下棋）的經(jīng)驗(yàn)而任務(wù) T 就是（同未知的對(duì)手）下棋。性能度量值 P 呢，就是它在與一些新的對(duì)手比賽時(shí)，贏得比賽的概率。

目前存在幾種不同類(lèi)型的學(xué)習(xí)算法。主要的兩種類(lèi)型被我們稱(chēng)之為“監(jiān)督學(xué)習(xí)”和“無(wú)監(jiān)督學(xué)習(xí)”。此外你將聽(tīng)到諸如，強(qiáng)化學(xué)習(xí)和推薦系統(tǒng)等各種術(shù)語(yǔ)。這些都是機(jī)器學(xué)習(xí)算法的一員，以后我們都將介紹到，但學(xué)習(xí)算法最常用兩個(gè)類(lèi)型就是監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí)。

給你講授學(xué)習(xí)算法就好像給你一套工具，相比于提供工具，可能更重要的，是教你如何使用這些工具。我喜歡把這比喻成學(xué)習(xí)當(dāng)木匠。想象一下，某人教你如何成為一名木匠，說(shuō)這是錘子，這是螺絲刀，鋸子，祝你好運(yùn)，再見(jiàn)。這種教法不好，不是嗎?你擁有這些工具，但更重要的是，你要學(xué)會(huì)如何恰當(dāng)?shù)厥褂眠@些工具。

1.3 監(jiān)督學(xué)習(xí)

例一：根據(jù)房屋大小，對(duì)房屋價(jià)格進(jìn)行預(yù)期（回歸問(wèn)題）

??這是監(jiān)督學(xué)習(xí)算法的一個(gè)例子。

監(jiān)督學(xué)習(xí)指的就是我們給學(xué)習(xí)算法一個(gè)數(shù)據(jù)集。這個(gè)數(shù)據(jù)集由“正確答案”組成。在房?jī)r(jià)的例子中，我們給了一系列房子的數(shù)據(jù)，我們給定數(shù)據(jù)集中每個(gè)樣本的正確價(jià)格， 即它們實(shí)際的售價(jià)。然后，運(yùn)用學(xué)習(xí)算法得到更多的正確答案（即，算法的目的就是得到更多的正確答案）。

用更專(zhuān)業(yè)的術(shù)語(yǔ)來(lái)定義，它也被稱(chēng)為“回歸問(wèn)題”。這里的“回歸問(wèn)題”我指的是：我們想要預(yù)測(cè)連續(xù)的數(shù)值輸出，即價(jià)格。

例二：根據(jù)腫瘤大小，對(duì)腫瘤是良性還是惡性的預(yù)測(cè)（分類(lèi)問(wèn)題）

橫軸：腫瘤尺寸
縱軸：1或0，代表 是或否（惡性腫瘤）

機(jī)器學(xué)習(xí)的問(wèn)題是，能否估計(jì)出腫瘤是良性還是惡性的概率。
用更專(zhuān)業(yè)的術(shù)語(yǔ)來(lái)說(shuō)，這是一個(gè)分類(lèi)問(wèn)題。分類(lèi)指的是，我們?cè)囍茰y(cè)出離散的輸出值。

eg：0 或 1 良性或惡性，而事實(shí)上在分類(lèi)問(wèn)題中，輸出可能不止兩個(gè)值。比如說(shuō)可能有三種乳腺癌，所以你希望預(yù)測(cè)離散輸出 0、1、2、 3。0 代表良性，1 表示第 1 類(lèi)乳腺癌，2 表示第 2 類(lèi)癌癥，3 表示第 3 類(lèi)，但這也是分類(lèi)問(wèn)題。

在其他機(jī)器學(xué)習(xí)問(wèn)題中，我們通常有更多的特征，比如腫塊密度，腫瘤細(xì)胞尺寸的一致性和形狀的一致性等等。
你想用無(wú)限多種特征，好讓你的算法可以利用大量的特征，或者說(shuō)線(xiàn)索來(lái)做推測(cè)。那你怎么處理無(wú)限多個(gè)特征，甚至怎么存儲(chǔ)這些特征都存在問(wèn)題，你電腦的內(nèi)存肯定不夠用。后面我們會(huì)講一個(gè)算法，叫支持向量機(jī)，里面有一個(gè)巧妙的數(shù)學(xué)技巧，能讓計(jì)算機(jī)處理無(wú)限多個(gè)特征。

無(wú)監(jiān)督學(xué)習(xí)

對(duì)于監(jiān)督學(xué)習(xí)里的每條數(shù)據(jù)， 我們已經(jīng)清楚地知道，訓(xùn)練集對(duì)應(yīng)的正確答案。

在無(wú)監(jiān)督學(xué)習(xí)中，我們已知的數(shù)據(jù)。看上去有點(diǎn)不一樣，不同于監(jiān)督學(xué)習(xí)的數(shù)據(jù)的樣子， 無(wú)監(jiān)督學(xué)習(xí)中沒(méi)有任何的標(biāo)簽。所以我們已知數(shù)據(jù)集，卻不知如何處理，也未告知每個(gè)數(shù)據(jù)點(diǎn)是什么。別的都不知道，就是一個(gè)數(shù)據(jù)集。你能從數(shù)據(jù)中找到某種結(jié)構(gòu)嗎？針對(duì)數(shù)據(jù)集，無(wú)監(jiān)督學(xué)習(xí)就能判斷出數(shù)據(jù)有兩個(gè)不同的聚集簇。 這是一個(gè)，那是另一個(gè)，二者不同。是的，無(wú)監(jiān)督學(xué)習(xí)算法可能會(huì)把這些數(shù)據(jù)分成兩個(gè)不同的簇。所以叫做聚類(lèi)算法。事實(shí)證明，它能被用在很多地方。

聚類(lèi)應(yīng)用的一個(gè)例子就是在谷歌新聞中。如果你以前從來(lái)沒(méi)見(jiàn)過(guò)它，你可以到這個(gè) URL 網(wǎng)址 news.google.com 去看看。谷歌新聞每天都在收集非常多非常多的網(wǎng)絡(luò)的新聞內(nèi)容。 它再將這些新聞分組，組成有關(guān)聯(lián)的新聞。所以谷歌新聞做的就是搜索非常多的新聞事件， 自動(dòng)地把它們聚類(lèi)到一起。所以，這些新聞事件全是同一主題的，并會(huì)顯示到一起。

所以這個(gè)就是無(wú)監(jiān)督學(xué)習(xí)，因?yàn)槲覀儧](méi)有提前告知算法一些信息。我們只是說(shuō)，是的，這是有一堆數(shù)據(jù)。我不知道這些數(shù)據(jù)是什么。我不知道誰(shuí)是什么類(lèi)型。我甚至不知道有哪些不同的類(lèi)型，你能自動(dòng)地找到數(shù)據(jù)中的結(jié)構(gòu)嗎？就是說(shuō)你要自動(dòng)地聚類(lèi)那些個(gè)體到各個(gè)類(lèi)，我沒(méi)法提前知道哪些是哪些。因?yàn)槲覀儧](méi)有給算法正確答案來(lái)回應(yīng)數(shù)據(jù)集中的數(shù)據(jù)，所以這就是無(wú)監(jiān)督學(xué)習(xí)。

無(wú)監(jiān)督學(xué)習(xí)或聚類(lèi)有著大量的引用：

• 它用于組織大型計(jì)算機(jī)集群。我有些朋友在大數(shù)據(jù)中心工作，那里有大型的計(jì)算機(jī)集群，他們想解決什么樣的機(jī)器易于協(xié)同地工作，如果你能夠讓那些機(jī)器協(xié)同工作，你就能讓你的數(shù)據(jù)中心工作得更高效。
• 第二種應(yīng)用就是社交網(wǎng)絡(luò)的分析。所以已知你朋友的信息，比如你經(jīng)常發(fā) email 的，或是你 Facebook 的朋友、谷歌+圈子的朋友，我們能否自動(dòng)地給出朋友的分組呢?即每組里的人們彼此都熟識(shí)，認(rèn)識(shí)組里的所有人?
• 還有市場(chǎng)分割。許多公司有大型的數(shù)據(jù)庫(kù)，存儲(chǔ)消費(fèi)者信息。所以，你能檢索這些顧客數(shù)據(jù)集，自動(dòng)地發(fā)現(xiàn)市場(chǎng)分類(lèi)，并自動(dòng)地把顧客劃分到不同的細(xì)分市場(chǎng)中，你才能自動(dòng)并更有效地銷(xiāo)售或不同的細(xì)分市場(chǎng)一起進(jìn)行銷(xiāo)售。這也是無(wú)監(jiān)督學(xué)習(xí)，因?yàn)槲覀儞碛兴械念櫩蛿?shù)據(jù)，但我們沒(méi)有提前知道是什么的細(xì)分市場(chǎng)，以及分別有哪些我們數(shù)據(jù)集中的顧客。我們不知道誰(shuí)是在一號(hào)細(xì)分市場(chǎng)，誰(shuí)在二號(hào)市場(chǎng)，等等。那我們就必須讓算法從數(shù)據(jù)中發(fā)現(xiàn)這一切。
• 最后，無(wú)監(jiān)督學(xué)習(xí)也可用于天文數(shù)據(jù)分析，這些聚類(lèi)算法給出了令人驚訝、有趣、有用的理論，解釋了星系是如何誕生的。

這些都是聚類(lèi)的例子，聚類(lèi)只是無(wú)監(jiān)督學(xué)習(xí)中的一種。
無(wú)監(jiān)督學(xué)習(xí)，它是學(xué)習(xí)機(jī)制，你給算法大量的數(shù)據(jù)，要求它找出數(shù)據(jù)的類(lèi)型結(jié)構(gòu)。