決策樹是機(jī)器學(xué)習(xí)中應(yīng)用很廣泛的算法，它不僅可以處理分類和回歸問題，還可以產(chǎn)出特征重要性、連續(xù)變量分箱等副產(chǎn)物。決策樹有著可解釋性強(qiáng)、原理簡單、效率高的特點(diǎn)。在決策樹算法的發(fā)展...
發(fā)簡信
IP屬地：江蘇
-
機(jī)器學(xué)習(xí)筆記：決策樹 -
朱小虎 Neil Zhu，University AI / CSAGI 創(chuàng)始人
-
概念速查：多項(xiàng)式分布
服從多項(xiàng)式分布的隨機(jī)向量 滿足如下條件： 1），且； 2）設(shè) 為任意非負(fù)整數(shù)，且 ； 事件 發(fā)生的概率為： 其中，，。 【舉例】一個(gè)6面的均勻骰子，投擲6次，投擲結(jié)果為...
-
PyTorch深度學(xué)習(xí)筆記（7）：應(yīng)用實(shí)例--FashionMNIST數(shù)據(jù)集
在上一篇文章中，我們介紹了如何用梯度下降法進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練與優(yōu)化?，F(xiàn)在我們用一個(gè)實(shí)際的數(shù)據(jù)集：FashionMNIST，完整的實(shí)現(xiàn)構(gòu)建神經(jīng)網(wǎng)絡(luò)并訓(xùn)練優(yōu)化，在這一過程中，我們...
-
PyTorch深度學(xué)習(xí)筆記（6）：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練--梯度下降法在前面的文章中，我們介紹了為線性回歸、二分類、三分類神經(jīng)網(wǎng)絡(luò)的優(yōu)化選取適當(dāng)?shù)膿p失函數(shù)。我們知道，當(dāng)損失函數(shù)的值越小，代表神經(jīng)網(wǎng)絡(luò)預(yù)測值與真實(shí)值之間的差異越小，模型效果越好。對(duì)...
-
PyTorch深度學(xué)習(xí)筆記（5）：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練--損失函數(shù)
在前面的文章中，我們介紹了單層和多層神經(jīng)網(wǎng)絡(luò)的正向傳播過程，同時(shí)也使用了torch.nn來實(shí)現(xiàn)這一過程。不難發(fā)現(xiàn)，模型中的權(quán)重對(duì)模型輸出的預(yù)測結(jié)果起著很重要的作用。而前面我們...
-
PyTorch深度學(xué)習(xí)筆記（4）：完整實(shí)現(xiàn)一個(gè)多層神經(jīng)網(wǎng)絡(luò)的正向傳播
本文將通過一個(gè)例子，使用torch.nn中Module類的繼承來完整實(shí)現(xiàn)一個(gè)多層神經(jīng)網(wǎng)絡(luò)的正向傳播過程。此外，文中將介紹類繼承過程中定義init()函數(shù)時(shí)super()的用法...
-
PyTorch深度學(xué)習(xí)筆記（3）：多層神經(jīng)網(wǎng)絡(luò)的正向傳播本文主要以異或門問題為例子，介紹多層神經(jīng)網(wǎng)絡(luò)。我們將從上一篇文章中介紹的單層神經(jīng)網(wǎng)絡(luò)出發(fā)，學(xué)習(xí)或門、非與門、異或門問題，了解單層神經(jīng)網(wǎng)絡(luò)在面對(duì)非線性問題（e.g. 異或門問題...
-
PyTorch深度學(xué)習(xí)筆記（2）：單層神經(jīng)網(wǎng)絡(luò)的正向傳播本文將從一個(gè)簡單的線性回歸問題出發(fā)，構(gòu)建單層神經(jīng)網(wǎng)絡(luò)，并手動(dòng)實(shí)現(xiàn)它的正向傳播。同時(shí)，我們將介紹如何使用PyTorch中的核心模塊torch.nn來構(gòu)建該線性回歸的神經(jīng)網(wǎng)絡(luò)。最...
-
數(shù)學(xué)基礎(chǔ)：最小二乘法
最小二乘法可以用來求解線性回歸模型中權(quán)重參數(shù)的最優(yōu)解，本文將對(duì)這一求解過程做簡要概述。 線性回歸模型 對(duì)于第 個(gè)樣本 ()，我們有：其中，為樣本 的標(biāo)簽， 為樣本 的 ...
-
數(shù)學(xué)基礎(chǔ)：矩陣求導(dǎo)
本文主要參考B站UP主GRNovmbrain的推導(dǎo)視頻，鏈接如下：https://www.bilibili.com/video/BV1xk4y1B7RQ/?vd_source...
-
PyTorch深度學(xué)習(xí)筆記（1）：張量
張量Tensor是深度學(xué)習(xí)框架Pytorch中的基礎(chǔ)數(shù)據(jù)結(jié)構(gòu)。類似于Array是Numpy中的基礎(chǔ)數(shù)據(jù)結(jié)構(gòu)一樣，tensor及其對(duì)應(yīng)的方法函數(shù)，為在Pytorch上進(jìn)行深度學(xué)...
-
?? 90后 ? 碩士畢業(yè)于 華中科技大學(xué)<br>?? 公眾號(hào) CodeSheep 作者<br>?? IT咨詢請(qǐng)公眾號(hào)私信<br>?? 自學(xué)編程之路↓↓↓<br><a href="https://links.jianshu.com/go?to=https%3A%2F%2Fgithub.com%2Fhansonwang99%2FJavaCollection" target="_blank">https://github.com/hansonwang99/JavaCollection</a>
-
概念速查：Jeffrey's Prior
當(dāng)構(gòu)建 prior distribution 時(shí)，若沒有足夠的群體信息支持，我們通常希望構(gòu)建的 prior 在我們的 posterior 中影響越小越好，即，posterio...
