概率論與數(shù)理統(tǒng)計(jì)
本文參考了目前網(wǎng)上諸多的機(jī)器學(xué)習(xí)數(shù)學(xué)復(fù)習(xí)講義，取其精華，逐步深入，在幫助大家進(jìn)行復(fù)習(xí)的同時(shí)，盡可能降低學(xué)習(xí)曲線。
0.貝葉斯學(xué)派與頻率學(xué)派
有興趣的同學(xué)可以查相關(guān)資料，這里只作為一個(gè)興趣點(diǎn)引入
1.事件的關(guān)系與運(yùn)算
圖片1.png
2.頻率與概率
圖片1.png
3.古典概型
圖片1.png
圖片1.png
圖片1.png
4.信息熵
圖片1.png
圖片1.png
圖片1.png
圖片1.png
上圖中，結(jié)合我們上一節(jié)高數(shù)中推導(dǎo)出來(lái)的公式，可對(duì)組合數(shù)公式取對(duì)數(shù)乘1/n,然后計(jì)算得出信息熵公式
5.本福特定律
本福特定律，又稱第一數(shù)字定律，是指在實(shí)際生活得出的一組數(shù)據(jù)中，以1為首位數(shù)字出現(xiàn)的概率約為總數(shù)的三成；是直觀想象1/9的三倍。通常用于檢測(cè)數(shù)據(jù)是否造假
圖片1.png
6.概率的基本公式
圖片1.png
7.貝葉斯公式
圖片1.png
8.常見(jiàn)分布
0-1分布
圖片1.png
二項(xiàng)分布
圖片1.png
泊松分布
圖片1.png
均勻分布
圖片1.png
指數(shù)分布
圖片1.png
圖片1.png
正態(tài)分布(高斯分布)
圖片1.png
圖片1.png
圖片1.png
學(xué)有余力可以查閱二元高斯分布相關(guān)資料
總結(jié)
圖片1.png
Beta分布
圖片1.png
可以查閱指數(shù)族相關(guān)資料，推導(dǎo)過(guò)程會(huì)出現(xiàn)Sigmoid/Logistic函數(shù)
9.事件的獨(dú)立性
圖片1.png
10.隨機(jī)變量及其概率分布
圖片1.png
11.二維隨機(jī)變量
圖片1.png
12.期望
圖片1.png
性質(zhì)
圖片1.png
13.隨機(jī)變量函數(shù)的數(shù)學(xué)期望
圖片1.png
14.方差
圖片1.png
15.協(xié)方差
圖片1.png
協(xié)方差和獨(dú)立、不相關(guān)
圖片1.png
協(xié)方差的意義
圖片1.png
16.Pearson相關(guān)系數(shù)
圖片1.png
17.協(xié)方差矩陣
圖片1.png
18.切比雪夫不等式
圖片1.png
19.大數(shù)定律
圖片1.png
意義
圖片1.png
伯努利定理
圖片1.png
20.中心極限定理
圖片1.png
21.最大似然估計(jì)
貝葉斯公式的思考
圖片1.png
定義
圖片1.png
圖片1.png
二項(xiàng)分布的最大似然估計(jì)
圖片1.png
正態(tài)分布的最大似然估計(jì)
圖片1.png
圖片1.png
圖片1.png
22.最大似然估計(jì)與過(guò)擬合
圖片1.png
