awesome-knowledge-graph 整理知識圖譜相關(guān)學(xué)習(xí)資料，提供系統(tǒng)化的知識圖譜學(xué)習(xí)路徑 知識圖譜是什么 徐超-三個角度理解知識圖譜 從數(shù)據(jù)治理，語義連接，智能...
發(fā)簡信
IP屬地：廣東
-
概率圖模型（2）隱馬爾可夫模型HMM
1 概述 1.1 HMM概念理解 首先我們需要對一些看起來比較相似的概念做一個總結(jié)和區(qū)分： 馬爾可夫性（Markov Property）：無后效性或無記憶性，在已知“現(xiàn)在”的...
-
概率圖模型（1）概述概率圖模型（probabilistic graphical model，PGM）是一類算法的統(tǒng)稱，是圖靈獎獲得者Pearl開發(fā)出來的用圖來表示變量概率依賴關(guān)系的理論，用途甚廣...
-
從感知機到神經(jīng)網(wǎng)絡(luò)（前向計算、反向傳播、python實現(xiàn)）1 回顧感知機 廢話不多說，就不從什么模擬人類的神經(jīng)元開始了，在感知機（Perceptron）中我們已經(jīng)說過：感知機模型是神經(jīng)網(wǎng)絡(luò)和支持向量機的基礎(chǔ)，現(xiàn)在我們終于講到神經(jīng)網(wǎng)絡(luò)...
-
集成學(xué)習(xí)（5）boosting代表——XGBoostXGBoost（eXtreme Gradient Boosting）中文名叫極端梯度提升，可以看出它是一種gradient boosting算法，事實上，XGBoost是GB...
-
集成學(xué)習(xí)（4）boosting代表——gradient boosting與GBDT
1 從boosting到gradient boosting （1）原理 從上一篇集成學(xué)習(xí)（3）boosting代表——Adaboost[https://www.jianshu...
-
集成學(xué)習(xí)（3）boosting代表——Adaboost1 Adaboost原理 回顧前文集成學(xué)習(xí)（1）模型誤差與集成學(xué)習(xí)中對boosting的定義： 2.boosting：針對不獨立的同質(zhì)弱學(xué)習(xí)器。它以一種高度自適應(yīng)的方法順序地...
-
集成學(xué)習(xí)（2）bagging代表——隨機森林
回顧前文對bagging的定義： 1.bagging（Bootstrap Aggregating）：針對獨立的同質(zhì)弱學(xué)習(xí)器，相互獨立地并行學(xué)習(xí)這些弱學(xué)習(xí)器，并按照某種確定性的...
-
集成學(xué)習(xí)（1）模型誤差與集成學(xué)習(xí)1 模型誤差——偏差與方差 之前我們已經(jīng)說了不少模型，這些模型的特點是：1、都是有監(jiān)督模型；2、都是個體模型，基本上都是一個輸入、一套參數(shù)、一個輸出。一般來說，我們的有監(jiān)督模...
-
決策樹——ID3、C4.5、CART本篇開始總結(jié)一下以決策樹為基礎(chǔ)的模型，當然本篇的內(nèi)容就是決策樹了，決策樹可以用來分類也可以用來回歸，用作分類的應(yīng)該更多一些，我們也先從分類問題講起。 1 決策樹思想 決策樹的...
-
支持向量機SVM（3）核函數(shù)、非線性支持向量機前面已經(jīng)分別介紹了基于硬間隔最大化的線性可分支持向量機、基于軟間隔最大化的線性支持向量機，這次來總結(jié)下使用核函數(shù)來解決非線性可分問題的非線性支持向量機。 1 非線性可分問題怎...
-
支持向量機SVM（2）線性支持向量機、軟間隔最大化1 原理 1） 背景 線性可分支持向量機基于硬間隔最大化，所謂硬間隔最大化，我理解的就是指這個間隔最大化是被嚴格要求的，不允許任何例外的樣本點跨過間隔邊界，因此這種方法是不適...
-
支持向量機SVM（1）線性可分支持向量機、拉格朗日乘子法、KKT條件、SMO
支持向量機（SVM，Support Vecor Machine）是一種二分類算法，在集成學(xué)習(xí)和深度學(xué)習(xí)火起來之前支持向量機的使用非常廣泛，其分類效果好、適用性廣（線性、非線性...
-
感知機（Perceptron）
在之前的文章中我們已經(jīng)講過了邏輯回歸分類器，現(xiàn)在趁熱打鐵總結(jié)一下與邏輯回歸非常相似的感知機模型。感知機模型是一個非常古老的分類算法，現(xiàn)在很少會單獨使用它，但是它的原理簡單有效...
-
廣義線性模型（5）Softmax回歸根據(jù)上一篇廣義線性模型（4）邏輯回歸我們已經(jīng)知道，邏輯回歸是一種處理二分類問題的常用方法，當需要處理多分類問題是，除了邏輯回歸的組合模型之外，我們還可以選擇使用Softmax...
-
廣義線性模型（4）邏輯回歸1 原理 1.1 概述 邏輯回歸（LR，Logistic Regression）是一個很常用也很好用的分類算法，是的，雖然名字叫回歸，但它其實是一個分類算法，所謂分類問題就是...
-
廣義線性模型（3）線性回歸模型—Lasso回歸、Ridge回歸1 Ridge回歸和Lasso回歸概述 在機器學(xué)習(xí)中，如果特征很多，但是訓(xùn)練數(shù)據(jù)量不夠大的情況下，學(xué)習(xí)器很容易把特有的一些特點也當做是整個樣本空間的一般性質(zhì)進行學(xué)習(xí)，這就會出...
-
廣義線性模型（2）線性回歸模型的理解
1 原理 1.1 概述 回歸問題：回歸屬于統(tǒng)計學(xué)，回歸分析（regression analysis)指的是確定兩種或兩種以上變量間相互依賴的定量關(guān)系的一種統(tǒng)計分析方法。按照機...
-
廣義線性模型（1）廣義線性模型本文旨在將一些線性模型統(tǒng)一放在廣義線性模型的體系下，從而更好的理解這些模型之間的聯(lián)系和區(qū)別，屬于總結(jié)和復(fù)習(xí)，最好對線性回歸、邏輯回歸稍微有所了解，不過后面幾篇也是會復(fù)習(xí)到這些...