回歸

• 普通最小二乘回歸
• 線性回歸
• 對數(shù)幾率回歸
• 逐步回歸
• 多元自適應(yīng)回歸樣條法
• 局部散點平滑估計
• Jackknife回歸

貝葉斯

• 樸素貝葉斯
• 高斯樸素貝葉斯
• 多項式樸素貝葉斯
• 平均單依賴分類器
• 貝葉斯信念網(wǎng)絡(luò)
• 貝葉斯網(wǎng)絡(luò)
• 隱馬爾科夫模型
• 條件隨機(jī)場

正則化

• 嶺回歸
• 最小絕對收縮選擇算子(LASSO)
• 彈性網(wǎng)絡(luò)
• 最小角回歸

決策樹

• 分類回歸樹(CART)
• 迭代二叉樹3代(ID3)
• C4.5和C5.0
• 卡方自動交互檢測
• 單層決策樹
• M5 模型
• 條件決策樹

基于實例的方法

• K最近鄰(KNN)
• 學(xué)習(xí)矢量量化(LVQ)
• 自組織映射(SOM)
• 局部加權(quán)學(xué)習(xí)(LWL)

降維方法

• 主成分分析(PCA)
• 主成分回歸(PCR)
• 偏最小二乘回歸
• Sammon Mapping
• 多維尺度(MDS)
• 投影尋蹤
• 判別分析(LDA,MDA,QDA,FDA)

聚類方法

• 單連鎖聚類
• K均值算法
• K中值算法
• 期望最大值算法(EM)
• 層次聚類
• 模糊聚類
• DBSCAN 算法
• OPTICS 算法
• 非負(fù)矩陣分解算法
• 隱狄利克雷分布(LDA)

深度學(xué)習(xí)

• 深度玻爾茲曼機(jī)(DBM)
• 深度信念網(wǎng)絡(luò)(DBN)
• 卷積神經(jīng)網(wǎng)絡(luò)
• 堆棧式自動編碼器

神經(jīng)網(wǎng)絡(luò)

• 自組織映射
• 感知機(jī)
• 反向傳播算法
• 霍普菲爾德神經(jīng)網(wǎng)絡(luò)
• 徑向基函數(shù)網(wǎng)絡(luò)(RBFN)
• 反傳算法
• 自編碼器
• 霍普菲爾德神經(jīng)網(wǎng)絡(luò)組
• 玻爾茲曼機(jī)
• 受限玻爾茲曼機(jī)
• Spiking 神經(jīng)網(wǎng)絡(luò)
• 學(xué)習(xí)矢量量化

關(guān)聯(lián)規(guī)則學(xué)習(xí)

• Apriori 算法
• Eclat 算法
• FP-Growth

集成方法

• Boosting
• Bootstrapped Aggregation
• AdaBoost
• 堆棧泛化 Stacked Generation
• GBM
• GBRT
• Random Forest
• 條件隨機(jī)場(CRFs)