視頻連接：https://v.qq.com/x/page/k0362z6lqix.html

基本操作：http://blog.csdn.net/qq_22238533/article/details/72927755

調(diào)參：

分割數(shù)據(jù)集：http://blog.csdn.net/kancy110/article/details/74838102

優(yōu)點(diǎn)：

直方圖方法將連續(xù)的特征值離散化成一個(gè)個(gè)bin，提升了效率，節(jié)省了空間

帶限制的leaf-wise的生長策略，相較于level-wise，leaf-wise在葉子數(shù)量一樣時(shí)，能降低誤差，得到更好地精度，加上限制防止生成深樹而在小數(shù)據(jù)集上造成過擬合。

直接輸入類別值，不用one-hot encoding。

直方圖?

帶限制的葉子生長策略

支持類別值輸入

比較1決策樹的學(xué)習(xí)方法：leaf-wise每次選擇收益最大的分裂，快速有效地學(xué)習(xí)，但過程是順序的，影響加速；evel-wise可并行，但是有不必要的分裂，造成浪費(fèi)。

兩種方法比較

比較2XGBoost方法：presort排序?qū)γ總€(gè)特征值進(jìn)行計(jì)算，可以找到精確分割點(diǎn)，但是消耗大可能過擬合。level-wise時(shí)間節(jié)省，并行，但會(huì)有浪費(fèi)，沒有必要的計(jì)算。

預(yù)排序和層生長策略

LightGBM的幾個(gè)特點(diǎn)：

1.將XGB的最大深度調(diào)整為葉子數(shù)

對應(yīng)關(guān)系

2.提高效率的幾個(gè)方式：

主要特性

3.如何使用LGB？

可用的方式

如何處理過擬合