機器學(xué)習工業(yè)界出現(xiàn)兩種截然不同聲音,一派是「調(diào)參」(優(yōu)先實踐,后理論),另一派是「理論」(優(yōu)先理論,后實踐)
其實都不對,老實說目前見到的「調(diào)參」就提升個 2-3 % (超參數(shù)),對商業(yè)很多問題不是特別重要,倒不如換個新算法或者弄個特征工程(增加新維度)。「理論」在工業(yè)界運用更加不靠譜,主要是理論與實際不貼切,比如:
- 缺失值怎么處理
- 多分類問題怎么做
- 不平衡樣本怎么分析
- 數(shù)據(jù)量不多怎么辦
- ....
好的做法是優(yōu)先使用現(xiàn)有成熟方法,以最快速度跑通模型得出結(jié)果,比如:
- 先抽樣幾萬數(shù)據(jù)建模,準確率 70%,那么可以估計增加到百萬級,模型準確率會變得更好
- 做好維度構(gòu)建,好的維度 >> 算法 >> 調(diào)參
- 算法不要局限于機器學(xué)習,就提升那幾個百分點,嘗試別的類型方法 —— 網(wǎng)絡(luò)分析、ODE 方程等其他數(shù)學(xué)方法