嚴(yán)格的線性回歸 之前我們講過線性回歸:在向量空間里用線性函數(shù)去擬合樣本。 該模型以所有樣本實(shí)際位置到該線性函數(shù)的綜合距離為損失,通過最小化損失來...
非線性分類問題 遇到分類問題的時(shí)候,最理想的狀態(tài),當(dāng)然是樣本在向量空間中都是線性可分的,我們可以清晰無誤地把它們分隔成不同的類別——線性可分 S...
從線性可分 SVM 到線性 SVM 從現(xiàn)實(shí)情況引出線性 SVM 線性可分 SVM,這種 SVM 學(xué)習(xí)的訓(xùn)練數(shù)據(jù)本身就是線性可分的——可以很清晰地...
對(duì)偶問題 上一篇我們用 x 和 y 各代表一個(gè)維度,用 z=f(x,y) 和 g(x,y)=0 分別代表一個(gè)二元函數(shù)和一個(gè)一元函數(shù)。這樣做是為了...
之前我們講過的幾個(gè)模型:線性回歸、樸素貝葉斯、邏輯回歸和決策樹,其背后數(shù)學(xué)原理的難度屬于初級(jí)。而接下來要講的 SVM 和 SVR 則上升到了中級(jí)...
Hello Kitty 的種族問題 Hello Kitty,一只以無嘴造型40年來風(fēng)靡全球的萌萌貓,在其40歲生日時(shí),居然被其形象擁有者宣稱:H...
決策樹 前面我們講了線性回歸和樸素貝葉斯分類模型。前者只能做回歸,后者只能做分類。但本文中要講的決策樹模型,卻既可以用于分類,又可以用于回歸。 ...
現(xiàn)在我們回到 LR 模型本身。 回歸模型做分類 從前面關(guān)于分類與回歸的定義來看,分類模型和回歸模型似乎是涇渭分明的。輸出離散結(jié)果的就是用來做分類...
邏輯回歸 今天我們要講的模型叫做 Logistic Regression (LR),一般翻譯為邏輯回歸。 LR 是一種簡單、高效的常用分類模型—...