SVM方法是通過一個(gè)非線性映射p,把樣本空間映射到一個(gè)高維乃至無窮維的特征空間中(Hilbert空間),使得在原來的樣本空間中非線性可分的問題轉(zhuǎn)化為在特征空間中的線性可分的問題.簡(jiǎn)單地說,就是升維和線性化.升維,就是把樣本向高維空間做映射,一般情況下這會(huì)增加計(jì)算的復(fù)雜性,甚至?xí)鹁S數(shù)災(zāi)難,因而人們很少問津.但是作為分類、回歸等問題來說,很可能在低維樣本空間無法線性處理的樣本集,在高維特征空間中卻可以通過一個(gè)線性超平面實(shí)現(xiàn)線性劃分(或回歸).一般的升維都會(huì)帶來計(jì)算的復(fù)雜化,SVM方法巧妙地解決了這個(gè)難題:應(yīng)用核函數(shù)的展開定理,就不需要知道非線性映射的顯式表達(dá)式;由于是在高維特征空間中建立線性學(xué)習(xí)機(jī),所以與線性模型相比,不但幾乎不增加計(jì)算的復(fù)雜性,而且在某種程度上避免了維數(shù)災(zāi)難.這一切要?dú)w功于核函數(shù)的展開和計(jì)算理論.
支持向量機(jī)(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的,它在解決小樣本、非線性及高維模式識(shí)別中表現(xiàn)出許多特有的優(yōu)勢(shì),并能夠推廣應(yīng)用到函數(shù)擬合等其他機(jī)器學(xué)習(xí)問題中。
回歸分析是廣泛應(yīng)用的統(tǒng)計(jì)分析方法,可用于分析自變量和因變量的影響搞關(guān)系(通過自變量求因變量),也可以分析自變量對(duì)因變量的影響方向(正影響還是負(fù)影響)?;貧w分析的主要應(yīng)用場(chǎng)景是進(jìn)行預(yù)測(cè)和控制,例如計(jì)劃制定,KPI制定,目標(biāo)制定等,也可基于預(yù)測(cè)數(shù)據(jù)與實(shí)際數(shù)據(jù)進(jìn)行比對(duì)和分析,確定事件發(fā)展程度并給未來行動(dòng)提供方向性指導(dǎo)。