核函数这块,原理理解起来,相对比较简单
但还是会有一些不太理解的地方
对于非线性可分的数据而言,在当前维度,直接使用SVM有分不出的情况
那么就可以从当前维度,直接升到更高维度,进行计算。
例如原本数据只有3个影响因素 x a , x b , x c x_a,x_b,x_c xa,xb,xc(性别)(年龄)(样貌),那么根据这三个维度的数据,可以拓展成更高维度(更多个不具名的影响因素),例如xc、xd、xe、xf、xg,再代入SVM的对偶问题里进行计算
其实有一本书《人工智能数学基础》里,描述的还是挺清晰的
另外讲到高斯核函数的时候,还给出了推导
这里的推导,实际就是在印证高斯核函数中,是如何拓展成高维向量,并且高维向量的点积,是如何用当前低维数据进行计算的。
K ( x , y ) = e − ∣ ∣ x − y ∣ ∣ 2 = e − x 2 e − y 2 [ 1 + ( 2 x . y ) 1 1 ! + ( 2 x . y ) 2 2 ! + ( 2 x . y ) 3 3 ! . . . ] K(x,y) = e^{-||x-y||²}=e^{-x^2}e^{-y^2}[1+\frac{(2x.y)^1}{1!}+\frac{(2x.y)^2}{2!}+\frac{(2x.y)^3}{3!}...] K(x,y)=e−∣∣x−y∣∣2=e−x2e−y2[1+1!(2x.y)1+2!(2x.y)2+3!(2x.y)3...]
这里高维向量的点积,体现在 e − x 2 e − y 2 [ 1 + ( 2 x . y ) 1 1 ! + ( 2 x . y ) 2 2 ! + ( 2 x . y ) 3 3 ! . . . ] e^{-x^2}e^{-y^2}[1+\frac{(2x.y)^1}{1!}+\frac{(2x.y)^2}{2!}+\frac{(2x.y)^3}{3!}...] e−x2e−y2[1+1!(2x.y)1+2!(2x.y)2+3!(2x.y)3...]
在SVM对偶函数求解里,正是需要求解点积
假设原数据的x总共分为3个影响因素 x a , x b , x c x_a,x_b,x_c xa,xb,xc
则两条数据分别为 ( x a 1 , x b 1 , x c 1 ) (x_{a1},x_{b1},x_{c1}) (xa1,xb1,xc1), ( x a 2 , x b 2 , x c 2 ) (x_{a2},x_{b2},x_{c2}) (xa2,xb2,xc2)
则它们的点积为 x a 1 x a 2 + x b 1 x b 2 + x c 1 x c 2 x_{a1}x_{a2}+x_{b1}x_{b2}+x_{c1}x_{c2} xa1xa2+xb1xb2+xc1xc2
但如果,现在将3个影响因素通过某种关系,上升到无穷个影响因素, x e , x f , x g , x h , x k x_e,x_f,x_g,x_h,x_k xe,xf,xg,xh,xk
这两条数据就变为了
x
e
1
,
x
f
1
,
x
g
1
,
x
h
1
,
x
k
1
.
.
.
x_{e1},x_{f1},x_{g1},x_{h1},x_{k1}...
xe1,xf1,xg1,xh1,xk1...
x
e
2
,
x
f
2
,
x
g
2
,
x
h
2
,
x
k
2
.
.
.
x_{e2},x_{f2},x_{g2},x_{h2},x_{k2}...
xe2,xf2,xg2,xh2,xk2...
则它们的点积为
x
e
1
x
e
2
+
x
f
1
x
f
2
+
x
g
1
+
x
h
1
x
h
2
+
x
k
1
x
k
2
+
.
.
.
x_{e1}x_{e2}+x_{f1}x_{f2}+x_{g1}+x_{h1}x_{h2}+x_{k1}x_{k2}+...
xe1xe2+xf1xf2+xg1+xh1xh2+xk1xk2+...
但由于高维度的点积计算量太大,找到一个原低维的计算式等于高维的点积结果,那个计算式就是核函数!
高斯核函数中的 e − x 2 e − y 2 [ 1 + ( 2 x . y ) 1 1 ! + ( 2 x . y ) 2 2 ! + ( 2 x . y ) 3 3 ! . . . ] e^{-x^2}e^{-y^2}[1+\frac{(2x.y)^1}{1!}+\frac{(2x.y)^2}{2!}+\frac{(2x.y)^3}{3!}...] e−x2e−y2[1+1!(2x.y)1+2!(2x.y)2+3!(2x.y)3...]无穷维的两条数据点积,对应的计算式正是 e − ∣ ∣ x − y ∣ ∣ 2 e^{-||x-y||²} e−∣∣x−y∣∣2,这正是核函数
只是高斯核函数还有一个参数σ,也叫核半径
e
−
∣
∣
x
−
y
∣
∣
2
2
σ
e^{\frac{-||x-y||²}{2σ}}
e2σ−∣∣x−y∣∣2,当x,y两条数据差距非常小,很接近时,核函数值接近1,
当x,y两条数据差距非常大时,核函数值接近0
这就像是正态分布(高斯分布)
那么σ的作用,就是调节用的:
极端来看,当σ值非常非常非常非常大时,如果x和y两条数据差距比较大,核函数值也依然接近1文章来源:https://www.toymoban.com/news/detail-640308.html
因此,核函数正是一个低维升高维求解线性关系,并用低维数据计算替代高维点积的计算式。文章来源地址https://www.toymoban.com/news/detail-640308.html
到了这里,关于机器学习——SVM核函数的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!