非线性SVM核技巧
约 276 字小于 1 分钟
2025-09-20
虽然线性SVM已经能够解决很多问题了,但是在有一些情况会产生无法划分的问题
这个时候你找不到一个直线能够将两类数据完全分开,这时候就需要用到核函数了。
比如上面的情况,我们可以通过升维映射的方式。
定义一个简单的映射函数:
Φ(x,y)=(x,y,xy)
这时候几个样本点A1(1,0,0) A2(0,1,0) B1(1,1,1) B2(0,0,0)
现在再去找一组参数w,b满足
⎩⎨⎧f(A1)=−1f(A2)=−1f(B1)=1f(B2)=1
f(x)=xw+b. 比如,在这里w=−2−24,b=1.
这个时候问题转化为:
maxi=1∑nαi−21i=1∑nj=1∑nαiαjyiyjK(xi,xj)s.t.i=1∑nαiyi=0,αi≥0,i=1,2,...,n
在低维度(嵌套样本或异或问题)在高维能够找到秩序。
