# 二、非线性问题的处理方法

在处理非线性问题时，可以通过将分线性问题转化成线性问题，并通过已经构建的线性支持向量机来处理。如下图所示：

(非线性转成线性问题)

(图片摘自：http://www.cnblogs.com/gghost/archive/2013/09/02/3296297.html)

# 四、实验仿真

对于非线性可分问题，其图像为：

(原始空间中的图像)

MATLAB代码

```%% 非线性支持向量机

% 清空内存
clear all;
clc;

% 导入测试数据

%% 区分开训练数据与测试数据
m = size(A);%得到整个数据集的大小
trainA = A(11:m(1,1),:);
testA = A(1:10,:);

% 训练和测试数据集的大小
mTrain = size(trainA);
mTest = size(testA);

% 区分开特征与标签
Xtrain = trainA(:,1:2);
Ytrain = trainA(:,mTrain(1,2))';
Xtest = testA(:,1:2);
Ytest = testA(:,mTest(1,2))';

%% 对偶问题，用二次规划来求解，以求得训练模型
sigma = 0.5;%高斯核中的参数
H = zeros(mTrain(1,1),mTrain(1,1));
for i = 1:mTrain(1,1)
for j = 1:mTrain(1,1)
H(i,j) = GaussianKernalFunction(Xtrain(i,:),Xtrain(j,:),sigma);
H(i,j) = H(i,j)*Ytrain(i)*Ytrain(j);
end
end

f = ones(mTrain(1,1),1)*(-1);
B = Ytrain;
b = 0;
lb = zeros(mTrain(1,1),1);
% 调用二次规划的函数

% 定义C
C = max(x);

% 求解原问题
n = size(x);
k = 1;
for i = 1:n(1,1)
Kernel = zeros(n(1,1),1);
if x(i,1) > 0 && x(i,1)<C
for j = 1:n(1,1)
Kernel(j,:) = GaussianKernalFunction(Xtrain(j,:),Xtrain(i,:),sigma);
Kernel(j,:) = Kernel(j,:)*Ytrain(j);
end
b(k,1) = Ytrain(1,i)-x'*Kernel;
k = k +1;
end
end
b = mean(b);

%% 决策函数来验证训练准确性
trainOutput = zeros(mTrain(1,1),1);
for i = 1:mTrain(1,1)
Kernel_train = zeros(mTrain(1,1),1);

for j = 1:mTrain(1,1)
Kernel_train(j,:) = GaussianKernalFunction(Xtrain(j,:),Xtrain(i,:),sigma);
Kernel_train(j,:) = Kernel_train(j,:)*Ytrain(j);
end
trainOutput(i,1) = x'*Kernel_train+b;
end

for i = 1:mTrain(1,1)
if trainOutput(i,1)>0
trainOutput(i,1)=1;
elseif trainOutput(i,1)<0
trainOutput(i,1)=-1;
end
end

% 统计正确个数
countTrain = 0;
for i = 1:mTrain(1,1)
if trainOutput(i,1) == Ytrain(i)
countTrain = countTrain+1;
end
end
trainCorrect = countTrain./mTrain(1,1);

%% 决策函数来验证测试准确性
testOutput = zeros(mTest(1,1),1);
for i = 1:mTest(1,1)
Kernel_test = zeros(mTrain(1,1),1);

for j = 1:mTrain(1,1)
Kernel_test(j,:) = GaussianKernalFunction(Xtrain(j,:),Xtest(i,:),sigma);
Kernel_test(j,:) = Kernel_test(j,:)*Ytrain(j);
end
testOutput(i,1) = x'*Kernel_train+b;
end

for i = 1:mTest(1,1)
if testOutput(i,1)>0
testOutput(i,1)=1;
elseif testOutput(i,1)<0
testOutput(i,1)=-1;
end
end

% 统计正确个数
countTest = 0;
for i = 1:mTest(1,1)
if testOutput(i,1) == Ytest(i)
countTest = countTest+1;
end
end
testCorrect = countTest./mTest(1,1);

disp(['训练的准确性：',num2str(trainCorrect)]);
disp(['测试的准确性：',num2str(testCorrect)]);```

```%% 高斯核函数，其中输入x和y都是行向量
function [ output ] = GaussianKernalFunction( x,y,sigma )
output = exp(-(x-y)*(x-y)'./(2*sigma^2));
end```

，选取合适的参数对模型的训练起着很重要的作用。在程序中，我是指定的参数。这里的程序只是为帮助理解算法的过程。

0 条评论

• ### 简单易学的机器学习算法——非线性支持向量机

前面三篇博文主要介绍了支持向量机的基本概念，线性可分支持向量机的原理以及线性支持向量机的原理，线性可分支持向量机是线性支持向量机的基础。对于线性支持向量...

• ### 简单易学的机器学习算法——SVD奇异值分解

一、SVD奇异值分解的定义 image.png 二、SVD奇异值分解与特征值分解的关系     特征值分解与SVD奇异值分解的目的都是提取一个矩阵最重要的特征。...

• ### 自然语言中的重要概念——熵(Entropy)

一、背景 熵是热力学中的一个重要的概念，最早是由香农(Claude Shannon)将熵应用于信息的度量。 熵(Entropy)是描述事物无序性的一个重要的参数...

• ### 简单易学的机器学习算法——非线性支持向量机

前面三篇博文主要介绍了支持向量机的基本概念，线性可分支持向量机的原理以及线性支持向量机的原理，线性可分支持向量机是线性支持向量机的基础。对于线性支持向量...

• ### Python数据结构与算法

g = filter(lambda x : x >=0, data) 在python3中，得到的是构造器，要用list才可以得到结果 list(g)

• ### java中链表实现

package linklist; public class Node { public int iData; public double dData; ...

• ### Hacking with iOS: SwiftUI Edition - Word Scramble 项目——使用UITextChecker校验单词

现在我们的游戏已经设置好了，这个项目的最后一部分是确保用户不能输入无效的单词。我们将用四个小方法来实现这一点，每个方法都执行一个检查：单词是original（它...

• ### 少走弯路！科学构建URL，事半功倍！

译者：骆姿亦 审校：陈明艳 本文长度为3621字，预估阅读时间10分钟。 主编推荐：这是一个重要的话题，而且是很少有人系统阐述的话题。科学地构建URL，无...