10、更多分类技术：K近邻与支持向量机及分类回归树

更多分类技术：K近邻与支持向量机及分类回归树

1. K近邻（KNN）与支持向量机（SVM）

1.1 K近邻（KNN）

在处理当前数据时，对距离进行加权处理并未提升模型在训练集上的准确性，在测试集上的表现也不尽人意。以下是相关代码及结果：

> kknn.pred <- predict(kknn.train, newdata = test)
> table(kknn.pred, test$type)
kknn.pred No Yes
       No 76  27
      Yes 17  27

尝试其他权重后，结果也未比上述情况更准确，因此无需再深入研究KNN。不过，建议自行尝试不同参数，观察其性能表现。

1.2 支持向量机（SVM）建模

使用 e1071 包构建SVM模型，先从线性支持向量分类器开始，再过渡到非线性版本。该包中的 tune.svm() 函数可辅助选择调优参数和核函数，它通过交叉验证来优化调优参数。

1.2.1 线性支持向量机

以下是创建线性支持向量机调优对象并查看其摘要的代码：

> linear.tune <- tune.svm(type ~ ., data = train,
  kernel = "linear",
  cost = c(0.001, 0.01, 0.1, 1, 5, 10))
> summary(