9、机器学习中的模型验证与支持向量机应用

机器学习中的模型验证与支持向量机应用

1. 模型交叉验证

在模型构建过程中，进行交叉验证测试是很有必要的。这里使用的是一个简单模型，我们期望其准确率至少能达到20%。下面是一个十折交叉验证的代码示例：

# test/cross_validation_spec.rb
require 'spec_helper'
describe "Cross Validation" do
  let(:files) { Dir['./data/brown/c***'] }
  FOLDS = 10
  FOLDS.times do |i|
    let(:validation_indexes) do
      splits = files.length / FOLDS
      ((i * splits)..((i + 1) * splits)).to_a
    end
    let(:training_indexes) do
      files.length.times.to_a - validation_indexes
    end
    let(:validation_files) do
      files.select.with_index {|f, i| validation_indexes.include?(i) }
    end
    let(:training_files) do
      files.select.with_index {|f, i| training_indexes.include?(i) }
    end
    it "cross validates with a low error for