Matlab向量化编程实现机器学习算法---1

假设x和θ为向量(n+1维实向量空间)，需要计算 z=θ(T)x（θ(T)表示θ的转置），那么可以按以下方式实现：
z = 0;
for i=1:(n+1),
    z = z + theta(i) * x(i);
end;

上述代码为非向量化编程，为了更加简洁和提高运行速度，可以采用以下向量化编程方式：

z = theta' * x;    %theta'表示θ的转置

对Matlab代码进行矢量化的工作很大一部分集中在避免使用for循环上，因为这可以使得Matlab更多地利用代码中的并行性，同时其解释器的计算开销更小。

下面给出一些算法的非向量化和向量化代码对照：

1. 逻辑回归梯度计算

% 代码1---非向量化
grad = zeros(n+1,1);
for i=1:m,
   h = sigmoid(theta'*x(:,i));    % sigmoid为S形函数
   temp = y(i) - h;
   for j=1:n+1,
       grad(j) = grad(j) + temp * x(j,i);
   end;
end;

嵌套的for循环语句使这段代码的运行非常缓慢。以下是更典型的实现方式，它对算法进行部分向量化，带来更优的执行效率：

% 代码2---部分向量化
grad = zeros(n+1,1);
for i=1:m,
     grad = grad + (y(i) - sigmoid(theta'*x(:,i)))* x(:,i);
end;

或许可以向量化得更彻底些。如果去除for循环，我们就可以显著地改善代码执行效率。特别的，假定b是一个列向量，A是一个矩阵，我们用以下两种方式来计算A*b：