49、利用逻辑回归进行数据分类

利用逻辑回归进行数据分类

1. 测试不同的逻辑函数

我们尝试使用两个具有不同决策边界的逻辑函数，通过比较成本来确定哪个函数的决策边界更优。这里选取两个例子：一个是我凭经验猜测的决策边界 $p = 0.56 - 0.35 \cdot x$，即 $0.35 \cdot x + 1 \cdot p = 0.56$；另一个是任意选取的 $x + p = 1$。显然，前者在区分普锐斯（Prius）和宝马（BMW）车型上表现更好。

在源代码中，有一个 plot_line 函数，可根据方程 $ax + by = c$ 中的 $a$、$b$、$c$ 值绘制直线。对于上述两个决策边界，对应的 $(a, b, c)$ 值分别为 $(0.35, 1, 0.56)$ 和 $(1, 1, 1)$。我们可以使用以下代码将这两条直线与汽车数据的散点图绘制在一起：

plot_data(scaled_car_data)
plot_line(0.35,1,0.56)
plot_line(1,1,1)

对应的逻辑函数分别为 $\sigma(0.35 \cdot x + p - 0.56)$ 和 $\sigma(x + p - 1)$，我们预期第一个函数相对于数据的成本更低。可以使用 logistic_cost 函数来验证：

>>> logistic_cost(0.35,1,0.56)
130.92490748700456
>>> logisti