算法初探：机器学习基础与经典监督学习算法解析

---

从一次深夜调试说起

上周三凌晨两点，我在给嵌入式设备部署一个简单的分类模型时遇到了诡异现象：训练时准确率能到98%，一上板子实时推理就掉到60%以下。用printf打日志追了三个小时，最后发现是特征归一化没在推理代码里同步——训练时用了标准化，部署时忘了加这行。这个坑让我重新审视：机器学习算法不是数学公式的简单翻译，而是从数据流到部署的完整工程闭环。

今天我们就从工程视角拆解机器学习基础，重点看几个经典监督学习算法到底怎么用、怎么调、怎么埋坑。

---

一、机器学习到底在解决什么问题？

抛开那些华丽的定义，机器学习本质上是在找函数。给你一堆输入X和输出Y，让你找个函数f，使得f(X) ≈ Y。监督学习就是你知道Y是什么，非监督学习是你不知道Y但要发现数据自己的结构。

实际项目中，80%的监督学习问题可以归为两类：

1. 分类：输出是离散标签（比如“猫/狗/人”）
2. 回归：输出是连续值（比如温度、股价）

关键点来了：任何算法都有其假设前提，数据不符合假设，效果必然拉胯。这是很多新手容易忽略的——拿着线性模型去拟合周期性数据，还怪算法不行。

---

二、线性回归：别小看它

# 简陋版线性回归实现（教学用，生产别这样写）
class NaiveLinearRegression:
    def fit(self, X, y):
        # 核心就是解这个正规方程
        # 这里有个坑：如果X^T X不可逆就完蛋
        # 实际要用伪逆或者加正则化
        self.w = np.linalg.pinv(X.T @ X) @ X.T @ y
        
    def predict(self, X