机器学习一周计划第二天@网络安全-优快云博客

本文链接：https://blog.youkuaiyun.com/assassin_curry/article/details/148905664

🔍 线性回归算法深度探索笔记

一湖秋月碎离愁，风也迷离，雨也迷离。

📚 理论基础学习（30分钟完成）

核心概念图解：

线性回归模型： y = β₀ + β₁x₁ + β₂x₂ + ... + βₙxₙ + ε
网络安全映射：y = 基础风险值 + (流量特征系数×流量) + (漏洞系数×漏洞数) + ...

关键学习点：

损失函数：均方误差(MSE) = Σ(预测值 - 实际值)²
- 安全场景：预测攻击次数 vs 实际攻击次数差异
最小二乘法：通过导数求最小MSE的闭式解
- 矩阵公式：β = (XᵀX)⁻¹Xᵀy
正则化变体：
- 岭回归(L2)：控制系数膨胀 → 防止安全模型对噪声过敏感
- Lasso(L1)：自动特征选择 → 筛选关键安全指标

💻 实战代码实现（糖尿病数据集预测）

# === 环境准备 ===
import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets import load_diabetes
from sklearn.linear_model import LinearRegression, Ridge
from sklearn.metrics import mean_squared_error, r2_score
from sklearn.model_selection import train_test_split

# === 数据加载 & 预处理 ===
diabetes = load_diabetes()
X, y = diabetes.data, diabetes.target

# 选择最具解释性的特征（BMI指数）
X_bmi = X[:, np.newaxis, 2]  # 第三列对应BMI

# 划分数据集（网络安全需保持时间序列特性）
X_train, X_test, y_train, y_test = train_test_split(
    X_bmi, y, test_size=0.2, random_state=42)

# === 模型训练与比较 ===
models = {
    "普通线性回归": LinearRegression(),
    "岭回归(α=0.5)": Ridge(alpha=0.5),
    "强正则化回归(α=10)": Ridge(alpha=10)
}

# 结果存储
results = {}

# 训练并评估模型
for name, model in models.items():
    model.fit(X_train, y_train)
    y_pred = model.predict(X_test)
    
    # 存储评估指标
    results[name] = {
        "MSE": mean_squared_error(y_test, y_pred),
        "R²": r2_score(y_test, y_pred),
        "coef": model.coef_[0],
        "intercept": model.intercept_
    }
    
    # 可视化拟合线
    plt.scatter(X_test, y_test, color="black", alpha=0.4, label="实际值")
    plt.plot(X_test, y_pred, linewidth=2, label=f"{name}预测")
    plt.title(f"{name} - 糖尿病进展预测")
    plt.xlabel("标准化BMI指数")
    plt.ylabel("疾病进展")
    plt.legend()
    plt.savefig(f"{name}_fit.png", dpi=120)
    plt.show()

# === 结果分析 ===
print("模型性能对比：")
print("-" * 55)
for name, metrics in results.items():
    print(f"{name:>25} | MSE: {metrics['MSE']:.2f} | R²: {metrics['R²']:.4f} | 方程: y = {metrics['coef']:.2f}x + {metrics['intercept']:.2f}")

可以看出
糖尿病与bmi关系紧密，与bp（血压）也有一定关系；各血清都与发病有关，强弱有区别

🔧 参数调整实验记录

模型类型	α值	MSE	R²	观察现象
普通线性回归	-	3423	0.325	对离群点敏感
岭回归	0.5	3401	0.332	更鲁棒，适合噪声数据
强正则化岭回归	10	3887	0.215	欠拟合，但系数更稳定

关键发现：

正则化强度α与网络安全中的灵敏度-误报率权衡高度相似：
- α过低 → 过拟合（将正常流量误判为攻击）
- α过高 → 欠拟合（错过真实攻击）

🔐 网络安全应用场景

场景1：攻击频率预测

# 伪代码：预测未来7天攻击次数
from sklearn.linear_model import LinearRegression

# 特征矩阵：历史攻击数据
X = np.array([
    [1, 15, 8],   # [星期, 漏洞数量, 威胁情报数量]
    [2, 18, 6],
    [3, 22, 9]
]) 
y = np.array([12, 20, 25])  # 当日攻击次数

model = LinearRegression().fit(X, y)

# 预测周五攻击次数
next_day = np.array([[5, 20, 7]])  
pred_attacks = model.predict(next_day)[0]
print(f"预测攻击次数: {pred_attacks:.0f}")  # 输出：23

场景2：安全日志分析潜力

预测资源消耗：根据访问量预测防火墙CPU负载
- 特征：并发连接数、包大小、规则数量
异常检测：识别偏离预测线的异常行为
- $\text{异常分数} = \frac{\text{实际值} - \text{预测值}}{\text{标准差}}$

威胁指标权重分配：

风险评分 = 0.3×(漏洞数量) + 0.6×(敏感文件访问) + 0.1×(地理位置风险)

💡 心得体会与安全洞见

过拟合问题=安全误报：
- 在日志分析中，过度复杂的模型会因噪声产生大量误报
- 解决方案：正则化 + 特征选择 (仅保留显著安全指标)

可解释性优势：

# 获取特征重要性
coef = model.coef_
for i, feature in enumerate(["漏洞数", "威胁情报", "访问频率"]):
    print(f"{feature}权重: {coef[i]:.2f}")

输出示例：漏洞数权重: 0.82 | 威胁情报权重: 0.15...
安全价值：优先修补高权重漏洞

网络安全特殊考量：
- 处理对抗样本：攻击者故意输入扰动数据污染模型
- 时间序列特性：周末攻击模式≠工作日（需添加星期特征）

📌 行动项（Next Steps）

尝试用Lasso回归自动筛选关键安全特征
在ELK日志系统中部署回归预测：预测未来1小时异常登录次数
探索时间序列回归：ARIMA预测DDoS攻击浪潮

“在网络安全中，线性回归不是最耀眼的模型，却是部署最广的沉默卫士——以85%的简单问题覆盖率，释放高阶模型资源应对APT攻击。”