机器学习——简单线性模型预测与分析

最新推荐文章于 2025-06-25 17:12:17 发布

原创最新推荐文章于 2025-06-25 17:12:17 发布 · 9.7k 阅读

18 ·

CC 4.0 BY-SA版权

大数据/机器学习/人工智能专栏收录该内容

13 篇文章

订阅专栏

本文通过实例演示了如何使用TensorFlow实现简单的线性模型预测，并通过调整学习率等参数来观察对训练效果的影响。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文章参考http://weixin.niurenqushi.com/article/2016-08-21/4400879.html

对简单线性模型预测进行一些重点突出与调参测试以达到对一些参数进行分析的目标。

先了解两个概念（这里直接引用，想深入了解请点击链接）：

1、模型

为了使用机器学习来做预测，我们需要选择一个能够拟合收集到的数据的最佳模型。

（1）线性模型：我们可以选择一个线性（直线）模型，并通过改变其陡度/梯度和位置对其进行调整，从而匹配数据点。

例如模型：y = a * x + b

从图中我们可以看出，参数a是调整直线的斜率，也就是我们机器学习里说的梯度。参数b可以调整直线的位置。

我们常常将a称为Weights（权重），b称为biases（偏执）。模型就可以转换成：y = Weights * x + biases。

（2）指数模型：当然，我们也可以选择一个指数（曲线）模型，并通过改变其曲率（curvature）和位置对其进行调整，从而匹配同一数据点集。

大家可以从图中看出中间的那条曲线拟合程度最好。

2、成本函数

为了比较哪个模型拟合得更严密，数学上我们将最佳拟合定义为一个需要被最小化的成本函数。成本函数的一个简单样例是每个数据点所代表的实际输出与预测输出之间偏差的绝对值总和（实际结果到最佳拟合曲线的垂直投影）。用图表表示，成本函数被描述为下表中蓝色线段的长度和。

图中计算点到线的距离采用了垂直投影来表示，其实这里并不是按照严格的数学公式推导，而是通过不改变结果的逻辑推导，推导过程后续贴出来。

注意：更准确地说，成本函数往往是实际输出和预测输出之间的方差，因为差值有时是负数；这也称为最小二乘法。

好了，概念了解完毕，下面就举个栗子，我们就来预测简单的线性模型：y = Weights * x + biases

例如我们随便设置一个实际模型：y = 7 * x + 20

我们希望通过机器学习给出最接近的权重和偏执值：Weights = 7，biases = 20

这两个值与实际值越接近说明我们训练出来的模型就好。

打开Spyder编译器，Tensorflow以及Spyder的环境安装上篇已经介绍过了。

首先引入tensorflow与numpy（科学计算库）

import tensorflow as tf
import numpy as np

完整代码如下：

import tensorflow as tf
import numpy as np

#随机生成100个测试数据集x_data
x_data = np.random.rand(100).astype(np.float32)
#构建实际的 y 值
y = 7 * x_data + 20

#声明权重 Weights 为1维，范围可以随便写
Weights = tf.Variable(tf.random_uniform([1],-1,1))
#声明偏执 riase 为1维，值为0
riase = tf.Variable(tf.zeros([1]))
#注意：权重和偏执都是tensorflow变量，因为tensorflow会在训练过程中不断调整这两个值

#构建预测 y_pre 值
y_pre = Weights * x_data + riase

#成本函数：最小均方误差
cost = tf.reduce_mean(tf.square(y_pre - y))
#采用梯度下降算法最小化成本函数
#将学习率改为0.9可以看出 Weights 与 riase 的值来回震荡，这时候说明学习率大了，要调小
train = tf.train.GradientDescentOptimizer(0.5).minimize(cost)

#构建tensorflow会话
with tf.Session() as sess:
    #初始化tensorflow所有变量
    sess.run(tf.initialize_all_variables())
    #开始循环301次训练
    for step in range(301):
        sess.run(train)
        if step % 20 == 0:
            print(step,sess.run(cost),sess.run(Weights),sess.run(riase))

点击运行后查看训练输出结果：