对线性回归模型的两种分析方法-闭式方程&迭代优化即梯度下降

wu_xying

于 2021-04-24 21:33:00 发布

阅读量663

点赞数

文章标签：机器学习

本文链接：https://blog.youkuaiyun.com/wu_xying/article/details/116106472

版权

本文深入探讨了线性回归模型的两种求解方法：闭式方程，一种直接求解最优解的数学方法；以及迭代优化的梯度下降法，通过不断调整权重以最小化损失函数。这两种方法在机器学习中有着广泛应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import numpy

X = 2 * numpy.random.rand(100, 1)
Y = 4 + 3 * X + numpy.random.randn(100, 1)

import matplotlib.pyplot as plt

plt.plot(X, Y, 'b.')

[<matplotlib.lines.Line2D at 0x152a8c1a4c0>]

在这里插入图片描述

# numpy.ones（）函数返回给定形状和数据类型的新数组，其中元素的值设置为1
X_b = numpy.c_[numpy.ones((100, 1)), X] # add x0 = 1 to each instance
theta_best = numpy.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(Y) # 线性回归最优参数矩阵
# numpy.linalg.inv() 函数计算矩阵的乘法逆矩阵

最低0.47元/天解锁文章