- 博客(8)
- 收藏
- 关注
原创 线性回归的从零开始实现
接下来,我们必须定义模型,将模型的输入和参数同模型的输出关联起来。回想一下,要计算线性模型的输出, 我们只需计算输入特征X和模型权重w的矩阵-向量乘法后加上偏置b。注意,上面的Xw是一个向量,而b是一个标量。回想一下 数据操作中描述的广播机制: 当我们用一个向量加一个标量时,标量会被加到向量的每个分量上。"""线性回归模型"""因为需要计算损失函数的梯度,所以我们应该先定义损失函数。这里我们使用 线性回归中描述的平方损失函数。在实现中,我们需要将真实值y的形状转换为和预测值y_hat的形状相同。
2024-11-12 21:42:03
1181
原创 线性神经网络--线性回归
回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。在自然科学和社会科学领域,回归经常用来表示输入和输出之间的关系。在机器学习领域中的大多数任务通常都与预测(prediction)有关。当我们想预测一个数值时,就会涉及到回归问题。常见的例子包括:预测价格(房屋、股票等)、预测住院时间(针对住院病人等)、 预测需求(零售销量等)。但不是所有的预测都是回归问题。在后面的章节中,我们将介绍分类问题。分类问题的目标是预测数据属于一组类别中的哪一个。
2024-11-12 10:57:20
860
原创 深度学习预备知识--概率
简单地说,机器学习就是做出预测。根据病人的临床病史,我们可能想预测他们在下一年心脏病发作的概率。在飞机喷气发动机的异常检测中,我们想要评估一组发动机读数为正常运行情况的概率有多大。在强化学习中,我们希望智能体(agent)能在一个环境中智能地行动。这意味着我们需要考虑在每种可行的行为下获得高奖励的概率。当我们建立推荐系统时,我们也需要考虑概率。例如,假设我们为一家大型在线书店工作,我们可能希望估计某些用户购买特定图书的概率。为此,我们需要使用概率学。
2024-11-11 21:46:42
918
1
原创 深度学习预备知识--自动微分
正如微积分文章中所说,求导是几乎所有深度学习优化算法的关键步骤。虽然求导的计算很简单,只需要一些基本的微积分。但对于复杂的模型,手工进行更新是一件很痛苦的事情(而且经常容易出错)。深度学习框架通过自动计算导数,即自动微分(automatic differentiation)来加快求导。实际中,根据设计好的模型,系统会构建一个计算图(computational graph), 来跟踪计算是哪些数据通过哪些操作组合起来产生输出。自动微分使系统能够随后反向传播梯度。
2024-11-11 20:34:35
914
原创 深度学习预备知识--微积分
在2500年前,古希腊人把一个多边形分成三角形,并把它们的面积相加,才找到计算多边形面积的方法。为了求出曲线形状(比如圆)的面积,古希腊人在这样的形状上刻内接多边形。如 图2.4.1所示,内接多边形的等长边越多,就越接近圆。这个过程也被称为逼近法(method of exhaustion)。事实上,逼近法就是积分(integral calculus)的起源。2000多年后,微积分的另一支,微分(differential calculus)被发明出来。
2024-11-11 17:12:29
1349
原创 深度学习预备知识--线性代数
在介绍完如何存储和操作数据后,接下来将简要地回顾一下部分基本线性代数内容。这些内容有助于读者了解和实现本书中介绍的大多数模型。本节将介绍线性代数中的基本数学对象、算术和运算,并用数学符号和相应的代码实现来表示它们。
2024-11-11 14:56:22
1087
原创 【深度学习预备知识--数据操作】
要学习深度学习,首先需要先掌握一些基本技能。所有机器学习方法都涉及从数据中提取信息。因此,我们先学习一些关于数据的实用技能,包括存储、操作和预处理数据。机器学习通常需要处理大型数据集。我们可以将某些数据集视为一个表,其中表的行对应样本,列对应属性。线性代数为人们提供了一些用来处理表格数据的方法。我们不会太深究细节,而是将重点放在矩阵运算的基本原理及其实现上。深度学习是关于优化的学习。对于一个带有参数的模型,我们想要找到其中能拟合数据的最好模型。
2024-11-11 11:18:59
1111
原创 【深度学习环境说明】
写代码推荐使用Jupyter Lab ,Jupyter Lab 是一个功能强大且灵活的交互式开发环境,特别适合数据科学和科学计算领域。它提供了丰富的功能,如多文档类型支持、文件浏览器、多标签界面和拖放功能,以及强大的扩展性和实时协作能力。然而,Jupyter Lab 也存在一些缺点,如启动时间较长、资源消耗较大和学习曲线较陡峭。尽管如此,对于需要高效管理和处理复杂数据任务的用户来说,Jupyter Lab 仍然是一个非常优秀的选择。如果机器没有任何GPU,没有必要担心,CPU也可以将就一下。
2024-11-11 09:51:39
255
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅