m0_73524121的博客

Softmax回归用于多分类问题，其中每个类别都有一个对应的输出。该模型有多个仿射函数，每个输出类别一个。在我们的例子中，有4个输入特征和3个输出类别，因此需要12个权重参数（w）和3个偏置参数（b）。对于每个输入样本，计算三个未规范化的预测值（logits）：o1、o2和o3，每个都是输入特征和相应权重的线性组合加上偏置。Softmax回归可以被视为一个单层的全连接神经网络。使用线性代数表示，所有权重被组织在一个矩阵W中，输出o通过矩阵-向量乘法 Wx+b 计算得出。

我的上一篇文章深度学习与神经网络Pytorch版 3.2 线性回归从零开始实现 1.生成数据集详细讲述了线性回归的原理，步骤，应用场景，优缺点，以及生成数据集这一步骤下面将介绍线性回归从零开始实现的余下步骤。代码参考《动手学深度学习》。我正在学习《动手学深度学习》文中的代码参照书中代码，也可以认为这是一片笔记我将代码运行了运行，添加了一些注释，感觉对代码的了解还不是很深入，只能说在心里大致有一个轮廓，之后我会不断加强学习，争取推陈出新。

深度学习线性回归的原理是基于神经网络和线性回归的结合。它使用神经网络来构建一个复杂的非线性模型，同时保持线性回归的简单性和可解释性。在深度学习线性回归中，通常使用全连接神经网络（Fully Connected Neural Network）作为基础结构。输入数据经过一系列的线性变换和非线性激活函数，最终输出预测结果。与传统的线性回归不同，深度学习线性回归可以自动学习特征之间的复杂交互和组合，而不需要手动选择或设计特征。

深度学习与线性代数之间有着密切的联系。线性代数是深度学习算法中用于表达和处理数据的数学工具之一，尤其是在构建神经网络和处理多维数据时。线性代数中的基本概念包括向量、矩阵和线性变换等，这些概念在深度学习中有着广泛的应用。例如，在神经网络的训练过程中，权重和偏差可以看作是矩阵和向量，它们通过线性变换来改变输入数据的特征，从而实现分类或回归等任务。此外，线性代数中的范数也是深度学习中常用的概念。范数可以用来衡量向量的大小，对于限制模型复杂度和提升模型的泛化能力具有重要作用。

pandas软件包是Python中常用的数据分析工具中，pandas可以与张量兼容。用pandas处理缺失的数据时，我们可根据情况选择用插值法和删除法。

PyTorch是一个开源的深度学习框架，由Facebook于2016年发布的第一个开源项目。与TensorFlow等其他深度学习框架相比，PyTorch更加灵活和易于使用，尤其适合快速原型设计和实验。以下是PyTorch的一些主要特点：1.动态计算图：PyTorch使用动态计算图，这意味着您可以在运行时构建和更改计算图。这使得模型开发和调试更加直观和灵活。2.易于使用的API：PyTorch的API设计得非常直观，使得开发者可以轻松地构建和训练神经网络。