<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[LNNNNNNNNLLLL的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; LNNNNNNNNLLLL]]></copyright><item><title><![CDATA[深入解析 Transformer：开启自然语言处理新时代的革命性模型]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149322665</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149322665</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 14 Jul 2025 08:51:40 +0800</pubDate><description><![CDATA[MultiHead(Q,K,V)=Concat(head1​,head2​,...,headh​)WO，其中​headi​=Attention(QWiQ​,KWiK​,VWiV​)，​h是头的数量，​WiQ​、​WiK​、​WiV​和​WO是可学习的参数矩阵。其中​pos是位置索引，​dmodel​是模型的维度。Attention(Q,K,V)=softmax(dk​​QKT​)V，其中​dk​是键向量的维度，除以​dk​​是为了防止注意力分数过大，导致 softmax 函数梯度消失。]]></description><category></category></item><item><title><![CDATA[门控循环单元（GRU）：LSTM 的轻量级高效 “记忆专家”]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149031328</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149031328</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 30 Jun 2025 20:55:23 +0800</pubDate><description><![CDATA[GRU 就像是神经网络领域里的 “精简版记忆大师”，它继承了 LSTM 处理长序列数据的优势，同时以更简洁的结构和更高的训练效率脱颖而出。GRU 对 LSTM 进行了简化，将遗忘门和输入门合并为一个更新门，同时将细胞状态和隐藏状态进行了合并，使得模型的参数更少、结构更简单，训练速度更快，并且在很多任务上能够取得与 LSTM 相当的效果。门控循环单元（GRU）用精简的结构和高效的运作，证明了在神经网络的世界里，“轻装上阵” 同样可以成为优秀的 “记忆专家”。二、GRU 的结构：双门控的高效运作​。]]></description><category></category></item><item><title><![CDATA[长短期记忆网络（LSTM）：让神经网络拥有 “持久记忆力” 的神奇魔法]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149031300</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/149031300</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 30 Jun 2025 20:53:19 +0800</pubDate><description><![CDATA[简单来说，当处理的序列数据较长时，RNN 在反向传播过程中，梯度会随着时间步长不断传播，由于链式求导的缘故，梯度会越来越小（梯度消失）或者越来越大（梯度爆炸），导致网络难以训练，无法有效学习到长距离的依赖关系。data = np.reshape(data, (data.shape[0], data.shape[1], 1)) # 增加一个维度，因为LSTM要求输入是三维的​。data = np.random.randn(100, time_steps) # 100个样本，每个样本包含10个时间步的数据​。]]></description><category></category></item><item><title><![CDATA[循环神经网络（RNN）：序列数据处理的强大工具]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148743478</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148743478</guid><author>LNNNNNNNNLLLL</author><pubDate>Wed, 18 Jun 2025 16:33:00 +0800</pubDate><description><![CDATA[inline_LaTeX_Formula>W_{hh}<\inline_LaTeX_Formula > 是隐藏状态到隐藏状态的权重矩阵，<inline_LaTeX_Formula>W_{xh}<\inline_LaTeX_Formula > 是输入到隐藏状态的权重矩阵，<inline_LaTeX_Formula>b_h<\inline_LaTeX_Formula > 是偏置项。传统的前馈神经网络在处理数据时，假设输入数据之间是相互独立的，即每个输入样本的处理都不依赖于其他样本的信息。]]></description><category></category></item><item><title><![CDATA[探秘卷积神经网络（CNN）：从原理到实战的深度解析]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148723864</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148723864</guid><author>LNNNNNNNNLLLL</author><pubDate>Tue, 17 Jun 2025 21:00:44 +0800</pubDate><description><![CDATA[它借鉴了视觉皮层神经元的感受野机制，通过卷积、池化等操作，自动提取图像的局部特征，减少参数数量，降低计算复杂度，同时有效保留图像的空间结构信息，在图像相关任务中展现出远超传统神经网络的性能。通过池化操作，特征图的尺寸变小，但重要的特征依然能够被保留下来。用数学公式表示，假设输入图像为 ​I，卷积核为 ​K，输出特征图为 ​O，则卷积操作可表示为：​O(i,j)=m=0∑M−1​n=0∑N−1​I(i+m,j+n)K(m,n)其中，​M和 ​N分别是卷积核的高度和宽度，​(i,j)是输出特征图的坐标。]]></description><category></category></item><item><title><![CDATA[深入剖析神经网络：从基础原理到前沿应用的全面指南]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148723816</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148723816</guid><author>LNNNNNNNNLLLL</author><pubDate>Tue, 17 Jun 2025 20:59:01 +0800</pubDate><description><![CDATA[它基于梯度下降原理，通过计算预测结果 ​y^​与真实标签 ​y的误差（常用损失函数衡量，如均方误差 ​MSE=n1​i=1∑n​(y^​i​−yi​)2或交叉熵损失 ​L=−i=1∑n​yi​log(y^​i​)），从输出层反向传播到输入层，计算每个参数的梯度，进而更新权重和偏置。x1​,x2​,...,xn​，每个输入对应一个权重 ​w1​,w2​,...,wn​，神经元先对输入信号与权重进行加权求和：​z=i=1∑n​wi​xi​+b，其中 ​b为偏置项。一、神经网络的生物学根基与基本概念​。]]></description><category></category></item><item><title><![CDATA[深入理解 PyTorch：从基础到高级应用]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148625188</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148625188</guid><author>LNNNNNNNNLLLL</author><pubDate>Fri, 13 Jun 2025 09:08:59 +0800</pubDate><description><![CDATA[从张量的创建和运算，到自动求导、神经网络训练，再到预训练模型、自定义数据集和分布式训练，涵盖了 PyTorch 在深度学习开发中的主要方面。希望通过本文的学习，你能够对 PyTorch 有更深入的理解，并在实际项目中熟练运用这一强大的深度学习框架。随着深度学习技术的不断发展，PyTorch 也在持续更新和完善，未来还会有更多强大的功能和应用场景等待我们去探索和实践。在深度学习的浪潮中，PyTorch 凭借其简洁易用、动态计算图等特性，迅速成为众多开发者和研究人员的首选框架。]]></description><category></category></item><item><title><![CDATA[从 0 到 1 揭秘深度学习：未来科技的 “大脑” 如何重塑世界？]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148551634</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148551634</guid><author>LNNNNNNNNLLLL</author><pubDate>Tue, 10 Jun 2025 09:15:53 +0800</pubDate><description><![CDATA[此后，1958 年弗兰克・罗森布拉特（Frank Rosenblatt）发明的感知机，成为首个可以实际运行的神经网络模型，但由于计算能力的限制和理论瓶颈，神经网络的发展在 20 世纪 80 年代陷入低谷。英伟达（NVIDIA）的 CUDA 平台和 cuDNN 库成为深度学习硬件加速的行业标准，而 TPU（张量处理单元）、ASIC（专用集成电路）等定制化芯片的出现，进一步推动了深度学习在边缘计算和实时应用中的落地。深度学习的故事才刚刚开始，它不仅是一项技术，更是一扇通往智能未来的大门。]]></description><category></category></item><item><title><![CDATA[数据挖掘实战项目：电商用户购买行为分析]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148531404</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148531404</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 09 Jun 2025 11:44:00 +0800</pubDate><description><![CDATA[本次数据挖掘实战项目通过对电商用户购买行为数据的分析和挖掘，成功地发现了用户的行为模式、偏好和需求，为电商平台的运营和发展提供了有价值的参考。设置最小支持度为 5%，最小置信度为 70%，挖掘出了一些有价值的关联规则，如购买手机的用户通常会同时购买手机壳和充电器，购买洗发水的用户通常会同时购买沐浴露等。使用 Tableau 工具搭建了一个数据仪表盘，将关键的分析指标和图表进行整合和展示，方便用户直观地了解电商平台的用户购买行为和运营情况。]]></description><category></category></item><item><title><![CDATA[Git 使用完全指南：从入门到协作开发]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148486625</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148486625</guid><author>LNNNNNNNNLLLL</author><pubDate>Sat, 07 Jun 2025 08:48:10 +0800</pubDate><description><![CDATA[在.gitconfig文件添加：ini[alias]使用git lg即可查看美观的日志视图。]]></description><category></category></item><item><title><![CDATA[深入理解卷积神经网络：从原理到应用]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148420586</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148420586</guid><author>LNNNNNNNNLLLL</author><pubDate>Wed, 04 Jun 2025 09:52:32 +0800</pubDate><description><![CDATA[如今，无论是手机相册的人脸识别、自动驾驶的实时路况分析，还是医疗影像的肿瘤检测，CNN 都在其中扮演着核心角色。以 32x32 像素的彩色图像为例，输入层神经元数量达到 32x32x3=3072 个，第一层若有 1000 个神经元，仅输入层到第一层的连接就超过 300 万条。（三）全连接层（Fully Connected Layer）：从特征到决策的桥梁​。（一）卷积层（Convolutional Layer）：特征提取的引擎​。（二）池化层（Pooling Layer）：特征的精简与抽象​。]]></description><category></category></item><item><title><![CDATA[KMeans 算法深度解析：从原理到实战]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148419676</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148419676</guid><author>LNNNNNNNNLLLL</author><pubDate>Wed, 04 Jun 2025 09:25:23 +0800</pubDate><description><![CDATA[该算法通过将 n 个数据点划分为 k 个簇，使得每个数据点属于离其最近的均值（簇中心）所在的簇，最终实现 "物以类聚" 的效果。KMeans 算法作为聚类分析的入门级算法，虽有一定局限性，但通过合理的初始化方法（KMeans++）、科学的 K 值选择（肘部法则 + 轮廓系数）和针对性优化（MiniBatch），能够在多数实际场景中发挥重要作用。将样本分配到距离最小的簇，形成当前划分​{C1​,C2​,...,Ck​}。对于每个样本点​xj​，计算其与所有质心​μi​的欧氏距离：​​。]]></description><category></category></item><item><title><![CDATA[探秘集成学习：从基础概念到实战应用]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148385749</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148385749</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 02 Jun 2025 19:53:24 +0800</pubDate><description><![CDATA[例如，假设有 10 个基学习器对某个样本进行回归预测，每个基学习器的预测值都存在一定的误差，有的偏高，有的偏低，当对这 10 个预测值进行平均时，偏高和偏低的误差就有可能相互抵消，使得最终的平均预测值更接近真实值。Boosting 是一种串行式的集成学习方法，它的核心思路是基于基学习器之间存在的依赖关系，通过迭代的方式不断对训练样本的权重进行调整，促使后续的基学习器能够更加关注之前学习器预测错误的样本。其具体操作过程如下：​。（一）Bagging（自助采样聚合）​。（二）Boosting（提升）​。]]></description><category></category></item><item><title><![CDATA[深入解析决策树：从原理到实践]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148378399</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148378399</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 02 Jun 2025 09:25:15 +0800</pubDate><description><![CDATA[例如，对于一个包含用户 ID 的属性，每个用户 ID 都是唯一的，依据它划分数据集会使每个子集都只包含一个样本，信息增益会非常大，但这样的划分在实际应用中往往没有意义。根节点是所有待判断的人员数据，内部节点可能是 “身高是否大于 180cm”“体重是否在合理范围内” 等判断条件，根据这些条件对数据进行分支，最终到达叶节点，给出 “适合打篮球” 或 “不适合打篮球” 的结论。以天气属性为例，当依据天气属性对数据集进行划分后，计算划分后每个子集的熵，并根据子集大小进行加权求和，得到条件熵​。]]></description><category></category></item><item><title><![CDATA[逻辑回归详解：从原理到实践]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148318036</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148318036</guid><author>LNNNNNNNNLLLL</author><pubDate>Thu, 29 May 2025 21:10:51 +0800</pubDate><description><![CDATA[逻辑回归基于线性回归模型，但引入了一个关键的转换函数 ——Sigmoid 函数，将线性回归模型的输出值映射到 [0, 1] 区间，使其能够表示某一事件发生的概率。假设线性回归模型的输出为​，其中​是参数向量，​是特征向量。Sigmoid 函数的表达式为：​。逻辑回归不仅可以处理二分类问题，还可以通过扩展应用于多分类问题，常见的方法有 “一对多（One-vs-Rest，OvR）” 和 “多对多（One-vs-One，OvO）”。假设样本数据集​，其中​是第​个样本的特征向量，​是第​个样本的真实标签。]]></description><category></category></item><item><title><![CDATA[深入剖析机器学习之波士顿房价案例]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148254961</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148254961</guid><author>LNNNNNNNNLLLL</author><pubDate>Tue, 27 May 2025 12:17:42 +0800</pubDate><description><![CDATA[均方误差衡量了预测值与真实值之间误差的平方的平均值，均方根误差是均方误差的平方根，它与目标变量的单位相同，更直观地反映了误差的大小。这里alphas是一个包含一系列可能的正则化参数值的数组，scoring指定了用于评估模型性能的指标（这里使用负均方误差，因为RidgeCV会选择使该指标最大化的alpha值），cv表示交叉验证的折数。系数表示每个特征对目标变量的影响程度，截距则是当所有特征为 0 时目标变量的值（在实际应用中，所有特征为 0 的情况可能没有实际意义，但在数学模型中有其作用）。]]></description><category></category></item><item><title><![CDATA[机器学习中的线性回归：从理论到实践的深度解析]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148238594</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148238594</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 26 May 2025 19:55:05 +0800</pubDate><description><![CDATA[线性回归是机器学习的基石，其核心思想是通过最小化误差平方和来拟合数据。无论是理论推导（损失函数、梯度下降）还是实际应用（代码实现、模型评估），都体现了简洁与高效的特点。掌握线性回归不仅能解决实际问题，还能为理解更复杂的模型（如逻辑回归、岭回归、Lasso 回归）奠定基础。在实践中，需结合数据特点选择优化算法（梯度下降 vs 正规方程），并通过特征工程和正则化提升模型性能，应对非线性和共线性等挑战。通过本文的解析与实战，相信你已对线性回归有了全面的理解。]]></description><category></category></item><item><title><![CDATA[深度解析生成式 AI：从技术原理到实战应用]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148218268</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148218268</guid><author>LNNNNNNNNLLLL</author><pubDate>Mon, 26 May 2025 08:47:10 +0800</pubDate><description><![CDATA[生成式人工智能（Generative AI）是通过深度学习模型自动创造文本、图像、代码、视频等内容的技术体系，其核心在于从数据中学习概率分布并生成符合人类认知的输出。与传统判别式 AI（如图像分类）不同，生成式 AI 实现了从 "识别" 到 "创造" 的跨越，典型应用包括：​。prompts = ["### 问题：{}\n### 回答：{}".format(q, a) for q, a in zip(examples["question"], examples["answer"])]​。]]></description><category></category></item><item><title><![CDATA[KNN 算法详解：从原理到实践的全面解析]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148195344</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148195344</guid><author>LNNNNNNNNLLLL</author><pubDate>Sat, 24 May 2025 20:01:52 +0800</pubDate><description><![CDATA[它通过计算新数据点与训练数据集中所有样本点的距离，找出距离最近的 K 个邻居，然后根据这 K 个邻居的类别（分类任务）或数值（回归任务）来确定新数据点的类别或预测值。对于回归任务，我们计算这 K 个邻居的数值标签的平均值或加权平均值（根据距离远近赋予不同权重，距离越近权重越高），将其作为测试数据点的预测值。根据计算得到的距离，对训练数据集中的所有样本点按照距离从小到大进行排序，然后选取距离测试数据点最近的 K 个样本点作为它的邻居。对于测试数据集中的每一个数据点，计算它与训练数据集中所有样本点的距离。]]></description><category></category></item><item><title><![CDATA[深入理解网格搜索与交叉验证：优化机器学习模型的利器]]></title><link>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148195317</link><guid>https://blog.youkuaiyun.com/LNNNNNNNNLLLL/article/details/148195317</guid><author>LNNNNNNNNLLLL</author><pubDate>Sat, 24 May 2025 19:59:40 +0800</pubDate><description><![CDATA[在机器学习模型中，参数是模型在训练过程中通过数据学习得到的变量，比如神经网络中的权重和偏置。在前面网格搜索的代码示例中，我们已经看到了两者的结合使用，GridSearchCV类内部就实现了交叉验证的过程，在对每个超参数组合进行评估时，使用交叉验证来计算得分，从而选择出最优的超参数组合。网格搜索的基本思想非常简单直观，它通过穷举搜索的方式，在给定的超参数取值范围内，尝试所有可能的超参数组合，并根据指定的评估指标（如准确率、均方误差等）来评估每个组合下模型的性能，最终选择性能最优的超参数组合作为模型的配置。]]></description><category></category></item></channel></rss>