<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[efilU的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/efilU</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; efilU]]></copyright><item><title><![CDATA[从transformer到bart]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/146148600</link><guid>https://blog.youkuaiyun.com/efilU/article/details/146148600</guid><author>efilU</author><pubDate>Mon, 10 Mar 2025 18:15:32 +0800</pubDate><description><![CDATA[上文我们介绍了transformer的encoder部分并介绍了其延申bert模型，本文将开始介绍transformer的decoder部分同时介绍bart模型。]]></description><category></category></item><item><title><![CDATA[从transformer到bert]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/146093918</link><guid>https://blog.youkuaiyun.com/efilU/article/details/146093918</guid><author>efilU</author><pubDate>Fri, 07 Mar 2025 17:11:11 +0800</pubDate><description><![CDATA[在上文介绍完自注意力机制后，本文介绍基于自注意力机制的transformer架构中的encoder部分，以及由transformer的encoder部分而来的bert模型。]]></description><category></category></item><item><title><![CDATA[自注意力机制]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/146068206</link><guid>https://blog.youkuaiyun.com/efilU/article/details/146068206</guid><author>efilU</author><pubDate>Thu, 06 Mar 2025 17:08:55 +0800</pubDate><description><![CDATA[在进行图像与卷积的学习后，我们知道一张图片可以由RGB三通道的矩阵表示，即图片天然可以由数字表示。那么进入到自然语言处理领域，我们该怎样用数据表示文字并将其输入到模型呢？]]></description><category></category></item><item><title><![CDATA[task 1]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/145770793</link><guid>https://blog.youkuaiyun.com/efilU/article/details/145770793</guid><author>efilU</author><pubDate>Fri, 21 Feb 2025 17:32:25 +0800</pubDate><description><![CDATA[本文主要是对中task1所遇问题的记录，详细代码见我的。]]></description><category></category></item><item><title><![CDATA[day4 回归项目——covid-19预测]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/144974614</link><guid>https://blog.youkuaiyun.com/efilU/article/details/144974614</guid><author>efilU</author><pubDate>Mon, 06 Jan 2025 23:25:27 +0800</pubDate><description><![CDATA[【代码】day4 回归项目——covid-19预测。]]></description><category></category></item><item><title><![CDATA[day3 线性表示代码]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/144927826</link><guid>https://blog.youkuaiyun.com/efilU/article/details/144927826</guid><author>efilU</author><pubDate>Sat, 04 Jan 2025 12:17:50 +0800</pubDate><description><![CDATA[任务背景通过模拟随机生成真实数据x1x2x3x4x1​x2​x3​x4​和对应的y′y'y′，通过训练预测系数wbw, bwb。# 定义理想参数num = 500 # 数据规模true_b = torch.tensor(1.1) # torch.tensor为创建张量的函数# 定义原始参数lr = 0.03。]]></description><category></category></item><item><title><![CDATA[day2 多层神经网络]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/144891151</link><guid>https://blog.youkuaiyun.com/efilU/article/details/144891151</guid><author>efilU</author><pubDate>Thu, 02 Jan 2025 21:08:57 +0800</pubDate><description><![CDATA[有模型复杂化（增加神经网络的隐藏层数和隐藏单元数、更换更复杂的算法或模型），增加更多的特征，调整参数和超参数，降低正则化约束。如果没有激活函数，无论网络多么复杂，最后的输出都是输入的线性组合，而纯粹的线性组合并不能解决更为复杂的问题。有降低模型复杂度，减少特征数（去除非共性特征，提高模型泛化），增加训练数据数，调整参数和超参数，使用正则化约束。引入激活函数后，由于激活函数都是非线性的，这便给神经元引入了非线性元素，使得神经网络可以逼近任何非线性函数。在求解的过程中，所有的参数被表示为一个向量。]]></description><category></category></item><item><title><![CDATA[day1 前置知识]]></title><link>https://blog.youkuaiyun.com/efilU/article/details/144851712</link><guid>https://blog.youkuaiyun.com/efilU/article/details/144851712</guid><author>efilU</author><pubDate>Tue, 31 Dec 2024 17:18:07 +0800</pubDate><description><![CDATA[规则+数据—>答案。]]></description><category></category></item></channel></rss>