<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[2201_75496030的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/2201_75496030</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; 2201_75496030]]></copyright><item><title><![CDATA[Transformer基础架构详解（附图 + Python Demo）]]></title><link>https://blog.youkuaiyun.com/2201_75496030/article/details/159347097</link><guid>https://blog.youkuaiyun.com/2201_75496030/article/details/159347097</guid><author>2201_75496030</author><pubDate>Sun, 22 Mar 2026 09:32:57 +0800</pubDate><description><![CDATA[Transformer模型的出现是为了解决RNN/LSTM的固有缺陷：1）无法并行计算导致的训练效率低下；2）难以捕捉长距离依赖关系。Transformer通过自注意力机制和多头注意力实现了全局信息交互，使每个词元都能直接关注序列中的任意位置。其核心架构包含编码器和解码器堆叠层，其中编码器由自注意力模块和前馈网络组成，通过多头注意力从不同角度学习词元关系，配合残差连接和层归一化优化训练。这种设计突破了序列模型的串行计算限制，为自然语言处理带来革命性进步。]]></description><category></category></item></channel></rss>