<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[AIMing_byte的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/AIMing_byte</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; AIMing_byte]]></copyright><item><title><![CDATA[程序员转行学习 AI 大模型：模型评估｜ 附清晰概念分类]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586332</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586332</guid><author>AIMing_byte</author><pubDate>Sun, 29 Mar 2026 17:00:00 +0800</pubDate><description><![CDATA[本文是程序员转行学习AI大模型的第19个核心知识点笔记，附完整可运行代码。
当前阶段：还在学习知识点，由点及面，从 0 到 1 搭建 AI 大模型知识体系中。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型：大模型安全与对齐｜ 附清晰概念分类]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586285</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586285</guid><author>AIMing_byte</author><pubDate>Sun, 29 Mar 2026 15:00:00 +0800</pubDate><description><![CDATA[本文是程序员转行学习AI大模型的第18个核心知识点笔记，附完整可运行代码。
当前阶段：还在学习知识点，由点及面，从 0 到 1 搭建 AI 大模型知识体系中。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型：模型微调快速入门实践｜ 附完整可运行代码]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586244</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586244</guid><author>AIMing_byte</author><pubDate>Sun, 29 Mar 2026 09:45:00 +0800</pubDate><description><![CDATA[本文是 程序员 转行学习AI大模型的第17个核心知识点笔记，附完整可运行代码。
当前阶段：还在学习知识点，由点及面，从 0 到 1 搭建 AI 大模型知识体系中。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： 踩坑记录：服务器内存不够，程序被killed]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586218</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586218</guid><author>AIMing_byte</author><pubDate>Sat, 28 Mar 2026 21:11:33 +0800</pubDate><description><![CDATA[本文是程序员转行学习AI大模型的踩坑记录分享。
当前阶段：还在学习知识点，由点及面，从 0 到 1 搭建 AI 大模型知识体系中。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： 踩坑记录，HuggingFace镜像设置未生效]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586185</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586185</guid><author>AIMing_byte</author><pubDate>Sat, 28 Mar 2026 21:09:49 +0800</pubDate><description><![CDATA[本文是程序员转行学习AI大模型的踩坑记录分享。
当前阶段：还在学习知识点，由点及面，从 0 到 1 搭建 AI  大模型知识体系中。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： 模型微调｜ 附清晰概念分类]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586158</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159586158</guid><author>AIMing_byte</author><pubDate>Sat, 28 Mar 2026 21:06:47 +0800</pubDate><description><![CDATA[本文系统梳理了AI大模型微调的核心概念与技术路线。首先区分了预训练（通用知识学习）与微调（领域知识训练）两个阶段，将微调方法按数据类型分为监督微调（SFT）和偏好优化（PO），按参数量分为全量微调与PEFT（含LoRA、Prefix Tuning等方法）。重点对比了DPO与PPO两种偏好优化算法的优缺点，并给出问答系统、对话助手等场景的微调方案建议。文章为开发者提供了从理论到实践的完整微调知识框架，特别强调资源效率与效果平衡的技术选型策略。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： Agent（智能体）｜ 附完整可运行代码]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159552433</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159552433</guid><author>AIMing_byte</author><pubDate>Fri, 27 Mar 2026 19:50:50 +0800</pubDate><description><![CDATA[本文介绍了程序员转行学习AI大模型的核心知识点——智能体(Agent)的概念与实现。Agent作为能感知环境、决策执行的智能系统，包含LLM(大脑)、工具调用、记忆存储和任务规划四个核心组件。文章通过查询天气并发送提醒的示例，详细说明了Agent的内部运行流程，并提供了一个简单的Python实现代码，演示了如何构建具有天气查询和计算功能的对话式Agent。文中还推荐了相关学习资源，帮助读者从零开始构建AI智能体。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： RAG（检索增强生成）｜ 附清晰业务流程示例]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159552410</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159552410</guid><author>AIMing_byte</author><pubDate>Fri, 27 Mar 2026 19:47:36 +0800</pubDate><description><![CDATA[本文介绍了RAG（检索增强生成）技术，这是程序员转行学习AI大模型的第14个核心知识点。RAG通过结合LLM和检索技术，利用外部知识库增强大模型生成能力。文章详细阐述了RAG的6个核心流程步骤：问题向量化、向量检索、文档排序、上下文构建、Prompt构建和LLM生成，并提供了Python代码示例。RAG的优势包括减少幻觉、提高准确性、可解释性强、易于更新知识库和成本可控。每个步骤都配有清晰的代码实现和输出示例，帮助读者理解如何从0到1构建AI大模型知识体系。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： Function Calling ｜ 附清晰业务流程示例]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513890</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513890</guid><author>AIMing_byte</author><pubDate>Thu, 26 Mar 2026 20:00:29 +0800</pubDate><description><![CDATA[本文介绍了AI大模型中的Function Calling功能，通过外部工具增强模型能力。文章以获取天气信息为例，展示了完整的实现流程：1)定义函数JSON Schema；2)开发者实现具体函数；3)LLM分析是否需要调用函数；4)开发者手动执行函数；5)将结果返回LLM生成最终回答。重点强调LLM仅负责分析需求和生成请求，不执行具体函数或调用API。文中提供了详细的Python代码示例，帮助理解Function Calling的实现机制。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： 提示词工程 ｜ 附精选学习资料]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513869</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513869</guid><author>AIMing_byte</author><pubDate>Thu, 26 Mar 2026 19:59:01 +0800</pubDate><description><![CDATA[本文介绍了程序员转行学习AI大模型的关键知识点——提示词工程。主要内容包括：模型参数设置（Temperature和Top_p）、提示词四要素（指令、上下文、输入数据、输出指示），以及提示词工程技术（少样本提示、链式思考CoT和自我一致性）。文章强调通过逐步引导和示例训练，可以提升模型处理复杂任务的能力，并推荐了相关学习资源。适合AI初学者构建大模型知识体系。]]></description><category></category></item><item><title><![CDATA[程序员转行学习 AI 大模型： 第一次如何调用大模型API ｜ 附完整可运行代码]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513843</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159513843</guid><author>AIMing_byte</author><pubDate>Thu, 26 Mar 2026 19:56:41 +0800</pubDate><description><![CDATA[本文是程序员转行学习AI大模型的第11篇笔记，主要介绍了首次调用AI大模型的完整流程。内容包括：获取API密钥和基础URL、配置环境变量、选择模型名称等关键步骤，并提供了可直接运行的Python代码示例。文章详细说明了OpenAI客户端的使用方法、必需参数和常用可选参数（如temperature）的设置技巧，帮助开发者快速上手AI大模型调用。适合正在从零开始构建AI知识体系的开发者参考学习。]]></description><category></category></item><item><title><![CDATA[程序员转行学习AI大模型：Transformer完整实现]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474066</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474066</guid><author>AIMing_byte</author><pubDate>Wed, 25 Mar 2026 19:55:51 +0800</pubDate><description><![CDATA[本文介绍了Transformer模型的整体结构及其实现细节。模型采用Encoder-Decoder架构，包含词嵌入层(wte)、位置编码层(wpe)、Dropout层、编码器(Encoder)和解码器(Decoder)等核心组件。特别讨论了LayerNorm的位置问题，指出实际实现中多采用&quot;Pre-Norm&quot;结构（归一化在Attention层前）而非论文中的&quot;Post-Norm&quot;，因为前者能使训练更稳定。代码展示了完整的Transformer类实现，包括参数初始化、前]]></description><category></category></item><item><title><![CDATA[程序员转行学习AI大模型：位置编码]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474040</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474040</guid><author>AIMing_byte</author><pubDate>Wed, 25 Mar 2026 19:54:35 +0800</pubDate><description><![CDATA[本文介绍了Transformer模型中的位置编码机制。位置编码通过为每个词添加包含位置信息的向量，解决了模型无法识别词序的问题。文章详细解释了正弦位置编码的实现原理，包括其数学公式和参数设置，并展示了位置编码与词向量相加的具体过程。此外，还对比了三种位置编码类型：正弦位置编码（固定公式、无需参数）、可学习位置编码（可优化但需参数）和旋转位置编码（适合长序列）。正弦位置编码因其简单性和可外推性被应用于原始Transformer模型，而BERT、GPT等模型则采用可学习的位置编码。]]></description><category></category></item><item><title><![CDATA[从0开始学AI：Embedding，原来是这回事！]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474018</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159474018</guid><author>AIMing_byte</author><pubDate>Wed, 25 Mar 2026 19:52:12 +0800</pubDate><description><![CDATA[本文介绍了自然语言处理中的分词器(Tokenizer)和词嵌入(Embedding)技术。Tokenizer将文本切分为tokens并转换为索引，常见方法包括词级别、子词级别和字符级别。文章展示了一个简单Tokenizer的实现，并介绍了HuggingFace预训练Tokenizer的使用。Embedding层则将索引转换为固定维度的向量表示，其核心是一个可训练的权重矩阵。通过Python代码示例，文章演示了如何实现和使用这些关键技术组件，为文本进入神经网络处理做好准备。]]></description><category></category></item><item><title><![CDATA[从0开始学AI：编码器-解码器，原来是这回事！]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159434167</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159434167</guid><author>AIMing_byte</author><pubDate>Tue, 24 Mar 2026 20:13:29 +0800</pubDate><description><![CDATA[本文介绍了Transformer编码器模块的实现细节，主要包括四个核心子模块： 多头自注意力模块(MultiHeadAttention)：通过线性变换生成Q/K/V矩阵，拆分为多个头计算注意力分数，最后合并输出并应用残差连接和dropout。 前馈神经网络(MLP)：包含两个线性变换层和ReLU激活函数，用于特征非线性变换。 层归一化(LayerNorm)：对每个样本的特征维度进行归一化处理。 残差连接：将模块输出与原始输入相加，缓解梯度消失问题。 编码器由多个EncoderLayer堆叠而成，每个层包含自]]></description><category></category></item><item><title><![CDATA[从0开始学AI：残差连接，原来是这回事！]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159434148</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159434148</guid><author>AIMing_byte</author><pubDate>Tue, 24 Mar 2026 20:12:01 +0800</pubDate><description><![CDATA[残差连接通过在神经网络中将输入直接与输出相加（y=F(x)+x），有效缓解了梯度消失问题。对比实验显示，无残差连接时梯度从1衰减到0.5，而有残差连接时梯度增强到1.5。这种设计保留了原始信息，使深层网络更易训练。代码实现展示了残差块的结构：输入经过线性变换和激活后，与原始输入相加输出。关键优势在于梯度可直接通过恒等路径传播，即使网络层数很深也能保持稳定的训练效果。]]></description><category></category></item><item><title><![CDATA[从0开始学AI：层归一化，原来是这回事！]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159433921</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159433921</guid><author>AIMing_byte</author><pubDate>Tue, 24 Mar 2026 19:55:46 +0800</pubDate><description><![CDATA[本文介绍了深度学习中两种主要的归一化方法：层归一化(Layer Norm)和批归一化(Batch Norm)。层归一化对每个样本的所有特征进行归一化，适用于变长序列和小批量场景，常用于Transformer和RNN；批归一化则对每个特征的所有样本进行归一化，适合固定长度和大批量数据，多用于CNN。文章详细演示了层归一化的计算步骤：计算均值μ和方差σ²，归一化处理，以及可学习参数γ和β的应用。通过Python代码示例，展示了单样本和批量数据的层归一化实现过程，验证了归一化后数据均值为0、标准差为1的特性。]]></description><category></category></item><item><title><![CDATA[从0开始学AI：前馈神经网络，原来是这回事！]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159393626</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159393626</guid><author>AIMing_byte</author><pubDate>Mon, 23 Mar 2026 19:14:41 +0800</pubDate><description><![CDATA[前馈神经网络(FNN)是一种全连接的神经网络结构，由输入层、隐藏层和输出层组成。本文通过图示和代码实现展示了一个典型的Transformer前馈神经网络，包含512维输入、2048维隐藏层和512维输出。实现过程包括：线性变换1(d_model→d_ff)、ReLU激活函数、Dropout层和线性变换2(d_ff→d_model)。演示代码详细展示了各层的输入输出形状变化和数据转换过程，特别是ReLU函数将负数置零的特性。该结构是Transformer模型的核心组件之一。]]></description><category></category></item><item><title><![CDATA[Seq2Seq]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159320624</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159320624</guid><author>AIMing_byte</author><pubDate>Sat, 21 Mar 2026 17:23:56 +0800</pubDate><description><![CDATA[Seq2Seq模型是一种序列到序列的深度学习架构，常用于翻译、摘要生成等任务。该模型采用编码器-解码器结构：编码器通过双向注意力机制理解输入序列，生成上下文向量；解码器基于上下文向量逐步生成输出序列。编码器适用于文本分类等理解任务，解码器擅长文本生成。本文详细介绍了Seq2Seq的工作原理，并提供了完整的PyTorch实现代码，展示了从输入处理到输出生成的全过程。模型通过Embedding层、Transformer编码器/解码器和线性投影层实现序列转换功能。]]></description><category></category></item><item><title><![CDATA[注意力机制拓展-大模型知识点（程序员转行AI大模型学习）]]></title><link>https://blog.youkuaiyun.com/AIMing_byte/article/details/159289962</link><guid>https://blog.youkuaiyun.com/AIMing_byte/article/details/159289962</guid><author>AIMing_byte</author><pubDate>Fri, 20 Mar 2026 21:54:32 +0800</pubDate><description><![CDATA[本文介绍了注意力机制的三个重要扩展版本。自注意力机制（self-attention）中Q、K、V来自同一序列，通过计算序列内部元素的相关性来捕捉特征。掩码注意力通过添加下三角掩码矩阵，实现只能关注已生成内容的功能，适用于序列生成任务。多头注意力则从多个角度并行计算注意力，将不同视角的特征拼接起来，增强模型的表达能力。文中通过搜索引擎查询的类比解释了这些机制的原理，并提供了对应的实现代码示例，展示了如何通过矩阵运算实现这些注意力变体。]]></description><category></category></item></channel></rss>