<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[magic_ll的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/magic_ll</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; magic_ll]]></copyright><item><title><![CDATA[【大模型】使用llamafactory 训练 qwen2.5-VL 的目标检测任务]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/155559278</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/155559278</guid><author>magic_ll</author><pubDate>Sat, 27 Dec 2025 11:26:08 +0800</pubDate><description><![CDATA[截止到目前，目标检测的功能还是yolo模型落地性更强。但大模型也已经全面开花，所以也尝试下使用大模型来完成目标检测的训练，看看其效果如何，看看它在目标检测上有怎样的优势。本次选用qwen2.5-VL，（qwen2.5-VL的简单介绍）一开始使用github上阅读性强的工程训练，总觉得差些意思。于是决定自己手搓个大模型训练推理工程，emm…，预测效果也是差强人意。兜兜转转还是使用个高star的工程，先跑通得到想要的效果。后面再阅读核心代码掌握大模型训练过程吧。]]></description><category></category></item><item><title><![CDATA[【yolo系列】yolov10的结构解析、一致性双重分配]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/155986972</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/155986972</guid><author>magic_ll</author><pubDate>Mon, 22 Dec 2025 23:40:41 +0800</pubDate><description><![CDATA[该模块在C2f 模块的技术上，使用 CIB 模块替换了 Bottleneck 模块，那只需要对比 CIB 与 Bottleneck 的实现。通过这种多注意力头的设计，YOLOv10的Attention模块能够在保持计算效率的同时，有效捕捉不同尺度和角度的特征依赖关系。：将256维的特征空间分解为4个64维的子空间，每个头专注于不同的特征模式（不同的注意力模式），增强模型的表达能力。该模块核心的为 位置敏感的多头自注意力子模块 Attention层，然后正常的跟个前馈神经网络，做特征再提取。]]></description><category></category></item><item><title><![CDATA[【论文阅读】【yolo系列】YOLOv10: Real-Time End-to-End Object Detection]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/155710570</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/155710570</guid><author>magic_ll</author><pubDate>Wed, 10 Dec 2025 22:41:39 +0800</pubDate><description><![CDATA[【与其他方法的对比讨论】
先前的研究通过探索 不同标签分配方式 来加速训练收敛并提升网络性能。除了后处理环节，YOLO模型架构本身也给效率与精度的平衡带来了巨大挑战。模型架构存在不可忽视的计算冗余和能力局限，制约了其在实现高效性能方面的潜力。本文旨在从效率与精度双重视角，对YOLO模型架构进行整体性优化设计。
 
【效率驱动模型设计】
YOLO的组件包括主干、下采样层、具有基本构建块的阶段以及头部。主干的计算成本较低，因此我们对其他三个部分进行了效率驱动的模型设计。(1) 轻量级分类头
在YOLO中，分类头]]></description><category></category></item><item><title><![CDATA[【大模型】理论知识：ZeRO-3、FSDP 和 分页优化器的介绍与对比]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/154995993</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/154995993</guid><author>magic_ll</author><pubDate>Mon, 24 Nov 2025 11:31:52 +0800</pubDate><description><![CDATA[本文分析了深度学习模型训练过程中的显存占用情况，重点介绍了ZeRO-3优化技术。在训练过程中，显存主要存储模型参数、梯度和优化器状态，其中优化器状态（如Adam优化器的动量、方差等）占用最大。采用混合精度训练时，还需额外存储FP32主参数副本，使得优化器状态总量可达模型参数量的3倍。动态部分包括与batch大小线性相关的激活值和临时梯度缓存。ZeRO-3技术通过将优化器状态、梯度和参数分区存储在多个GPU上，显著降低了内存占用：ZeRO-1仅分区优化器状态，ZeRO-2增加梯度分区，ZeRO-3进一步分区模]]></description><category></category></item><item><title><![CDATA[【大模型】理论知识：LoRA、QLoRA、全量微调的介绍和对比]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/154951251</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/154951251</guid><author>magic_ll</author><pubDate>Mon, 24 Nov 2025 11:22:34 +0800</pubDate><description><![CDATA[LoRA（低秩自适应）是一种高效的模型微调方法，其核心思想是利用低秩矩阵近似权重更新。它通过冻结预训练模型的主权重矩阵W，并引入两个低秩矩阵A（降维）和B（升维）作为旁路分支，学习任务特定的增量更新（ΔW=BA）。训练时仅优化A和B，大幅减少参数量（如仅需原参数的2%）。B初始化为零确保训练平稳开始，最终增量可合并回W实现无损推理。LoRA的设计借鉴残差思想，主路保留通用知识，旁路学习精细调整，实现了高效参数微调。]]></description><category></category></item><item><title><![CDATA[【大模型】AI平台 joyagent 2.0 的部署与测试]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/150342254</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/150342254</guid><author>magic_ll</author><pubDate>Fri, 15 Aug 2025 10:56:17 +0800</pubDate><description><![CDATA[在vscode下面终端界面中，点击【PORTS】，保证里面的 【PORT】和【Forwarded Address】的端口号是相同的。本篇博客记录下自己在配置joyagent的过程，以【手动初始化环境，启动服务】为例，后端调用的deepseek-chat大模型。当确保上面的异常都排除完后，出现【“任务执行失败，请联系管理员”】，这个时候就要排查 MCP客户端是否能正常被调用。若端口被占用，清除对应的端口的服务，然后重新运行，直至正确。确定端口透传正确，保证不同端的服务在通信时，能够调用正确的端口号。]]></description><category></category></item><item><title><![CDATA[【ubuntu下小工具】Crontab定时任务进行数据备份和清理]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/148791534</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/148791534</guid><author>magic_ll</author><pubDate>Sat, 21 Jun 2025 10:59:43 +0800</pubDate><description><![CDATA[如果不进行有效管理，随着时间的推移，磁盘空间将被占满，最终导致服务器瘫痪。如果有更多的需求和疑问，直接deepseek一下，会得到更为详细的答案。该方案通过定时任务实现，既能保证数据的阶段性存储，又能避免因磁盘写满引发的服务中断。在设置定时任务时候，无论脚本还是Crontab 中的执行脚本，都需要是绝对路径。天的数据文件夹，自动删除更早的历史数据，确保磁盘空间合理利用。路径下的归档数据，保留最近 n 个数据文件夹，其余均删除。，允许用户按预定义的时间周期自动执行命令或脚本。文件夹，用以后续的数据存放。]]></description><category></category></item><item><title><![CDATA[【大模型】数字人 Sonic 的环境配置和使用]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/146547871</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/146547871</guid><author>magic_ll</author><pubDate>Thu, 27 Mar 2025 21:38:13 +0800</pubDate><description><![CDATA[下面是我实际设置的路径【/opt/ai-platform/lldataset/240/modelscope/modelscope/hub/Sonic】，自己使用时修改为想要存放的路径即可。它能够通过音频驱动肖像图片生成生动的面部表情和口型动作，从而制作出高度逼真的数字人口播视频，广泛应用于虚拟主播、数字客服等场景，具有高效、低成本的特点。【使用体验】实际使用效果不会一眼假，已经很贴近真人，但整个视频中可能存在个别帧稍显不流畅，值得深入研究、测试和使用。在游戏中生成逼真的NPC表情和动作，增强游戏的沉浸感。]]></description><category></category></item><item><title><![CDATA[【大模型】数字人 EchoMimicV2 的环境配置和使用]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/146506339</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/146506339</guid><author>magic_ll</author><pubDate>Tue, 25 Mar 2025 21:32:35 +0800</pubDate><description><![CDATA[它能够让用户仅通过简单的音频输入，生成与声音内容相匹配的动画效果，使虚拟人物看起来更加生动。例如，在在线教育场景中，它可以通过录制好的讲解音频和教师的人物形象，生成与之同步的动态教学视频，为远程教学提供更加生动的视觉体验。在工程路径【./echomimic_v2/assets/halfbody_demo】下，给出了官方示例的图片、音频、动作。补充，当我们删除【pretrained_weights】，仅仅删除了软连接，不会影响到连接路径下的文件。该工程上传的音频，支持的是 wav格式。]]></description><category></category></item><item><title><![CDATA[【大模型】Transformer、GPT1、GPT2、GPT3、BERT 的论文解析]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/140091810</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/140091810</guid><author>magic_ll</author><pubDate>Sun, 16 Mar 2025 18:26:12 +0800</pubDate><description><![CDATA[GPT-3尤其引人注目，展现了强大的语言理解和生成能力。GPT-3 论文展示了大规模语言模型在预训练和少样本学习方面的强大能力，通过增加模型规模和训练数据，显著提升了模型在各种 NLP 任务上的性能。GPT-2 的成功为后续的 GPT-3 和其他大型生成模型奠定了坚实的基础，并对未来的研究方向提供了宝贵的参考。在GPT-2中要做zero-shot，所以在做下游任务时模型不能够被调整，若此时引入模型未见的符号，模型就会困惑无法得到预期结果，所以就要求模型在下游任务的输入 和预训练时候的输入要风格一致。]]></description><category></category></item><item><title><![CDATA[【RNN神经网络】序列模型与RNN神经网络]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/142359972</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/142359972</guid><author>magic_ll</author><pubDate>Sun, 16 Mar 2025 17:34:45 +0800</pubDate><description><![CDATA[循环神经网络（RNN）、门控循环单元（GRU）、长短期记忆网络（LSTM）以及它们的变体如深度RNN（Deep RNN）和双向RNN（Bi-directional RNN）都是不同类型的循环神经网络，它们可以作为序列到序列（Seq2Seq）模型的构建块。总结来说，RNN、LSTM、GRU、深度RNN和双向RNN是不同类型的循环神经网络结构，它们可以被用来构建Seq2Seq模型的不同部分，而不是简单的并级或包含关系。综上所述，序列模型是一种强大的机器学习模型，能够处理各种序列数据并生成有用的输出。]]></description><category></category></item><item><title><![CDATA[【环境配置】windows下vscode下无法激活conda环境、创建虚拟环境报错]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/141432051</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/141432051</guid><author>magic_ll</author><pubDate>Sun, 16 Mar 2025 16:05:49 +0800</pubDate><description><![CDATA[前言我的本地的系统，绝大部分是使用的ubuntu。去年下半年开始切换成windows，然后windows下使用vscode还需要注意一些小的配置。为了避免反复搜索，这里记录下。当已经再 windows 下安装了anaconda、vscode，之后的使用，有可能存在如下问题或需求：vscode下终端无法激活conda环境创建虚拟环境报错安装pytoch 的注意事项Git Bash的安装 （它允许在 Windows 上使用类似于 Linux/Unix 的命令行界面进行 Git 操作。]]></description><category></category></item><item><title><![CDATA[【大模型】Ubuntu下 fastgpt 的部署和使用]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/145491866</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/145491866</guid><author>magic_ll</author><pubDate>Tue, 25 Feb 2025 22:20:30 +0800</pubDate><description><![CDATA[若是填入的方式，一定注意名称的正确填写，可使用命令【ollama list】查看ollama下载的模型。：支持多种文档格式（如 Word、PDF、Excel、Markdown 等）的导入，自动完成文本预处理、向量化和问答分割，节省手动训练时间。OneAPI 是一个统一的接口管理与分发系统，旨在通过提供一个单一、统一的接口，简化对多个后端服务或数据源的访问。在下图中【语义检索】中，可以进一步勾选，这里默认不变。点击【发布渠道】界面，然后【创建新链接】、【开始使用】、【复制链接】在浏览器中打开。]]></description><category></category></item><item><title><![CDATA[【大模型】Ubuntu下安装ollama，DeepSseek-R1:32b的本地部署和运行]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/145494022</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/145494022</guid><author>magic_ll</author><pubDate>Fri, 07 Feb 2025 21:56:22 +0800</pubDate><description><![CDATA[性能提升：经过蒸馏的 Qwen-32B 在多个基准测试中表现出色，例如在 AIME 2024 上得分 72.6%，在 MATH-500 上得分 94.3%，在 LiveCodeBench 上得分 57.2%。Qwen-32B 是学生模型：它是一个参数量较小的模型，通过学习 DeepSeek-R1 的输出来提升自己的推理能力。通过这种知识蒸馏的方式，DeepSeek-R1 的推理能力被高效地迁移到了 Qwen-32B 中，使得 Qwen-32B 在推理任务上能够达到与 DeepSeek-R1 相当的性能。]]></description><category></category></item><item><title><![CDATA[【Docker】ubuntu中 Docker的使用]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/145317026</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/145317026</guid><author>magic_ll</author><pubDate>Sat, 25 Jan 2025 20:11:12 +0800</pubDate><description><![CDATA[Dockerfile是一个文本文件，其中包含了一系列指令，这些指令定义了如何从基础镜像创建一个新的Docker镜像。通过执行。]]></description><category></category></item><item><title><![CDATA[【大模型】Langchain-Chatchat-v0.3.1 的环境配置]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/144698402</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/144698402</guid><author>magic_ll</author><pubDate>Sun, 12 Jan 2025 20:07:25 +0800</pubDate><description><![CDATA[本项目的最新版本中可使用 Xinference、Ollama 等框架接入 GLM-4-Chat、 Qwen2-Instruct、 Llama3 等模型，依托于 langchain 框架支持通过基于 FastAPI 提供的 API 调用服务，或使用基于 Streamlit 的 WebUI 进行操作。如果你只需要一个专注于 Python 项目的依赖管理和打包工具，希望获得更好的依赖解析能力和更简洁的工作流，那么 Poetry 是一个很好的选择。生成的5个配置文件，（其他的文件是我拉取的源码，方便查看阅读。]]></description><category></category></item><item><title><![CDATA[【大模型】Xinference的安装和部署]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/144689516</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/144689516</guid><author>magic_ll</author><pubDate>Sun, 29 Dec 2024 13:13:45 +0800</pubDate><description><![CDATA[Xinference通过提供简单API和强大的功能，使得私有化模型的大规模部署成为可能，无论是在个人电脑还是分布式集群中，都能够发挥异构硬件的全部潜力，达到最极致的吞吐量与最低的推理延迟。：Xinference简化了包括大语言模型、多模态模型、语音识别模型等模型部署的过程，允许用户轻松一键部署自己的模型或内置的前沿开源模型。：Xinference专注于优化模型的推理性能，并支持多种类型的模型，包括深度学习模型。如下图，待参数设置OK后，点击小火箭，则下载模型和加载模型，模型下载到默认路径。]]></description><category></category></item><item><title><![CDATA[【大模型】LLaMA-Factory的环境配置、微调模型与测试]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/143992289</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/143992289</guid><author>magic_ll</author><pubDate>Tue, 26 Nov 2024 21:28:05 +0800</pubDate><description><![CDATA[前言时常和朋友闲聊，时代发展这么快，在时代的洪流下，我们个人能抓住些什么呢。我问了大模型，文心一言是这样回答的：在快速发展的时代背景下，个人确实面临着诸多挑战，但同时也充满了机遇。尽管时代洪流滚滚向前，我们依然可以抓住一些关键要素，以实现个人成长和价值提升…（一些建议）… 记住，每个人的成长路径都是独一无二的，找到适合自己的方式并坚持下去才是最重要的。哈哈跟没回答一样，毕竟是一个开放命题，还是要落到个人的行动上的。先动起来吧，我的大模型的记录终于开始了。]]></description><category></category></item><item><title><![CDATA[【相机与图像】3. ARUCO的相关介绍、相机姿态估计]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/140277849</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/140277849</guid><author>magic_ll</author><pubDate>Mon, 12 Aug 2024 17:05:48 +0800</pubDate><description><![CDATA[内部二进制矩阵：Aruco 标记 都有一个固定的内部矩阵，由二进制编码组成，编码了标记的ID和其他可能的信息。通过估计相机的姿态，可以根据相机的位置和朝向来确定虚拟对象的位置和姿态，从而实现虚拟对象与实际场景的融合。每个词典中所有的Aruco标记均包含相同数量的块或位（4x4、5x5、6x6、7x7），且每个词典中Aruco标记的数量固定（50、100、250、1000）。：使用相机捕获图像或视频，并使用相应的算法检测图像中的ArUco标记（如 3.2），解析其编码以获取ID和姿态信息（如 3.3）。]]></description><category></category></item><item><title><![CDATA[【相机与图像】2. 相机内外参的标定的代码示例]]></title><link>https://blog.youkuaiyun.com/magic_ll/article/details/141030740</link><guid>https://blog.youkuaiyun.com/magic_ll/article/details/141030740</guid><author>magic_ll</author><pubDate>Mon, 12 Aug 2024 16:50:42 +0800</pubDate><description><![CDATA[3D的点的生成：在每张图片上，共存在11*8个角点存在。每张图存在自己的世界坐标系，是以右上角（长边为底边）为3D坐标原点，所以在代码中需要生成一个shape=(11*8,3) 的numpy数组。存放着世界坐标系中的棋盘格点,例如(0,0,0), (1,0,0), (2,0,0) …使用将要标定的摄像头，以不同的角度采集棋盘格，要保证视野内出现完整的棋盘格。图片上的2D角点检测：该工作在opencv提供了对应的api直接调用即可，对应api为。摄像头捕获的用于标定的图片。2 摄像头外参的标定。]]></description><category></category></item></channel></rss>