<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[ferriswym的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/ferriswym</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; ferriswym]]></copyright><item><title><![CDATA[四款 AI Agent 搜索 API 实测横评：SearchPipe、Tavily、Exa、Firecrawl]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/165885088</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/165885088</guid><author>ferriswym</author><pubDate>Fri, 18 Sep 2026 17:03:14 +0800</pubDate><description><![CDATA[2026年9月实测4大搜索API，SearchPipe答案准确率最高（1.9/2），但服务故障致成功率仅44.4%，不可用于生产；Tavily稳定快速，但答案幻觉明显；Exa召回质量佳，适合自建Pipeline；Firecrawl速度最快（1.8s），中文能力弱。结论：无全能赢家，需根据场景权衡可用性、延迟与准确性。]]></description><category></category></item><item><title><![CDATA[免费！单次2小时，每月最高250小时！薅华为算力的羊毛]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162846284</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162846284</guid><author>ferriswym</author><pubDate>Mon, 13 Jul 2026 17:17:02 +0800</pubDate><description><![CDATA[看到这里，估计大家都明白了：GitCode Notebook 本质上是华为版的 Google Colab，是华为为了推广昇腾 NPU 生态而投入的免费算力资源。写本文的时候，个人额度还有 1000 核时/月。如果选 4 核 CPU 配置，相当于每月 250 小时——考虑到一天只有 24 小时——这个额度对个人开发者来说绝对是够够的了。当然，免费资源也有它的局限：单次 2 小时、单卡、阉割版显存、临时环境。它不适合跑需要长时间训练的任务，也不适合做线上服务。]]></description><category></category></item><item><title><![CDATA[【昇腾】本地 27B 编程模型接入 Claude Code 实战：Qwopus3.6-27B-Coder 在 vLLM-Ascend 上的部署与踩坑]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162668488</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162668488</guid><author>ferriswym</author><pubDate>Tue, 07 Jul 2026 16:02:47 +0800</pubDate><description><![CDATA[四张Ascend 910B4上部署Qwopus3.6-27B-Coder模型并通过vLLM-Ascend框架接入Claude Code的实践过程]]></description><category></category></item><item><title><![CDATA[【昇腾】在华为昇腾 910B4 上使用 vllm-ascend 跑通 Gemma 4 31B 全记录]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162633693</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162633693</guid><author>ferriswym</author><pubDate>Mon, 06 Jul 2026 14:38:08 +0800</pubDate><description><![CDATA[只是存在合并冲突的状态，但自己部署使用是没有问题的。目标：910B4 × 2 上把 Gemma 4 31B 跑起来，多模态可用。所有代码、镜像、补丁都已开源，跟着下面的步骤走就能复现。]]></description><category></category></item><item><title><![CDATA[浅谈BF16/FP16/FP32三种浮点格式的数据表示与应用]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162460341</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162460341</guid><author>ferriswym</author><pubDate>Tue, 30 Jun 2026 19:21:39 +0800</pubDate><description><![CDATA[浮点没有客观的真值。每种格式都有自己的精度边界，每个算子都有一条特定的数据流。Golden 的任务不是”算出正确答案”，而是”在相同的精度模型下，忠实地模拟 kernel 的每一步”。]]></description><category></category></item><item><title><![CDATA[【昇腾/AscendC开发】直调模式 VS 算子框架模式? Ascend C 开发模式与入口点选择指南]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162241341</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162241341</guid><author>ferriswym</author><pubDate>Tue, 23 Jun 2026 18:37:05 +0800</pubDate><description><![CDATA[场景推荐模式适配算法库（PyTorch/vLLM）算子框架研究原型 / 性能验证直调需要图模式 / 算子融合算子框架需要 MIX 并行算子框架（直调不支持）]]></description><category></category></item><item><title><![CDATA[【昇腾/AscendC开发】AscendC 910B GM 标量/MTE 双向缓存不一致 Bug 详解]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162235013</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162235013</guid><author>ferriswym</author><pubDate>Tue, 23 Jun 2026 15:01:44 +0800</pubDate><description><![CDATA[维度标量访问MTE 搬运写法通路走 DataCache走 DMA 引擎粒度单个元素（float/int）一整块连续内存适合场景少量、零散操作大块、批量搬运是否进 cache是（DataCache）否（直通 DRAM）标量写= 你往一个小信箱（DataCache）里塞纸条，等攒够了一批才统一寄出去MTE 搬运= 叫搬运工（DMA）一次性把一车货从仓库搬到工作台小信箱和搬运工之间没有对讲机。你塞进去的纸条，搬运工不一定知道；搬运工刚搬走的东西，你的小信箱里可能还留着旧纸条。]]></description><category></category></item><item><title><![CDATA[【昇腾/AscendC开发】AscendC DataCopyPad 写出溢出 Bug 详解]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/162206787</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/162206787</guid><author>ferriswym</author><pubDate>Mon, 22 Jun 2026 16:38:11 +0800</pubDate><description><![CDATA[要点说明AscendC DMA burst 最小 32B的lenBurst参数必须是 32 的倍数UB→GM 方向无 padding 控制不像 GM→UB 有，UB→GM 只有 3 参数版本溢出只影响空段有数据的段会被后续写出覆盖回来，但空段不会被写 → 残留垃圾feat_dim 最好是 8 的倍数，完美对齐，从根本上避免溢出先测小维度如果我们只测 feat_dim=128，永远不会发现这个 bug。]]></description><category></category></item><item><title><![CDATA[想随时随地做点自己的事？创建一台VSCode登录的云电脑]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/161726495</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/161726495</guid><author>ferriswym</author><pubDate>Fri, 05 Jun 2026 18:38:28 +0800</pubDate><description><![CDATA[Agent时代，作为高生产力的LLM已经基本在云上，这也意味着普通人目前想享受最前沿的AI的话，无法再像以前那样，搞一张消费级的3090就可以。但同时意味着对本地硬件的要求降低，只要一台能联网的电脑，支付token费用就可以。因此，一台最小配置的云电脑就可以完成很多事，至于用来做什么，留待后续探索😎。]]></description><category></category></item><item><title><![CDATA[VLM视觉语言大模型微调实操记录]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/149800451</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/149800451</guid><author>ferriswym</author><pubDate>Thu, 31 Jul 2025 11:00:46 +0800</pubDate><description><![CDATA[使用LoRA微调模型后，导出模型指合并LoRA并导出HuggingFace格式的模型，导出后，所有HuggingFace的接口和调用方式都可以兼容。使用VLM-R1训练后的模型也可以导出，理论上可以使用LLaMA-Factory的导出功能，也可以使用HuggingFace自己写代码导出。LLaMA-Factory 提供从训练、微调到推理的全流程支持，内置对多模态模型和 LoRA 的适配，支持多种最新模型，更新及时，且提供webui，非常适合新手入门。下的脚本，根据自己的微调需求准备一个运行脚本。]]></description><category></category></item><item><title><![CDATA[简单实用的huggingface模型python下载方法]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/147095401</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/147095401</guid><author>ferriswym</author><pubDate>Sun, 27 Apr 2025 11:56:14 +0800</pubDate><description><![CDATA[huggingface已经是当前广泛使用的模型平台，很多开源模型都存放在huggingface。指定模型保存的目录。]]></description><category></category></item><item><title><![CDATA[模型嵌入式部署]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/147051698</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/147051698</guid><author>ferriswym</author><pubDate>Mon, 07 Apr 2025 20:04:38 +0800</pubDate><description><![CDATA[本质上，QAT是一个模拟量化的过程，与硬件上的全整型计算依然是不同的，但QAT可以通过训练来把模型的数值范围调整至对量化友好的范围(如既存在截断误差又存在精度表达不足的情况下，只能通过训练来调整)，所以对于量化而言，QAT是最有效的方法。二是取整误差，即进行线性映射时，映射到两个整数之间的数值进行取整带来的误差。在嵌入式平台，基于成本考虑，多数平台支持的是8 bit运算，即INT8/UINT8，而PC端训练的模型一般是float32的，因此就存在模型量化这一步骤，完成模型从32位运算8位运算的转换。]]></description><category></category></item><item><title><![CDATA[问答任务的评估方法]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/146877295</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/146877295</guid><author>ferriswym</author><pubDate>Mon, 31 Mar 2025 18:41:46 +0800</pubDate><description><![CDATA[由于生成模型的自由度，客观指标往往只能反映表面的匹配，可能无法捕捉语义连贯性、常识合理性和细粒度准确性。当前的大模型技术主要是生成模型，与判别模型不同，生成模型由于其存在较高的自由度，特别是对于问答任务，指标评估相对不是那么直观。以上介绍的客观指标是针对对话生成的评估方法，但在大模型的研究测试中，一般会选用更加严格没有歧义的客观指标，相当于把主观题转成客观题，这里总结介绍一部分，可以作为参考。上述句子中，类似于go to这样的表达是比较常见的，而garden则不会经常出现，需要重点关注。]]></description><category></category></item><item><title><![CDATA[大模型的微调技术（指令微调理论篇）]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/146483576</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/146483576</guid><author>ferriswym</author><pubDate>Mon, 24 Mar 2025 19:05:23 +0800</pubDate><description><![CDATA[本文列出的是指令微调中比较经典的方法/例子，其中包含有另一些如CoT/强化学习等知识点，将在以后的文章中再研究。Flan-T5 是首次系统化研究指令微调的文章，基于T5模型，通过大规模多任务训练和指令模板优化，显著提升模型在零样本、少样本和推理任务中的表现。：用排序数据训练奖励模型（基于SFT后的模型），输出回答的分数差异（如回答2得分>回答1）。：基于GPT-3架构，用交叉熵损失函数微调模型，使其生成符合示例的回答。：用高质量指令-回答对微调预训练模型，初步对齐人类意图。零样本模板：直接给出任务描述。]]></description><category></category></item><item><title><![CDATA[大模型的微调技术（高效微调原理篇）]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/146429865</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/146429865</guid><author>ferriswym</author><pubDate>Fri, 21 Mar 2025 21:49:12 +0800</pubDate><description><![CDATA[公司有需求做农业方向的大模型应用以及Agent助手，那么适配农业数据就非常重要。但众所周知，大模型的全量微调对算力资源要求巨大，在现实的限制条件下基本“玩不起”，那么高效微调技术就非常必要。为了更好地对微调技术选型和应用，本文整理了常用参数高效微调的方法原理。]]></description><category></category></item><item><title><![CDATA[如何使用Porcupine做一个安卓端语音唤醒demo]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/144781322</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/144781322</guid><author>ferriswym</author><pubDate>Sun, 29 Dec 2024 00:03:56 +0800</pubDate><description><![CDATA[Porcupine 是一个高精度、轻量级的唤醒词引擎，能够构建始终在线的语音启用应用程序。使用在真实环境中训练的深度神经网络。紧凑且计算高效，适用于物联网（IoT）。跨平台支持：Arm Cortex-M、STM32、Arduino 和 i.MX RTAndroid 和 iOSChrome、Safari、Firefox 和 EdgeLinux（x86_64）、macOS（x86_64、arm64）和 Windows（x86_64）]]></description><category></category></item><item><title><![CDATA[Learning with noisy labels总结]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/89452430</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/89452430</guid><author>ferriswym</author><pubDate>Fri, 26 Apr 2019 15:18:55 +0800</pubDate><description><![CDATA[Learning with noisy labels总结Deep Label Distribution Learning With Label AmbiguityJoint Optimization Framework for Learning with Noisy Labels欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入...]]></description><category></category></item><item><title><![CDATA[模型压缩与加速的知识结构图与重要论文]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/86528981</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/86528981</guid><author>ferriswym</author><pubDate>Thu, 17 Jan 2019 19:02:39 +0800</pubDate><description><![CDATA[从一个比较大的层面看一下模型压缩与加速的知识结构图，梳理一下模型压缩与加速的知识结构。
总的来说，模型压缩与加速分为四大部分，分别是剪枝、量化、低秩和蒸馏。
剪枝
剪枝的目标是减少神经网络中的权重数/特征数，去除相对不重要的权值，减小网络大小同时可以加速运算。
剪枝总体而言分为结构化剪枝和非结构化剪枝，结构化剪枝以整个channel/filter为单位裁剪，在实现时即可做到缩小网络结构的目的；非结...]]></description><category></category></item><item><title><![CDATA[计算机视觉及深度学习岗位应聘问题汇总]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/81331191</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/81331191</guid><author>ferriswym</author><pubDate>Mon, 20 Aug 2018 11:17:01 +0800</pubDate><description><![CDATA[本文旨在收集在面试过程中问到的，以及从网上收集到的有价值的问题，目的是为了从问题出发主动整合知识，在校招有限的时间内抓住重点，避免漫无目的地看书复习。

K-means的算法流程？与KNN的区别？

K-means的基本算法流程： 
1. 初始化k个聚类中心c1,c2,...,ckc1,c2,...,ckc_1,c_2,...,c_k 
2. 对于每个样本xixix_i和每个聚类中心cjcjc_j...]]></description><category></category></item><item><title><![CDATA[从主成分分析（PCA）到奇异值分解（SVD）]]></title><link>https://blog.youkuaiyun.com/ferriswym/article/details/81084231</link><guid>https://blog.youkuaiyun.com/ferriswym/article/details/81084231</guid><author>ferriswym</author><pubDate>Wed, 18 Jul 2018 19:09:38 +0800</pubDate><description><![CDATA[PCA]]></description><category></category></item></channel></rss>