邵奈一的博客

MIT 许可证，权重在 Hugging Face 和 ModelScope，官方有免费 Token Plan；不想自己部署的，模力方舟（Gitee AI）上也已经上了，模型名。

这时我还想说点其他的，让我想起了现在搞科研。一个方向等你明显看到别人在做、圈子都在涌，它的边际价值就已经塌了，因为你能做的别人也在做，加上现在AI如此之强。判断标准就一句，你现在知道或能做到的，那些冲进来的人还不知道吗，如果答案是没有，那你就是晚了，又晚又不独特，最容易被清零。更亏的不是白干，是你把最稀缺的时间，花在一个平台迟早会解决的问题上，而不是花在平台永远替不了你的地方，你的数据、你的判断、你的品味。因为 Qoder 自己加不了自定义模型，想用别家的，要么手动改它的配置，要么在本地做个转发层绕进去。

token 账单爆炸，根子在“上下文喂法”。CodeGraph、AOCI-CODE、Understand Anything 分别用“按需检索 / 持久认知 / 可视化”三套机制把无效 token 压下去。本文里 CodeGraph 是全链路真跑（0.9.6 实测输出可复现），AOCI 与 UA 的命令均按官方文档逐条核对——网上流传的“自建 MCP”“手写 ADR”“tokrepo 装 UUID”“RocksDB 存储”等说法，照做必错。工具在进化，命令也在变。把“先--help。

token 账单爆炸，根子在“上下文喂法”。CodeGraph、AOCI-CODE、Understand Anything 分别用“按需检索 / 持久认知 / 可视化”三套机制把无效 token 压下去。本文里 CodeGraph 是全链路真跑（0.9.6 实测输出可复现），AOCI 与 UA 的命令均按官方文档逐条核对——网上流传的“自建 MCP”“手写 ADR”“tokrepo 装 UUID”“RocksDB 存储”等说法，照做必错。工具在进化，命令也在变。把“先--help。

OpenStory 不是一个视频生成模型，而是一条把成熟模型串起来的工业化流水线。它的真正价值不在某个惊艳的单镜头，而在让 AI 短剧从“一个人兼任编剧、提示词工程师、剪辑师”的小作坊，升级为可复制、可规模化的标准化生产。如果你要的是“注册即用”的 SaaS，Runway / Kling 更顺手；如果你要的是“极致自由”的工作流引擎，ComfyUI 更合适；如果你要的是“开源 + 脚本驱动 + 产品化”这一稀缺位的工具，OpenStory 是目前最像样的一个。它还在早期、有明显短板，但方向是对的。

本文深入解析了 PenguinHarness 这一开源 Agent 自进化框架。通过 Bitext 真实客服数据集（27个意图，162条测试样本）的实验，展示了框架如何通过四技能闭环（初始化、评测设计、评估、优化）实现 Agent 的递归自我改进。实验采用严格的 train/test 分离，在 DeepSeek V4 Flash 模型上，准确率从初始的 20.4% 经过两轮优化提升至 96.9%，成本仅约 ¥0.71。

这篇我用一台普通 Mac，把这件事“本地化”跑通——照片不出本机，照样能出“童年照”效果。

开源大模型Ornith 1.5系列（9B/35B-A3B/397B）凭借“端到端自我改进”训练机制引发关注，35B-A3B在代码生成等任务中性能超越同尺寸模型，9B版本表现接近35B级别。作者实测Mac本地部署：MLX 4bit量化版存在输出乱码问题，推荐通过Ollama加载GGUF格式（支持多模态）。模型原生支持256K上下文、工具调用及思维链推理，MIT协议开源。需注意官方MLX版本为纯文本，而Ollama版含视觉功能。建议开发者优先测试9B/35B-A3B的GGUF量化版本。

文章摘要：作者邵奈一实测在老旧Mac设备上使用MTPLX运行时将Qwen3.8-27B大模型的推理速度从Ollama的6.11 token/s提升至20+ token/s。通过详细对比32K/64K/128K/256K四档上下文设置，发现turbo模式下128K窗口可达21 token/s，驳斥了"32K以上性能断崖"的说法。实测数据显示内存占用随上下文线性增长（每1K token增0.35-0.55GB），并验证了KV量化方案（q8/q4）对内存的优化效果及速度代价。

分享了对接ego-lite浏览器（专为AI Agent设计的Chromium内核浏览器）的实践过程。该浏览器通过CLI接口实现网页自动化操作，核心优势包括继承真实登录态、原生OS级集成、任务空间隔离以及基于语义树的高效操作（相比截图方案节省5-10倍成本）。文章详细分析了ego-lite相比Playwright、Kimi WebBridge等方案的差异，并针对macOS连接问题提供了Mach IPC服务注册的解决方案。最后通过优快云数据抓取案例，演示了如何用ego-browser脚本实现登录态。

摘要： Ollama现已支持Qwen3.8-27B的MTP加速版本（qwen3.8:27b-mtp-q4_K_M），实测生成速度比普通版快约一倍（6.11 vs 3.12 token/s），但需注意： 内存动态增长：32K上下文约19GB，256K时峰值达35GB，需根据设备性能选择合适长度； 使用建议：推荐创建num_ctx变体（32K/64K/128K）以平衡性能与资源消耗，避免默认2048上下文限制； 避坑指南：勿与reasoning_effort=xhigh同时启用，冷启动时间约10秒，且不支持多模

本文记录了在M1 Max 64G设备上运行Rapid-MLX项目的实测体验。项目提供了多种安装方式（Homebrew/pip/一键脚本），支持多种模型选择（如qwen3.5-9b）。实测发现首个问题响应较快，但后续响应延迟明显，持续输出内存监控日志（约5.8GB内存占用）。文章详细介绍了安装步骤、模型选择建议（根据内存大小推荐不同参数模型）、API调用方法以及与第三方应用（如Cursor）的集成方式。虽然项目号称"Rapid"，但实测性能表现与预期存在差距，特别是在连续问答时的响应延迟问

本文通过一个房价预测案例，详细演示了小批量梯度下降（MBGD）算法的完整计算过程。首先设定线性回归模型参数初始值为0，使用6个样本数据分成3个批次（每批2个样本）进行训练。每个批次计算预测值、误差和梯度后，根据平均梯度更新参数。例如第一批次更新后参数变为w1=0.092，w2=2.3，w3=0.062，b=0.024。后续批次继续类似计算，展示了学习率0.0001下参数如何逐步调整。整个过程清晰呈现了MBGD算法的工作原理：通过小批量样本的平均梯度迭代优化模型参数。

本文介绍了PyTorch中unsqueeze(0)操作的作用及应用场景。该操作通过在指定位置插入维度，将一维张量转换为二维，常用于文本处理中的批处理维度添加。文中通过BERT模型输入示例说明其必要性，对比不同位置unsqueeze的效果差异，并给出实际应用代码。核心要点：unsqueeze(0)将[seq_len]转为[1, seq_len]，使单条数据符合模型输入的批次格式要求。

官方链接有升级版本呢的教程！升级MindSpore版本邵奈一原创不易，如转载请标明出处，教育是一生的事业。