木鱼时刻的专栏

本篇文档分析了Qwen2.5-7B-Instruct模型在不同输入长度、不同量化方式下，基于vLLM推理框架的性能表现，并给出实际部署和优化建议。

AI编程范式与工具实践摘要 当前AI编程主要分为三种范式：Tab Coding（补全式辅助）、Vibe Coding（氛围编程）和Spec-Driven（规格驱动开发）。Tab Coding作为IDE内联补全工具，适合提升编码效率但缺乏全局视角；Vibe Coding通过对话式迭代开发快速产出原型，但易堆积技术债；Spec-Driven则通过规范文档系统化指导开发，适合复杂项目但前期投入大。业界实践包括Kiro、Spec-Kit+Cursor等工具，采用结构化文档流程管理项目规范。此外，Agent Skil

机器学习面试题

机器学习综述

在现代 Web 应用开发中，自动化测试已成为保证软件质量的重要手段。然而，传统的自动化测试工具往往需要编写复杂的选择器和维护脆弱的测试脚本。随着大语言模型（LLM）和多模态 AI 技术的成熟，基于 AI 的自动化测试工具应运而生，它们能够理解自然语言指令，自动定位页面元素，极大地简化了测试用例的编写和维护。本文将深入分析两个代表性的 AI 驱动自动化测试框架，帮助开发者和测试工程师做出更明智的技术选型。

claude.md为了避免在每次交互中重复提供背景信息，Claude Code 引入了claude.md文件作为其核心的“记忆”系统。这个 Markdown 文件让 Claude 能够像团队成员一样记住项目的关键信息。分层记忆系统项目级 (claude.md：此文件应提交到版本控制系统中，供整个团队共享。可以包含项目概览、技术栈说明、架构图、代码风格规范（“使用 black 格式化”、“API 响应必须遵循 JSend 格式”）以及核心命令（“使用启动服务”）。本地 (：此文件被.gitignore。

从零开始造一个AI大脑：大模型训练全流程

Transformer基础原理

AI算力资料整理

AI代码助手介绍

在信息检索和搜索技术的发展过程中，我们见证了从传统的关键词匹配到现代语义理解的重大转变。随着大语言模型（LLM）的兴起，检索系统也在不断演进，形成了多路召回的技术架构。本文将深入探讨稠密向量检索、稀疏检索、BM25算法等核心技术，以及它们在现代检索系统中的应用。

当大型语言模型（LLM）在文本世界的能力趋于成熟时，人工智能的下一个前沿阵地正转向一个更复杂、更具人性的维度——语音。本文基于李宏毅教授的最新课程，系统地梳理了“语音语言模型”（Spoken Language Model, SLM）的发展历程与核心技术。

在大型语言模型（LLM）的后训练时代，一项名为“模型合并”（Model Merging）的神奇技术正颠覆我们对AI能力组合的认知。

随着大型语言模型（LLM）的推理能力日益增强，如何公平、准确地评测其“智力”水平，成了一个极其棘手的问题。本文基于李宏毅教授的最新课程，深入探讨了当前LLM评测面临的困境。文章首先揭示了标准数学和编程测试背后可能存在的“数据污染”问题，即模型可能是在“背答案”而非真正地推理。随后，文章考察了两种试图规避此问题的先进评测方案：以抽象智力测验为核心的ARC-AGI，以及以全民投票为机制的Chatbot Arena。然而，即便是这些方案，也分别面临着被“应试技巧”攻破和被“人类风格偏好”干扰的风险。最终，文章以“

随后，文章沿着上期课程提出的四大技术流派，系统性地探讨了控制和优化推理长度的解决方案，包括“草稿链”提示法、学习最短正确路径、内化推理过程，以及将“效率”作为核心指标引入强化学习的激励机制。一个真正高效、智能的AI，不应是无休止思考的“思想巨人”，而应是懂得在恰当的时候、用恰当的资源、做恰当的思考的“智慧工程师”。一定长度的推理是必要的“生存优势”。但当训练的激励机制（如单纯的RL）只奖励“正确”这一个指标时，就如同演化中的“性选择”，模型会不计成本地增加推理长度来“炫技”，以期获得更高的奖励分数。

大型语言模型（LLM）并非一成不变的知识库，它们需要不断更新、修正甚至被植入特定的“信念”。“模型编辑”（Model Editing）技术应运而生，它旨在像一名外科医生一样，精准地修改模型内部的某一项知识，而不影响其整体能力。本文基于李宏毅教授的最新课程，系统地探讨了模型编辑的核心理念与前沿方法。文章首先定义了评判模型编辑成功的三个核心标准：可靠性、泛化性与局部性。

大型语言模型（LLM）正从简单的问答机器，演变为能够进行复杂“深度思考”的智能体。本文基于李宏毅教授的最新课程，深入探讨了赋予LLM深度思考能力的技术。文章首先定义了“深度思考”（即推理，Reasoning）的行为特征，并追溯其本质——一种高效的“测试时间计算”（Testing-Time Compute）。接着，系统性地剖析了打造深度思考模型的四大技术流派：两种无需微调模型参数的方法（高级提示工程、构建推理工作流），以及两种需要微调的方法（模仿学习、强化学习）。文章通过DeepSeek-Coder-V2等前

如何教AI新技能而不忘旧知识

本文揭示大型语言模型预训练与对齐的强大与极限

李宏毅第四讲：Transformer架构的演进

智能体材料总结

基于大模型的代码测试和评审技术正在革命性地改变软件质量保障领域。通过结合自然语言处理、代码理解和智能推理能力，构建了从静态代码分析到动态测试执行的完整智能化质量体系。本文将深入探讨大模型在软件质量保障中的应用实践，涵盖智能代码评审、自动化测试、Web Agent测试、性能分析等多个维度，展示如何构建全面的智能化质量保障体系。质量保障体系化：构建了从代码评审到动态测试的完整智能化质量保障体系多维度覆盖：涵盖静态分析、功能测试、性能测试、安全测试等七大类别AI原生设计。

检索增强生成（Retrieval-Augmented Generation, RAG）技术在2024年经历了从概念验证到工业化应用的关键转折。本文基于最新的技术实践和开源项目发展，系统梳理了RAG技术的演进历程、核心挑战以及解决方案，重点分析了分块技术在RAG系统中的关键作用。通过对比不同架构模式的优劣，为实际部署RAG系统提供技术参考。

随着大语言模型（LLM）技术的飞速迭代，我们正处于一个关键的转折点。模型的演进不再是简单的参数增长，而是在核心能力上产生了质变。当前，主流应用正从成熟的指令遵循模型（Instruction-Following Models），如GPT-3.5，向能力更强的前沿推理模型（Frontier Reasoning Models），如GPT-4.1/Claude 4等迁移。这一深刻的转变，对Prompt工程提出了全新的要求和挑战。过去针对旧模型行之有效的策略，可能不再是新模型下的最优解。

选择这个方案不是因为它最容易使用，而是因为它在技术文档管理这个特定场景下，提供了最专业和可靠的解决方案。，在保证内容质量的同时，实现了高效的知识积累和管理。

从单个神经元的激活模式，到功能向量的组合魔法；从跨层传递的计算回路，到用Logit Lens和PatchScope直接“聆听”模型的内心独白，我们正以前所未有的深度和精度，揭开大型语言模型内部的神秘面纱。这门“AI脑神经科学”或“机械可解释性”（Mechanistic Interpretability）的研究，不仅仅是满足我们的好奇心。它为我们提供了操控、编辑甚至改进模型行为的有力工具。

对于代码而言，简单的文本分割会破坏其固有的逻辑结构。它能够解析代码的抽象语法树（AST），理解函数、类、模块之间的引用关系，并构建一个能够反映代码逻辑的索引图。这确保了从文档中提取的知识片段在语义上是完整且连贯的，极大地提升了后续检索的准确性。它将复杂的知识处理流程拆解为清晰的模块，各模块各司其职，最终由一个核心服务进行统一编排。这种设计确保了无论是技术手册还是核心代码，都能得到最适合其特性的处理，从而最大化知识抽取的质量。是一个强大的多语言模型，确保了对代码功能、逻辑和相关注释的全面向量化表示。

本文基于台湾大学李宏毅教授的“一堂课搞懂生成式人工智慧的技术突破与未来发展”课程内容，系统性地梳理了生成式AI的核心概念、技术原理、发展演进以及未来趋势。文章从AI的“行为”入手，通过生动的实例展示了其强大的生成与推理能力；进而深入剖析其底层运作机制，阐释了“万物皆为令牌（Token）”、自回归生成、Transformer架构等核心原理；接着，文章追溯了通用AI模型从“专才”到“通才”的演进历程；最后，探讨了如何通过微调（Fine-tuning）、模型编辑（Model Editing）等技术赋予AI新的能力

随着大语言模型（LLM）在软件开发领域的应用日益深入，我们正从最初将其视为“黑盒”许愿机，转向探索更精准、可控、可信的“白盒”协同开发模式。代码生成不再是一次性的“魔法”，而是演变为一个需要开发者与 AI 精密协作的结构化流程。和。我们将特别聚焦于“上下文约束法”的强大能力，展示它如何通过不同的实践形式，将 AI 从一个简单的工具转变为真正的编程伙伴。

通过对李宏毅老师课程的深度解构，我们得以窥见现代AI Agent设计的宏伟蓝图。其核心驱动力，已不再是无尽的数据投喂和模型训练，而是转向如何巧妙地设计交互框架与提示策略，从而唤醒并组织现有大型语言模型中沉睡的巨大潜力

对于我们技术人来说，经历技术浪潮的起起落落是常态。2010年代，我们曾被“大数据”的宏大叙事所席卷，相信数据是新时代的石油。而今天，我们又被“AI大模型”的惊人能力所震撼。回顾大数据时代的一些问题，不是为了唱衰技术，而是为了从那段历史中汲取宝贵的教训。这对于我们如何驾驭当前的AI大模型浪潮，可能有一些借鉴意义

在人工智能浪潮下，技术已成为构建智能问答、文档分析和代码助手等应用的核心。然而，在许多企业场景中，出于数据安全和性能的考虑，服务器往往部署在中，并要求极致的推理效率。这给依赖外部资源的应用部署带来了巨大挑战。如何在这种严苛的环境下，完整、可靠地部署一套包含向量数据库、**高性能推理服务（vLLM）**和Python后台的复杂RAG系统呢？本文将为你提供一个，手把手教你如何使用 Docker 技术，将一套基于 Weaviate 和的 Python RAG 应用完整打包，并在离线环境中一键部署。

当我们部署了多个大模型推理服务，在没有网关的情况下，如何简单的实现路由，文章讨论了这一具体实现。

如何把公司的专有知识传输给大模型，有赖于知识库的构建。文章主要讨论了公司构建知识库的一些基本标准。

大模型在代码生成领域已经愈发成熟，但在测试领域还处在较为初级的阶段。本文讨论了一种基于大模型的接口API测试方案，希望对大家有所启发。