- 博客(29)
- 资源 (4)
- 收藏
- 关注
转载 生产级 RAG 不是搜几个 chunk:从召回到引用的一条可信链
摘要:本文揭示了RAG(检索增强生成)在实际应用中的两类典型问题——检索结果可见但回答错误、答案正确但引用来源错误,指出局部正确不等于端到端可信。文章以RAGFlow为例,详细剖析了生产级RAG系统的完整链路:从查询边界管理(包括知识库校验、字段映射、多轮对话改写等),到混合检索策略(关键词与向量搜索的加权融合),再到重排序与上下文装配环节的工程权衡。强调真正的挑战在于确保检索结果能正确进入提示词并被合理利用,而非简单的召回率优化。
2026-06-09 15:55:07
36
原创 Tauri:用Web技术构建高性能桌面应用
/ 自定义窗口控制// 最小化窗口});// 关闭窗口});通过配置可以去除默认窗口装饰,实现完全自定义的界面设计。
2026-03-05 16:51:59
470
原创 当 AI 开始“拍长视频”:多模态大模型、Agent 与长时序内容生成的新范式
随着多模态大模型与 Agent 技术的快速演进,视频生成正在从“几秒钟的视觉 Demo”迈向“中长时序内容生产”。本文重点探讨了模块化架构与 Agent 化系统为何成为现实可行的主流路径。文章以“微电影级内容生成”为典型载体,拆解从剧本规划、分镜控制、多模态理解到视频生成与反馈闭环的完整技术体系,同时对闭源与开源模型的选型策略、能力边界与工程陷阱给出实践级判断。本文并非工具教程,而是一份面向自媒体创作者、Agent 开发者与模型研究者的多模态视频生成方法论与技术全景参考。
2026-03-04 22:03:23
996
原创 大模型导论(Manus式任务代理:规划×执行×反思,真能跑通吗?(IV)
本系列文章系统介绍大模型应用平台的构建方法,涵盖从基础理论到实践落地的全流程。主要内容包括:1)RAG技术实现知识库连接,详解文档切分、向量检索、答案生成等关键环节;2)LangChain框架的工程化应用,包括Prompt模板、任务链、工具封装等模块化开发;3)智能代理系统设计,重点解析任务规划、安全执行、多智能体协作等核心机制。通过模块化讲解,读者将掌握构建具备知识检索、代码生成和任务代理能力的综合性AI平台所需的关键技术与实践方法。
2026-03-03 21:23:48
461
原创 大模型到底是什么,以及怎么把它做成产品?(III)
本文系统介绍了构建统一大模型应用平台的关键技术路线,重点阐述了分布式训练、显存优化和知识蒸馏三大核心模块。在分布式训练方面,详细解析了数据并行、张量并行、流水线并行等策略及其组合优化方法;针对显存瓶颈问题,提出了梯度检查点、混合精度训练、梯度累积等优化方案;在模型压缩方面,深入探讨了Logits蒸馏、指令蒸馏和偏好蒸馏等技术。文章通过工程实践视角,为读者提供了从模型训练到产品部署的完整技术方案,涵盖了大模型全生命周期的关键技术挑战与解决方案,对实际应用具有重要指导价值。
2026-03-02 23:20:07
692
原创 大模型到底是什么,以及怎么把它做成产品?(III)
本文系统介绍了大模型应用平台的构建方法,重点探讨了分布式训练、显存优化和知识蒸馏三大核心技术。在分布式训练方面,详细解析了数据并行、张量并行和流水线并行的实现原理及混合策略;针对显存优化,深入分析了OOM问题的成因和解决方案,包括梯度检查点、混合精度训练等技术;关于知识蒸馏,全面阐述了Logits蒸馏、指令蒸馏和偏好蒸馏的方法论。文章为开发者提供了从零搭建大模型平台的完整技术路线,涵盖训练优化、推理加速到模型压缩等关键环节,具有极强的实践指导价值。
2026-03-02 22:56:00
721
原创 AI时代,我们为什么反而更焦虑?
《数字时代的静谧港湾:我的密馆》摘要 在信息爆炸的数字时代,中国网民规模已突破11亿,人均使用30余款APP导致信息高度碎片化。大数据和算法使隐私边界模糊,信息焦虑与社交媒体倦怠成为普遍现象。针对这一痛点,"我的密馆"应运而生,倡导"简约收纳重要信息、归于静谧私密空间"的理念。该产品杜绝广告推送,尊重用户数据主权,为碎片化的密码、账号等信息提供固定归位。研究表明,50%用户仅靠记忆储存密码,23%曾遭遇密码被盗。"我的密馆"如同数字藏经阁,让重要信
2026-03-02 21:04:26
619
原创 一文看懂大模型到底怎么“做出来、用起来、跑起来”?(II)
这不减少总延迟,但改善了交互体验。生成第二个token时,如果无缓存,要做L0+1->L0+2全序列计算,但有缓存,只需算新来的token,从长度1->2增长的那一点。为此,需要有监督指令微调 (Supervised Fine-Tuning, SFT):用一批“指令-正确回答”对示例,来再训练模型,使其学会在看到指令时输出期望的格式和内容。如果自己没有资源人工标注,可以采用替代方案:利用现有的指令数据集(如Stanford Alpaca的52k指令数据,它其实是GPT-3生成的,但已被证实有效 )。
2026-03-01 19:22:20
660
原创 一文看懂大模型到底怎么“做出来、用起来、跑起来”?(上)
在这篇文章中,我们将循序渐进地阐述如何从零开始,构建一个融合对话助手、代码代理和任务代理的统一大模型应用平台。阅读完毕后,您将对“大模型是什么、如何预训练、如何对齐成为ChatGPT、如何产品化部署、如何做检索增强生成(RAG)与智能Agent、如何实现代码助手,以及如何搭建整个平台并做好上线治理”形成深刻且可实践的整体理解。
2026-02-27 23:28:48
784
原创 从对话到执行:Claude Cowork如何重塑知识工作者的工作方式
在当今信息爆炸的时代,知识工作者面临着前所未有的挑战。每天需要处理海量信息、跨平台协作、重复性任务和时间管理压力,而传统生产力工具往往只能提供"点状"解决方案,无法形成真正的闭环。工作方式的范式正在经历一场静默的革命——从"人操作软件"到"AI代理直接干活",从"对话应答"到"任务执行",从"被动工具"到"主动协作者"。这场变革不仅关乎效率提升,更深刻影响着知识工作者的角色定位、价值创造和职业发展轨迹。
2026-02-27 20:04:19
593
原创 快速上手:用 LlamaIndex 构建第一个 RAG 应用
本文将手把手带您快速上手LlamaIndex,通过一个本地问答Demo体验其核心流程。目标是在几行代码内完成从文档加载、索引构建到查询问答的闭环,让您对LlamaIndex有直观认识。我将介绍安装配置步骤,运行一个“五行代码”的本地问答示例,并详细剖析示例代码的工作原理。通过本文,您将能够搭建起第一个简单的RAG应用,为后续深入学习各模块打下基础。
2026-02-26 21:16:14
649
原创 什么是 LlamaIndex,它为何出现?它主要解决了什么问题?
LlamaIndex作为连接大型语言模型与私有数据的中间层框架,解决了LLM无法直接访问企业文档、数据库等私有信息的痛点。其核心通过"检索+生成"机制,将原始数据转换为索引结构,使LLM能够查询外部知识库并基于检索结果生成准确答案。框架包含数据加载、文档切分、向量嵌入、索引构建、查询引擎等模块,形成完整的数据处理流程。与LangChain等流程编排框架不同,LlamaIndex专注于数据组织与检索,可作为LangChain的检索组件协同使用。典型应用场景包括企业知识问答、长文档分析、决策
2026-02-25 21:58:59
655
原创 一文看懂大模型到底怎么“做出来,用起来,跑起来”?
点击链接打开👉 https://m.toutiao.com/is/tTBLduq6JOA/ tTBLduq6JOA` eRk:/ q@e.Ox :2am。复制此条消息,打开「今日头条APP」或「今日头条极速版APP」后直接查看~【一文看懂大模型到底怎么“做出来、用起来、跑起来”?
2026-01-15 11:33:19
302
原创 别把 Node 当脚本:这是 LangGraph 最容易被低估的一层
本章聚焦 LangGraph 中最容易“写得随意、却最影响系统质量”的一层:Node。文章从工程视角拆解了 Node 的本质,讨论了纯函数与副作用的边界取舍,并系统区分了 LLM Node、Tool Node 与 Control Node 在职责与设计上的差异。通过大量示例,详细说明 Node 如何以 State Patch 的形式返回结果,以及在 Node 中调用 LLM 时的常见陷阱与最佳实践。最后,从可测试性出发,给出一套让 Node 可测、可复用、可演进的设计方法,帮助大家避免把 Agent 写成“
2025-12-24 21:27:45
802
原创 状态(State)是 LangGraph 的灵魂
本章围绕 State 是 LangGraph 的核心与灵魂 展开,从工程实践角度深入剖析了为什么 Agent 系统真正的复杂度不在模型,而在状态设计。文章系统讲解了 LangGraph 选择 TypedDict + Annotated 的设计动机,解释了 State 的不可变性与累积更新机制,以及 reducer 在多节点并发场景下的关键作用。同时结合真实开发经验,总结了多节点共享状态的安全模式,并重点拆解了常见但极易踩坑的 State 设计反模式。
2025-12-23 12:30:25
710
原创 为什么真正强大的 AI Agent,不再靠 Prompt,而靠 Skills?
随着 AI Agent 从对话工具走向真实执行者,单纯依赖 Prompt 或 Tool 的架构正暴露出可控性、复用性与专业性不足的问题。近年来,Anthropic 提出的 Agent Skills(智能体技能体系),以及 OpenAI 对该理念的隐式吸收,标志着 Agent 架构正在进入一个以“技能”为核心中间层的新阶段。
2025-12-22 12:45:15
1291
原创 LangGraph 快速上手(Hello Graph)
本文介绍了如何使用LangGraph构建一个"聊天计算器"工作流,演示了从定义工具、状态、节点到条件边的完整流程。文章对比了Graph API和Functional API两种构建方式:Graph API适合复杂决策流程,支持可视化调试和并行处理;Functional API则更轻量,便于现有代码集成和快速原型开发。通过具体示例,读者可以掌握LangGraph的核心概念,包括状态管理、节点编排和条件分支控制,并能独立搭建简单的工作流。
2025-12-15 20:34:48
1292
原创 LangGraph 能解决哪些真实问题?
LangGraph框架专注于解决现实场景中的复杂流程问题,支持长流程执行、人机协同和多Agent协作。其核心优势包括:1)通过持久化检查点实现分钟级任务的可靠执行;2)提供interrupt/resume机制实现任意节点的人工干预;3)支持多Agent模块化协作,提升任务处理质量。典型案例涵盖金融合规审核、科研自动化等需要长时间运行或人工参与的流程,但不适用于简单对话场景。LangGraph通过状态持久化和图形化流程设计,为开发者提供了构建企业级智能代理系统的底层支撑。
2025-12-14 18:07:47
851
原创 从大模型产业分层到 Agent 与 Workflow 的工程化共识,当所有人都在造 Agent 时,真正被低估的那一层是什么?
在大模型能力快速趋同、Agent 与工作流框架层出不穷的背景下,真正决定 LLM 应用能否长期落地的,已不再是模型本身,而是系统工程能力。本文从大模型产业分层的宏观视角出发,系统分析 LangChain 技术体系在 Agent 与 Workflow 生态中的真实角色,深入讨论其与商业 Agent、大模型开发平台之间的关系与边界,给出面向企业级 AI 系统的技术选型逻辑与长期判断。
2025-12-14 17:59:09
1040
原创 从「链」到「图」——Agent 编排范式的演进
摘要 链式编排(Chain)是早期LLM应用框架的核心模式,通过线性或有向无环图(DAG)串联组件,适合简单静态任务。但其存在无法表示循环、分支控制困难、隐式状态管理等局限性,难以满足复杂代理系统的需求。智能代理本质上是具有循环与决策能力的图结构,需要动态处理LLM的不确定性、多Agent协作等场景。LangGraph等工具通过引入图结构、状态机和条件边,实现了代理所需的循环控制、动态流程和显式状态管理,解决了链式编排的局限性。
2025-12-12 20:58:53
862
原创 LangGraph 介绍
为了更全面地理解 LangGraph,我们需要将其置于更大的 AI 代理框架生态中对比。作为一名开发者,在深入研究 LangGraph 后,我被它的灵活性和可扩展性所吸引。它通过图结构解耦了流程控制和业务逻辑,提供了耐久执行、人机协同和流式输出等高级能力。这使得构建复杂的 AI 代理系统更加稳健、易于调试,并能够在生产环境中长期运行。当然,LangGraph 也不是银弹:它需要更高的学习成本,社区生态仍在成长。但在复杂工作流和企业级应用场景中,LangGraph 显然提供了一套强大的解决方案。
2025-12-12 12:51:57
1307
原创 Flink 作业如何提升资源利用率?- Reactive 模式 ( 下 )
本篇文章是接着上一篇文章讲的,推荐看完上一篇文章《Flink 弹性伸缩 - Reactive 模式 ( 上 )》再来阅读本篇文章。四、AdaptiveScheduler 运行原理1、Reactive 模式调度器所涉及到的类型2、 AdaptiveScheduler 调度器本身是一个状态机3、AdaptiveScheduler 各个执行状态都在转换(WaitingForResources -> CreatingExecutionGraph)org.apache.flink.runtime.s
2022-02-19 21:15:56
1525
原创 Flink 弹性伸缩 - Reactive 模式 ( 上 )
一、Reactive 模式作业提交示例脚本wget https://dlcdn.apache.org/flink/flink-1.13.5/flink-1.13.5-bin-scala_2.11.tgztar -xzvf flink-1.13.5-bin-scala_2.11.tgzcd flink-1.13.5/mkdir usrlibcp ./examples/streaming/TopSpeedWindowing.jar usrlib/./bin/standalone-job.sh sta
2022-02-12 13:19:29
2317
原创 flink 作业提交流程
之前给大家介绍了DataStream API中 Environment 和 Transformation 连个体系的源代码,今天来了小插曲,给大家宏观介绍下 Flink 作业的提交流程,希望对大家有帮助。一、DataStream 作业提交流程1)、首先,先给大家展示下流程图:2)、提交流程说明:FlinkCli 先创建一个 Flink 环境变量然后将环境变量存入到ThreadLocal中在启动 Flink 作业jar包的 main 方法Flink 应用程序通过 StreamExecution
2021-12-09 21:24:16
3232
原创 spring framework 源码环境搭建(idea)
1、源码地址 https://github.com/ziyangx/spring-framework2、下载源码至文件夹spring3、进入到项目目录,双击gradlew.bat (spring framework 是采用gradle项目管理工具构建, 如果未安装gradle,自行安装好gradle并配置好环境变量),如果报错,再运行一次4、使用idea直接open该项目5、idea...
2020-01-18 11:22:07
813
原创 vue项目创建
安装node: install node.js安装cnpm 淘宝镜像:npm install -g cnpm --registry=https://registry.npm.taobao.orgnpm config set registry “https://registry.npm.taobao.org”创建项目文件夹: mkdir democd demo安装vue客户端: cnpm...
2019-12-25 18:43:47
242
翻译 spark structured streaming
四、API using DataSets and DataFrames (上)1. create streaming DataFrames and DataSets(1) input sourcesfile sourcekafka sourcesocket sourcerate sourceSparkSession spark = ...// Read text from s...
2019-11-06 10:26:36
195
原创 webpack3.x 升级至webpack4.x
webpack3.x 升级至webpack4.x预装环境:nodejs v10.16.0 以上npm 6.1.0 以上文件修改1、修改package.json 相关模块版本,然后删除node_modules文件夹,运行如下命令:cnpm installcnpm listvue项目常用依赖如下{ "name": "nxin.ant.front", "version": "...
2019-06-13 15:25:50
1366
2
mysqlgrammer.g4
2019-09-23
client.zip
2019-09-23
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅