自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

清风徐来

Leo_Z

  • 博客(141)
  • 收藏
  • 关注

原创 RLVR

第7章聚焦RLVR(可验证奖励强化学习)在推理训练中的应用,强调以可验证答案替代主观偏好评分,通过Verifier提供0/1奖励,结合PPO/GRPO优化策略。核心闭环为多采样→验证→强化正确推理行为。关键技巧包括数据筛选、梯度稳定性控制、奖励塑形与异步训练。强调有效对比信号、奖励设计与训练稳定性的协同作用。推理时长增加不等于能力提升,需评估计算投入产出比。技巧非通用配方,需根据任务调优。

2026-10-23 16:24:20 167

原创 LLM微调实战1- LLamaFactory安装和试用

本文介绍了LLaMA-Factory的本地及Docker安装方法,涵盖有网/离线安装、模型下载与配置、WebUI与命令行测试。重点演示了Qwen3-4B模型的加载、微调(基于identity数据集)、LoRA训练与动态合并推理,并总结了踩坑经验:如gradient_accumulation_steps设为1、template使用qwen3_nothink等。最后提供模型导出命令,实现LoRA权重合并,完整覆盖从部署到应用的全流程。

2026-09-23 10:00:44 105

原创 大模型基础123-量化知识

在QLoRA微调中,推荐优先使用bitsandbytes(bnb)4bit NF4量化,因其生态成熟、显存占用低且与Hugging Face官方示例一致。NF4基于正态分布设计,实现信息熵最大化,有效保留权重精度;双量化进一步压缩缩放系数开销。相较之下,HQQ虽支持更低位宽但生态薄弱,EETQ主打INT8推理性能。因此,兼顾稳定性与兼容性,bnb 4bit仍是当前最标准的QLoRA选择。

2026-09-14 15:34:22 62

原创 Codex 手机连接电脑报Couldn‘t update remote control availability

使用ChatGPT手机端连接电脑Codex时,因多实例冲突及权限问题导致Remote Control无法启用。解决方法:1)通过活动监视器强制退出Chrome中的ChatGPT for Chrome进程,确保仅运行一个桌面端实例;2)开启Full Access权限,执行指定指令配置代理并重启应用。清理后成功启用远程控制。

2026-09-10 18:53:24 1041

原创 AI 原生 SDLC 实践手册 | Claude by Anthropic

AI 原生 SDLC 是一种重新构想的流程:保留旧的管控目标,换用新的执行手段。流程不再是线性流转,而是变成一个循环,AI 嵌入每个节点。AI 原生 SDLC 推动自动化交接和后续 play 的触发,解决传统 SDLC 各阶段之间人工交接的笨拙问题。你也会听到这种转变被叫作 agentic SDLC、AI SDLC,或干脆叫 agentic 软件开发——叫法不同,说的是同一件事。play 按阶段列出;箭头给出采纳顺序。两者不是一回事。

2026-08-28 17:22:09 429

原创 大模型基础123-高效参数微调

摘要: PEFT(参数高效微调)通过冻结预训练模型大部分参数并仅训练少量额外参数(如LoRA的低秩矩阵)来节省资源。LoRA将权重更新分解为两个低秩矩阵BA,减少参数量。QLoRA结合4位量化和LoRA,进一步降低显存需求。DoRA则改进LoRA的局限性,将权重分解为幅度(m)和方向(V/‖V‖)分别优化:方向用LoRA矩阵更新,幅度单独学习,增强复杂任务的表现。三者均实现高效微调,DoRA尤其适合需独立调整幅度与方向的场景。

2026-08-25 12:14:48 235

原创 从矩阵到秩:理解大模型参数与 LoRA 微调

矩阵是大模型进行特征变换和信息传递的基本工具。Rank 表示矩阵中真正独立的信息方向数量,也可以理解为矩阵变换后保留下来的有效维度。W′WBAW'=W+BAW′WBAΔWW′−WΔWW′−W可以用较低的 Rank 近似表示。权重大小变化权重方向变化从而减少两类变化之间的相互干扰。矩阵负责变换信息,Rank 表示独立信息方向,LoRA 用低秩矩阵高效学习任务变化,DoRA 则把权重大小和方向分开学习。

2026-08-25 11:25:13 286

原创 从 ASR+LLM+TTS 到 GPT‑Live:解读语音智能新范式

本文分析了新一代语音交互系统GPT‑Live的技术突破,指出其核心在于通过全双工架构实现实时连续对话,并拆解了"即时响应"与"深度思考"的双路径设计。文章对比了Moshi、Qwen-Omni等公开模型的技术路线,强调GPT‑Live的创新不仅在于语音质量,更体现在低延迟交互、自然打断机制与后台复杂任务调度的系统级优化。当前语音智能正从单轮请求处理转向持续交互系统,需重点关注对话节奏、上下文保持等非语言因素。

2026-08-19 15:30:37 497

原创 Agent测评工具Langfuse自建部署实战-安装

本文详细介绍了开源LLM可观测平台Langfuse v4的Docker Compose部署方案,重点解决国内服务器部署中的三大常见问题:Docker Hub访问限制、端口冲突和初始化配置。部署包含Web、Worker、PostgreSQL、ClickHouse、Redis和MinIO组件,采用内部网络通信避免端口冲突。文章提供了完整的部署流程,包括环境准备、密钥生成、访问地址配置、健康检查方法,以及首次账号创建和管理员权限设置建议。针对生产环境,推荐采用多副本、数据备份、访问控制等增强措施。最后附有常见问题

2026-08-14 18:29:30 423

原创 从 Chat Completions 到 Agent Runtime:主流大模型接口协议全景与设计对比

大模型API协议演进与三大平台比较 当前大模型接口从简单的文本交互发展为支持多模态、工具调用、异步任务等复杂场景,协议可分为四层:模型调用、Agent编排、资源管理和传输协议。OpenAI、Anthropic和Google Gemini的核心设计差异显著: OpenAI 从传统Chat Completions转向类型化输出的Responses API,支持工具调用和状态化编排。 Anthropic 以Messages为核心,强调显式内容块和客户端控制,提供托管式Agent服务。 Google Gemini

2026-08-07 15:49:34 445

原创 一文阐述国内网络环境下使用NIM方法

NVIDIA NIM 国内部署指南(精简版) NVIDIA NIM 是容器化微服务套件,帮助快速部署大模型。国内用户需注意: 跳过国际版步骤,直接通过国内镜像站(如图灵)下载 关键步骤: 使用 tgc 工具下载镜像和模型 设置大容量缓存目录(建议50GB+) 启动容器时指定GPU数量(单卡/多卡) 显存估算公式: 总显存 = (参数量×字节数×1.25) + KV缓存(4-16GB) 示例:7B模型需24GB显存(如RTX3090) 附模型下载和API调用示例命令,完整流程比国际版简化3个步骤。

2026-07-29 12:56:56 279

原创 别再只写推荐算法 Notebook:用Python跑通一个完整的深度推荐系统

推荐系统通常不会让一个复杂模型直接给全量物品打分。物品数量一旦增长,这种做法会迅速变慢。因此项目把在线推荐拆成召回和排序两个阶段。双塔模型分别把用户和电影编码成向量。在线请求到来时,系统先用向量相似度从全量电影中找出一批候选。这一阶段追求的是速度和覆盖率:尽量不要漏掉用户可能喜欢的电影。召回结果随后进入 DeepFM。排序模型会融合用户、电影、类型、年份和召回分数等特征,同时学习低阶特征交互与高阶非线性关系。它的工作不是寻找全世界所有可能的电影,而是在有限候选中判断“哪一部更应该排在前面”。

2026-07-26 23:04:56 326

原创 AI_Coding: Hooks

Codex Hooks 是一种在 AI 开发过程中自动执行脚本的机制,它可以在关键节点(如会话开始、工具执行前后等)触发预定义操作。Hooks 适合执行机械性任务,如安全检查、代码格式化等,与 AGENTS.md 的指导性规范形成互补。 Hooks 可配置在不同层级(用户全局/项目级),通过 JSON 格式定义事件、匹配规则和执行命令。常用事件包括工具执行前后的拦截检查(PreToolUse/PostToolUse)和任务结束时的交付验收(Stop)。脚本通过 stdin 接收 JSON 输入,通过退出码和

2026-07-17 11:19:25 552

原创 搜广推进入 Agent 时代

搜广推过去十年的主线是把模型做大、把特征做细。执行瓶颈:广告投手手动调参、算法工程师手工推进实验——人的吞吐量线性限制了系统迭代速度。一个工程师只能串行推进 1-2 个实验,一个投手能同时管理的广告计划数有硬上限。经验瓶颈:失败实验的价值只停留在文档和个人记忆里,无法转化为系统能力。下一个投手/工程师仍然可能重复踩坑。让 Agent 成为执行主体,人退到监督位。腾讯 AdPilot(KDD 2026)和快手 AgentX(2026.06 技术报告)分别从广告投放和推荐研发两条线,给出了工程验证过的解法。

2026-07-17 10:24:28 507

原创 Loop Engineering:从提示词工程师到 AI 系统架构师

Loop Engineering:AI 系统架构的新范式 本文提出AI编程正经历第三次革命——从提示词工程(Prompt Engineering)到循环工程(Loop Engineering)的转变。核心在于设计能自主运行的闭环系统,而非单次交互的AI指令。关键要点: 范式演进:从单次提示优化→单任务推理循环→跨任务自主系统架构,开发者角色从提示词工程师转变为AI系统架构师。 核心架构: 六要素闭环:调度机制、工作树隔离、技能复用、工具链连接、对抗验证、状态持久化 双层循环模型:内循环(ReAct单任务执行

2026-06-23 15:27:53 398

原创 Imbalanced Learning

类别不平衡(Class Imbalance):数据集中各类别样本数量差距悬殊。常见于欺诈检测、医疗诊断、异常检测等场景。准确率(Accuracy)失效——多数类占 99%,全猜多数类也有 99% 准确率模型偏向多数类,少数类(正类)几乎学不到信号交叉熵损失被多数类主导,梯度更新忽略少数类。

2026-06-20 23:38:11 303

原创 2026 大模型 API 定价全景图:DeepSeek、豆包、Qwen、GLM、MiniMax、Kimi、Claude、Gemini、GPT 谁最便宜?

随着大模型竞争进入"成本大战"阶段,本文汇总了国内外主流AI模型的API定价策略。国产模型中,DeepSeek V4系列性价比突出,特别是缓存命中场景下输入成本低至0.02元/百万Tokens;字节豆包采用上下文长度分档计费,适合不同规模应用;阿里通义和智谱GLM在长上下文和企业场景有优势。国际方面,Anthropic Claude的Prompt Cache商业化最成熟,提供多级缓存计费;Google Gemini和OpenAI GPT系列则按不同模型版本和上下文长度差异化定价。整体来看,企业选型需综合考虑

2026-06-04 12:37:20 4983 1

原创 Anthropic Agent最佳实践系列二: Agent系统测试

文章摘要: 本文探讨了AI Agent评估(eval)的重要性与方法,指出Agent系统的稳定性与可靠性高度依赖系统化的评估框架。相比传统单轮LLM评估,Agent需追踪多轮执行轨迹,综合判断过程与结果(如数据库状态、文件修改等)。Anthropic提出了一套工程化评估体系,包含任务(Task)、执行记录(Transcript)、评分器(Grader)等核心组件,强调需结合代码测试、模型评分和人工抽检。文中以代码Agent(如SWE-bench)和对话Agent(如τ2-Bench)为例,说明如何通过多维度

2026-05-31 12:53:55 648

原创 ChatGPT、Claude 和 Gemini 的网页端聊天历史是怎么处理的?

AI 会话上下文管理机制解析 大模型产品处理长对话时并非简单存储全部历史记录,而是采用动态上下文管理策略。核心机制包括: 模型本身是无状态的,每次请求需重新构造上下文输入 上下文窗口有限,需平衡系统指令、工具结果、历史对话等内容 短对话通常保留完整上下文,长对话则采用多种优化策略: 裁剪早期内容 摘要压缩关键信息 检索相关历史片段 挂载长期记忆 要求开启新会话 主流产品实现差异: ChatGPT:动态上下文+记忆+历史引用 Claude:强长上下文能力但仍会压缩超长会话 Gemini:原生支持超长上下文+缓

2026-05-26 10:09:25 742

原创 GitLab CI|CD 配置笔记

本文详细介绍了GitLab Runner v18.x版本的安装与注册流程。首先指导用户下载适合系统架构的安装包并进行命令行安装,然后通过交互式命令完成Runner注册,包括填写GitLab实例URL、注册Token、描述信息等关键参数。文章特别解析了注册过程中出现的Deprecated警告,说明其不影响当前版本使用,并解释了选择Shell执行器的优缺点。最后验证Runner状态并确认注册成功。整个过程配有详细日志和截图说明,帮助用户快速完成CI/CD线下执行机的配置。

2026-05-21 17:29:14 552

原创 除了Post-Train,我们还能对大模型做什么

开源大模型微调面临"灾难性遗忘"问题,李宏毅教授提出三大前沿解决方案:1)模型编辑(Model Editing),通过精准手术式修改特定参数,实现知识更新和隐私遗忘;2)模型融合(Model Merging),无需训练直接合并多个模型参数,快速获得多功能模型但存在逻辑冲突风险;3)测试时训练(Test-Time Training),在推理时动态更新参数,采用快慢更新机制和自动重置保障稳定性。这些方法突破了传统微调的局限,为大模型持续进化提供了多样化路径。

2026-05-21 13:36:04 404

原创 ReAct 智能体的失败处理与改进机制:从 Demo 到工业级 Agent 的关键一步

摘要: 工业级智能体系统的核心在于将ReAct框架(推理→行动→观察循环)与鲁棒性机制结合,以应对工具调用失败、参数错误、任务漂移等实际问题。关键机制包括:1)最大步数限制防止无限循环;2)工具调用超时与结构化重试策略;3)参数Schema校验确保输入合规;4)标准化Observation反馈;5)循环检测避免重复调用;6)状态机跟踪原始目标防偏离。这些机制共同构成执行控制层,使大模型专注于决策,系统负责边界控制与错误处理,从而提升智能体在真实场景中的稳定性与可靠性。

2026-05-19 19:26:59 611

原创 Anthropic Agent最佳实践系列一: Agent 架构入门

文章摘要:本文探讨了构建高效LLM智能体的关键原则与实践经验。研究表明,简单可组合的模式比复杂框架更有效。文章区分了工作流(预定义流程)与智能体(自主决策系统)的适用场景,建议仅在需要高度灵活性时采用智能体。介绍了多种工作流模式(提示链、任务路由、并行处理等)和智能体的核心架构,强调工具设计清晰性和模型友好性的重要性。最佳实践包括优先使用简单方案、理解底层机制、设置防护措施等,并以代码智能体为例展示了实际应用场景。

2026-05-09 12:52:11 501

原创 KDD Cup 2026 腾讯算法广告大赛:UNI-REC-PCVRHyFormer 源码深度解读

一个统一序列建模与非序列特征交叉的工业级推荐模型 baseline,值得每一位推荐系统工程师精读。腾讯给出的 baseline——,用约 1800 行高质量 Python 代码给出了一个答案。本文逐文件拆解这个 baseline,从数据管道到模型架构到训练策略,力求说清每一处设计意图。

2026-05-02 13:35:08 1385

原创 KDD Cup 2026 腾讯算法广告大赛赛题解读: UNI-REC (统一序列建模与特征交叉)

KDD Cup 2026推荐系统赛道聚焦特征交叉模型与序列模型的结构性融合问题。赛事基于腾讯广告真实日志数据,包含120列用户和物品特征,特别设计了用户离散特征与连续特征的对齐结构,为统一建模提供天然切入点。评估采用AUC指标并设置严格延迟约束,要求参赛者在精度和效率间取得平衡。除常规排名外,还设立了两个各4.5万美元的创新奖,分别奖励统一建模块设计和扩展规律研究。总奖金达88.5万美元,技术方向建议关注统一tokenization方案、可堆叠backbone设计及延迟优化策略。该赛事旨在推动推荐系统突破现

2026-05-02 00:27:59 1663

原创 Claude Code 接入飞书 CLI:让 AI 真正帮你干活

本文介绍了如何将Claude Code接入飞书办公平台的方法。首先需要安装Node.js环境和飞书CLI工具,通过npm全局安装@larksuite/cli并配置初始化。接着完成OAuth授权登录,并根据需要添加不同功能的权限范围。重点展示了Claude Code与飞书CLI的深度整合,用户可以直接通过自然语言指令操作飞书文档、日程等功能,无需手动切换工具。虽然存在权限管理较繁琐的缺点,但这种AI+CLI的模式大幅提升了办公效率,展现了智能化办公的新可能。文章提供了详细的安装配置步骤和实际应用示例,为想要尝

2026-05-01 22:54:58 1868

原创 大模型基础123-位置编码

百万 token 上下文已经是 SoTA 大模型的标配 —— Gemini 2.5 支持 1M-2M,GPT-5 / Claude 4 支持 1M,Llama 4 Scout 甚至号称 10M。这一节梳理一下他们到底用了什么技术,和上面笔记里的内容什么关系。

2026-04-25 22:58:42 442

原创 AI Agent 核心技术:Context Engineering 基本概念解说

本文深入探讨了大语言模型(LLM)发展中的关键技术——上下文工程(Context Engineering)。文章指出,AI Agent作为语言模型与现实世界的桥梁,需要解决两大核心挑战:模型缺乏长期记忆和上下文窗口受限问题。通过四种核心操作(上下文压缩、记忆系统、子代理机制和源头控制),AI Agent能够智能管理输入信息,防止上下文爆炸。文章特别提出"Agentic Context Engineering"概念,展望未来AI Agent将具备自主管理上下文的能力,包括动态维护知识库和递

2026-04-16 10:19:32 500

原创 Harness Enginner记录-驾驭AI Agent之术

摘要:Harness Engineering是AI领域新兴的控制大模型的方法论,旨在通过外部框架规范AI行为。台大李弘毅教授将其分为三个层面:(1)认知框架控制,通过自然语言设定身份和规则;(2)工具控制,限制AI能力边界;(3)工作流程控制,规范行为模式。核心思想是减少模型不确定性,通过反馈循环(Ralph Loop)实现自我进化。研究显示,正向引导能提升AI表现,而负面反馈会降低性能。该方法由OpenAI和Anthropic等公司推动,代表大模型应用从单轮交互向自主解决问题的演进。

2026-04-16 00:02:40 604

原创 Claude Code使用:如何写一个好的 CLAUDE.md

CLAUDE.md是用于规范Claude行为的核心文档,应聚焦于项目关键信息:构建测试流程、架构边界、编码规范和安全限制。避免放入背景介绍或可推断的内容。建议采用模块化结构,包含构建指令、架构约束、编码规范、禁止事项和验证要求。通过让Claude自行更新文档来持续优化,并定期review过时条目。项目实践中可配合环境检查工具和按文件类型触发的hooks,建立包含全局约束、路径约束和工作流的多层级规范体系,但需避免文档膨胀、内容过时或约束过度等常见问题。

2026-04-10 11:22:55 684

原创 Claude Code:架构、治理与工程实践

本文深入解析Claude Code系统的六层架构与核心机制,重点探讨上下文管理、组件设计和工程实践。系统采用代理循环机制(收集→行动→验证),而非简单问答模式。通过分层分析揭示了上下文污染的根源——固定开销占用12.5%容量,并提出分层加载策略(常驻/路径/按需/隔离)。文章详细区分了Tool/Skill/Subagent等组件的设计边界,强调Skill应实现渐进式信息披露。针对上下文噪声问题,推荐RTK工具自动过滤命令输出,并给出压缩优先级策略。最后提出Plan Mode的双阶段工作法,通过探索-执行分离

2026-04-10 11:16:03 698

原创 从排序到生成:腾讯广告算法大赛 2025 baseline解读

腾讯广告算法大赛提出"生成式推荐"新范式,将推荐系统视为序列生成任务。用户行为序列被token化,推荐转化为next-token预测,实现端到端统一建模。比赛提供百万至千万级工业数据集,包含多模态广告特征(文本/图像embedding)和用户行为序列。Baseline采用Transformer架构建模用户历史序列,通过ANN检索实现推荐,展现了"生成式建模+检索式推理"的工业实践。核心创新在于将推荐系统LLM化,用语义理解替代传统ID驱动,为推荐领域带来范式变革。

2026-04-09 11:55:27 1386

原创 AI动画短片生产全流程

视频创作全流程AI化指南(150字摘要) 本文系统介绍了利用AI工具制作短视频的完整流程:1)剧本生成阶段需构建2分钟内可执行的故事骨架,注重画面可实现性;2)分镜头脚本需表格化呈现,控制单镜头3-6秒,总镜头8-15个;3)素材生成阶段强调角色一致性,通过三视图保证人物设定稳定;4)视频生成推荐使用即梦/可灵工具,保持风格统一;5)后期剪辑遵循五步流程,从素材排序到节奏优化。全文提供具体prompt模板和工具推荐,突出"画面可实现性"和"叙事连贯性"两大核心原则,适

2026-03-29 14:04:35 985

原创 GPU 部署ppocr记录

本文介绍了PaddleOCR服务的部署过程,主要包含环境安装和服务实现两部分。在环境安装阶段,通过Docker方式安装PaddlePaddle深度学习框架和PaddleOCR工具包。服务实现部分采用FastAPI构建RESTful API,支持高并发OCR识别功能。服务配置了线程池、信号量等机制控制并发量,并优化了PaddleOCR参数设置(关闭文档方向分类等非必要功能以提高性能)。该服务接受base64编码的图片输入,返回OCR识别结果文本及处理耗时,适用于各类文字识别场景。

2026-03-08 11:37:21 497

原创 大模型基础123- 注意力机制,从数学原理到资源优化框架

本文系统梳理了大模型中的注意力机制及其优化方向。首先解释了注意力机制如何解决传统序列模型的信息瓶颈问题,通过动态加权聚合实现长距离依赖建模。详细介绍了注意力计算的基本公式(Scaled Dot-Product Attention)及其多头扩展形式(Multi-Head Attention)。重点分析了当前三大优化方向:降低计算复杂度(如稀疏注意力、线性注意力)、减少显存占用(如FlashAttention、KV Cache)以及支持更长上下文(如MQA/GQA)。其中FlashAttention通过分块计算

2026-02-17 23:04:46 831

原创 企业级大模型微调(Fine-tuning)策略

摘要:通用大模型在垂直业务场景中存在"话术官僚化""逻辑浅表化"和"事实幻觉"等局限,单纯依赖Prompt工程成本高且不可靠。微调技术的本质是重塑模型的思维模式,通过修正概率分布和内化专业思维,可显著提升模型性能。数据工程是微调成功的关键,需要注重数据多样性、复杂性和分布平衡,采用人机协作方式生成高质量数据并持续优化。建议通过构建黄金测试集和数据监控形成闭环,实现模型的持续进化。

2026-02-13 21:50:58 590

原创 LangGraph速记

State seems like the thread data that I’ve been familiar with,can be persisted across time and in particular across failures of nodes,是一个流动的状态数据。运行到 interrupt 时,LangGraph 会暂停等待外部输入(UI/接口/你的控制台逻辑),这就是 HITL 的核心。进一步的,可以使用map-reduce。它不是一个函数,也不是一个类,而是。

2026-02-09 11:33:57 640

原创 Langchain学习笔记一 -基础模块以及架构概览

LangChain总体架构分为5层:模型层(L1)对接各类LLM模型;提示层(L2)处理Prompt模板化;运行层(L3)通过Runnable实现流程编排;智能层(L4)提供Agent/Tools实现工具调用;记忆层(L5)管理长期记忆和上下文。核心模块包括ChatPromptTemplate(L2)、RunnableSequence(L3)、Tool Calling Agent(L4)等,支持从输入到输出的完整AI应用开发流程。其中AgentExecutor负责循环执行工具调用,OutputParser将

2026-02-05 13:30:20 445

转载 人生没有两全之事,不要美化那条你未选择的路

人生没有绝对正确的选择,每条路都有遗憾。我们常幻想未选之路会更美好,但不过是给想象戴上滤镜。成年人的通透在于:不美化放弃的选项,不为过去后悔。当前路难行时,应勇敢跨越而非幻想"如果当初"。买了就不比价,选了就别回头。余生还长,只需义无反顾地走下去,风来迎风,浪来踏浪。人生这道选择题,本就没有百分百的圆满。

2026-02-05 12:55:53 92

原创 从冷启动到爆品:AliBoost 如何破解推荐系统“富者愈富”困局

摘要:阿里提出AliBoost框架解决推荐系统中新商品冷启动难题。该方案通过三级助推架构(分级曝光、动态晋级淘汰)、Stacking冷启动CTR预测模型(融合多源数据)和商品导向竞价机制,打破"马太效应"循环。实验显示,被助推180天的商品GMV提升超70%,全链路指标同步改善,实现生态与商业价值的协同优化。该研究为平台内容多样性提供了创新解决方案。(149字)

2026-02-04 18:51:00 757

demo数据KDD 2026

demo数据KDD 2026

2026-05-02

【人工智能开发】基于LangGraph的状态图模型构建:支持检查点与人机协同的长周期LLM应用系统设计

内容概要:本文介绍了LangGraph的核心概念及其在构建基于大语言模型(LLM)的应用程序中的关键作用。重点讲解了LangGraph如何通过StateGraph实现状态管理、节点函数执行与控制流调度,解决代理应用中存在的延迟高、长时间运行易失败、非确定性等问题。通过并行化降低实际延迟、流式输出改善感知延迟,并利用检查点(Checkpointing)实现故障恢复、状态持久化和时间回溯能力。同时支持人类介入(Human-in-the-loop)机制以增强可控性与安全性,结合LangSmith平台提供追踪、观测与评估功能,提升开发调试效率。课程以构建邮件客服工作流为例,演示了从读取邮件、意图分类、文档检索、生成回复到人工审核的完整流程。; 适合人群:具备Python编程基础,对LangChain和大语言模型应用开发有一定了解的开发者或AI工程技术人员,尤其是希望深入掌握Agent系统设计与实现的研发人员。; 使用场景及目标:① 构建可恢复、可观测、可干预的长周期运行Agent;② 实现复杂业务流程的编排,如客户服务自动化、多步骤决策系统;③ 利用状态机模型管理LLM应用的状态流转与容错处理; 阅读建议:学习时应结合LangSmith工具进行实践操作,重点关注State定义、节点函数设计、条件边与并行边配置、检查点存储及中断机制的实现方式,并通过调试可视化流程加深理解。

2026-02-28

【人工智能应用】基于Claude技能系统的自动化工作流构建:从设计到部署的全流程指南

内容概要:本文详细介绍了如何为Claude构建技能(Skills),即通过创建包含指令的文件夹来定制化AI的工作流。技能由SKILL.md、脚本、参考文档和资源等组成,支持渐进式披露、可组合性和跨平台移植。文章涵盖从规划、设计、测试到分发的全流程,提供技术规范、最佳实践与常见模式,并强调YAML元数据的重要性以及与MCP集成的协同作用。同时给出了触发机制优化、错误排查和性能调优等实用建议。; 适合人群:开发者、高级用户及团队负责人,特别是希望将Claude应用于标准化工作流或增强MCP工具集成效果的技术人员。; 使用场景及目标:① 创建自动化文档生成、项目管理、客户入驻等重复性任务流程;② 提升MCP工具的易用性与执行一致性;③ 构建可复用、可共享的AI能力模块以提高团队效率; 阅读建议:建议结合官方示例仓库和skill-creator工具边学边练,在实际开发中注重描述字段的精准性、指令的清晰度与错误处理机制的设计,并通过反复测试迭代优化技能表现。

2026-02-23

推荐系统字节实践手册,从数据到落地完整细节

推荐系统字节实践手册,从数据到落地完整细节

2025-11-01

基于OeRec架的端到端生成模型优化:多模语义理解与高效推理统一基座设计

内容概要:本文介绍了快手推荐大模型团队提出的OneRec系列技术方案,旨在突破传统推荐系统在规模化、效率与智能边界上的瓶颈。通过分析传统级联架构面临的算力碎片化、目标不一致和技术代差等问题,提出OneRec端到端生成式推荐框架,整合召回、粗排、精排等阶段,实现系统一致性与性能提升。OneRec采用Decoder-Only架构和行为Transformer结构,结合视频多模态表征、语义ID(SID)tokenizer、Reward System强化学习对齐用户与业务偏好,并在实际应用中显著提升LT、GMV等核心指标,资源消耗仅为传统系统的1/12。进一步提出Lazy Decoder Only架构优化训练效率,提升模型可扩展性16倍。最终展望OneRec-Think方向,通过引入思维链(CoT)式推理,实现推荐与大模型生成理解的统一,推动推荐系统迈向深度认知推理。; 适合人群:具备推荐系统、深度学习背景的算法工程师、研究员及相关技术管理者,尤其是关注大规模生成式推荐、模型架构优化与LLM融合应用的技术人员; 使用场景及目标:①解决传统推荐系统多阶段建模范式局限与效率瓶颈;②探索端到端生成式推荐的可行性与工程实现路径;③研究推荐系统与大模型在架构、训练、推理层面的融合创新; 阅读建议:此文档技术密度高,涉及系统架构、模型设计、训练优化与前沿探索,建议结合图表深入理解OneRec各模块设计动机与实现细节,重点关注其如何借鉴LLM Scaling Law思想重构推荐系统范式。

2025-10-28

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除