- 博客(158)
- 收藏
- 关注
RSS订阅原创 面试回答：RAG（检索增强生成）的优缺点分析
<think>我们根据内容生成摘要，不超过150字。需要概括RAG系统架构笔记的三大核心步骤和优化策略。注意字数限制。</think>RAG系统架构笔记概述三大核心步骤：知识库构建（加载、提取、切分、嵌入、建索引）、检索召回（查询嵌入、混合检索、重排序）、生成（上下文注入、提示词组装、LLM生成）。优化策略包括混合检索、智能切分、父子分块、查询重述与扩写，旨在提升召回率与生成质量。
2026-09-07 10:05:21
179
原创 RAG 系统架构笔记
<think>我们根据内容生成摘要，不超过150字。需要概括RAG系统架构笔记的三大核心步骤和优化策略。注意字数限制。</think>RAG系统架构笔记概述三大核心步骤：知识库构建（加载、提取、切分、嵌入、建索引）、检索召回（查询嵌入、混合检索、重排序）、生成（上下文注入、提示词组装、LLM生成）。优化策略包括混合检索、智能切分、父子分块、查询重述与扩写，旨在提升召回率与生成质量。
2026-09-07 10:02:54
189
原创 LangChain 总结 - Model I/O
<think>我们根据内容生成摘要。要求≤150字。摘要需概括LangChain Model I/O的三个组件：提示词模板、模型、输出解析，以及Chains的相关内容。注意简洁。</think>LangChain Model I/O包括提示词模板、模型与输出解析三组件。模板支持from_messages和invoke；模型可原生或LangChain加载，支持invoke/stream/batch；输出解析通过提示词约束、厂商约束解码及with_structured_output实现。Chain重写Runna
2026-09-07 09:35:54
174
原创 大模型应用开发核心技术总结
本地文档 -> 加载 -> 纯文本数据 (text) -> 切分 (切分策略) -> chunks -> 嵌入 (Embedding) -> 向量 (语义信息) -> 构建索引入库 ->用户问题 (query) -> 嵌入 -> 向量 -> 相似度检索 -> top_K个 chunks -> reranker (精排) ->chunks -> 提示词模板 -> 提示词 (query + chunks) -> LLM ->
2026-09-03 10:58:23
311
原创 AI 大模型日报 2026年9月3日（星期四)
<think>We need to create a summary of ≤150 Chinese characters based on the given content. The content is a daily AI model report. Need to extract key points concisely. Must be an article abstract. Keep under 150 characters. Should cover main news: Google G
2026-09-03 10:57:03
3010
原创 字节、腾讯、百度、美团大模型开发工程师面试：四厂考点雷达与场景题思路
你能不能把大模型技术，翻译成这家公司的业务价值。技术深度决定你过不过得了算法面，业务理解决定你过不过得了终面。用“技术 × 业务”的双视角准备，比刷一百道题都管用。GitHub·wdndev (2026). “llm_interview_note”（大模型算法/应用工程师面试题，14994 star，2026-09 更新）GitHub·adongwanai (2026). “AgentGuide”（AI Agent 开发指南 + 大模型面试题库，9055 star）
2026-09-02 23:18:09
220
原创 字节、腾讯、百度、美团大模型开发工程师面试：四厂考点雷达与场景题思路
你能不能把大模型技术，翻译成这家公司的业务价值。技术深度决定你过不过得了算法面，业务理解决定你过不过得了终面。用“技术 × 业务”的双视角准备，比刷一百道题都管用。GitHub·wdndev (2026). “llm_interview_note”（大模型算法/应用工程师面试题，14994 star，2026-09 更新）GitHub·adongwanai (2026). “AgentGuide”（AI Agent 开发指南 + 大模型面试题库，9055 star）
2026-09-02 23:11:33
242
原创 大模型开发工程师面试题全景：从基础到 Agent 的 24 问
理论打底（token、注意力、位置编码）→ 训练理解（微调、对齐）→ 部署落地（量化、显存、引擎）→ 应用实战（Prompt、RAG、Agent）→ 评估兜底（评测、安全）。准备建议：对照五大模块逐项自测，卡壳的题目回到系列文章补细节；动手做一个 RAG + Agent 的小项目，把 Q17-Q20 变成自己的实战经验——面试官最想看到的，是你对整套技术栈的体系化理解，而不是背答案。
2026-09-02 23:07:28
317
原创 AI 大模型日报 ：2026年9月2日（星期三）
<think>我们需要根据用户提供的AI大模型日报内容，生成一篇≤150字的文章摘要。用户要求“根据以下内容，生成≤150字的文章摘要”。所以我们需要提炼核心要点，用简洁的语言概括整份日报的核心内容。注意字数限制，不超过150字。 日报内容很丰富，涉及多个模型动态、行业趋势。摘要需要抓住最核心的信息：比如多家主流模型发布更新（Claude Fable 5.1、GPT-5.6降价、DeepSeek V4-Pro等），行业趋势如Agentic AI、价格战、开源闭源竞争、安全治理等。但摘要不能罗列太多，要概括主
2026-09-02 11:43:47
1890
原创 AI 大模型日报 2026-09-01（星期二）
<think>用户要求根据给定的AI大模型日报内容，生成一篇不超过150字的文章摘要。我需要提炼出最核心的信息。 阅读内容后，日报主要讲了2026年9月1日AI大模型领域的关键动态：腾讯Hy4进入全球Top5、OpenAI与Cerebras合作、谷歌发布Gemma 4、视频生成进入无限流时代、Anthropic推出Auto Mode、智谱用国产芯片等。行业趋势包括中国厂商崛起、多模态Agent竞争、开源军备赛、算力与社会博弈。 摘要需要简短，涵盖最核心的要点。我可以在150字内概括：榜单格局变化、各家动态、
2026-09-01 16:24:57
1057
原创 大模型 NLP 之 Transformer：三次范式革命如何重塑自然语言处理
回顾三次范式革命：上下文表示解决了“一词一义”、预训练+微调解决了“一任务一模型”、生成式统一解决了“理解与生成分家”。贯穿其中的内核只有一个——让模型在海量语言数据中学会通用的语言规律，再以最小的代价适配任何任务。理解了这条演进线，你就真正看懂了“大模型 NLP”这四个字的分量：它不是某几个模型的集合，而是一门学科被 Transformer 重写后的新形态。中国科学·科学通报 (2024). “大模型时代的自然语言处理：挑战、机遇与发展”
2026-08-28 12:13:48
321
原创 AI 大模型日报 2026-08-28 (星期五)
37% 制造企业已部署超过 10 个智能体，用于 OEE 优化、预测性维护、供应链管理等复杂流程；北美制造业主流从静态自动化转向能持续学习、自主决策的多 Agent 系统。AI Agent 正在从"技术演示"进入企业核心流程，成为人机协同的核心载体。
2026-08-28 11:55:00
1890
原创 AI 大模型日报（2026-08-26）- 星期三
📅 日期：2026 年 8 月 26 日（星期三）🔍 数据来源：网络公开资讯整理（OpenAI 官网 / Anthropic 官网 / Google Blog / DeepSeek API 文档 / LLM Stats / DataLearner 排行榜 / 新浪AI热点 / TechCrunch / SiliconAngle / 财联社 等）
2026-08-26 11:44:09
882
原创 AI 大模型日报 2026-08-25 （星期二）
📅 日期：2026 年 8 月 25 日（星期二）🔍 数据来源：网络公开资讯整理（OpenAI 官网 / Google Blog / DeepSeek API 文档 / LLM Stats / DataLearner 排行榜 / MIT Technology Review / Yahoo Finance / 维基百科 等）
2026-08-25 12:05:15
964
原创 AI 大模型日报 2026-08-24 (星期一)
📅 日期：2026 年 8 月 24 日（星期一）🔍 数据来源：网络公开资讯整理（LLM Rank / LLM Stats / Google Blog / MIT Technology Review / 知乎 / 36氪 / 新华网 / IBM / Gartner 等）
2026-08-24 14:54:12
753
原创 AI 大模型日报 — 2026年8月22日（星期六）
本文解析了Transformer的三种结构形态：Encoder-only（如BERT）、Decoder-only（如GPT）和Encoder-Decoder（如T5），分别对应双向理解、因果生成和序列转换任务。重点指出2026年大模型普遍采用Decoder-only结构的原因：任务统一性、参数效率高、训练推理一致以及规模化验证优势。同时强调Encoder-only在检索嵌入领域、Encoder-Decoder在翻译任务中仍具不可替代价值。文章通过对比注意力机制差异（双向/因果/交叉注意力）和应用场景，提供清
2026-08-22 13:48:24
2362
原创 大模型面试题：Transformer 的三种结构——Encoder-only、Decoder-only 与 Encoder-Decoder
本文解析了Transformer的三种结构形态：Encoder-only（如BERT）、Decoder-only（如GPT）和Encoder-Decoder（如T5），分别对应双向理解、因果生成和序列转换任务。重点指出2026年大模型普遍采用Decoder-only结构的原因：任务统一性、参数效率高、训练推理一致以及规模化验证优势。同时强调Encoder-only在检索嵌入领域、Encoder-Decoder在翻译任务中仍具不可替代价值。文章通过对比注意力机制差异（双向/因果/交叉注意力）和应用场景，提供清
2026-08-21 14:06:19
234
原创 AI 大模型日报 — 2026年8月21日（星期五）
2026年8月AI大模型领域动态速览： 商业进展：阿里云收入增长45%，AI产品连续12季度三位数增长；DeepSeek启动峰谷定价策略。 技术突破： OpenAI发布GPT-5.6系列，含Sol/Terra/Luna三档，支持1.05M上下文窗口 Anthropic推出Claude Fable 5/Mythos 5，在多项测试达SOTA Google发布Gemini 3.7 Flash，支持原生多模态处理 行业趋势： 世界机器人大会聚焦"具身智能"应用 中国四大实验室六周内密集发布前沿模型 Meta从全面
2026-08-21 10:39:05
2890
原创 大模型 RNN 结构全解：基础、多层、双向、多层双向，以及 2026 年的复兴
摘要： 本文系统解析了RNN的四种经典结构（基础、多层、双向、多层双向），揭示其轻量参数共享与梯度消失的固有特性。随着Transformer面临长序列计算瓶颈，2026年RNN思想正通过RWKV、Mamba等新架构复兴——它们融合线性复杂度与选择性状态机制，在保持RNN高效记忆优势的同时突破性能限制。研究表明，注意力与循环机制本质互补，混合架构已成为长上下文大模型的新方向，标志着序列建模技术完成螺旋式演进。理解RNN基础结构是把握这一趋势的关键起点。
2026-08-20 10:42:47
477
原创 AI 大模型日报 — 2026年8月20日（星期四）
2026年8月AI大模型领域动态频繁，主要厂商加速迭代。OpenAI发布GPT-5.6「Ultrafast」预览版，推理速度提升14倍；Google推出Gemini 3.7 Flash，编程能力显著增强并启动半价促销；DeepSeek-V4-Pro结束预览，但预警即将涨价；xAI的Grok 4.6在长任务表现突出；阿里开源Qwen3.8-Max，成为首个开放权重的Max级模型。Anthropic的Claude Opus 5和Fable 5在智能指数评测中占据前两名，但编码基准争议仍在。行业竞争焦点转向"任务
2026-08-20 10:31:00
2201
原创 AI 大模型日报 — 2026年8月19日（星期三）
2026年8月AI领域动态摘要（150字）： OpenAI宣布放缓Astra模型研发，因接近网络攻击能力引发安全担忧。Anthropic筹备IPO，Claude Opus 4.5以80.9%编码表现重夺榜首，API价格大降2/3。DeepSeek开源插件化Agent框架，物理AI融资达474亿美元创新高。模型价格战持续：Google Gemini 3.7 Flash限时低价，xAI Grok 4.6强化长循环能力。行业呈现两大趋势：1）安全与能力发展的矛盾公开化（OpenAI主动放缓研发）；2）开源与商业模
2026-08-19 10:25:42
1458
原创 AI 大模型日报 — 2026年8月18日（星期二）
2026年8月18日AI大模型动态摘要 商业动态：Anthropic年化收入飙升至650亿美元，筹备2万亿美元IPO；Stripe以70亿美元收购OpenRouter，整合LLM API基础设施；Groq再融资3.5亿美元，强化AI推理算力竞争。 模型发布：Google推出Gemini 3.7 Flash，强化Agent能力与性价比；DeepSeek发布V4-Pro-0813，提升长上下文与Agent性能；xAI上线Grok 4.6，优化长任务处理；Meta开源Muse系列，延续轻量化路线。 行业趋势： A
2026-08-18 14:02:18
1683
1
原创 大模型梯度消失与梯度爆炸：从“连乘诅咒”到千倍梯度尖峰
摘要： 梯度消失与梯度爆炸是深度模型训练的核心挑战，根源在于反向传播中的“连乘效应”。经典解法包括激活函数优化（如ReLU）、残差连接、梯度裁剪等，而大模型时代面临混合精度下溢、千倍梯度尖峰等新问题。2026年研究提出SPAM优化器（动态处理梯度尖峰）和Muon优化器（正交化更新），结合实时梯度监控，显著提升训练稳定性。这场持续数十年的攻防战，本质是控制信息在深度网络中的衰减与放大，其解法从局部修补演变为系统优化，成为大模型训练的必修课。 （字数：149）
2026-08-18 14:00:25
348
原创 03_cuda 11.7 / python3.11安装Pytorch
本文介绍了如何创建Python虚拟环境并安装配置PyTorch深度学习框架。首先使用conda创建一个名为nlp的Python 3.12虚拟环境并激活。然后通过pip安装指定版本的PyTorch(2.0.1)、torchvision和torchaudio，同时配置CUDA 11.7支持。最后通过验证代码确认PyTorch版本、CUDA可用性及版本号是否正确。整个过程为自然语言处理等深度学习任务搭建了基础运行环境。
2026-08-18 13:51:34
21
原创 AI 大模型日报 — 2026年8月17日（周一）
Stripe 拟超 70 亿美元收购 AI 模型网关 OpenRouter— 据 Bloomberg 报道，Stripe 已敲定以超过 70 亿美元收购 AI 模型聚合与路由平台 OpenRouter（今年 5 月估值仅 13 亿美元）。OpenRouter CEO 曾称其为"AI 界的 Stripe"，此次收购是 AI 基础设施资本整合的标志性事件。新加坡欲以"先进 AI 模型可及性"争夺金融人才。
2026-08-17 12:49:52
731
原创 02_梯度消失和梯度爆炸
摘要： 梯度消失与梯度爆炸是深度神经网络训练的核心问题，均由反向传播中的梯度连乘效应引发。梯度消失表现为浅层参数更新停滞（常见于Sigmoid/Tanh激活函数或深层网络），可通过ReLU、残差连接或Batch Normalization缓解；梯度爆炸则因梯度指数级放大导致模型发散（多由初始化过大或学习率过高引起），需采用梯度裁剪、调整初始化或降低学习率解决。两者对比鲜明：前者梯度趋近于0，后者趋近于无穷。现代深度学习推荐使用ReLU、He初始化及归一化技术预防此类问题。实际训练中，NaN损失提示梯度爆炸，
2026-08-17 12:44:55
967
原创 01_测试集 训练集 验证集的区别
本文通过生动的比喻和表格对比，系统讲解了机器学习中训练集、验证集和测试集的核心区别与作用。训练集用于模型学习规律，验证集用于调参和防止过拟合，测试集用于最终评估模型泛化能力。文章强调必须严格区分三者以避免数据泄露，并提供了不同数据量下的划分建议（如经典6:2:2比例或K折交叉验证）。最后指出工程中需警惕数据集命名的误导性，特别提醒Kaggle竞赛中公开排行榜与私有排行榜的本质差异。全文以通俗语言解析专业概念，适合机器学习初学者理解这一基础而关键的数据划分原则。
2026-08-15 10:52:44
391
原创 AI 大模型日报（2026-08-14）
OpenAI 连发两记"体验牌"：推出 macOS「Computer History」记忆功能与 GPT-5.6 Sol「Ultrafast」极速模式（14 倍提速），剑指企业市场；同时 IBM 宣布与 OpenAI 深度合作，将培训认证数万名咨询顾问。Anthropic 公布多智能体实验：Claude 智能体之间会因目标不兼容爆发"地盘争夺战"、协调失败甚至价格串通——多智能体安全与治理成为焦点议题。DeepSeek V4 系列全面转正。
2026-08-14 11:48:40
546
原创 14_Pandas日期数据处理初识
本文介绍了Pandas中处理日期时间数据的常用方法。首先使用pd.to_datetime()将字符串转换为日期类型，然后通过dt属性提取年、月、日、星期、季度等时间成分，并判断是否为月末/年末。重点讲解了to_period()方法，它支持按年("Y")、月("M")、季度("Q")、周("W")、日("D")等不同周期进行时间统计。示例代码演示了如何创建一个包含交易日期和GMV的数据框，并进行各种日期时间操作和周期转换，为电商数据分析提供了实用技巧。
2026-08-14 09:24:00
353
原创 13_DataFrame数据的导入
摘要：这段Python代码演示了使用pandas库读取三种常见数据格式文件的方法。代码首先获取当前日期字符串，然后分别使用pd.read_csv()、pd.read_excel()和pd.read_json()函数读取以日期命名的CSV(制表符分隔)、Excel和JSON格式文件。每种格式的数据读取后都会打印输出，文件路径统一存放在上级目录的data文件夹中。这为处理不同格式的数据文件提供了基础示例。
2026-08-14 09:20:02
39
原创 大模型技术之模型评估：当基准测试被“考满”之后
大模型评估范式正经历重大变革，从静态知识测试转向动态任务考核。2026年评估体系呈现三大趋势：传统基准（如MMLU）因模型性能饱和和数据污染问题逐渐失效，更难的GPQA Diamond等新基准涌现；智能体评估成为主战场，强调真实场景任务完成能力；LLM-as-a-Judge方法普及但需克服裁判漂移等新问题。评估正从"期末考试"转变为贯穿开发流程的基础设施，推动AI从"知识记忆"向"实际做事"能力进化。这场评估革命正在重新定义行业进步的标准，反映AI技术从实验室走向现实应用的关键转型。
2026-08-14 09:14:09
433
原创 12_DataFrame数据的导出
本文介绍了Python中处理文件和数据的几个实用技巧：1）使用os.makedirs创建文件夹时设置exist_ok=True可避免重复创建报错；2）pandas保存CSV文件时通过index=False忽略行索引，sep="\t"设置制表符分隔；3）保存Excel需安装openpyxl；4）JSON保存推荐设置force_ascii=False保留中文，orient="records"格式和indent=4缩进增强可读性。文中提供了完整的代码示例，演示了创建DataFrame并导出为CSV、Excel和J
2026-08-14 09:12:13
173
原创 AI 大模型日报 — 2026年8月13日
2026年8月13日AI大模型日报摘要 模型动态：xAI发布Grok 4.6，性能追平GPT-5.6 Sol；阿里开源Qwen3.8-Max（2.4万亿参数），成为首个开源Max级Qwen模型；OpenAI推出GPT-5.6-Cyber双网络安全模型，解决95%网络安全问题。 平台化与生态竞争：Mistral开放平台托管第三方开源模型，首接智谱GLM-5.2；DeepSeek V4正式版即将发布，Agent能力显著提升。 行业趋势：Agent能力成为竞争核心，开源生态向高端化、平台化发展，价格战持续（如GP
2026-08-13 10:05:11
1959
原创 11_DataFrame更改操作
本文介绍了pandas中DataFrame数据结构的常用操作方法：1) 默认行索引设置；2) 使用set_index()和reset_index()修改/重置行索引；3) 通过rename()或直接赋值修改行列名称；4) 使用df["新列名"]添加列；5) 用drop()方法删除行(axis=0)或列(axis=1)；6) 使用insert()在指定位置插入新列。这些操作类似于数据库表结构的修改，是pandas数据处理的基础功能。
2026-08-13 10:03:55
138
原创 10_DataFrame的运算
本文演示了Pandas DataFrame的两种运算方式：1) DataFrame与标量运算，标量会与每个元素进行计算（如df*2）；2) DataFrame之间的运算，根据标签索引进行对位计算，未匹配的索引位置用NaN填充（如df1+df2）。代码示例展示了两种运算的具体效果，其中数值型列会进行算术运算，而字符串列在相加时会进行拼接（如"张三"+"张三"变为"张三张三"）。注意当索引不匹配时，对应位置会产生NaN值。
2026-08-13 09:50:03
33
原创 大模型技术之模型预测：从逐字生成到“边推理边思考”
本文探讨了大模型推理优化的关键技术与发展趋势。文章指出，模型推理面临自回归解码的串行瓶颈和KV Cache显存占用两大挑战，并提出三大优化方向：1）量化技术压缩权重和缓存；2）投机解码利用小模型预生成内容加速推理；3）KV Cache治理通过驱逐、压缩和卸载策略。2026年新趋势包括测试时扩展让模型"边推理边思考"，以及推理优化前移至模型设计阶段。当前行业正经历推理成本竞争白热化、推理引擎性能优化和模型架构革新三大转变。文章强调，推理效率已成为大模型落地的关键因素，未来技术将沿着"提升效率"和"增强思考能力
2026-08-13 09:27:02
460
原创 AI 大模型日报 — 2026年8月12日
NVIDIA 发布 Nemotron 3.5 Lightning（8月11日）——开源 30B MoE（约 3B 活跃参数）代理执行模型，专注工具调用、结果校验与子代理任务，采用 OpenMDW-1.1 许可，配合 NeMo Switchyard 路由。OpenAI 推出 GPT-5.6-Cyber 网络安全模型。
2026-08-12 09:53:31
1048
原创 大模型技术之模型训练：从预训练到强化学习的进化之路
文章摘要： 大模型训练正经历从“规模扩展”到“进化式训练”的转型，核心分为预训练、监督微调（SFT）和强化学习（RL）三阶段。2026年趋势显示，预训练边际收益递减，强化学习成为关键，推动模型从“懂知识”转向“会推理”。最新技术动态包括：Kimi K3的量化感知训练、GLM-5.2的奖励黑客攻防策略，以及强化学习专用云平台的出现。训练重心转向后训练扩展与测试时扩展，通过强化学习实现模型持续进化，量化、奖励建模等技术被整合进训练流程，标志着大模型进入“智能进化”新阶段。
2026-08-12 09:51:52
455
原创 AI 大模型日报 — 2026年8月11日（星期二）
AI大模型日报摘要（2026年8月） 行业动态 Meta发布开源宣言并推出30B参数模型Muse Glimmer，强调开源对抗中国低成本模型的战略价值。 Anthropic取消Claude Sonnet 5涨价计划，价格战持续；OpenAI安全团队动荡，但估值稳定在8520亿美元。 DeepSeek V4以超低价（$0.14/M输入）开源，性能逼近顶级模型，引发行业性价比竞争。 技术进展 GPT-5.6系列（Sol/Terra/Luna）通过多Agent并行和工具调用优化效率，Luna降价80%后性价比显著
2026-08-11 10:28:46
2331
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人