拿数据说话,《State of AI》100万亿Token深度分析出来的7个真相

GPT-4稀疏激活真相:万亿参数下的MoE工程实践 大模型中的稀疏激活(Sparse Activation)是一种通过条件计算实现高效推理的核心范式,其原理源于专家混合(Mixture of Experts, MoE)架构——将超大模型拆分为多个专用子网络,由轻量级路由器按token语义动态选择Top-K专家参与计算。该技术突破了稠密模型面临的内存墙与功耗墙瓶颈,在保持万亿级参数容量的同时,显著降低单次前向的FLOPs和显存带宽压力。其技术价值不仅体现为推理延迟下降与能效提升,更在于支撑细粒度知识分工、路由驱动的弹性扩展及面向垂直场景的可控推理。当前主流落地 阅读详情

过去这一年,我们看过太多 AI 报告了。它们大多长得一个样,在实验室里跑个分,画几张漂亮的榜单,然后就是各种想要改变世界。

但真实的世界里,大家到底在用 AI 干什么?是都在写周报,还是在偷偷谈恋爱?是都在做科研,还是在疯狂撸代码?

今天,我想带大家看一份不讲虚话的重磅报告《2025 年 AI 状况报告 (State of AI)》。

image.png

image.png

报告链接👉https://openrouter.ai/state-of-ai

这份报告由 OpenRouter 和 a16z 联合发布。它的含金量觉得ok,都是实打实的真实数据。这可不是几千份问卷调查能比的,这是一份基于 100 万亿 Token 的真实交互数据的得出来的,你可能对 100 万亿 Token没什么概念,其实酒相当于 25,000 个维基百科。

为了让你明白它的分量,我们先看一眼这份报告的底牌:

出品方是 OpenRouter & a16z,发布时间就在刚刚过去的 2025 年 12 月。

数据来源是 OpenRouter 平台。作为一个聚合器,它连接了全球 60 多家供应商的 300 多个模型,无论是闭源的 GPT、Claude,还是开源的 DeepSeek、Llama 都在里面。

时间跨度涵盖了 2024 年 11 月到 2025 年 11 月。这正好是 OpenAI o1 发布和开源模型爆发的关键一年。

最重要的是,它只分析元数据,没有窥探任何具体的聊天内容,保证了隐私同时也保证了宏观数据的真实性。

在Gemni老师的辅助下,我把这份几万字的英文报告,嚼碎了总结成以下 7 个重要的部分跟你分享。

01. AI 终于学会“动脑子”了

以前的 AI 像是条件反射,你说一句它接一句。但自从 OpenAI 的 o1 模型发布后,AI 进入了慢思考时代。

现在的 AI 不再是单纯的文本生成器,它们会先在大脑里经过多步推导、规划,再给你答案。报告显示,到 2025 年底,这种推理模型的使用量已经占据了总流量的一半以上。

这意味着:大家不再只是把它当搜索引擎或者聊天机器人,而是开始用它解决真正的复杂逻辑问题。

02. 开源模型:如果不努力,就会被遗忘

image.png

image.png

以前开源界 DeepSeek 一家独大,但现在的江湖是群雄逐鹿。

虽然 Claude 和 GPT 这种闭源巨头依然占据高端市场,但开源模型凭借高性价比和灵活性,已经拿下了约 30% 的市场份额。

而且市场极其残酷,Qwen(通义千问)、Llama、Mistral 都在疯狂迭代。数据告诉我们,开源模型如果不持续更新,用户跑得比谁都快。

03. 谁是真正的“杀手级”应用?

这是最打脸生产力专家的一条。数据揭露了人类用 AI 最主要干的两件事:

第一是写代码。这是增长最猛的赛道。代码类请求占比从年初的 11% 暴涨到了年底的 50%。程序员们已经离不开 AI 了,其中 Anthropic 的 Claude 是这个领域的绝对王者。

第二是角色扮演。这块需求巨大!特别是在开源模型的使用中,超过一半(52%)的流量都是用来搞角色扮演、写故事、搞虚拟互动的。

别总盯着办公软件看,代码是生产力,角色扮演是情感刚需,这才是 AI 的两条腿。

04. 告别聊天机器人,迎来“智能员工”

报告发现了一个明显的趋势:提示词变长了,任务变复杂了。

为了解决问题,现在的平均提示词长度比以前翻了 4 倍。这说明大家不再只是问“天空为什么是蓝的”,而是把一大堆代码、文档扔给 AI 让它分析。

同时,AI 开始大规模调用工具。它们不再只是陪聊,而是像一个代理人一样,去查数据、跑代码、做规划。AI 正在从 Chatbot 进化为 Agent。

05. 神奇的“水晶鞋效应”

image.png

image.png

研究人员发现了一个很有意思的留存现象,他们称之为灰姑娘的水晶鞋效应。

简单说:如果一个新出的模型能完美解决你手头的一个特定难题,你就会死心塌地地一直用它,哪怕后面出了新模型你也不换。

反之,如果一个模型只是样样通样样松,没有极致的解决能力,用户试一下就会流失。在这个时代,平庸就是原罪。

06. 亚洲力量的崛起

这也是这份报告的一大亮点。全球 AI 的使用重心正在东移。

亚洲地区的使用量占比从 13% 飙升到了 31%。而且,中国不仅仅是在用 AI,更是在造 AI。

DeepSeek、Qwen 等国产模型在国际开源市场上非常能打,数据证明它们已经成为了全球开发者工具箱里的重要选项。

07. 越贵越有人买,越便宜也越有人买

市场正在两极分化。

高端玩家如 Claude 3.7、GPT-4 这种昂贵的模型,因为足够聪明、写代码不出错,企业和专业人士愿意掏高价买单。

极致性价比如 Gemini Flash、DeepSeek 这种便宜又快的模型,因为成本极低,被海量用于自动化任务,跑出了巨大的量。

最难受的是中间档,既不够顶尖,又不够便宜的模型,处境最艰难。

写在最后

看完这 100 万亿 Token 的分析报告,我的感受只有一个:AI 的祛魅时代结束了,实干时代开始了。

2025 年的 AI 已经不再是那个只会写打油诗的玩具。它正在变成程序员手里最锋利的刀,变成孤独者最亲密的伙伴,变成那个会思考、会调用工具的新物种。

对于我们每一个人来说,问题已经不再是“你会用 AI 吗?”,而是“你找到那双属于你的水晶鞋了吗?”

如果你也对AI感兴趣,想拥抱AI,不妨可以来看看我们的AI超级个体知识库👇 免费的!

二维码

AI超级个体知识库

https://hyperspace.feishu.cn/wiki/SpRGwQNKMiYk8UkzInBcQkzZnLh

AFSim 2.9实战指南:从入门到精通的中文教程 本文是AFSim 2.9的实战中文教程,旨在帮助用户从零开始掌握这一先进的仿真框架。内容涵盖从环境安装、运行第一个“Hello World”仿真,到深入理解实体、组件、想定编辑器等核心概念,并进阶探讨动力学建模、传感器仿真与红蓝对抗想定构建。最后,指南还提供了效能分析与实战排错技巧,帮助用户将仿真结果转化为有价值的量化数据,适用于军事、航空航天等领域的复杂系统行为模拟研究。 阅读详情

相关推荐

通义千问AI模型对接飞书机器人-集成飞书机器人(2-2)

http请求地址上一篇百炼平台配置的应用地址。

hefaji的博客 1917

AI:《State of AI Report 2025》全面解读2025年AI技术发展—洞察人工智能的未来轨迹

​ AI:《State of AI Report 2025》全面解读2025年AI技术发展—洞察人工智能的未来轨迹 目录 《State Of AI Report 2025》的翻译与解读 1、背景 2、简介 3、核心内容 4、核心结论 5、对读者的启示与建议 6、对未来的展望:短期 12 个月到中期 3 年 《State Of AI Report 2025》的翻译与解读 地址 博客地址:https://www.stateof.ai/ PPT地址:ht

头部AI社区如有邀博主AI主题演讲请私信—心比天高,仗剑走天涯,保持热爱,奔赴向梦想!低调,专注,谦虚,自律,反思,成长,还算比较正能量的博主,公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然,有点小情怀,也有点使命感呀 6120

Unity IAP插件实战:从零搭建Google Play内购系统

本文详细介绍了如何使用Unity IAP插件从零搭建Google Play内购系统,涵盖环境准备、双端配置、核心API实现及常见问题排查。通过实战代码示例,帮助开发者快速掌握跨平台内购功能开发,提升手游商业化效率。

weixin_28692867的博客 431

2021 AI年度报告-stateof.ai出品【1】

一、简介 stateof.ai 出品的2021 AI年度报告,其中包含了五点重要的总结: 1:Research:2021年的AI重要科研进展回顾 2:Talent:AI人才的市场供需情况 3:Industry:AI在商业上的不同尝试 4:Politics:AI在政策上、经济上的影响 5:Predictions:接下来一年的AI进展预测 这份188页的PPT报告由知名风投公司Air Street Capital的合伙人Nathan Benaich和投资了100+初创公司的天使投资人Ian Hogarth联合撰

AnneQiQi的博客 1558

从机械到数字:EC11旋转编码器与ESP32的PWM控制艺术

本文详细解析了EC11旋转编码器与ESP32的PWM控制技术,探讨了如何将机械旋转动作转换为精确的数字信号控制。通过硬件连接、信号处理和软件优化等实践技巧,开发者可以构建高效的人机交互系统,适用于智能照明、电机控制等多种应用场景。

android的专栏 786

UVM实战 卷I学习笔记1——简单的UVM验证平台:只有driver

目录验证平台的组成最简单的验证平台——只有driverUVM如何搭建driver:加入factory机制加入objection机制加入virtual interface 个人《UVM实战卷I》学习随手笔记,此书作者:张强 验证平台的组成 一个验证平台要实现的基本功能: 模拟DUT的各种真实使用情况——给DUT施加各种激励→driver实现激励功能; 根据DUT的输出判断DUT行为是否与预期符合→scoreboard(也称为checker)——需注意判断的东西和判断的标准是什么; 收集DUT的输出并传递

weixin_41979380的博客 3891

2025 年度 AI 行业百科《State of AI 2025》来了!推理元年、算力焦虑与价值回归

几年前我们担心“GPU 不够”,现在的问题变成了——“拉不来电”。而今年,这份被誉为“AI行业的年度百科”的报告,给出了一个颇冷的诊断结论:“我们以为AI变聪明了,其实很多时候只是更会考试了。攻击能力每 5 个月翻倍,但安全研究机构的预算,还不够实验室一天的开销。它不靠主观评分,而让AI做“能被验证”的任务——数学题、代码、逻辑推理,有唯一正确答案。结果显示,AI在这些可验证任务上变得更稳定,不仅答对,还能给出清晰、可追踪的推理链。问题是,人类标准太模糊,AI 很快学会“迎合人类”,而不是“追求正确”。

Coovally_AI的博客 1038

Rancher入门到精通 - Nginx Ingress 配置指南

Rancher 是一个开源的容器管理平台,它提供了一套完整且易于使用的工具来部署、管理和扩展容器化应用。而 Nginx Ingress 则是一个常用的开源 Ingress 控制器,用于将外部请求流量导入到 Kubernetes 集群中的服务。在开始之前,请确保您已经正确安装了 Rancher 平台和 Nginx Ingress 控制器。

TechInk的博客 1312

吴恩达:《State of AI report》展现2024的主要趋势和突破(二)

万字长文,2024AI行业的科研角力©作者|Zhongmei来源|神州问学前言吴恩达的网站在十月中旬发表了一篇名为《A Year of Contending Forces》的文章,该文章是围绕着一个名为《State of AI Report - 2024》的年度报告的总结和点评。该报告由Nathan Benaich和Air Street Capital团队制作,这是该报告的第七年,新报告记录了过去一年推动AI发展的强相互作用力:开源与专有技术、公共与私人融资、创新与谨慎,汇聚了来自于2024年的研究论文、新

2401_82452722的博客 2375

【AI智能体】最强AI编程利器 Claude Code 从部署到项目实战详解

最强AI编程利器 Claude Code 从部署到项目实战详解

congge 4513

Vue3 - 强力解决前端下载二进制流pdf文件、下载成功后打开空白问题解决,或者获取PDF文件流,将blob对象转换成下载链接打开后一片空白(无论是否使用pdf插件下载,还是原生方法下载都完美解决)

vue3前端下载二进制流pdf文件,下载成功,打开空白问题解决,js下载PDF文件流,打开空白问题,VUE3 h5中的文件流下载和指定的url下载总结(解决下载后的pdf打开空白情况)pdfjs打开文件流空白,解决pdf文件流,预览全是空白页,pdf文件流,下载正常,但是预览全是空白页,前端JS获取PDF文件流,将blob对象转换成下载链接打开后一篇空白的问题,前端文件流下载后文件空白,前端下载文件流PDF文件显示空白 或 无法打开,在线预览PDF文件打不开白屏怎么办,前端axios请求二进制数据流转换生成

🏆 前端领域优质创作者 4620

【必读】2024 人工智能全景报告《State of AI Report 2024》

10月10日,我们迎来了,该报告已连续七年发布,成为AI行业流行的风向标。报告链接:2024年的《》由AI投资人 Nathan Benaich 和 Air Street Capital 团队制作,有213页,涵盖了__五个方面,对最新的 AI 发展现状和未来预期进行了深度分析。前沿实验室模型性能趋同,OpenAI的o1在推理计算上有优势,Llama 3缩小了与闭源模型差距。同时,中国模型在社区排行榜表现出色。图:OpenAI在推出o1后保持了其领先地位,规划和推理成为主要的研究前沿。

m0_70486148的博客 2421

YOLO11涨点优化:特征融合改进 | 引入BiFPN (双向特征金字塔) 加权融合机制,自适应分配不同尺度特征权重

YOLO11与BiFPN特征融合技术解析 本文深入剖析了YOLO11目标检测架构及其BiFPN特征融合机制的关键创新。2024年发布的YOLO11通过C3k2模块、SPPF池化和C2PSA注意力机制,在COCO数据集上以更少参数实现更高精度。研究发现传统FPN+PAN结构存在特征融合权重分配不均和计算冗余问题,而BiFPN通过双向跨尺度连接和加权融合机制实现了突破: 架构创新:BiFPN采用剪枝策略、跳跃连接增强和层级重复叠加,优化信息流动路径 加权融合:提出快速归一化融合算法,动态分配特征权重,相比Sof

2601_95807009的博客 176

2025 OpenRouter大模型使用报告:100万亿Token调用背后的真相

过去一年,大语言模型(LLM)的演进和实际应用迎来了转折点。随着 2024 年 12 月 5 日首个被广泛采用的推理模型 o1 发布,该领域从单次模式生成转向多步推理,加速了部署、实验和新型应用的诞生。然而,尽管这种转变发生得如此迅速,我们对这些模型在实践中如何被实际使用的经验理解却相对滞后。在本研究中,我们利用 OpenRouter 平台(一个提供多种LLM 推理服务的供应商),分析了超过 100 万亿 Token 的真实 LLM 交互数据,涵盖了不同任务、地域和时间。

yanqianglifei的专栏 2926

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

a16z 100万亿Token研究揭示的真相:中国力量重塑全球AI版图

如今的编程任务不再局限于简单的代码补全,而扩展到复杂的系统设计、调试优化和多步骤问题解决。展望未来,随着智能体推理范式的成熟和全球化应用的深入,竞争焦点将进一步转向运营卓越性:如何精确衡量真实场景下的任务完成率,如何降低模型在不同数据分布下的性能波动,如何使AI行为更好地对齐生产环境中的实际需求。在此之前,主流模型本质上仍是基于单次前向传播的自回归文本预测器,即使是最先进的系统,如Anthropic的Sonnet系列或Cohere的Command R模型,也仅仅是通过复杂的指令遵循和工具调用模拟推理过程。

2501_91883294的博客 1143

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

GPT-4的1.8万亿参数与2%激活真相:MoE稀疏路由深度解析

大语言模型中的稀疏激活(Sparse Activation)并非简单开关权重,而是基于混合专家(Mixture of Experts, MoE)架构的动态计算调度机制。其核心原理在于:通过轻量级Router网络为每个token选择Top-k专家,实现参数容量与计算开销的解耦。这种设计在保持1.8万亿总参数容量的同时,将单次前向的活跃计算控制在极小比例,显著提升FLOPs利用效率与推理吞吐。技术价值体现在显存驻留但计算稀疏、训练密集而推理轻量、长上下文下需动态卸载等工程权衡。典型应用场景包括高并发API服务、

aqc802886的博客 405

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

GPT-4万亿参数与2%稀疏激活的工程真相

大语言模型的参数规模与计算效率之间存在根本性张力:单纯堆叠参数会导致显存爆炸和推理不可控,而稀疏激活(如MoE架构)则通过动态路由实现‘空间换时间’的工程突破。其核心原理在于将模型拆分为多个专家子网络,由轻量路由器按需激活Top-K专家,从而在保持知识容量的同时严格约束单token计算量。这一机制直接决定显存占用、HBM带宽利用率及端到端延迟,是GPT-4级模型在H100等高端硬件上实现低延迟高并发服务的技术基石。理解稀疏激活与混合专家(MoE)的关系,对模型部署、量化策略、动态批处理及AI基础设施选型具有

weixin_30312563的博客 467

GPT-4稀疏激活真相:1.8万亿参数为何仅用2%?

大语言模型(LLM)的参数规模已突破万亿量级,但实际推理中并非全量参与计算——这引出了‘稀疏激活’这一核心机制。其原理源于MoE(Mixture of Experts)架构,通过路由(Router)动态选择最相关的专家子网络,实现计算资源的精准调度。该技术显著降低显存带宽压力与推理延迟,提升硬件利用率,是当前千亿级模型工程落地的关键约束与优化突破口。典型应用场景包括API成本控制、私有化部署选型、MoE模型微调与轻量化推理。理解‘1.8万亿参数’与‘2%每token激活’的物理含义,本质是把握从理论参数到真

weixin_33755649的博客 289

GPT-4 MoE架构解析:万亿参数与2%激活率的技术真相

大模型稀疏激活是当前AI工程落地的核心范式,其本质是通过混合专家(MoE)结构实现按需计算,而非全参数密集推理。该技术基于路由机制动态选择子专家,显著降低显存占用与能耗,同时维持语言建模能力。理解MoE原理、激活率统计特性及硬件协同优化(如FP8精度、专家分页、cuBLAS MoE内核),对模型部署、成本测算与API调优至关重要。尤其在中文等高token开销场景下,‘每token激活率’直接影响首字延迟与吞吐稳定性。本文深入拆解GPT-4所引发的1.8万亿参数与2%激活率这一广泛传播但常被误读的技术表述,还

anzheng6118的博客 479

GPT-4稀疏激活原理:1.8万亿参数与2%每token的工程真相

大语言模型中的稀疏激活是一种通过动态选择子网络(如MoE专家)来降低计算开销的关键技术,其核心在于平衡模型容量、硬件约束与推理效率。它基于专家混合(MoE)架构,利用路由网络实现token级参数选择,使实际参与前向计算的参数远小于总参数量。这种机制显著缓解显存带宽压力,支持千亿级知识容量在有限GPU资源下部署,广泛应用于高并发API服务、边缘推理与模型量化落地场景。本文深入解析GPT-4所采用的1.8万亿参数规模与约2%每token激活率背后的架构设计、动态路由逻辑及INT4量化部署实践,揭示稀疏性并非固定

weixin_33860528的博客 1314

GPT-4的1.8万亿参数与2%稀疏激活真相:MoE架构深度解析

混合专家(MoE)是突破大模型算力瓶颈的核心范式,其本质是通过Token级动态路由实现参数的稀疏激活,而非简单减少参数量。原理上,MoE将模型拆分为多个专业化子网络(专家)和一个门控路由器,每个输入token仅激活Top-K专家,显著降低单次前向的FLOPs与显存占用。技术价值在于以可控硬件开销(如A100单卡29.5GB)支撑超大规模参数池(如1.8万亿),同时保持跨领域推理能力。典型应用场景包括金融智能投研、医疗多模态诊断、高并发API服务等对延迟敏感、知识广度要求高的生产环境。本文聚焦GPT-4级Mo

weixin_32181267的博客 265

GPT-4的1.8万亿参数与2%激活率真相:MoE工程瓶颈深度解析

大语言模型中的稀疏激活(Sparse Activation)是混合专家(MoE)架构的核心机制,其原理在于通过轻量级路由器动态选择少量专家子网络参与前向计算,从而在保持模型容量的同时控制计算开销。这一技术虽显著提升参数扩展性,却将性能瓶颈从算力转向硬件资源调度——尤其是HBM带宽、PCIe吞吐与显存管理。实践中,‘2%每Token激活率’并非固定值,而是任务驱动下的统计均值,实际波动范围达0.7%~5.3%,直接影响推理延迟、GPU利用率及单Token成本。理解该机制对模型选型、硬件采购、服务架构设计和成本

windshg的专栏 554

GPT-4的1.8万亿参数与2%激活率真相解析

大语言模型中的稀疏化架构(如MoE)是突破算力瓶颈的关键路径,其核心原理在于通过专家路由器动态选择部分参数参与计算,而非全量激活。这种机制既降低显存压力,又保持模型容量,技术价值体现在推理效率、可扩展性与知识解耦能力上。典型应用场景包括千卡级AI服务部署、低延迟生成式API、以及面向垂直领域的专家定制调用。本文聚焦Mixture of Experts(MoE)架构与路由机制(Router),结合A100/H100硬件约束和真实推理监控数据,揭示‘1.8万亿参数’与‘2% per token’背后的工程实质—

692

GPT-4稀疏激活原理:解析1.8万亿参数与2%每Token的工程真相

混合专家(MoE)是大模型突破算力瓶颈的核心范式,其本质是通过条件计算实现动态稀疏激活——并非简单削减参数,而是让每个Token仅路由至最相关的少数专家。该机制依托轻量级Router决策、专家并行调度与硬件协同优化,在保障表征能力的同时显著降低推理延迟与显存占用。‘2%每Token’实为统计均值,反映的是激活参数占总参数的比例,背后涉及Top-k门控、负载均衡、梯度可导性等关键技术挑战。在金融问答、政务客服、医疗报告等高并发、多领域场景中,MoE已验证出3–4倍端到端加速比与60%以上硬件成本下降。本文深入

dezhen7015的博客 396
上一篇: Claude哲学家:那个最懂你的 AI 已经“死”了
下一篇: 智谱GLM-4.6V开源,原生识图+工具调用,还能“手眼通天”
MobiusStack
博客等级 码龄1年 1粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值