三星高管剧透GPT-5高达5万亿参数，OpenAI匿名模型上线

于 2024-09-05 19:40:58 发布
阅读量180 收藏
点赞数
CC 4.0 BY-SA版权
文章标签： gpt
原文链接：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247747396&idx=2&sn=91fd067fbb87405731cb27f748b4865b&chksm=e95e7575e0cd26a555c5ef44f356dbfda83a190cfbf4154927a8bc69199e33149a6221f3304c&scene=126&sessionid=0
西风 发自 凹非寺
量子位 | 公众号 QbitAI

GPT-5有3-5万亿参数，由7000块B100炼成？！

一夜间，下面这张图在网上疯转：

b74e178520eea49e5a699d3dadfe4a60.png

仔细看，这是三星高管Jung Bae Lee（李禎培）在一场高级管理层峰会（CEO Summit）上演讲。

d2247d1955af57c3b1a76d7035d4224e.png

上面明晃晃写着GPT-5 3-5T、B100 7000、HBM3E 8TB/s。

3059f2c70779ad07458a2fde27fa5304.png

网友发现，不只是三星高管有“剧透”，OpenAI日本办事处负责人Tadao Nagasaki最新演讲中也有一张这样的照片：

f56d3437d28d9672b8ba66e9808f964c.png

上面展示，就在今年，将推出“GPT Next”，比GPT-4强大100倍。

e130aeef6eaece222bb438252fabbe24.png

巧了，今年早些时候，微软 CTO Kevin Scott也有这么一张图：

1305568150c2f58768d38991f60ec7a2.png

而且一个自称是OpenAI训练的匿名聊天机器人再次上线Lmsys大模型竞技场。‍‍‍

c416e30f18a45f9b078ff621b5c7f608.jpeg

一系列消息拼凑起来，网友炸开锅，纷纷表示等不及了。

OpenAI：我们有很多事情要跟大家讲

除了上面的PPT和匿名模型，还有网友从OpenAI相关域名更新中发现了华点。

d0bf801f5e485bf760dc45ea27d29242.png

就在昨天，更新中含有”staging”（cdn.staging.openai.com），网友推测这可能意味着该设置是为了测试接近生产环境的配置。

b4671bd689c03fc6afe6e8a2641999bf.png

在往下看，8月29号似乎有一个新的关于“video”的域名，是Sora吗？

030c2c1605c79dbd84895e4e456bf380.png

有意思的是，在传言满天飞的时候，OpenAI这边也有新动作了。

不是澄清，而是表示：有很多事情要告诉您。

就此新开设了一个新闻账号——OpenAI Newsroom。

0b2faed346202dd1683215d7f8d57cb0.png

再联系到之前的草莓、猎户座的爆料。

最近关于OpenAI要推出新模型的消息越来越密集，网友纷纷表示，这下GPT-5真的要来了。

有网友分析：

2到3倍的提升，意味着：使用了新架构，可在不需要更多计算的情况下，保持指数级能力增长；LLM已经趋于稳定。

5edbcd451f07c2b79b92e47adfedcef2.png

不过，除了期待，也有大量网友表示希望这一次是真的，可别又是光打雷不下雨的炒作……

a2ef90c9e184583e9880c54d7b50e4c9.png

参考链接：
[1]https://x.com/apples_jimmy/status/1831221448935100482
[2]https://x.com/airesearch12/status/1831299302825562566
[3]https://x.com/OpenAI/status/1831389360937431270
[4]https://x.com/legit_rumors/status/1831391130988233073

— 完 —

量子位年度AI主题策划正在征集中！

欢迎投稿专题 一千零一个AI应用，365行AI落地方案

或与我们分享你在寻找的AI产品，或发现的AI新动向

4499277a94cc7e5cd6ed34de11c2f0e4.png

点这里👇关注我，记得标星哦～

QbitAl
关注
博客
不怕被挖！谷歌晒IMO金牌团队大合照，还挨个圈出了联系方式
07-25 10
在此之前，他在谷歌大脑工作了3.3年，参与诸多大模型的研究，撰写累计约45篇论文，其中16篇一作，包括UL2、U-PaLM、DSI、Synthesizer、Charformer和Long Range Arena等，约20次产品发布，妥妥大牛一位。，在诺丁汉大学完成本科教育，后在剑桥大学获哲学硕士学位，并在牛津大学完成博士研究，她于2017年加入Google DeepMind担任研究科学家。，本科就读于浙江大学，硕士毕业于美国哥伦比亚大学，曾在滴滴、Meta就职，直到今年才加入谷歌。
博客
斯坦福大模型推理课免费了，谷歌推理团队创始人主讲
07-25 22
原来模型在生成答案时，通常只用最可能的那个词（贪心解码），但如果看看排在后面的几个可能的词（top-k替代词），会发现里面藏着一步步推理的路径。LLM是概率模型，其解码时追求的是在给定问题下推理和最终答案的联合概率最大，而我们想要的是给定问题下最终答案的概率最大，两者并不一致。方法，就是从这些top-k的解码路径中，选出那些有推理过程且模型信心高的路径，这样能让模型在各种推理任务上表现得更好，甚至。只不过，基于推理的输出通常不会出现在输出分布的优先级部分，因此无法通过贪婪解码（选择概率最高的输出）输出。
博客
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
07-25 622
相较于传统的SFT和RL，这种高效训练优化策略不仅能够缩短模型迭代周期、降低计算成本，更重要的是能够快速响应金融市场的动态变化，确保模型在风险控制、投资决策、合规监管等真实业务场景中，及时部署，自主“进化”。就像对于通用模型，人类专家们绞尽脑汁设置“人类最后的考试”，极限考验顶尖模型的性能，蚂蚁数科也希望在金融领域，能面向实际部署，更准确地评估模型的真实效用。从实验结果可以看出，Agentar-Fin-R1这样的垂直模型，是行业赛道中的“隐藏王牌”，在实际应用场景中往往能比通用模型更快落地、发挥作用。
博客
训练数据爆减至1/1200！清华&生数发布国产视频具身基座模型，高效泛化复杂物理操作达SOTA水平
07-25 12
一位是清华大学计算机系TSAIL实验室的二年级博士生谭恒楷（Hengkai Tan），主要研究方向是具身大模型和多模态大模型的融合和强化学习，是FCNet、ManiBox、AnyPo、Vidar的一作/共一，也是RDT具身大模型的作者之一，曾拿过全国青少年信息学奥林匹克竞赛（NOI）的银牌，全国84名。通过多视角视频拼接，将不同机器人操作时的多视角画面，巧妙地融合成统一分辨率的“全景图”，同时将本体信息、摄像头信息与任务标注一并打包整合，为海量互联网数据提供了共同对话的基础，实现了真正的多维度融合。
博客
GitHub官方版AI IDE公测！用自然语言写App，全栈应用1分钟生成
07-25 281
用户可以选择这些建议进行修改，也可以询问Copilot，或者自行修改。同时，用户还可以通过同步的GitHub Codespace和Copilot开发Spark，并且可以创建代码库用于团队合作，充分利用GitHub的工具和集成生态系统。用户不仅可以一键将Spark应用连接到GitHub仓库，完整保留所有修改记录，还能实现 Spark与代码仓库的双向同步，自动同步在任一端的改动。同时，Spark还支持代码、资产的预览与编辑，用户不仅可以查看自动生成的底层代码和数字资产，还能在代码层面进行修改、补全、替换。
博客
AGI是否需要世界模型？顶级AI专家圆桌论道，清华求真书院主办
07-25 7
圆桌论坛精彩纷呈、交锋密集，无论是从“相关性与因果性”的基本认知出发，还是围绕“token预测范式”的边界问题，亦或是对“原创能力”与“算力极限”的前景评估，专家们均展现出深厚的理论思考与实践视角。教授则补充称，虽然大模型底层是统计学习的结构，但在高层语义表达中已出现“因果性功能的涌现”，例如在处理逻辑推理、数学解题、文本论证等任务时，大模型展现出了“因为……教授率先提出疑问：文本是天然一维的，图像是二维的，视频再加一维时间，世界则是四维的。大模型的有效性是经验主义的，但它的问题也是根本性的。
博客
卡帕西点赞特斯拉餐厅，马斯克：兄弟，你再回来吧
07-24 10
这特斯卡餐厅开业，马斯克好不容易在这个新展台给擎天柱找了份盛爆米花的工作想展示一下，结果它还在营业第一天就小故障了一把。而当时身为OpenAI联合创始人的马斯克看中了他的才华，于是“近水楼台先得月”，于2017年将其挖到了特斯拉。据顾客反馈，Tesla Diner支持在特斯拉车上点单，到店就能直接进去吃，省了等餐的时间。这次特斯拉餐厅里擎天柱虽然不是主角，但一定是最受关注，也最受马斯克重视的那个。离开特斯拉的人不少，但让马斯克这样心心念念迫切想要其回归的，堪称罕见。营业首日，服务员擎天柱，出事故了。
博客
OpenAI资金链告急！紧急启动300亿美金融资，星际之门现在岌岌可危
07-24 21
软银一开始也确实履行了自己的承诺，在最初已完成的一笔100亿美元融资中，软银就领投了75亿，其余联合投资者则出资25亿，后续原定计划是继续加大投资，承诺出资总额75%。但万万没想到，初期项目还在建设，OpenAI就和软银闹得相当不愉快，二者在有关数据中心选址、投资规模等问题上爆发矛盾。，理论上PBC的设计将优先考虑股东的回报，同时也追求具有明显公共利益的项目，否则软银将会减少投资至100亿美元。而即使此次融资成功，没有足够的技术护城河，人才也在相继流失的情况下，网友也并不认为OpenAI能维持多久。
博客
vivo自研蓝河操作系统内核开源！Rust开发新机遇来了
07-24 649
蓝河选用的Rust引入了所有权（Ownership）和借用检查（Borrow Checker）机制，在编译期间强制保证对内存的合法访问，可以防止缓冲区溢出，同时禁止空指针和悬空引用并避免重复释放，减少内存泄漏。尽管成熟操作系统核心多由C/C++编写（比如Linux），但存在一些老生常谈的问题，比如引入内存漏洞、UAF（Use After Free）、缓冲区溢出等，系统稳定性依赖于极其严密的工程规范和人力经验。也是对国产操作系统的一次创新——使用新兴的Rust编程语言，构建内存安全的操作系统内核。
博客
提速79%！上交大新方法优化企业级AI流程调度 | IEEE ICDCS’ 25
07-24 10
实验结果表明，LLMSched在任意一组实验设置上均取得领先的成绩，同时随着任务数量增加，LLMSched的优势变得更为突出，比如，与 Decima 相比，在包含 100、200、300和400个任务的混合工作负载中，LLMSched 分别降低了 38%、65%、73%和 75%的平均 JCT，这展示了 LLMSched 的可扩展性。，通过引入三类新节点来扩展传统任务表征方法实现复合LLM应用任务的有效表征，借助贝叶斯网络识别可降低不确定性的关键节点，并以信息熵衡量节点的熵减程度。该框架引入了三种节点，
博客
亿级短视频数据突破具身智能Scaling Law！Being-H0提出VLA训练新范式
07-24 12
此外，在同样成功率下，Being-H0所需要的真机数据量远少于其他模型（例如，在Pick-Place-Toy任务中，Being-H0在25%真机数据训练的性能已接近其他模型在100%数据上的性能）。这一对比结果有力地证实了本研究数据构建策略的有效性：通过显式构建与下游任务结构高度对齐的预训练数据，能够显著提升模型从视频数据中学习人类动作知识的效果，进而提高下游任务的成功率。值得注意的是，这类视频数据在当前的短视频时代具有极高的易获取性，且天然避免了仿真环境数采带来的“虚拟-现实”差异问题。
博客
突破单token预测局限！南洋理工首次将多token预测引入微调，编程任务准确率提升11.67%
07-24 15
最终，研究团队通过在广泛领域中实验，验证了CAFT实现multi-token prediction在微调阶段的可行性，其易用性和低成本也展示了其可能替代现有next-token prediction的巨大潜力，为理解模型内部机制提供了新视角。其中L₁指原始next-token损失，β是控制辅助损失的权重（设为0.01，确保主任务优先），γ是反射正弦动态调整因子，训练初期高，后期低，α是几何衰减因子，越远的token权重越小，t指token位置。
博客
硅谷AI初创重新拥抱996
07-24 17
很多年轻、聪明的创业者，在激情投入的同时，已经忘了他们正在制造的种种风险——以及由此带来的巨大法律责任。尽管996这一制度在中国饱受争议，但许多美国AI初创公司却在竞相采用这一模式，甚至直接沿用了996这个名字，只为在激烈的全球AI竞赛中加速追赶中国。她认为，高强度的工作节奏对创始人来说几乎是必然的，但并不应该要求普通员工也跟上这种节奏，“我觉得把这种强度强加给他们并不公平”。然而，目前报名参与的员工还不到10%。他甚至还放话，我们团队每周工作120小时，对手每周工作40小时，这就是他们输得这么快的原因。
博客
因为不用AI写代码，我在终面挂了 | 一个程序员的奇葩面试经历
07-24 12
他认为，在自己的核心领域，AI确实帮不上太多忙。小哥还举了个例子，说一些初级员工在面试时使用像r/interviewhammer这样的工具，来假装自己很有经验，但实际工作时却大跌眼镜。它是一个AI辅助面试应用，能用于普通面试和技术面试，帮助生成具有个人风格的语言表达方式，无需手动操作就能实时生成面试答案。他认为，AI只是一个节省时间精力，提高工作效率的工具，这样他就能专注于真正重要且需要深入思考的事情。还有网友说，对于有经验的程序员来说，使用AI助手会降低他们的生产力，他觉得大概会降低17%。
博客
浙大校友打造AI代码测试神器，零代码零bug，30分钟创建网站
07-24 28
2025年1月，该公司发布TestSprite 1.0正式版，并于7月完成2.0重大版本升级，其Starter版本提供1个月的免费试用，次月起每月费用为19美元。焦云皓，目前为TestSprite的首席执行官，本科就读于浙江大学，在校期间曾赴美国加州大学伯克利分校交流，后于耶鲁大学获计算机科学硕士学位。TestSprite的创新解决方案运用先进的人工智能和机器学习，能够在开发人员提供最少的情况下，提供全面的测试覆盖。截止2025年，90%的web开发人员都使用AI生成代码，但是其生成的代码准确率仅42%。
博客
奥特曼首次透露GPT-5上手体验：在擅长领域感到无力，往后一靠感到眩晕
07-24 11
奥特曼用一个比喻解释了人类在AI时代的处境：就像地球曾被认为是宇宙中心，后来发现只是太阳系的一颗行星，再后来发现太阳系也只是银河系的一个小点。奥特曼提到了一个十多年前的视频：一个婴儿拿着杂志像操作iPad一样滑动，对那个孩子来说，不能触控的杂志就是“坏掉的iPad”。如果有一天，我们宁愿把研究用的GPU集群交给AI研究员而不是我们才华横溢的人类团队，那就标志着一个完全不同的新纪元的开始。他解释道，几年前出生的孩子或许还有过短暂的“智力优势期”，但他的孩子从出生起就生活在一个AI始终更聪明的世界里。
博客
WAIC探展征集｜加入量子位直播共创
07-23 27
7月26日 15:00-17:00，每个展位3-5min。7月26日，WAIC第一天的下午，我们将在WAIC来一场。希望在直播露面，欢迎填写下方表单告诉我们。，我们将会结合实际时间、路线来安排。⬇️ 点击下方按钮，一键预约 ⬇️。设立展位，欢迎来找我们线下见面！量子位｜公众号 QbitAI。7月24日 18:00。亮眼的新产品&新技术。：交流对话，产品展示。
博客
官方揭秘ChatGPT Agent背后原理！通过强化学习让模型自主探索最佳工具组合
07-23 24
ChatGPT Agent的开发可追溯到2017年的World of Bits项目，最大的变化是训练规模的提升，无论是预训练还是强化学习，计算量可能增加了数十万倍，使ChatGPT Agent的短时间开发得以实现。这个团队的总人数并不多，Deep Research团队最初只有3-4人，Operator团队约6-8人，合并在一起，加上产品和设计人员，也就20到35人，但他们花几个月就完成了这个项目。原本两个功能不同的智能体，就这样在用户的“错用”下合二为一，变成了一个更通用的ChatGPT Agent。
博客
突然发疯！人形格斗冠军机器人凌空回旋踢，架子都干翻，现场研究员：0.0？
07-23 27
开发者必须自行建立网络通信，最关键的是，必须制定通信中断时的安全协议。如果拔掉电源，或BMS上的充电保护触发，由于电池无法吸收的过电压，所有电机和计算机电源可能会永久损坏。一旦电机全力运转时，肢体被夹在机身和机械臂的关节处，可能会造成极其严重的伤害——如果再加上惯性冲击，这股力量足以切断手指，甚至伤及骨头。其实这并不是REXrobot第一次出状况，在5月份的时候，还是Cix，就有机器人“突然”摔倒的问题。简单地说，被吊起来的人形机器人进入了“行走模式”，但没有识别到脚下的路，才导致了这次失控。
博客
李沐B站更新了！教你手搓语音大模型，代码全开源还能在线试玩
07-23 24
举个例子就是，如果想要教一个徒弟同时会拳脚功夫，但师傅一次又教不了，那就同时教两个徒弟，一个学打拳，一个学踢腿，然后让他们俩天天互相打，打着打着两个就都会拳脚功夫了。最终，这个多模态模型就完成了，不仅可以完成简单的文本转语音，还能实现更复杂的任务，比如让它写一首歌并唱出来，再加上配乐。然后要让模型很好地理解和生成声音，就需要利用模型的文本空间，将语音的语义尽量地映射回文本，当中需要大量的数据支持。传统的语音和文本模型之间相互独立，李沐老师就想，欸，能不能将两者结合起来，直接让LLM用语音进行沟通。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值