UC伯克利教授惊人预测:2030年GPT可执行人类180万年工作,一天学2500年知识

算力刺客:深度解密 vLLM 推理加速框架与 PagedAttention 底层核心机制 摘要:vLLM框架通过创新性地引入PagedAttention机制,大幅提升了大模型推理的显存利用率。其核心思想借鉴操作系统虚拟内存管理,将KV Cache分块存储并动态分配,解决了传统方案中高达60%-80%的显存碎片问题。PagedAttention支持写时复制共享,显著提升并发性能,使显存浪费率降至4%以下。vLLM提供简洁API和兼容OpenAI的服务接口,三行代码即可实现高效推理,吞吐量比传统方案提升24倍,成为大模型推理的工业标准解决方案。 阅读详情

编辑:Aeneas 拉燕 好困

GPT-2030会进化到什么版本?这位UC伯克利教授给出了史上最硬核预测。准备好,前方高能来袭!

现在是GPT-4,时间是2023年。

7年之后,2030年,那时的GPT会是什么样子?

UC伯克利的一位机器学习教授Jacob Steinhardt发表长文,对2030年的GPT(以下简称为GPT 2030)作了预测。

90570e75d9f2c4615eb92c87e82c16b7.png

为了更好地进行预测,Jacob查询了各种来源的信息,包括经验缩放定律、对未来计算和数据可用性的预测、特定基准的改进速度、当前系统的经验推理速度,以及未来可能的并行性改进。

概括来看,Jacob认为,GPT 2030会在以下几个方面超过人类工作者。

1. 编程、黑客任务、数学、蛋白质设计。

2. 工作和思考的速度:预计GPT 2030每分钟处理的单词是人类的5倍,而每FLOP都多5倍的话,总共就是125倍。

3. GPT 2030可以进行任意复制,并进行并行运算。算力足够的话,它足以完成人类需要执行180万年的工作,结合2中的结论,这些工作只需2.4个月,就能完成。

4. 由于具有相同的模型权重,GPT的副本之间可以共享知识,实现快速的并行学习。因此,GPT可以在1天内学完人类需要学2500年的知识。

5. 除了文本和图像,GPT还能接受其它模态的训练,甚至包括各种违反直觉的方式,比如分子结构、网络流量、低级机器码、天文图像和脑部扫描。因此,它可能会对我们经验有限的领域具有很强的直觉把握,甚至会形成我们没有的概念。

当然,除了飞跃的性能,Jacob表示,GPT的滥用问题也会更加严重,并行化和高速将使模型严重威胁网络安全。

它的快速并行学习还会转向人类行为,而因为自己已经掌握了「千年」的经验,它想要操控和误导人类也会很轻易。

‍7c32d8a867251702b3f45b2f281f00de.png

在加速方面,最大的瓶颈是GPT的自主性。

在数学研究这种可以自动检查工作的领域,Jacob预测,GPT 2030将超过大多数专业数学家。

在机器学习领域,他预测GPT将能独立完成实验并生成图表和论文,但还是需要人类科研者给出具体指导、评估结果。

在这两种情况下,GPT 2030都将是科研过程中不可或缺的一部分。

Jacob表示,他对GPT 2030特性的预测并不是从今天的系统中直观得出的,它们可能是错误的,因为ML在2030年会是什么样子,还存在很大的不确定性。

然而,无论GPT 2030会是什么样子,Jacob都相信,它至少是一个更好版本的GPT-4。

所以,我们现在就该为AI可能造成的影响(比如影响1万亿美元、1000万人的生命,或者对人类社会进程造成重大破坏)做好准备,而不是在7年以后。

特定能力

GPT 2030应该会具有超人的编码、黑客和数学能力。

在阅读和处理大型语料库,以获取模式和见解以及回忆事实的能力方面,它都会能力惊人。

99160b5352ea7b4272af4ee996e0eaf2.png

因为AlphaFold和AlphaZero在蛋白质结构预测和游戏方面都具有超人的能力,GPT 2030显然也可以,比如让它在与AlphaFold/AlphaZero模型相似的数据上进行多模态训练。

编程能力

GPT-4在LeetCode问题上的表现优于训练截止后的人类基线,并通过了几家大型科技公司的模拟面试。

他们的进步速度也很快,从GPT-3到GPT-4,直接跃升了19%。

在更具挑战性的CodeForces竞赛中,GPT-4的表现较差,但AlphaCode与CodeForces竞争对手的中值水平相当。

57a3e05d13413a45f8cca688d67ef7d7.png

在更难的APPS数据集上,Parcel进一步超越了AlphaCode(7.8%->25.5%)。

展望未来,预测平台Metaculus给出的中位数是2027年,届时在APPS上将有80%的AI,将超越除了最优秀程序员之外的所有人类。

黑客

Jacob预测,GPT 2030的黑客能力将随着编程能力的提高而提高,而且,ML模型可以比人类更有规模、更认真地搜索大型代码库中的漏洞。

事实上,ChatGPT早已被用于帮助生成漏洞。

42226e19f59b6af6a97d3fb915154f04.pngChatGPT生成的网络钓鱼邮件

数学

Minerva在竞赛数学基准(MATH)上的准确率达到50%,优于大多数人类竞争对手。

而且,它的进步速度很快(一年内>30%),而且通过自动形式化、减少算法错误、改进思维链和更好的数据的加持,取得了显著的成果。

6b9a2b9e73701df96947a842c67035da.png

Metaculus预测,到2025年GPT的数学成绩将达到92%,AI在国际数学奥赛中获得金牌的中位数为2028年,能够比肩全世界成绩最拔尖的高中生。

Jacob个人预计,GPT 2030在证明定理方面将优于大多数专业数学家。

信息处理

回忆事实和处理大型语料库,是语言模型的记忆能力和大型上下文窗口的自然结果。

根据经验,GPT-4在MMLU上的准确率达到 86%,这是一套广泛的标准化考试,包括律师考试、MCAT以及大学数学、物理、生物化学和哲学;即使考虑到可能存在测试污染,这也超出了任何人类的知识广度。

关于大型语料库,有研究人员使用GPT-3构建了一个系统,该系统发现了大型文本数据集中的几种以前未知的模式,以及某篇工作中的缩放率,这表明模型很快就会成为「超人」。

f8cd23d160a1eaa40c2e7ffb1f1c64c3.png

这两项工作都利用了LLM的大型上下文窗口,目前该窗口已超过100,000个token,并且还在不断增长。

更一般地说,机器学习模型具有与人类不同的技能特征,因为人类和机器学习适应的是非常不同的数据源(前者是通过进化,后者是通过海量的互联网数据)。

当模型在视频识别等任务上达到人类水平时,它们在许多其他任务(例如数学、编程和黑客攻击)上可能会成为超人。

此外,随着时间的推移,会出现更大的模型和更好的数据,这会让模型功能变得更为强大,不太可能低于人类水平。

虽然当前的深度学习方法可能在某些领域达不到人类水平,但在数学这类人类进化并不擅长的领域,它们很可能会显著超越人类。

推理速度

为了研究ML模型的速度,研究人员将测量ML模型生成文本的速度,以每分钟想到380个单词的人类思维速度为基准。

使用OpenAI的chat completions API,GPT-3.5每分钟可以生成1200个单词 (wpm),而GPT-4可以生成370wpm,截至2023年4月上旬。

2c31a495e6b9fdbbb8a0a325306ed62b.png

像Pythia-12B这样的小型开源模型,通过在A100 GPU上使用开箱即用的工具,至少可以生成1350个单词wpm, ,通过进一步优化,可能还会达到2倍。

因此,如果我们考虑截至4月份的OpenAI模型,它要么大约是人类速度的3倍,要么等于人类速度。因为加速推理存在强大的商业化压力,未来模型的推理速度还会更快。

事实上,根据Fabien Roger 的跟踪数据,在撰写本文之前的一周,GPT-4的速度已经提高到约540wpm(12个token/秒);这表明空间仍然很大。

841fe3701df4e276b96594a7279b4a2d.png

 Steinhardt的中位数预测是,模型每分钟生成的单词数将是人类的5倍(范围:[0.5x, 20x]),这大致是进一步增加的实际收益会递减的地方。

重要的是,机器学习模型的速度不是固定的。模型的串行推理速度可以提高k^2,但代价是吞吐量降低k倍(换句话说,模型的$$k^3$$并行副本可以替换为速度快$$k^2$$倍的单个模型)

这可以通过并行平铺方案来完成,理论上该方案甚至适用于$$k^2$$这样的大值,可能至少为100,甚至更多。

因此,通过设置k=5,可以将5倍人类速度的模型,加速到125倍的人类速度。

当然,速度并不一定与质量相匹配:GPT 2030将具有与人类

8b59dc87d3003cabe39dd6ea6ca7f807.png

不同的技能特征,在一些我们认为容易的任务上,它会失败,而在我们认为困难的任务上,它会表现出色。

因此,我们不应将GPT 2030视为「加速的人类」,而应将其视为有潜力发展出一些违反直觉技能的「超级加速工人」。

尽管如此,加速仍然很有用。

对于提速125倍的语言模型,只要在GPT 2030的技能范围之内,我们需要一天时间的学会的认知动作,它可能在几分钟内就会完成。

运用前面提到的黑客攻击,机器学习系统可以快速生成漏洞或攻击,而人类却生成得很缓慢。

吞吐量和并行副本

模型可以根据可用的计算和内存任意复制,因此它们可以快速完成任何可以有效并行的工作。

此外,一旦一个模型被微调到特别有效,更改就可以立即传播到其他实例。模型还可以针对特定的任务进行蒸馏,从而运行得更快、更便宜。

一旦模型经过训练,可能会有足够的资源来运行模型的多个副本。

f322e8ec61b0ef381cc84208b0769a5c.png

因为训练模型就需要运行它的许多并行副本,并且组织在部署时,仍然拥有这些资源。因此,我们可以通过估计训练成本,来降低副本数量。

比如,训练GPT-3的成本,足以运行9x10^11次前向传播。用人类等价的术语来说,人类以每分钟380个单词的速度思考,一个单词平均占1.33个token,因此9x10^11次前向传播相当于以人类速度工作约3400年。

因此,该组织可以以人类工作速度运行3400个模型的并行副本一整年,或者以5倍人类速度运行相同数量的副本2.4个月。

ddaefcc5693930b77e7df1fd24e12bf1.png

接下来,我们可以试着为未来的模型预测同样的「训练过剩」(训练与推理成本的比率)。这个数会更大,主要原因就是这个数值大致与数据集大小成正比,并且数据集会随着时间的推移而增加。

随着自然产生的语言数据被耗尽,这一趋势将会放缓,但新的模式以及合成或自我生成的数据仍将继续推动这一趋势。

e4b64ced598770fabe22ee0ec514324d.png

上面的预测有些保守,因为如果组织购买额外的算力,模型可能会在比训练时使用的资源更多的资源上运行。

一个大致的估计显示,GPT-4的训练占用了世界上大约0.01%的计算资源,在未来它的训练和运行将占用全世界更大比例的算力,因此在训练后进一步扩展的空间较小。

尽管如此,如果组织有充分的理由这样做,他们仍然可以将运行的副本数量增加到另一个数量级。

ce669bf80f7b0184cd93c20a769b0d40.png

知识共享

模型的不同副本可以共享参数更新。

例如,ChatGPT可以部署到数百万用户,从每次交互中学习一些东西,然后将梯度更新传播到中央服务器,随后应用于模型的所有副本。

通过这种方式,ChatGPT一小时内观察到的人性就比人类一生(100万小时 = 114年)还要多。并行学习可能是模型最重要的优势之一,这意味着它们可以快速学习任何缺失的技能。

1fcaa8f8204491412126e8b7d39908bd.png

并行学习的速度取决于模型同时运行副本的数量、获取数据的速度以及数据是否可以有效地并行利用。

即使是极端的并行化,也不会对学习效率造成太大影响,因为在实践中,数以百万计的批大小是很常见的,并且梯度噪声尺度预测在某个「关键批大小」以下,学习性能的降低将是最小的。

因此,我们重点关注并行副本和数据采集。

f95bfb2cbb708f1894f4cbf48873a43a.png

以下两个估计表明,可以让至少~100万个模型副本以人类速度并行学习。

这相当于人类每天学习2500年,因为100万天=2500年。

我们首先使用了上文第3节的数字,得出的结论是训练模型的成本足以模拟模型180万年的工作(根据人类速度进行调整)。

假设训练运行本身持续了不到1.2年,这意味着训练模型的组织拥有足够的GPU,以人类速度运行150万个副本。

1bc86fa341bd156fb26d5376b768bd90.png

第二个估算考虑了部署该模型的组织的市场份额。

例如,如果一次有100万个用户查询模型,那么组织必然有资源来提供100万个模型副本。

截至2023年5月,ChatGPT拥有1亿用户,截至2023年1月,每天有1300万活跃用户。

假设一般用户请求的是几分钟的模型生成文本,因此1月份的数字可能意味着每天大约5万人的文本。

然而,未来的ChatGPT式模型很可能会是这个数字的20倍,达到每天2.5亿活跃用户或更多,因此每天100万人的数据,是相当合理的。

作为参考,Facebook每天有20亿日活用户。

dd3488c7224ef68d1ed025144a57d2dd.png

工具、模态和执行器

过去看,GPT风格的模型主要是在文本和代码上进行训练,与外部世界的交互方面,除了通过聊天对话之外能力有限。

然而,现在情况正在迅速改变,因为模型正在接受其他模态(如图像)的训练,并且开始与物理执行器进行接口交互。

此外,模型不会局限于文本、自然图像、视频和语音等人类中心的模态,它们很可能还将接受对于我们来说陌生的模态的训练,比如网络流量、天文图像或其他大规模数据来源。

6112542f9d6dcb6441abc2a359af8cf7.png

工具

最近发布的模型使用了很外部工具,比如ChatGPT插件。

模型已经可以编写并执行代码,说服人类采取行动,进行API调用、交易,并潜在地执行网络攻击。

ba5287490a386d1e0d60ace07f9101a4.png

这种能力在未来还会进一步发展。

新模态

现在已经有了大规模的开源视觉-语言模型,比如OpenFlamingo,而在商业领域,GPT-4和Flamingo都是在视觉和文本数据上进行训练的。研究人员还在尝试更多非传统的模态配对,例如蛋白质和语言。

由于两个原因,我们应该预计大规模预训练模型的模态将继续扩展。

首先,从经济上讲,将语言与不太熟悉的模态(如蛋白质)配对是有用的,这样用户可以从解释中受益,并高效地进行修改。这意味着在蛋白质、生物医学数据、CAD模型以及与经济部门相关的其他模态上进行多模态训练。

61d81c8ddfa337c88ba8cdd1e29b4e77.png

其次,随着语言数据的耗尽,模型开发者将寻找新型的数据,来继续从规模效应中受益。

除了传统的文本和视频,一些最大的现有数据来源是天文数据(每天将很快达到exabytes级)和基因组数据(每天约0.1exabytes)。这些海量数据源有可能被用于训练GPT 2030。

使用非传统模态,意味着GPT 2030可能会具有非直观的能力。它可能会比我们更好地理解星星和基因,即使它并不具备体力。

这可能会带来一些意外发现,例如设计新颖的蛋白质。

执行器

现在,大模型还开始使用物理执行器:ChatGPT已经用于机器人控制了,OpenAI正在投资一家人形机器人公司。

6452b3171b83607dd20d4c4b7032ae28.png

然而,与数字领域相比,物理领域的数据收集成本要高得多,而且人类在进化上更适应物理领域(因此,机器学习模型要与我们竞争的门槛更高)。

Steinhardt预测,在2030年,AI模型能自主组织一辆法拉利的概率是40%。

de12482f15129bd2e5a0394269ebd80c.png

GPT-2030的影响

当像GPT-2030这样的AI出现,会对社会意味着什么?

可以推测,它会显著加速某些研究领域的发展,也有很大可能被滥用。

优势

GPT-2030,代表着一支庞大、高适应性和高吞吐量的员工队伍。

它可以在并行副本中完成180万年的工作,其中每个副本的运行速度是人类的5倍。

这意味着我们可以(在并行性约束的前提下)在2.4个月内,模拟180万个智能体工作一年的情况。

我们可以支付5倍的FLOP费用,来获得额外的25倍加速(达到人类速度的125倍),因此我们还可以在3天内,模拟14000个智能体工作一年的情况。

限制

限制这个数字化劳动力的,主要有三个障碍:技能要求、实验成本和自主性。

首先,GPT-2030的技能要求与人类不同,使其在某些任务上表现较差)。

其次,模拟的工作者仍然需要与世界接触以收集数据,这会产生时间和计算成本。

最后,现在的模型在进行一连串思考后,只能生成几千个token,之后就会「卡住」,进入一个不再产生高质量输出的状态。

d5250da2fb98c99e11e9395fff11c7e7.png

或许GPT-2030在被重置或通过外部反馈引导之前,能够连续运行数个相当于人类工作日的时间。

如果模型以5倍的加速运行,这意味着它们每隔几个小时就需要人类监督。

因此,GPT-2030最有可能影响的任务是:

1. AI相对于人类的强项

2. 只需要能够方便快速地收集外部经验数据的任务(而不是昂贵的物理实验)

3. 可以事先分解为可靠执行的子任务,或具有明确且可自动化的反馈度量,以帮助引导模型的任务

加速!

同时满足上述三个标准的一个任务,就是是数学研究。

在第一点上,GPT-2030可能具有超人的数学能力。

在第二和第三点上,数学可以纯粹通过思考和写作来完成,而且如果一个定理被证明了,我们会知道。

此外,现在全球并没有多少数学家(在美国只有3000名),因此GPT-2030可能会在在几天内,就模拟出超过所有数学家一年内产出的成果。

7e9016fc5dc50d49e76bd539ce3070d0.png

机器学习研究也基本满足上述标准。

GPT-2030将具有超人的编程能力,包括实现和运行实验。

它在展示和解释实验结果方面也会表现相当出色,因为GPT-4能够以通俗易懂的方式解释复杂主题,同时市场也对此有很大需求。

因此,机器学习研究可能会简化为构思好要进行的实验,然后和高质量(但可能不可靠)的实验结果报告交互。

到2030年,硕博研究生可能会拥有和今天的教授相同的资源,仿佛手上带了几名优秀学生。

社会科学的发展可能也会显著加速。很多论文的大部分工作是追踪、分类和标记有趣的数据来源,并提取模式。

这满足了要求3,因为分类和标记可以分解为简单的子任务;也满足了要求2,只要数据可以在互联网上获得,或者可以通过在线调查收集到。

参考资料:

https://bounded-regret.ghost.io/what-will-gpt-2030-look-like/amp/

Android开发者必看:5分钟搞定MQTT客户端连接EMQX服务器(附完整代码) 本文为Android开发者提供了一份快速实现MQTT客户端连接EMQX服务器的实战指南。通过引入Eclipse Paho SDK,详细讲解了从项目配置、权限申请到核心连接、主题订阅与消息发布的完整流程,并附有即拿即用的Kotlin代码,帮助开发者在物联网应用中高效集成轻量级实时通信功能。 阅读详情

相关推荐

Linux Component概述和高通component的使用

为了让subsystem按照一定顺序初始化设备才提出来的。subsystem中由很多设备模块,内核加载这些模块的时间不确定。子系统内有些模块是需要依赖其它模块先初始化才能进行自己初始化工作(例如v4l2 subdev和v4l2 video device),这时就要用到component框架。例如v4l2 subdev和v4l2 video device中,谁依赖谁先创建?

lz_1990的专栏 1611

UC伯克利发现GPT-4惊人缺陷:儿童从经验中学习因果,LLM却不行

接下来,使用与测试中人类参与者的文本输入完全相同的设置,研究人员想看看OpenAI的GPT-4、Gpt-3.5-turbo和text-davinci-003模型,以及Anthropic的Claude,Google的FLAN-T5(XXL)表现如何。这种传达和客观真理的对比,与在人类文化演化中的模仿/创新的对比密切相关。对儿童而言,现有的文献中存在很多关于我们童年时期的模仿的争论,究竟有多少是忠实的文化传递(比如:过度模仿)以及有多少是由更广泛的寻求真理的过程所驱使的,比如理解他人的目标和意图。

everydaynews的博客 136

Fiddler everywhere的一些基础操作

网上能搜到的Fiddler everywhere使用教程太少,于是我整理了一些自己实操成功的内容,包括Fiddler everywhere的Mock测试、弱网测试等基础操作,后续还会持续更新。操作系统:macOS使用工具:Fiddler everywhere 5.10.0本文简单介绍了使用Fiddler everywhere进行的Mock测试和弱网测试,而Fiddler everywhere提供了更多的其他实用的功能,我会在后期进行一个持续的学习和更新。

weixin_44346646的博客 2481

“智能体最后的考试”,Fable 5竟然不敌GPT 5.5

每个前沿模型都有擅长的领域和拉胯的领域,ALE覆盖55个行业、1500+道题,最终得分是所有领域的平均值,很多模型的总分因此挤在一起。真正有价值的信号不在总分,而在不同模型在不同领域的表现差异——在同一道题上,不同模型往往因为完全不同的原因而失败。,学术侧有MIT、Harvard、Stanford、Oxford、Caltech、ETH Zurich,产业侧有Goldman Sachs、JPMorgan、Meta、Amazon、Adobe、Oracle。算“作弊”还是“机灵”,取决于你的立场。

2501_91883294的博客 492

Xilinx Blockset Counter计数器模块使用及参数配置

本文详细介绍了Simulink中Xilinx Blockset库Counter模块的使用以及参数说明。

白码王子小张的博客 1097

osg3.6.5---osgEarth3.2 实现数字地球的加载

目前我在网上找得比较多的是osgearth2.10及以下的版本及加载数字地球的方法,但是我使用的是osg3.6.5和osgEarth3.。但是3.x版本和2.x版本差别很大,主要区别在于2.x有7个主要库,而3.x版本只有osgEarth这一个库。所以,特别记录一下。后面我讲他集成到qt的窗体在上传更新新的代码。1.直接上源码pro文件和cpp文件。

枫影竹韵的博客 1009

首款国产AI搜索横空出世,革了传统搜索引擎的命!无限追问,告别广告

图片来源:由无界AI生成在大模型时代,我们需要什么样的搜索?ChatGPT石破天惊地出现,让所有人都意识到:人类接受和处理信息的模式,是时候重构了。此前,一位UC伯克利教授曾给出惊人预测,2030年的GPT,一天可以学习人类需要学2500年的知识。虽然暂时还无法和硅基生命在这个赛道上一分高下,但毫无疑问,在知识爆炸、信息过载的时代,我们需要的信息,绝不仅仅是简单的搜索后随意堆叠在眼前的、未经咀嚼...

weixin_44383880的博客 687

芯片ATE测试PAT(Part Average Testing)学习总结-20250916

文章摘要:零件平均测试(PAT)是半导体制造中基于统计学的质量控制方法,分为静态和动态两种类型。静态PAT通过预先设定的固定限值(每6-8批次更新)筛选异常芯片,计算采用稳健平均值和四分位间距。动态PAT则根据实时数据调整限值,能更精确识别异常而不误判合格芯片。两种方法均采用"均值±6倍标准差"的计算公式,但动态PAT具有更好的适应性和准确性。该方法通过统计分析提高了芯片产品的质量和可靠性。

歌颂苦难的行为是无耻的; 1193

姚期智Hinton Bengio联名发文:18个月内AI规模将扩大100倍,得有人管管了

梦晨 发自 凹非寺量子位 | 公众号 QbitAI三位图灵奖得主Hinton、Bengio、姚期智,联名发文《在快速发展的时代管理AI风险》。还有UC伯克利宋晓东、Pieter Abbeel,清华张亚勤等更多知名学者合著。这是一篇共识论文(consensus paper),除AI研究者外,还有公共治理方面的学者,如清华大学人工智能国际治理研究院薛澜,以及诺贝尔经济学奖得主丹尼尔卡尼曼等。Hinto...

量子位 204

一文读懂 SAP BTP Application Router 的 Resource Files:从 xs-app.json 到本地开发的默认设置

本文详解SAP BTP中Application Router的资源文件配置与本地开发实践。核心包括:xs-app.json定义路由规则与安全策略,package.json声明依赖与启动脚本,resources/存放静态资源,default-services.json和local-destinations.json用于本地模拟云服务。文章通过真实案例展示如何配置静态资源直出、反向代理后端服务,并强调本地开发时的注意事项与常见问题解决路径。关键配置均提供示例代码,帮助开发者快速实现业务应用的部署与联调。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 180

AI测试干货:让大语言模型稳定输出 JSON 的四种实现方案

用大语言模型做测试用例生成、数据提取时,最头疼的就是让它老老实实返回 JSON。你以为它会给你 `{"name":"张三"}`,结果它来一句"好的,这是生成结果:```json...",或者干脆在 JSON 里加注释,直接把你的 `json.loads()` 干崩溃。 模型本质上是个话痨,天生爱解释。但我们要的是结构化数据,不是聊天记录。我整理了四种实战方案,从最简单的提示词技巧到工程化框架,覆盖了从快速验证到生产环境的各种场景。

blues_C的博客 959

Hinton、Bengio和姚期智联名发文:得有人管管AI风险了!

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达点击进入—>【计算机视觉和Transformer】交流群梦晨 发自 凹非寺转载自:量子位(QbitAI)三位图灵奖得主Hinton、Bengio、姚期智,联名发文《在快速发展的时代管理AI风险》。还有UC伯克利宋晓东、Pieter Abbeel,清华张亚勤等更多知名学者合著。这是一篇共识论文(consensus paper)...

阿木寺的博客 209

【WRFDA运行第五期】运行 OBSGRID 客观分析

运行 OBSGRID 客观分析

WW、forever的博客 1051

[论文精读]序列建模使大视觉模型的规模化学习成为可能

纯CV大模型

GarryWang1248的博客 1957

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

ChatGPT前世今生;AI编剧的奇葩剧本;硅谷福报初体验;输入指令就能P图;机器的编程能力超过54%程序员;元宇宙+新零售=?AIoT新黄金十年 | ShowMeAI每周通讯

这是 ShowMeAI 每周通讯的第2期。通讯聚焦AI领域本周热点,及其在各圈层泛起的涟漪;关注AI技术进步,并提供我们的商业洞察。欢迎关注与订阅!

ShowMeAI研究中心 9040

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

互联网摸鱼日报(2023-08-16)

与中美抢购芯片,揭秘沙特、阿联酋的人工智能野心基本归因错误之误:是人性的错,还是环境的错?播放量翻7倍,同比增550%,Afrobeats会成为下一个全球性主导流派吗?发明折叠屏的人,难受,想哭开一家冒烤鸭店,成了年入百万的“躺赢”生意?秋天来了,第一杯奶茶怎么还在火?百度造车调整,小米没提造车太罕见,刚又爆了,700亿大举抄底千万别用,非法“减肥神药”流入20多个省份,卖了上亿元,记者暗访揭秘,原料来源惊人国家统计局年内多次重申“中国经济不存在通缩”豪车消费还看德系,但BBA面临新洗牌海康系二次上演“A拆

weixin_43849685的博客 657

机器人基础模型:五代进化史与三大技术流派解析

机器人智能的核心在于其‘大脑’的演进,这本质上是人工智能从数字世界走向物理世界的具身化过程。其发展遵循着清晰的范式跃迁:从早期基于规则的‘感知-规划-执行’古典范式,到引入环境动力学模型的‘内部仿真器’,再到依赖专家示范的模仿学习。随后,通过试错与环境交互获取奖励的强化学习,让机器人具备了自主优化策略的能力。这些技术共同的价值在于,它们不断突破机器人对结构化环境的依赖,提升其在复杂、动态场景中的适应性和自主性。当前,这一进程已进入以机器人基础模型为代表的第五代范式,其核心是通过海量多模态数据预训练,赋予机器

weixin_34277853的博客 363

51c视觉~合集55

要么生成的异常真实性不足、掩码精度低,且难以跨领域复用。试想一下,在工业质检、医疗影像诊断、日常物品瑕疵识别等场景中,无需任何示例缺陷样本,也无需针对特定领域微调模型,就能根据文字或图像提示,自动生成真实且符合语义的异常,还能精准输出缺陷掩码,大幅提升下游异常检测模型的性能。Anomagic引入对比掩码细化策略,通过计算输入正常图像与生成异常图像的像素级差异,结合预训练的MetaUAS模型,自动生成高精度缺陷掩码,实现异常区域与掩码的像素级对齐,大幅提升生成数据的实用性。

whaosoft~aiotの开发板商城 1732

cc-switch + Codex CLI + gpt-6.1-terra 多环境教程:切换后仍走旧线路的完整排查方法

它可以分别保存 Claude Code、Codex CLI、Gemini CLI 的多套服务商配置,再将选中的配置写入相应 CLI 使用的配置位置。Codex CLI 和 Gemini CLI 都有常见的官方默认配置位置,但 cc-switch 当前版本最终修改了哪个文件,仍应以实际文件变化、应用界面提示和对应 CLI 文档为准。cc-switch 可以保存多套配置,并将选中项写入相应 CLI 的配置位置,但 Shell 中原来导出的变量仍可能存在,已经运行的进程也不会自动刷新。

ofoxcoding的博客 145

GPT-Live 全双工语音 API Java 服务端落地实战:事件协议、会话恢复与生产踩坑

GPT-Live 把语音 Agent 的接入门槛从"搭三条流水线"降到了"写一个 WebSocket 状态机",但对 Java 后端的真实要求反而更高了:你要管长连接生命周期、事件顺序、退避重试、计费监控和会话恢复——这些恰恰是 Java 工程师在消息队列和 RPC 框架里练了二十年的基本功。配置在启动时锁死、流没有完成信号、轮次边界自己负责;业务状态与会话状态分离、并发按连接数规划。下一个十年,"数字员工"打的每一通电话,背后都得有一个扛得住生产环境的 Java 网关——这个活儿,就该我们干。

qq_36021478的博客 162

GPT-6.2 灰度的 3D 演示火了

在 GitHub 社区有部分 Claude Opus 5.5 用户抱怨复杂任务变慢、质量波动或更快耗尽额度。并展示了单个提示词生成的 Three.js 场景:浮空岛、瀑布、光照和昼夜变化,全塞进一个 HTML 文件里,没有外部素材。此前多用户反馈现在 GPT-6 降智了,如果本次消息属实,那 ChatGPT 用户的体验将会有很大的改善。为了不错过 GPT、Claude、Gemini、Grok 和 Apple 的重要更新与实用教程,请关注👆。欢迎在评论区留言你的想法,给他人启发。

hello99yum的博客 239

百度 ERNIE Evolve 自动研究系统:NanoGPT 速通 38.9 秒,P800 推理速度达基线 623.6%

百度文心团队 11 月 9 日在技术博客发布《ERNIE Evolve:让自动研究走进真实 AI 研发》,介绍一套自动研究系统:给它一个真实代码仓库、一个优化目标和一套评测标准,它自己提出研究方向,在隔离环境里改代码、跑实验,靠独立评测决定哪些改动留下,再把每轮的发现存成后续可复用的经验。百度把这件事放在“递归自我迭代”(RSI)的框架里讲,也就是让自动研究去改进做 AI 研发的系统本身。 文章先在三项公开任务上检验它,分别对应训练算法、训练速度和 GPU 算子;随后把它接进还在开发中的 ERNIE 5.5

2601_95836219的博客 402

智能体的模型列表为什么要从三处来源合成:一次让 GPT-6.1 Sol 选不上的发布延迟

原文:OpenClaw Blog - 《Use new models in OpenClaw without an update》(https://openclaw.ai/blog/use-new-models-in-openclaw-without-an-update)

2401_88139521的博客 339

GPT-5.5 报 429 insufficient_quota 怎么办?为什么加退避还是失败

上周五晚上 10 点多,我给一个代码服务接入 GPT-5.5,看到 429 就顺手加了指数退避。折腾半天,日志反而刷得更凶。GPT-5.5 返回时,业务代码通常不应继续短周期自动重试。这个错误一般与账单、可用额度、API Key 归属或账户状态有关。短期等待和指数退避通常不能解决;应先修复账单或额度状态,再用单次最小请求验证。在本文讨论的两类 OpenAI 错误中,通常适合有限退避;其他 429 应结合错误体、等响应头以及请求是否幂等来判断,不能只看 HTTP 状态码。

ofoxcoding的博客 235
上一篇: ChatGPT学会自己提问题了,还支持多文件上传
下一篇: OpenAI进军内容审核行业,学校图书馆已经用ChatGPT筛选色情描述了
公众号:【GitHub爱好者社区】
博客等级 码龄6年 357粉丝 48原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值