Max Tegmark:人类控制机器的技术不够强大,需暂停开发不可控的 AI 系统

「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品) 阅读详情

点击蓝字 |关注我们

6c32e7bc84eabaa571088a8a8f1683fe.jpeg

2023 年 3 月 22 日,未来生命研究所 (Future of Life Institute) 在官网发布了一封名为《暂停大型人工智能实验》的公开信,呼吁所有人工智能实验室立刻暂停一切比 GPT-4 强大的人工智能系统的训练至少 6 个月。这封公开信引起了全球的广泛关注,苹果联合创始人 Steve Wozniak、特斯拉、SpaceX 及推特的首席执行官 Elon Musk 等科技领域重要人物在公开信下签名表示支持。截止撰稿日,这封公开信已征集到 33,002 份签名支持。

查看公开信:

https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Max Tegmark 作为未来生命研究所的创始人,《生命 3.0》一书的作者,同时也是这封公开信的发起人,目前为美国麻省理工学院 (MIT) 终身教授,致力于人工智能、未来生命的研究,在这一领域颇有建树。

在刚刚过去的「2023 IJCAI-WAIC 大模型与技术奇点:人文与科学面对面高峰论坛」上,Max Tegmark 教授通过连线的形式,针对「为何应该暂停 AI 的研究,如何掌控 AI」与大家展开了分享和讨论。

本环节由安远 AI 创始人谢旻希先生担任主持人,华东师范大学政治与国际关系学院院长吴冠军教授、新南威尔士大学的 Toby Walsh 教授参与了提问环节。

419337cb9418f3cf268f2a3a3a189421.png

以下为直播连线实录,HyperAI超神经做了不改变原意的分享。

Max Tegmark:大家好,很高兴能够同身在上海的各位连线。我同中国十分有缘,我有许多优异的学生就是中国人。今天我要向大家分享的主题是「如何掌控 AI 」。

经常有人问我, 面对 AI,人类应该是兴奋还是恐惧。我认为两者应兼而有之。我们因能够掌控 AI 而感到兴奋,它会带来无限的机遇。最近我的一篇论文,讨论如何借助 AI 更加迅速地实现可持续发展的目标。我们发现,AI 有助于我们实现大多数目标。如果我们使用得当的方法,在掌控之下,会得到一个更好的 AI,实现远超最初的期待的目标,并在全世界创造出更美好的未来。而这一切的前提是不让 AI 失去控制,保持人类对于 AI 的掌控。

近来对于 AI 威胁的讨论甚嚣尘上,我们的确已经身处计算机拥有意识且可自我迭代的时代,发展将会越来越迅速,我们需认真思考如何对其控制。但是我还无法断言人类有这个能力,但是我们应当尝试。

AI 发展最坏的结果就是使人类全部灭亡,我不认为这是在危言耸听。在我看来大约 50% 的概率 AI 会在不久的将来导致人类灭绝,这也是为什么我会对这个课题感兴趣。近来,许多人对此发出了警告,我们应当警惕由 AI 带来的人类灭绝。5 月 20 日的这份声明,签署人不仅有许多领先行业的 AI 公司的 CEO,还包括很多顶尖的 AI 学者,他们在担心什么?为什么他们在当下会产生这样的担忧?然而,这种担忧自古有之。

如果人类创造出比自己更智能的机器,人类将会面临巨大风险。这个观点可追溯到人工智能之父图灵。他在 1951 年曾说过,如果某一天机器开始思考,人类就应该做好被其控制的准备。显而易见,智能将会带来力量和控制权。类似的警告也有很多。由此可见,这是一个老问题,可追溯到 AI 诞生。可现在我们为何要探讨这个问题?

因为现在 AI 正在突飞猛进的发展,许多人认为几十年才能实现的事情,现在已经发生了。那些曾被以为是未来的事情,现已成为了遥远的过去。AI 能写出整洁的代码,能进行艺术创作,AI 也变得擅长写作和视频创作,在短短的时间内发生了翻天覆地的变化。如果继续发展,它能在所有领域都比人类做的更好。这就是通用人工智能 (AGI) 的定义。如果这种情况发生,就代表着它具备了开发更好 AI 的能力,这将使得这使得出现超级智能的概率进一步提高了。我们可以让 AI,加速开发更好的 AI。如此迭代循环,很快 AI 就会不再受制于人类智能,只受制于物理定律。

几年前大多数人都不认为这种情况会在短时间内发生,很多 AI 研究员一度认为这可能需要 30-50 年才会发生。但现在微软已经发布了一篇论文,说这已经在发生了。我们在 GPT-4 中看到了通用人工智能的火花。我们基本上已经达到了一个点,AI 系统能模仿人类行为,这意味着 AI 可以通过图灵测试。早在 60、70、80 年代,人们认为一旦 AI 通过了图灵测试,就表示它已经基本具备了超越人类的能力。

越来越多的人开始担心 AI 的发展失去控制,并由此导致人类灭绝。其实,这有助于改善中美关系。目前,大部分参与者都把 AI 视为权利来源。谁先掌握它,谁就有可能获得胜利。但是现在大家都开始谨慎对待 AI 发展。首先掌握 AI 的人,若没有完全掌控 AI 并解决它带来的风险,结果很可能就是人类灭绝,没有赢家。这从而完全改变了当下时局,我真心希望这能为改善中美关系翻开崭新的一页,带来更开放协作的局面。因为只有合作,才不会有人失去对 AI 的控制,才能打造人类共同的美好的未来。

2af7934a1b01454a30184d6a75d7d37a.png

了解人类如何控制比自己更聪明的机器,需要进行大量的技术研究。这就是我在 MIT 研究小组从事的工作。最近我针对这个课题,组织了一次大型会议,讨论机制解释性,以及如何更好地理解大语言模型。终极目标就是让人类掌控 AI,与其放弃并把 AI 比做一个未知的黑盒,我们可以尝试利用其他 AI 技术来判断 AI 的可信度。如何利用 AI 技术提高 AI 可信度,甚至从中抽取信息,借助流程化方法保证 AI 能按照人类需求执行操作,如此一来我们就拥有了可信的人工智能技术。这 3 个问题都还没有解决,但我认为只要再有一些时间,加强全球的合作,解决这些问题指日可待。从技术上来看完全是可实现的,问题在于时间。

结束前,我还想聊聊,现在让人类控制机器的技术实现还远远不够。我们还需要解决多尺度对齐 (Multiscale Alignment) 问题。正如 Yoshua Bengio 所说的,AI 对社会发展有积极的一面,这让人振奋,同时这也使我忧心。因为强大的工具也可能被不恰当地使用,而社会还没有准备好应对这一挑战。这也是为什么我们说要放慢 AI 开发的速度,让我们更全面地设置好防护措施。

Yoshua Bengio 想表达的,是我们需要暂停最危险、最容易失控、人类知之甚少、比 GPT-4 更强大的 AI 系统的开发。以便给技术研究留出时间,确保人类可以掌控 AI。同时让政策制定也有可能跟上 AI 的发展节奏,确保全球各国政府都能实施必要的规定,企业和个人只利用 AI 做有益之事。

如果个人可以利用 AI 开发生化武器,那么仅让 AI 服从某个人是不够的;如果某一企业做了不利于社会发展的事,那么仅让 AI 服从于某一企业也是不够的。这也是为什么我们不仅需要技术安全工作,还需要法律法规。不是只有我持有此观点,27,565 人签署我跟 Yoshua Bengio 等其他作者共同撰写的这封公开信,呼吁暂停高风险模型的开发。在这方面,中国也可以作出更大贡献。相比美国,中国已经对 AI 实行了更严格的管理。中国在解决这个问题上,具有显著优势。

不仅因为中国是科学和技术强国,可以助力 AI 安全相关的研究。还因为中国是世界四大文明古国之一,跟很多西方国家相比,具备长期规划的传统,这正是非常必要的观念,真心欢迎中国的技术人员在解决该类问题上贡献智慧,例如人类如何控制比自己更聪明的机器以及参与制定切实可行的政策方案,使得个人、企业与国家团结一致,共同谱写美好的未来、享受 AI 带来的成果。

感谢大家聆听。

 对话环节:

吴冠军:非常感谢 Tegmark 教授,我很喜欢你的分享,同时也很赞同你的担忧。你提到人类要掌控 AI,我对此仍有一个很大的疑问。谁来掌控 AI?如果这里省略的主语是「我们」,在「人类」的掌控下,这里实际上有一个「us」我注意到你其中的一张幻灯片上写道 Let's not lose control,这里也有一个「us」。所以我的问题是,从什么时候开始,人类才会以「我们」的身份行动?我们知道,人类之间存在彼此信任的问题。例如,我们应该相信 Elon Musk 吗?他真的不会秘密训练任何比 GPT 4 更强大的模型吗?尽管他签署了你发起的这封公开信,我愿意相信他。但是根据几个月前媒体的一篇报道,他购买了 10,000 片 GPU。所以回到我的问题,应该让谁掌控 AI?是否要优先解决人类彼此间的信任问题?

Max Tegmark:这是个很好的问题。实际上,这是两个独立的关于控制的问题。第一个是技术层面的问题,任何个人或企业,如何让机器去做他们想做的事情?这只是一个技术层面的问题。如果我们无法解决这个技术问题,我们更加无法奢望去解决你这个关于掌控权的问题。这就像如果你有一个核反应堆,但总是在启动时爆炸,那么它对任何人来说都是没有意义的。所以我们必须先解决技术层面的问题。

同时,也必须针对控制权的问题制定相应的政策。这对于「谁来掌控」而言是非常关键的一部分。当然,关于应该怎么做大家并没有达成一致。不同的企业、商业领袖以及国家,也常常持有不同观点。但我认为重要的是,与其纠结这些对人类漠不关心的机器的思想多么诡异,我们应该先关注共同的目标。事实上全球范围内的所有国家都达成了共识,例如美国和中国,都同意这些目标。基本上联合国的所有成员国也都同意这些发展目标,摆脱贫困、摆脱饥饿等等。用技术去达成这些目标,因为比起分歧,我们有更多可以让大家团结起来的共识。

7d4b4e615595f7b11afbebc1683ec42d.png

Toby Walsh:Max 幸会。我们对 AI 有很多观点一致的担忧,尤其是在自主武器等方面。我没签署这封公开信有几个原因,如果这封公开信要求暂停 AI 部署,我很可能会签署这封公开信。因为现如今的 AI 是一个可以放大危害的工具,事实上,我们已经真实看到、体验到其中一些危害了。我不太确定人类是否有能力控制正在快速失去的东西,但我们已经拥有了可以放大人类行为并提升危害程度的工具,所以我的问题是,为什么不仅仅暂停部署 AI?

Max Tegmark:好问题,我猜你没有签署这份公开信的一个关键原因,是你的模型 timeline 比其他签署的人更长。这完全属于合理的科学分歧范畴,这封公开信在部署与开发方面并没有很明显的区分。在我看来,我们不应该开发过于强大甚至有可能失去控制的 AI,假如你是一家跟 OpenAI 或 DeepMind 类似的企业,即使我们信任这些公司的 CEO,相信工程师们非常有责任心,不会部署任何有潜在风险的 AI。事实上他们并不能独立做决定,因为他们一旦开发出了极其强大的 AI,就会面临来自股东、董事会以及其他成员的巨大的商业压力,说「这能赚大钱,无论如何我们应该继续推进部署」。有点像曼哈顿计划中的科学家,当他们找到制造原子弹的方法时,他们提交了一份报告,说不要把它投放到人群中,只做展示,然后结束战争,这样就不会有人因此受伤或丧生。但是当时,这些发明原子弹的科学家已经没有控制权了,其他力量介入并决定对其进行部署。所以我认为,在谈到未来可能非常强大的技术时,唯一安全的方式就是不去部署它。

我们只请求暂停 AI 开发 6 个月,而且仅限于那些人类尚未理解的最强大的模型,坦白讲,这不过是一个小小的请求,只为给政策制定者和安全研究员留点时间迎头赶上。我希望这能朝着生物科技行业的方向发展,在说服专家该药品安全有效、利大于弊之前,禁止投产并在中国或澳大利亚等国家销售。

Toby Walsh:Max,6 个月的限制是我没签署这封公开信的另一个原因。这个时间限制很像一个拍脑门设定的数字。这封信发布以来已经快 6 个月了,但是一点变化也没有。世界范围内的对齐研究没有显著进展,这个问题也不可能在 6 个月内解决。如果你真心想解决这封信中提到的顾虑,呼吁暂停 6 个月肯定是不够的。你应该提出一个无限期计划,直到我们找到应对方案。

Max Tegmark:这封公开信的确呼吁暂停至少 6 个月,且只有在制定安全标准后才能取消禁令。这也跟生物科技行业类似,必须通过 FDA 或澳大利亚及中国相应机构的审查程序,才能够对外发布产品,而现在,至少在美国是非常野蛮无序的状态。AI 的使用没有任何法律法规,药物等的法律法规却很完善,即在相关立法落地执行之前,AI 开发不应该重启。我不同意你说没有发生任何改变。事实上,政策领域已经开展了一场热闹空前的讨论,这正是由这封信引发的,我认为这意义非凡。但是 AI 开发并没有暂停,AI 开发确实没有暂停。但政策方面的讨论确实明显增加了,这很受欢迎。

cf8da37cdb15e5e6c8b342a7efec56d3.png

Toby Walsh:当然,这大有裨益,而且大家都会欢迎这种讨论。我没有签署公开信,最根本原因可能在于,你反复提到的一个词「control」,不仅我的时间跨度可能比你稍长一些。根本上来说,当我跟我的生物学家朋友们交谈时,他们认为机器不同于生物体。它们没有内在目标,它们终究只是工具,由人类指挥,可能指挥其做一些错误的事。机器不同于人类或其他动物,它们不具备内在驱动力,我们不需要担心失去对机器的控制权。相反,我非常担心失去对企业和机构的控制,他们可能会恶意使用这些技术。但对于机器本身,我倒不怎么担心。

Max Tegmark:哪怕你只是担心用户会不会用 AI 作恶,这也很值得暂停思考一下了。

例如根据去年的一篇论文,一位 AI 研究人员训练了一个 AI 来开发新药物。基本上是在优化不同分子能多大程度上改善人体健康,然后作为对照实验,他输入了一个负号,想测试如果让这个 AI 转而开发有害化学品会怎样。结果在 24 小时内,它就发现了 VX。这是美国发现的最强神经毒剂,以及一些新毒剂。如果把这样的东西开源,假设 Facebook 正在做这样的事,那么如何阻止某个单纯想用 AI 作恶的人呢?在座的各位以及澳大利亚人听起来可能会觉得很奇怪,但在美国常常发生各种大规模枪击,有人会想杀害尽可能多的人,所以我认为有人会使用 AI 来造成尽可能多的伤害,是很有可能发生的,相信这也是大家希望掌握控制权的事。

Toby Walsh:Max 你提到了一个非常危险的操作,即信息审查。因为归根结底,危险的是 VX 和其他神经毒剂的相关科学知识。尽管我们有一个工具可以更容易地获取,但它终究只是科学知识。如何阻止这种情况发生?阻止此类事情发生,需要阻止公众接触试剂,阻止他们接触能将这些观念转换为作恶的生化工厂。

Max Tegmark:我不同意这种说法,采取以上措施虽然也会有所帮助,但我们不会开源最新的小型核武器设计和合成生物学中一些风险较高的内容。并非因为我们不信任开源。众所周知,我所工作的 MIT 是开源文化的摇篮,但有些东西因为对社会有较高风险,而无法开源。我们不仅担心已经知道方法的人,将 VX 的制作方法公之于众。这个 AI 化学武器研发的可怕之处还在于,它发现了一些以前未知的新型化学武器。显然,如果我们制造出的 AI 系统,能够超越人类化学家或生物学家,那么 AI 也有可能创造出大规模伤害的新知识。哪怕这个 AI 系统极度服从其所有者的命令且没有任何内在目标,人类可以利用 AI 制造更多伤害,这仍然需要有效遏制。以上就是我的观点。

完整版直播连线内容及 Q&A 环节可点击以下链接查看:

ubuntu20.04安装Qt5.15.2并配置环境 qt官方取消了离线安装的方式,所以推荐在线安装,当然,如果想要自己通过源码编译也可以,参考官方文档:https://wiki.qt.io/Building_Qt_5_from_Git。 在线安装: 1.到官方网站下载:wget https://download.qt.io/official_releases/online_installers/qt-unified-linux-x64-online.run 2.修改文件权限:chmod 777 qt-unified-linux-x64-online.run 阅读详情

相关推荐

AD20 Channel-Offset Error 解决办法

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录前言AD20 PCB相同电路模块ROOM格式复用时出现 Channel-Offset Error 解决办法一、问题现象二、解决办法 前言 AD20 PCB相同电路模块ROOM格式复用时出现 Channel-Offset Error 解决办法 一、问题现象 我们经常在使用Room格式快速布局相同模块电路时出现以下问题, 二、解决办法 相同模块电路PCB布局复制的过程网上有很多,这里不再做赘述,步骤都差不多,只说问题根源; 1:.

m0_47201213的博客 7635

MIT教授Tegmark:GPT-4敲响警钟,百年后人类何去何从丨智源大会嘉宾风采

导读一封呼吁暂停大模型研究6个月的公开信让一家名为未来生命研究所(Future of Life Institute 简称:FLI)站上了风口浪尖。这家研究所的联合创始人Max Tegmark是来自麻省理工学院的物理学家和人工智能研究员,《生命3.0在人工智能时代成为人类》一书的作者。他正是带头公开信呼吁暂停 6 个月训练GPT-4等大型 AI 实验的关键人物。在最新一期与著名AI主播Lex Fri...

BAAIBeijing的博客 1779

大语言模型(LLM)在组合优化中的新突破:LLM-LNS与FunSearch性能对比

本文深入探讨了大语言模型(LLM)在组合优化中的创新应用,重点对比了LLM-LNS与FunSearch两种方法的性能差异。研究表明,LLM-LNS在物流路径规划、资源调度等场景中展现出显著优势,其双层自演化架构能有效平衡探索与利用,相比传统方法提升效率约43%。文章还提供了实践选择指南,帮助开发者根据具体需求选用合适的技术方案。

weixin_42526415的博客 408

“深度学习教父”遇见诺贝尔物理学奖,唤起了 13 位 AI 界大神的回忆……

这个概念对至少三个重要学科产生了巨大的影响:统计物理、计算机科学与人工智能,以及神经科学。作者 | 王启隆出品丨AI 科技大本营(ID:rgznai100)10 月 8 日,瑞典皇家科学院在瑞典首都斯德哥尔摩揭晓了今年(2024)的诺贝尔物理学奖,获奖者为美国普林斯顿大学 John J. Hopfield 和加拿大多伦多大学 Geoffrey E. Hinton,以表彰他们“基于人工神经网络实现机...

AI科技大本营 1105

零代码搭建专业知识库:Wiki.js+cpolar让团队协作像写笔记一样简单

"项目文档又找不到了!“团队负责人小张第N次在群里看到这样的抱怨——技术文档分散在邮件、网盘和个人电脑里,新人入职要花一周熟悉文档位置,远程协作时版本混乱更是家常便饭。Wiki.js与cpolar内网穿透服务的出现,就像给团队协作装上了"中央大脑”,用写Markdown笔记的简单方式,搭建一个专业的知识库系统。普通人对知识管理的需求其实很简单:方便记录、容易查找、大家能用。但传统方案把这个过程搞得异常复杂:建服务器、配环境、学语法、搞权限……大部分团队还没开始就放弃了。

Yawesh的博客 2042

SAP与泛微OA集成(半导体行业)

本项目通过SAP PO中间件集成SAP与泛微OA在半导体行业的应用,由于行业特殊性,广泛深入应用了RSA加密等特性

集信通 1165

公开信发起人Tegmark:中国得天独厚,为AI安全和治理做贡献丨2023智源大会回顾...

导读近日,MIT教授、「暂停大型AI实验」公开信的发起人之一Max Tegmark发表了题为「如何掌控 AI」的精彩演说,介绍了发展可控 AI 的重要意义,提出了通过「机械可解释性」实现可控 AI 的技术路线,同时也肯定了中国在 AI 安全领域的贡献,并呼吁全球同仁加入到 AI 治理的事业中来。1. Yann LeCun 在他的演讲中提到,也许大语言模型缺乏世界模型。我听到很多人这么说,但我认为并...

BAAIBeijing的博客 517

HMMER实战:从零部署到序列分析

本文详细介绍了HMMER工具的安装与使用,从源码编译到环境配置,再到核心工具hmmbuild、hmmsearch等的实战应用。通过球蛋白序列分析案例,展示了HMMER在生物信息学中的强大功能,帮助读者快速掌握序列分析技巧。

weixin_42529366的博客 260

MIT生命未来研究所联合创始人Max Tegmark携新书谈AI的未来

内容来源:ATYUN AI平台 Max Tegmark是麻省理工学院的教授,基础问题研究所的科学主任,以及生命未来研究所(FLI)的联合创始人。 他也是AI领域最重要的人物之一。2015年,马斯克向FLI捐赠了1000万美元,用于推动对AI系统的道德,法律和经济影响的研究。Tegmark的最新著作《Life 3.0: Being Human in the Age of Artificia...

whale52hertz的博客 2761

Excel中如何快速地将成绩按比例来划分为等级?

问题介绍: 记录说明:班级里共有40个人,按最终总平均成绩从高到低划分等级,A等级30%,B等级50%,C等级20%。 部分成绩如下表所示: Excel中相关函数介绍: IF函数 IF函数有三个参数,语法如下: =IF(条件判断, 结果为真返回值, 结果为假返回值) 第一参数是条件判断,比如说“A1=">37”这种,判断TRUE或FALSE。如果判断是TRUE(结果为真)那么IF函数返回值是第二参数,否则(结果为假)返回第三参数。 如果省略了第三参数,则当结果为假时,会返回FALSE。 如果公式

Wendy的博客 1万+

PCL 使用RANSAC拟合平面【2026最新版】

RANSAC拟合平面算法原理和实现流程详解以及最大迭代次数和内点期望概率的设置方法。最后再对拟合后的平面法向量与向量(1,1,1)进行定向。博客长期更新,最近一次更新时间为:2026年4月24日。

点云侠的博客 42万+

万字干货:10 位科学、人文大咖论道,Max Tegmark 贡献思想火花,共同直面 AI 奇点时刻...

点击蓝字 |关注我们2023 年 7 月 7 日,由世界人工智能大会 (WAIC) 组委会指导,国际人工智能联合会 (IJCAI) 中国办公室、华东师范大学联合主办,华东师范大学政治与国际关系学院承办,华东师范大学奇点政治研究院、安远 AI、HyperAI超神经数据科学社区、德汇科技创新中心协办的「2023 IJCAI-WAIC 大模型与技术奇点:人文与科学面对面论坛」在上海张江科学会堂科创厅圆满...

HyperAI超神经 848

【思考模型框架】MECE原则,确保分析时,考虑到的所有因素,既不重叠又无遗漏

MECE原则,是Mutually Exclusive and Collectively Exhaustive的缩写,中文译为“相互独立、完全穷尽”。MECE原则,这是一种逻辑思维和组织信息的方法,旨在确保分析时既没有遗漏也没有重复。MECE原则,相互独立、完全穷尽(Mutually Exclusive,Collectively Exhaustive)的原则MECE原则,确保分析时考虑到的所有因素既不重叠又无遗漏。

奶爸的编程之路,也就一周冷个三天 2756

跟TED演讲学英文:How to keep AI under control by Max Tegmark

Provably safe AI systems

阿正的梦工坊 1710

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

KAN核心团队震撼力作!MIT华人用AI首次发现物理学全新方程 | 最新快讯

要运用物理学的直觉来处理这些问题,可能会令人生畏,但研究者注意到,三阶导数出现了在 KdV 方程中,或者说,如果推导出具有稳定度和其他阻力的弦的波动方程,也会出现三阶导数。具体来说,使用了 5000 个随机初始化的 PDE 系数值运行 OptPDE 后,研究者发现了 4 个可积偏微分方程,其中是一个是已知的,而另外三个是全新的方程。研究者发现,他们得到大多数解,都是 4 个偏微分方程家族的线性组合,其中一个是 KdV 方程的一种形式,还有 3 个方程完全是新增的,在文献中并没有记载!

www3300300的专栏 928

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

AI「长脑子」了?LLM惊现「人类脑叶」结构并有数学代码分区,MIT大牛新作震惊学界!...

来源:新智元 本文约5500字,建议阅读11分钟 这项重磅的研究揭示了大脑构造并非人类独有,硅基生命也从属这一法则。[ 导读 ] Max Tegmark团队又出神作了!他们发现,LLM中居然存在人类大脑结构一样的脑叶分区,分为数学/代码、短文本、长篇科学论文等部分。这项重磅的研究揭示了:大脑构造并非人类独有,硅基生命也从属这一法则。LLM居然长「脑子」了?MIT传奇大牛Max Tegmark团队的...

数据派THU 199

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

马克斯·泰格马克:坚决反对建造AGI,工具型AI足够为人类社会带来巨大积极影响

这种投资的增加和AI技术的快速进步,使得我们对AGI的预测时间大大缩短,这种变化类似于历史上的“恩里科·费米时刻”,即在1942年,物理学家恩里科·费米在芝加哥的一个足球场下建造了世界上第一个自持的核链反应堆,标志着人类距离制造核武器只有一步之遥。他建议,美国和中国可以首先单方面决定将AI视为与其他强大技术行业一样,需要受到严格的安全监管,随后,这两个国家可以联合起来,推动全球其他国家加入到一个关于AGI的暂停条约中,以确保没有任何国家,包括那些可能在监管较弱的地区如北韩,开发出AGI。

AI生成曾小健3 1001

姚期智、张亚勤、薛澜、Stuart Russell、Max Tegmark,DeepMind研究员等共话全球AI治理丨大会回顾...

为什么AI安全已迫在眉睫?如何构建全球范围内的合作?民众该如何参与到其中?未来的AI系统将是什么样的?2024年6月15日,智源大会第二天,多位AI安全领域专家进行圆桌讨论,连接中国北京和美国加利福尼亚,共同探讨如何构建可控AI,建立全球范围内合作。这次AI安全论坛由北京智源人工智能研究院与加州的非营利组织AI安全国际论坛(Safe AI Forum)和FAR AI共同举办。AI安全国际论坛致力于...

BAAIBeijing的博客 1096

人类无法创造有意识的AI——新书《生命3.0》解读

今天要说的是迈克斯·泰格马克(Max Tegmark)在17年8月出版的新书,全名是《生命3.0》( Life 3.0: Being Human in the Age of Artificial Intelligence ) ,作者是MIT的物理学教授。这本书主要讲的是人工智能在学术界和工业界的现阶段认识。 1.宇宙的首要目标      在书的开始部分,泰格马克从热力学的角度来阐述

s1314_JHC的博客 3614

Altman、Hinton 中国首秀:GPT 终将过时,AI 是当今世界最迫切的问题!

OpenAI、DeepMind 和 Stability AI 的科学家科普 AI 治理,Google、Meta 和微软的领航人物共论开源未来,图灵奖得主与斯坦福、UC Berkeley、MIT 的教授展开学术辩论——这描述的并不是远在大洋彼岸的 NeurIPS 或 ACL 会议,而是由中国智源研究院主办的年度盛会:北京智源大会。今年的北京智源大会于 6 月 9-10 日召开,20 场论坛、100 ...

优快云资讯 3786

智源新闻 | 麻省理工学院教授Max Tegmark报告交流会在北京举行

1月11日下午,麻省理工学院(MIT)物理学终身教授、未来生命研究所创始人Max Tegmark教授报告交流会在北京举行,会议由智源研究院主办。会上,MaxTegmark发表了题为《Th...

BAAIBeijing的博客 446

AI 问数真的能替代 BI 报表吗?

AI问数赋能自然语言查询,提升临时分析效率,但无法替代传统报表。报表适用于稳定输出与持续监控,AI则擅长探索性提问。企业用好AI问数,关键在于夯实数据模型、统一指标口径、健全权限体系与结果校验机制。合理组合报表、仪表板与AI,才能实现高效、准确的业务洞察。

葡萄城技术团队博客 341

ChatGPT、Perplexity、Gemini 与 AI Overviews 引用对比:谁的引用更可信

AI 引擎的引用机制差异很大:ChatGPT 以行内引用加 Sources 列表呈现来源,Perplexity 几乎逐句可溯源,Gemini 在回答中内嵌相关来源链接,AI Overviews 则把多源聚合答案与来源列表一起放在搜索结果顶部。本文从引用透明度、来源偏好、可干预性 3 个维度对比这 4 个引擎,并给出 GEO 的 3 点启示,帮企业在多引擎环境下提升被引用的概率。

淡然一笑 的专栏 279

【从零理解 Spring AI · 12】MCP 的两种角色:做客户端还是做服务端

上一篇讲了 MCP 的概念:标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 616

抽象主义人工智能和生命体AI的内在联系

彭军辉提出“抽象主义人工智能”作为第四大AI范式,批判符号主义、连接主义、行为主义剥离生命本体的误区,确立“智能是现象,生命是本体”的核心公理。主张原生智能必须依附具备存续诉求的生命本体,提出“生命体AI理论”,构建七层演化阶梯与自闭环工程框架,强调智能不可跳过底层存续机制直接模拟语言。该体系为生成式AI提供科学边界,推动从“仿真表象”向“原生智能”的范式跃迁,开辟硅基人工生命新赛道。

抽象主义人工智能和生命体AI 208

OpenAI Control Room 架构拆解:给企业 AI Agent 加一套可审计的急停系统

OpenAI 公开了用于追踪和停止研究模型工作负载的 Control Room。本文拆解 job_id、推理前鉴权、35 秒撤销窗口与 Fail Closed 设计,并给出企业 AI Agent 急停控制面的数据模型、FastAPI 参考实现、缓存撤销策略和故障演练清单。

jerry764的博客 345
上一篇: AI 救不了好莱坞,16 万演员联合编剧上演史诗级「罢工大戏」
下一篇: AI 卷到正经「挖矿」业,卡内基科学研究所另辟蹊径,靠关联分析法找到新矿床...
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值