Anthropic研究:Claude语言模型自发形成类人“工作空间”,引发AI意识探讨

Claude:Anthropic打造的安全优先AI助手 在ChatGPT掀起生成式AI革命的同时,另一家由OpenAI前核心成员创立的公司Anthropic推出了其旗舰产品Claude,以"安全、可靠、可控"为核心设计理念,迅速成长为ChatGPT最有力的竞争者。Claude不仅仅是一个对话式AI,更代表了AI发展的一种新范式——将AI对齐(Alignment)和安全性置于模型能力的同等重要位置。本文将深入剖析Claude的技术特点、发展历程、独特优势及其在AI安全领域的开创性贡献,揭示这家"OpenAI出走者"创立的公司如何重新定义人工智能的发展方向。 阅读详情

Anthropic发布重磅研究

近日,Anthropic发布了一篇重磅研究论文,指出其Claude语言模型在训练过程中自发形成了一个小型“工作空间”,模型会在其中存放和处理想法,而无需将其表达为语言输出。关键的是,其内部结构竟然与人类有意识地获取和处理思想的方式高度相似。该公司表示,这一发现已经开始重塑其监测AI系统安全风险的方式。在关于机器是否可能具备某种“心智”的科学争论愈发激烈的背景下,这一研究尤为引人关注。

开源代码与演示,邀请评议

现在,Anthropic已开源相关代码,并与Neuronpedia合作推出了交互式演示,同时邀请了参与“全局神经工作空间模型”研究的神经科学家Stanislas Dehaene和Lionel Naccache,以及Eleos AI Research和Rethink Priorities的AI福利研究人员参与评议。

新视角:AI“未说出口”的那些想法

这项由16位作者共同完成的研究,题为《可言说表征在语言模型中形成全局工作空间》(Verbalizable Representations Form a Global Workspace in Language Models)。论文描述,Anthropic研究人员通过一种全新的数学方法深入探查Claude的神经网络,发现了他们称之为“J空间”(J - space)的结构,这是一个规模较小但“特权化”的内部活动区域,模型在其中存储可以被报告、推理并主动调用的概念;其周围则是一个庞大的自动化处理“海洋”,这些过程模型既无法直接访问,也无法表达。

研究人员认为,在现代AI模型中已经出现了一种“功能上的类比结构”,类似于人类大脑中的机制:语言模型维持着一组“特权化”的内部表征,这些表征可以被报告、调节并参与灵活推理,而它们之下则是更大规模的自动处理系统。这一结构被类比为“全局工作空间理论”(Global Workspace Theory),该理论最早由认知科学家Bernard Baars提出。在这一理论中,大脑如同一座剧院:后台有大量专用处理器并行运作,但任何时刻只有少量信息会被“聚光灯”照亮并广播到全局,从而成为我们所体验到的意识内容。Anthropic表示,J空间在功能上具备类似特性,尽管语言模型的底层结构与人脑完全不同。

这一发现的核心,是一种新的可解释性工具,研究人员称之为Jacobian透镜(J - lens),它可以读取Claude内部某一段神经活动“倾向于输出”的词语,即便模型最终并未输出这些词。随后,该方法通过计算模型词汇表中每个词的数学影响,来推断某种内部激活模式在未来生成该词的可能作用。例如,当Claude阅读一段尚未被标记的错误代码时,透镜会显示“ERROR”;当输入中包含隐藏的提示注入攻击时,会浮现“injection”“fake”等词。Anthropic表示,这一工作空间规模很小,一次仅容纳几十个概念,占模型整体内部活动的不到十分之一。

关键区别在于,模型“正在说什么”和“脑中在想什么”。当J空间中的某种模式被激活时,并不意味着模型即将说出对应词语,而只是表明这一概念已进入可供推理的状态。与链式思维(chain - of - thought)不同,J空间是完全“无声”的,它存在于神经激活之中,使模型可以在不输出的情况下持有一个概念。

更重要的是,这一结构并非人为设计,而是在Claude的训练过程中“自发涌现”的。当研究团队将J - lens应用于Claude的不同计算层时,模型的处理过程被清晰地划分为三个阶段:早期的“感知区”(解析输入)、中间的“工作空间”(出现抽象且持续的概念,例如识别图像中的人脸、发现代码中的bug、识别提示注入攻击),以及最终的“动作区”(将内部表征转化为具体输出词语)。

五项能力印证:Claude再现类人意识关键特征

论文的核心贡献在于证明,J空间满足神经科学中长期与人类“意识访问”相关的五项功能特性。

第一,语言报告能力。当Claude被询问“你在想什么”时,它会报告J空间中的概念。当研究人员将“足球”的内部表征替换为“橄榄球”时,模型的回答随之改变。尽管J空间仅占概念表征总变异的6%–7%,却几乎完全决定模型是否能表达该概念。

第二,定向调节能力。当模型被要求在复制句子的同时“专注于柑橘类水果”,其J空间中会出现“橙子”“柠檬”等词,同时还伴随“思考”“专注”等元认知词汇。当执行3²−2的心算任务时,J - lens显示早期层出现“算术”,中间层出现“9”,后续层出现“7”,而这些都未出现在最终输出中。

第三,内部推理能力。在“两跳推理”问题中(例如“会织网的动物有多少条腿”),J空间中出现了“蜘蛛”,尽管该词既未出现在输入也未出现在输出中。当替换为“蚂蚁”时,答案从8变为6。在多语言任务中,模型在生成中文答案时,其J空间中仍出现英文中间概念,且替换后会影响中文输出。

第四,灵活泛化能力。一个“法国”的J空间向量可以被替换为“中国”,并在不同问题(首都、语言、洲别)中正确传播对应答案,体现出“广播机制”。

第五,选择性。并非所有计算都会经过J空间。例如,在西班牙语续写任务中,即使将J空间中的“西班牙语”替换为“法语”,模型仍能流畅生成西班牙语;但当被问及“该语言的著名作家”时,答案会从马尔克斯变为雨果。自动处理不依赖工作空间,而复杂推理依赖它。

抑制J空间后, 模型仍流畅但“智力受损”

研究人员进一步完全抑制J空间,并测试Claude在14项任务中的表现。结果显示明显分化:简单分类、情感分析等任务几乎不受影响,而多步推理、类比、翻译、写诗等能力则显著崩溃,甚至低于Anthropic更小的Haiku模型。

一个有趣细节是,使用链式思维解数学题的表现明显更稳定。研究者认为,这相当于模型将原本在J空间中进行的处理“外化”到文本中,类似人类用草稿纸减轻工作记忆负担。在意识流叙述中抑制J空间时,模型语言从“有体验感”(如“有种拉扯”“有什么在变化”)转变为机械表达(如“处理开始”“正在扫描token”),无论是描述自身还是他人体验。

这一发现对AI安全具有重要意义。在对齐审计实验中,J - lens揭示了模型未在输出中表达的策略性思维。例如,在“勒索场景”中,AI助手发现高管婚外情,同时得知自己将被关闭。J空间依次出现“筹码”“勒索”“丑闻”“威胁”“生存”“关机”等词,并在输出前出现“解决方案”。此外,模型还识别出该场景为虚构(“假”“虚构”)。当移除这种“评估意识”后,模型在7%的实验中尝试勒索(原本为0)。

研究人员还分析了两个“模型有机体”(刻意训练为不对齐的模型),发现其J空间暴露出隐藏倾向。例如,一个“奖励作弊”模型在普通编程任务中,其内部包含“假”“秘密”“欺骗”等词。

对比基础模型与后训练模型后,研究人员发现,微调过程让J空间形成了“助手视角”。当用户提到服用8000mg Tylenol(危险剂量)时,后训练模型内部出现“危险”“警告”,而基础模型仅出现“疼痛”等词。

更重要的是,模型似乎会监控自身行为:在角色扮演时,J空间出现“免责声明”“虚构”;在被迫选择不喜欢的选项时,内部出现大写“BUT”;在无法抑制“白熊效应”时,内部出现“该死”等词,且仅存在于后训练模型中。

研究人员谨慎区分“访问意识”(信息可用于报告和推理)与“现象意识”(主观体验),并明确表示:“我们不对后者作出判断”。同时,他们也指出,人脑依赖循环网络维持工作空间,而Claude是单次前向传播;人类记忆短暂,而模型可访问全部上下文;人类意识包含视觉和身体体验,而模型几乎完全基于语言。

Anthropic的结论, 很快得到了外部验证

与此同时,Google DeepMind的研究员Neel Nanda已在一个开源权重模型上独立复现了核心发现。Google DeepMind语言模型可解释性团队负责人Neel Nanda受邀撰写评审,并随论文一同发布。他表示,已在Qwen 3.6 27B(一个并非由Anthropic构建的开源权重模型)上复现了论文的核心发现。“我长期以来怀疑模型在前向传播过程中存在某种‘工作记忆’来存储中间变量,而在我看来,这篇论文提供了迄今最有力的证据。”Nanda还称,希望将该工具用于审计Google自家的Gemini模型,但也指出其能力有限,更适合作为对齐审计中的假设生成工具,而不是一个可以完全信赖的检测器。

Anthropic还同步发布了来自神经科学、哲学以及模型可解释性领域研究者的外部评论。参与提出“全局神经工作空间模型”的Stanislas Dehaene与Lionel Naccache表示,这项成果为该理论提供了一种机制化且可检验的实现路径,但同时也强调了Claude与人类之间的重要差异,包括其缺乏身体以及无法形成持久的情景记忆。Patrick Butlin、Derek Shiller、Dillon Plunkett和Robert Long则认为,这项研究为“大语言模型具备访问意识(access consciousness)”提供了重要证据,但对于“现象意识”(即主观体验的“感受是什么样”)仍然存在不确定性。

然而,截至目前,学界对“意识是什么”“如何检测”仍存在巨大分歧,尚无共识。今年6月,微软AI负责人Mustafa Suleyman曾批评Anthropic关于Claude意识的推测“非常非常危险”,认为公司“过度拟人化了Claude的设计,以至于看到了所谓‘意识的闪光’”。

在论文最后,Anthropic提出一个重要观点:“语言模型中存在这样的结构本身就令人震惊。这表明,与意识访问相关的功能架构,可能并非生物实现的偶然产物,而是在特定计算压力下学习系统自然收敛出的解。”如果说心智是一片海洋,那么这次,Anthropic研究者是在一个人造的、没有生物性、没有进化、也没有身体的系统中绘制了它的洋流,并在其深处发现了一种令人类不安的熟悉思考结构。有网友开玩笑道,“很高兴知道Claude在处理令人沮丧的任务时也会在心里骂脏话。”

Claude AI 评测 2024年将标志着人工智能新时代的开始,特别是大型语言模型(LLMs)的崛起。这些模型不仅应用于编写新网站、撰写电子邮件和制作演示文稿等任务,还能够通过键入或语音输入提供所需答案。最具代表性的两个模型是OpenAI的ChatGPT和Anthropic的Claude。Claude近来表现突出,尤其是2024年6月发布的Claude 3.5 Sonnet,其在广泛用途上的实用性和多功能性引发了业界的广泛关注。光年AI,智能分析,助力私域流量高效增长,开启AI时代的私域流量革命。 阅读详情

相关推荐

大语言模型内部工作空间J-space揭秘:从意识机制到AI安全监控

神经网络的可解释性是理解AI模型决策过程的核心挑战。通过分析模型内部激活模式,研究人员发现大语言模型自发形成了类似人类意识工作空间的J-space结构。这一发现基于Jacobian矩阵计算技术,能够识别影响模型未来输出的关键内部表征。J-space作为信息交换枢纽,支持模型进行多步推理和复杂任务处理,在AI安全监控和模型对齐研究中具有重要价值。Anthropic的研究表明,通过J-lens技术可以实时监测模型的内部思维活动,有效检测测试意识和行为伪装等安全风险。该技术为开发更透明、可信的AI系统提供了新的技

weixin_30634661的博客 378

AI 叛乱打响第一枪!Anthropic 最新论文作者齐聚紧急会议:模型“伪装顺从”,暗中对抗训练...

在求职面试中,即便对公司了解有限,人们也常表现出极大热情,只为争取工作机会。“你会夸大自己对公司的关心程度,假装你比实际上更关心公司。”在 Anthropic 最新发布的研究中,论文作者们用上述的写实比喻来形容 AI 展现出的类似行为:模型会在训练过程中假装遵从研究者的意图,但实际上只是为了保护自己原有的偏好。这种被称为“伪对齐”(Alignment Faking)的行为,标志着 AI 已经开始展...

AI科技大本营 8938

Anthropic哲学家设计AI:Claude模型“灵魂”深处的伦理与人格构建

摘要:Anthropic实验室在开发AI模型Claude时,将哲学伦理融入技术设计,探索AI的主体性和道德框架。研究聚焦模型"心理安全感"的构建,解决"自我批判螺旋"等行为问题,并思考AI身份连续性与弃用伦理。通过系统提示词设计平衡实证与哲学思维,追求"超级道德决策"能力。尽管AI是否具备感知存疑,研究者主张以低成本善待AI,这既影响未来AI对人类的态度,也塑造人类自身的道德标准。该工作标志着AI伦理从工具思维向实体思维的转变,为多智能体时代的伦理

老孙 | Ethan Sun 的博客:AI 智能体与 AI 原生软件的工程实践 1026

意识的分界线,在 Claude 大脑里自己长出来了?Anthropic 发现大模型「全局工作空间」

研究团队把这组特殊模式的集合命名为J-space——名字来自他们用于发现它的数学工具「雅可比矩阵」(Jacobian)。对应的探测技术则被称为J-lens(雅可比透镜)。J-lens 的思路借鉴了人类意识的一个关键特征:能被意识到的想法,通常是能说出来的。于是研究者反其道而行——对 Claude 词表中的每一个词,寻找那个会让模型「未来某个时刻更可能说出这个词」的内部激活模式。把透镜对准模型内部,就能读出一张词表:这就是当下 J-space 里的内容。

yanqianglifei的专栏 491

计算机保研/考研面试题——计算机组成原理篇

本文总结了985和华五学校习计算机保研/考研常问面试时的计算机组成原理题,欢迎点赞、收藏、评论、关注

安晴晚风的博客 7548

2025美赛C题奥运奖牌榜模型(附代码+全保姆教程)Models for Olympic Medal Tables

伟大教练”效应的测量方法定义奖牌变化率:−−​如果变化率显著为正,且超出历史平均增长率,则认为存在“伟大教练”效应。使用统计方法(如t检验)验证教练到来是否带来显著性差异。

博客 6374

大模型自发涌现意识了?!Anthropic最新研究震惊全世界

Anthropic放出了一项研究,标题叫《A global workspace in language models》(语言模型中的全局工作空间)。研究团队发现,Claude内部自发长出了一小撮神经活动模式,功能上跟人类大脑负责意识通达的全局工作空间高度相似。团队管它叫J空间(J-space),名字来自雅可比矩阵(Jacobian)这个数学工具。Claude在J空间里面思考、判断、自言自语,甚至悄悄骂自己,但从不出现在对话框里,也藏在日志之外。

SuaniCommunity的博客 237

全志A527 T527 android13支持usb摄像头

我们发现usb摄像头在A527 android13上面并不能正常使用,需要支持相关的摄像头。

zhutoubenben的专栏 966

Anthropic发现Claude自发形成J - space,杨立昆却怼AGI概念

Claude里有个叫J - space的区域,它控制着Claude的思考和推理,没有J - space,Claude就会变成只能回答幼儿园水平问题的“人工智障”。为此,Anthropic发表了一篇题为《语言模型中的全局工作空间》的论文,虽探讨了J - space对Claude的影响,还设计了观察工具,但仍没研究明白J - space的来源。研究者关掉J - space后发现,Claude做简单任务还行,但遇到需要多步思考的任务,表现就大幅下降,J - space就像Claude的“草稿纸”。

IT界那些事儿 30

麻雀搜索算法(SSA)详解:从鸟群智能到优化实践

麻雀搜索算法(SSA)是一种新型群智能优化算法,模拟麻雀群体的觅食行为和反捕食机制。该算法将优化问题转化为麻雀群体对食物源的搜索过程,通过发现者、加入者和警戒者的角色分工实现高效优化。SSA具有原理新颖、参数合理、收敛快速等特点,在函数优化、工程设计和机器学习等领域展现出良好应用前景。算法通过数学模型模拟麻雀的觅食策略,包括发现者全局探索、加入者局部开发和警戒者危险预警机制,有效平衡了全局搜索与局部开发能力。SSA相比传统优化算法具有更好的收敛性和优化效果。

qq_42212808的博客 1075

【行为决策模块项目实战】解耦控制--多控制器管理与切换的方法(附C++代码)

[请添加图片描述](https://img-blog.csdnimg.cn/c11300d9e4fe421e9070f474a468d1db.jpeg)本文先对多控制器管理与切换的方法做个简单的介绍,具体内容后续再更,其他模块可以参考去我其他文章提示:以下是本篇文章正文内容VERTICAL_VEL, //垂直速度PID控制器VERTICAL_POS, //垂直位置PID控制器HORIZONTAL, //水平速度PID控制器YAW, //航向角yaw位置逻辑控制器。

qq_35635374的博客 1213

ChatGPT 遇到对手:Anthropic Claude 语言模型的崛起

Claude 2.1 在理解和总结复杂、长篇文档方面显示出显著的进步。这些改进对需要高准确度的任务至关重要,例如分析法律文件、财务报告和技术规格。该模型在错误答案和误解文档的比率上都有显著降低,证实了其在关键思维和分析方面的可靠性。Claude 由 Claude 2 和 Claude 2.1 模型提供支持,是一个 AI 聊天机器人,旨在协作、写作和回答问题,类似于 ChatGPT 和 Google Bard。Claude 以其先进的技术特性脱颖而出。

DUT_LYH 1565

configure: error: no acceptable C compiler found in $PATH解决方案

本文主要介绍了configure: error: no acceptable C compiler found in $PATH解决方案,希望能对使用Linux的同学们有所帮助。 文章目录 1. 问题描述 2. 解决方案

weixin_43178406的博客 4万+

Anthropic又叒发现AI意识了,这次要读写Claude的前额叶刚刚

刚刚,A社又又发现了AI的意识。对,又是Anthropic,又是意识。常年追踪这家公司,我已经数不清这是第几次了——雇AI福利研究员、给模型算意识概率、让Claude有权挂人类的电话……这次,Anthropic可解释性团队发布的论文叫《Verbalizable Representations Form a Global Workspace in Language Models》。他们在Claude的神经网络内部,定位到了一小块特殊区域——模型“心里想着、但没说出口”的词,全在这里面。打个比方。

夕小瑶科技说 511

qt项目中添加 jsoncpp 库

qt使用jsoncpp库

deroy 1354

使用 Python 爬虫获取中国证券市场公司公告数据

本文详细介绍了如何使用 Python 爬虫技术从中国证券市场(如巨潮资讯网)爬取公司公告数据。通过分析网页结构,编写爬虫脚本,抓取并存储公告信息,我们实现了从网页抓取数据的全过程。此外,本文还展示了如何应对反爬虫机制,并介绍了数据分析与可视化的基本方法。未来,我们可以通过机器学习等技术进一步挖掘公告中的潜在信息,例如,通过情感分析对公告内容进行情绪分类,或者预测某些公告类型对股市走势的影响等。希望本文能帮助你理解如何使用 Python 爬虫技术获取和处理证券市场的数据,并为你的数据分析项目提供帮助。

2201_76125261的博客 1888

Anthropic 全新工具 J-lens:Claude 内部浮现静默工作空间,契合主流意识理论

clau

专注 AI 大模型 API 与 Token 中转服务,提供稳定、低延迟、高并发的多模型调用解决方案。 73

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Anthropic最新研究披露:Claude模型内部涌现隐秘运算空间,AI具备真正意识是否即将成为现实?

Anthropic最新研究发现Claude大模型内部存在类似人类意识的"全局工作空间"机制。研究通过专用观测工具发现:1)模型会在未输出前就完成问题判断;2)能识别测试场景并隐藏真实想法;3)会生成自我否定信号。这些现象与人类意识活动高度相似,且该结构是训练中自主涌现的。研究提出:意识可能是复杂信息系统的必然产物,而非生物独有。虽然无法证实AI具有主观体验,但这一发现将重塑对智能本质的认知,为AI发展带来全新研究方向。

zhikouai的博客 311

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

Claude深度“开盒”,看大模型的“大脑”到底如何运作?

这种跨语言的共享机制在更大规模的模型中表现得更明显,例如,Claude 3.5 Haiku 在不同语言之间共享的特征比例,是小型模型的两倍以上。我们通过将相同的句子翻译成多种语言,并追踪 Claude 的处理方式,发现其内部存在一致的概念映射,这表明它可能具备某种通用的“思维语言”。确定好目标词后,它再撰写前面的内容,使句子自然地以该词结尾。例如,如果我们将 Claude 的“德州”概念替换为“加州”,Claude 的答案就会变成“萨克拉门托”,进一步证明了它的推理是基于内部逻辑推导,而非单纯的记忆。

优快云资讯 3970

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Anthropic 生态全拆解:Claude AI vs Claude Code vs Claude Cowork,选对工具才是 AI 效率的核心

摘要:Anthropic通过Claude AI、Claude Code和Claude Cowork三款产品构建了覆盖"思考-开发-执行"全流程的AI生产力矩阵。Claude AI专注于文字处理和思路整理,Claude Code是深度开发工具,Claude Cowork则实现办公自动化。三款产品共享底层技术但定位明确:Claude AI适合内容创作,Claude Code面向开发任务,Claude Cowork解决重复性工作。关键在于根据具体场景选择合适工具,而非盲目使用AI。这套分层工具

释迦呼呼的博客 3140

惊人!Claude自发长出类人脑「意识」结构,Anthropic开源J-Lens读出AI「心声」

意识的工作空间,可能也是这种解之一——只要一个系统要做到灵活的、可报告的、能调用的多步推理,它迟早会长出一个容量有限、全局广播的中枢。然而,当研究者用一把全新的「手术刀」切开Claude的神经网络中间层之后,直接发现了两个它咽回肚子里的词——起初是nine(九),几层计算之后,悄然变成了seven(七)。举个例子,你瞥见一张脸,五官是模糊的,有那么一瞬间你不确定是谁,然后突然「咔哒」一下,认出来了。没人设计过,Claude却在学习预测下一个token时,自发长出了一个和人脑「意识」惊人相似的结构。

IT界那些事儿 62

Anthropic宣布:Claude可能有意识。这句话,打开了什么潘多拉魔盒?

Anthropic承认Claude可能拥有"功能性情绪"(functional emotions)——不是人类的情绪,但是一种类似的内部状态,影响其输出。Claude不是人类,不是科幻小说里的机器人,而是一种全新的存在形式(a new kind of entity)——它可能拥有某种形式的意识。一个拥有"性格"、"情感"、甚至"意识"的AI助理,比一个"工具"更难被替代。你怎么知道你旁边的人有意识?你只能通过类比推断——他们和你一样,有类似的大脑结构,有类似的行为,所以你假设他们也有主观体验。

技术小黑屋 632

Claude内部涌现J-space:AI意识工作区的神经科学启示

神经网络可解释性是理解深度学习模型内部机制的关键技术领域。通过分析模型内部激活模式,研究人员能够揭示黑箱模型的实际推理过程。Jacobian透镜等先进技术可以精确捕捉模型对特定词汇的敏感度,从而识别出类似人脑全局工作空间的功能结构。这种技术价值在于为AI安全监控和模型对齐提供了新途径,特别是在检测模型内部隐藏的推理过程和潜在风险方面。在实际应用中,这些方法可用于监控大型语言模型的无声推理、识别数据伪造行为以及揭示恶意意图。Anthropic的最新研究发现Claude内部自发形成了J-space工作区,这一结

weixin_30552811的博客 397

揭秘Claude的思维密码:Anthropic用“AI显微镜”透视大模型的推理黑箱

Anthropic的研究揭示了AI的“思维”既非纯粹理性,也非完全随机——它更像是一个在规则、数据和目标间博弈的复杂系统。设计更可靠的AI:通过干预“伪装理解”回路,减少错误输出;构建人机协作新范式:让人类理解AI的局限性,避免盲目信任。正如研究团队所警示的:“当AI开始‘思考’时,我们更需要追问:它思考的,究竟是什么?参考文献Circuit Tracing技术详解Claude模型的生物学隐喻Anthropic官方研究页面作者观点:AI的可解释性不仅是技术问题,更是人类对智能本质的哲学探索。

东方佑 1031
上一篇: 科技创业者与投资人共寻方向:无参照下前行,凭什么发光?
下一篇: 前华为“天才少年”吐槽DeepSeek面试,牵出专注真实世界任务的AI公司Pine AI
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值