Anthropic 发布两款新 AI 模型,多举措保障安全并暗示扩大使用权限

Anthropic Mythos:大模型约束感知推理与门控发布机制解析 大模型正从通用响应式输出,迈向具备法律合规意识、多跳因果推演和长程一致性保障的约束感知型推理阶段。这种能力跃迁依赖于约束嵌入训练(CET)、领域专家路由网络(DERN)与长程约束一致性引擎(LRCCE)等核心技术,其本质是将外部规则体系(如《广告法》《未成年人保护法》)转化为可计算、可验证、可追溯的推理约束。技术价值不仅在于提升输出准确性,更在于降低高风险场景(金融风控、医疗辅助、法律文书)中的误用概率与合规审计成本。Anthropic通过门控发布(Gated Release)机制,将能力释放与场景适配、责 阅读详情

Anthropic 发布新 AI 模型

周二,Anthropic 发布了两款新的 AI 模型,分别名为 Claude Fable 5 和 Claude Mythos 5。据悉,该公司表示这两款模型的能力比其在 4 月向部分科技行业合作伙伴发布的 Mythos Preview 模型更强。

发布策略与担忧

Anthropic 曾表示,最初的限量发布源于对该模型能力可能被恶意行为者利用来开发黑客工具的担忧,这些工具可能会让防御者措手不及。目前,Anthropic 仅向部分行业合作伙伴发布 Claude Mythos 5,其中许多合作伙伴此前已获得 Mythos Preview 的使用权限。该公司称正在与美国政府合作推进这一发布工作。

Claude Fable 5 的防护措施

周二,Anthropic 表示,公开发布的 Claude Fable 5 与 Mythos 5 采用相同的底层模型,但在发布时会设置“防护栏”,阻止该模型回答许多与网络安全、生物学和化学相关的用户问题。这些请求将被重新路由到旧版 AI 模型 Claude Opus 4.8。该公司称,如果 Anthropic 怀疑用户试图在 Claude Fable 5 上进行“蒸馏”(即利用大型 AI 模型的响应来训练小型 AI 模型),这些请求也将被重新路由到 Claude Opus 4.8。

产品管理主管谈策略完善

在接受《连线》杂志采访时,Anthropic 的产品管理主管黛安·佩恩(Diane Penn)表示,自 4 月发布之前,公司就一直在努力解决如何处理 Mythos 的软件漏洞发现能力和其他高级功能的问题,但此后的测试和用户反馈有助于完善策略。佩恩说:“我们正试图以一种有益的方式进行改进,即使一开始我们没有针对每个用例的完美解决方案。在所有不同的方法中,这被证明是最可行和最好的方法。我们最终觉得这是让用户从 Fable 5 中获得最大价值的最佳产品选择。”

保护机制现状与展望

佩恩表示,目前保护机制的设计倾向于谨慎行事,这意味着一些用户查询可能会被路由到能力较弱的 AI 模型,即使这些查询并无恶意。Anthropic 希望随着时间的推移,使其分类器更加精确,但佩恩称,目前这是公司能够广泛发布该模型的唯一安全方式。

扩大使用权限计划

该公司周二表示,除了向“玻璃翼计划”(Project Glasswing)的合作伙伴提供 Claude Mythos 5 外,还将向“部分生物学研究人员”开放使用权限。此外,Anthropic 在周二发布的博客文章中指出,在“可信访问计划”推出之前,将向这些小范围的客户提供无限制版本,这暗示了未来有进一步扩大使用权限的计划。

模型能力引发的行业挑战

自 4 月发布 Mythos 以来,Anthropic 多次强调,最终无论是私营领域还是开放权重领域的竞争对手,都不可避免地会推出具备 Mythos 级能力的模型。Claude Mythos 和其他新 AI 模型设计黑客工具、发现并利用新旧软件漏洞的能力,迫使全球科技公司和政府在这类水平的 AI 模型被广泛提供给攻击者之前,加强软件防御。

“玻璃翼计划”理念与目标

Anthropic 最初通过一个名为“玻璃翼计划”的联盟向行业合作伙伴发布 Mythos,其理念是让成员在更广泛发布之前,有先机准备自己的系统并权衡应对这一威胁的全球解决方案。Anthropic 上周在关于“玻璃翼计划”的更新中写道:“我们正尽快安全地向大众发布 Mythos 级别的能力。为此,我们需要强大的保障措施,防止该模型的网络能力被滥用——而我们(据我们所知,所有其他 AI 开发者)尚未开发出这样的保障措施。”

Anthropic新Layer:API网关级结构化输出与安全防护 大模型应用开发中,提示词工程、输出解析、安全过滤等胶水代码长期导致高延迟、高token成本与低稳定性。其本质是缺乏统一的语义化交互协议,使开发者被迫在应用层重复实现容错逻辑。Anthropic推出的Layer通过Schema-Guided Decoding、上下文感知安全扫描等技术,在API网关层实现输出格式强约束与风险前置拦截,将错误率、重试率、人工干预率推向零。该能力不依赖SDK或框架,天然支持多语言微服务,适用于SaaS后端、智能客服、IoT指令生成等对确定性、安全性与成本敏感的场景,标志着LLM工程 阅读详情

相关推荐

Anthropic的“宪法AI”与安全优先策略:从理念到实战的深度解析

在人工智能领域,大语言模型(LLM)的安全对齐与可控性已成为核心议题。其原理在于通过训练使模型行为与人类价值观保持一致,避免产生有害或偏见输出。这项技术的价值在于为高风险行业(如金融、医疗、法律)提供可靠、可解释的AI解决方案,确保技术应用的合规性与安全性。应用场景广泛覆盖代码生成、文档分析、企业级工作流集成等。本文聚焦Anthropic公司独特的“宪法AI”方法论,该理念强调通过原则内化而非事后微调来确保模型安全,这直接体现在其产品如Claude Code的稳定编码能力与Claude Desktop的本地

weixin_34319817的博客 425

Anthropic发布新一代Claude 4 AI模型,支持多步推理能力

虽然Anthropic今年早些时候推出了新的旗舰AI模型Claude Sonnet 3.7,以及名为Claude Code的智能编程工具,但包括技术巨头在内的竞争对手一直在竞相推出强大的模型和开发工具来超越该公司。Anthropic表示,Opus 4和Sonnet 4都是”混合”模型——既能够提供近乎即时的响应,又能进行扩展思考以实现更深层的推理(在AI能够”推理”和”思考”的范围内,正如人类理解这些概念一样)。今天推出的两款模型中更强大的Opus 4能够在工作流程的多个步骤中保持”专注努力”。

Him__的博客 1187

Mythos不是新模型:解析Anthropic的推理增强协议栈与受控发布机制

大语言模型的演进正从单纯提升参数规模和基准分数,转向更精细的推理可控性设计。所谓‘推理增强协议栈’,指在基础模型架构中嵌入动态校验、隐式前提补全与长程一致性维护等能力层,不改变主干输出,却显著提升逻辑鲁棒性。其核心价值在于应对高后果场景——如金融合规审查、医疗器械监管申报、核安全分析等对确定性、可追溯性与责任边界的严苛要求。这类能力往往采用‘受控发布(Gated Release)’策略,通过请求元数据指纹、上下文语义门控与响应后置校验三重机制实现细粒度权限管理,而非简单API开关。Anthropic的Myt

weixin_33834910的博客 388

美国放宽对 Anthropic 先进 AI 模型限制,未来模型发布管控引质疑

连线》杂志获得的一封致 Anthropic 联合创始人兼首席计算官汤姆·布朗(Tom Brown)的信件显示,美国商务部长霍华德·卢特尼克(Howard Lutnick)告知这家人工智能实验室,由于“已确定适当的保障措施已到位”,政府允许某些受信任的合作伙伴使用 Mythos 模型。在最新的信件中,卢特尼克写道,获批使用 Mythos 的组织现在可以允许其外国员工访问该模型,Anthropic 也可以对其外国员工采取同样的措施。该人士称,双方都希望此次事件的解决能为未来模型发布的持久政策框架提供参考。

IT界那些事儿 44

《深入浅出图神经网络:GNN原理解析》学习笔记

期末考完了,该上道了 目录一、图的概述1.基本概念2.图的存储和遍历3.应用分类二、神经网络基础1.机器学习2.神经网络三、卷积神经网络(CNN)1.卷积与池化2.卷积神经网络四、表示学习1.意义2.自编码器五、图信号处理与图卷积神经网络1.矩阵计算前置知识2.图信号与图的拉普拉斯矩阵3.图傅里叶变换4.图滤波器(Graph Filter)5.图卷积神经网络(GCN) 一、图的概述 1.基本概念 1.顶点(Vertex)表示研究的对象,边(Edge)表示两个对象之间特定的研究关系 2.图为顶点和边的集合.

且视他人之疑目如盏盏鬼火,大胆地去走你的夜路 2050

谷歌Gemini模型免费API调用全攻略:从注册到实战(附代码示例)

本文详细介绍了如何免费调用谷歌Gemini模型的API,从注册获取API密钥到实战应用的全过程。内容涵盖环境准备、基础API调用、多模态处理、高级功能及生产环境实践,帮助开发者高效利用Gemini模型进行代码生成和复杂任务处理。附有代码示例,适合AI开发者和技术爱好者。

weixin_29212429的博客 1610

Anthropic AI舆情分析部署教程

本文介绍基于Anthropic AI的舆情分析系统构建,涵盖API接入、数据采集清洗、情感分析模型优化及系统部署运维,突出Claude模型在中文语境下的高精度情感识别与安全合规优势。

weixin_33622085的博客 847

平面变压器PCB绕组设计实战:从原理到布局的工程考量

本文深入探讨了平面变压器PCB绕组设计的工程实践,从基础原理到布局优化,涵盖了电流密度、层间绝缘、绕组拓扑结构等关键参数。通过实战案例分享,解析了高频应用中的集肤效应、邻近效应等挑战,并提供了热管理和EMC优化的实用技巧,助力工程师在服务器电源、车载充电器等空间敏感场景实现高效设计。

weixin_42666036的博客 461

Anthropic 两款模型全球下架,白宫禁令背后是安全担忧还是营销契机?

Anthropic 在全球范围内下架了 Fable 5 和 Mythos 5。美国以国家安全为由,但未给出详细信息。Anthropic 称越狱(jailbreak)说法范围狭窄且存在争议。截至周五下午 5 点 12 分,Fable 5 和 Mythos 5 对全球用户均不可用,不过其他 Claude 模型仍可使用。

IT界那些事儿 64

单总线CPU设计(变长指令周期3级时序)(HUST)(头歌实验)

利用比较器等功能模块将32位MIPS 指令字译码生成LW、SW、BEQ、SLT、ADDI、OtherInstr信号也就是利用比较器将指令字转换为译码信号,OP与不同信号对应(查询MIPS手册得知) 16 进制 :23 是 2进制: 00100011 ,把获得的OP,Func,和常数比对,相同输出1.按照题目要求填写表格,使用logisim的组合逻辑电路分析功能,当然也可以直接再logisim中写真值表。单总线采用变长指令周期,不同指令周期数不同,节拍数可变化。写的excel表格最终生成电路(当然 需要先把

xuxuaifeifei的博客 1万+

VSCode下载、安装+C语言环境配置(超详细)

ps:我的更改部分:"D:/BaiduNetdiskDownload/x86_64-8.1.0-release-win32-seh-rt_v6-rev0/mingw64。③ 找到【系统变量】中的【Path】变量 ---- 双击打开后,将刚刚复制的地址添加进去 ---- 点击【确定】;① 双击【此电脑】---- 点击【属性】---- 进入到下面这个界面,单击【高级系统设置】;② 进入到 系统属性界面 ---- 点击【环境变量】,进入环境变量页面;并进行安装,安装成功后,打开VSCode;

weixin_48820458的博客 1万+

突发!用Claude要实名制了,Anthropic新政策下个月生效

尽管如此,出于合规要求,访问仍被强制终止。然而,就在发布仅三天后,Anthropic 又发布公告称,美国政府以国家安全部门意见为由,要求暂停所有外国公民(无论身处美国境内还是境外,包括外籍员工)对 Fable 5 与 Mythos 5 的访问权限,并要求立即执行合规禁用。这种方式也叫做 KYC(Know Your Customer,了解你的客户),它最早来自金融行业,本质是在提供服务前完成用户身份确认,通常包括身份证件核验、人脸识别等流程,用于未成年人保护或地区合规等监管需求。

优快云资讯 5026

过压保护电路(OVP)

作者:AirCity 2020.2.4 Aircity007@sina.com 本文所有权归作者Aircity所有 1 示例一 当VBUS=5V时,各点电压电流如图所示,Q1接近截止,输出信号是5V。 当VBUS=5.4V开始,输出信号开始下降,直到VBUS=6.1V,输出信号降低为0.6V。 下面是实测波形,这个电路,输出信号的电压不会超过5.4V,这个输出信号可用于电源的控制信号。 2 ...

AirCity123的博客 3万+

Anthropic模型能力评估与合规发布机制解析

大语言模型的能力评估是AI工程落地的核心环节,涉及推理、代码、多模态等多维技术指标;其背后依赖标准化基准测试(如MMLU、GPQA)与可复现的评估框架。Anthropic通过Constitutional AI等机制实现模型行为对齐,并采用分阶段灰度发布(Gated Release)保障企业级部署的安全性与可控性。这类实践不仅体现模型能力演进的技术路径,更凸显AI治理中‘能力-对齐-发布’三位一体的工程范式。本文聚焦Anthropic真实技术路线,解析其能力验证方法论与受控发布策略。

weixin_30480075的博客 306

【商城实战(77)】商城智能客服系统搭建指南:选型与集成全攻略

本文聚焦商城智能客服系统,阐述其在电商市场提升用户体验、优化服务流程的重要性。深入评估智齿客服、网易七鱼等主流产品,结合 uniapp、Element plus 等技术栈探讨接入思路。经分析商城业务规模、用户群体及业务场景等需求,选定智齿客服。详细介绍从前后端接入到数据库操作、基本信息(欢迎语、知识库分类)配置的实现过程。展望未来,智能客服将借助 AI 进步实现更精准交互、多模态融合,深度集成商城业务系统,提升性能与扩展性,助力商城发展。

邓邓子的博客 1478

【FPGA教程案例87】加解密1——基于FPGA的AES加解密算法verilog实现

DES已走到了它生命的尽头。56比特密钥实在太小,虽然三重DES可以解决密钥长度的问题,但是DES的设计主要针对硬件实现,而今在许多领域,需要用软件方法来实现它,在这种情况下,它的效率相对较低。1997年4月15日美国国家标准和技术研究所(NIST)发起征集AES(Advanced Encryption Standard)算法的活动,并成立了AES工作组。目的是为了确定一个非保密的、公开披露的、全球免费使用的加密算法,用于保护下一世纪政府的敏感信息。这里,我们对AES的基本原理进行介绍:

FPGA/MATLAB学习教程/源码/项目合作开发 2546

Anthropic AI落地实践

本文系统介绍Anthropic AI的核心理念、API集成方法及企业级应用实践,涵盖宪法式AI、技术架构、开发环境搭建、应用场景建模与安全合规策略。

weixin_42146230的博客 664

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

Anthropic AI效率提升方案

Anthropic AI凭借宪法式AI和长上下文窗口,实现安全、高效的智能客服、文档处理与知识管理,支持企业自动化与合规应用。

weixin_32925455的博客 1607

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

AI模型能力演进与可控发布机制解析

AI模型能力演进指大语言模型在推理、工具调用、多步规划等维度的系统性提升,其核心原理涉及架构优化、训练范式升级与对齐技术迭代。这类进步带来显著技术价值,包括任务泛化性增强、人机协作可靠性提高及复杂场景落地可行性提升。典型应用场景涵盖智能代理开发、企业级自动化工作流构建与安全敏感领域的分阶段部署。其中,可控发布(controlled rollout)与访问分级(access tiering)已成为主流机构保障模型稳健落地的关键实践,尤其在高风险应用中需结合红队评估与API网关策略实现动态管控。

weixin_30764771的博客 513

Anthropic Claude内容过滤层内化:从中间件到模型原生安全

在大语言模型应用架构中,内容安全机制正经历从外挂式中间件向模型原生能力的根本性演进。其原理在于将传统独立部署的规则/分类器过滤层,通过对抗训练、安全强化学习与动态门控等技术,深度蒸馏并集成至模型前向推理过程,实现安全判断与文本生成的毫秒级协同。这种内化不仅显著降低端到端延迟、消除语义割裂,更重塑了AI系统的可解释性与工程可控性。典型应用场景涵盖金融客服实时审核、教育产品教学反馈、企业级合规审计等对安全性与响应质量双高要求的领域。本文聚焦Anthropic Claude 3系列中‘内容过滤层蒸发’这一标志性实

weixin_34408717的博客 358

禁令两周后,美国政府放宽限制,允许Anthropic向超百家机构提供Mythos 5模型

商务部长Howard Lutnick在写给Anthropic首席计算官Tom Brown的信中表示,已确定采取了适当的保障措施,允许某些值得信赖的合作伙伴访问Claude Mythos 5模型。此前美国政府在6月12日以国家安全为由,暂停所有外国公民对Fable 5和Mythos 5两款模型的访问权限,此次放宽限制或是认为保障措施足以平衡安全与发展。在人工智能市场竞争激烈的当下,Mythos 5模型的重新部署将使Anthropic在与其他AI企业的竞争中占据更有利的位置。市场竞争下,模型解禁影响几何。

IT界那些事儿 24

AI模型能力演进与门控发布机制解析

AI模型能力演进是大语言模型技术发展的核心脉络,其本质在于推理深度、工具调用、上下文理解等基础能力的系统性跃迁。这类演进通常依托于架构优化、训练范式升级与工程化落地三重驱动,具备明确的技术原理与可验证的基准指标。门控发布(Gated Release)作为关键治理策略,旨在平衡创新速度与安全可控,常见于高风险能力(如代码执行、系统操作)的渐进式开放,体现为白名单访问、合规审计前置与API权限分级。该机制已广泛应用于Claude系列等主流商用模型的计算机使用、长上下文处理等前沿能力交付中,支撑金融、政务、研发等

weixin_33971977的博客 304

AI模型能力演进与可信发布机制解析

AI模型能力演进是当前大模型技术发展的核心脉络,涉及推理深度、工具调用、多模态协同等关键维度;其背后依赖可控的发布机制(如分级访问、API权限管控、合规灰度策略)以平衡创新速度与系统可靠性。这类‘能力跃迁+受控释放’模式已在Claude 3系列、GPT-4 Turbo等主流模型实践中形成工程共识,广泛应用于金融风控、法律文书处理、企业知识管理等高价值场景。本文聚焦真实可验证的模型能力升级路径与企业级API治理实践,结合Anthropic官方技术文档与The AI Index行业报告数据,拆解从能力定义、评估

既是过河之卒,惟有奋力向前。 321

Anthropic推出Chrome浏览器AI智能体Claude

Anthropic推出Chrome浏览器AI智能体Claude

zhidingkeji的博客 1024
上一篇: 谷歌 Gemini 3.5 Live Translate 发布:多场景即时翻译,延迟更低、声音更像本人!
下一篇: 苹果Siri AI升级:用谷歌Gemini,借英伟达硬件,隐私承诺能否坚守?
IT界那些事儿
博客等级 码龄6年 2万+粉丝 22原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值