自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(640)
  • 收藏
  • 关注

原创 Iceberg Rust 0.11:Variant 只到元数据这一层

Apache Iceberg Rust 0.11.0引入Variant仅支持元数据解析,不支持读写,旨在避免老客户端因识别不了新类型而崩溃。当前版本实现“不崩”而非“能用”,真正支持Variant读写需待后续版本。企业应优先验证兼容性,确保下游索引与派生视图同步对齐,避免半结构化数据“悄悄丢失”。

2026-11-06 09:33:42 151

原创 肝病智能体的『1+N』:邵逸夫把 MDT 拆成协同网络

多智能体的价值不在于模型数量,而在于将会诊中的分工、上下文传递与意见裁决转化为可落地的工程结构。浙大邵逸夫医院蔡秀军团队发布的肝病全周期诊疗系统,通过“1+N”协同架构嵌入现有信息系统,突破跨科室信息壁垒。其核心挑战在于分科路由、共享状态维护与冲突裁决机制,关键成功要素是与医院现有系统的深度集成。真正的瓶颈不在模型精度,而在主数据统一与流程贯通——只有患者身份一致,智能体协同才有基础。

2026-11-06 09:32:10 265

原创 智能体的『代理权转移』:OCC 新框架按后果定风险

OCC发布智能体监管框架,不设新风险类别,而是以“潜在后果、代理权转移、人工监督程度”三尺量控风险,强调“能替你做多少主”而非“多聪明”。框架引导银行按实际影响分级管控,推动动作分级、确认留痕、回滚演练等工程落地,核心是将治理前置至统一接入与操作审计。

2026-11-06 09:29:20 315

原创 Kafka 的 JWT 默认值:三个 CVE 指向同一条静默降级

三条 CVE 的共同点不是「代码写错了」,而是「默认值选错了」——签名、签发者、受众三项校验,只要不显式配置就不生效,进程照常启动、日志里没有一个字。摘要:Apache Kafka 10 月 28 日的安全公告里,有三条都落在 SASL/OAUTHBEARER 上:CVE-2026-33557、CVE-2026-110985、CVE-2026-110952。它们分别对应签名校验缺失、JWKS 未配置时静默回退、iss/aud 不强制。

2026-11-06 09:27:53 326

原创 Kimi K3.1 Pro 的显存账:1561GB 权重怎么落柜

KimiK3.1Pro开源2.8万亿参数权重,显存门槛并非参数量,而是896个专家需全量常驻,最低需12张141GB卡加载权重。开满1M上下文还需额外预算:KV占用64–512KB/token,需13–16张卡。12卡仅能“跑起来”,无法支撑并发长会话。建议:自托管团队优先用于离线任务;在线服务仍以租用API为宜。

2026-11-06 09:25:32 306

原创 Tomcat的幽灵CVE:6852在官方页查无此条

传言中的“高危漏洞CVE-2026-6852”实为编号错误、等级误判的转述:官方页仅记录为低危(Low)的CVE-2026-68525,修复于11.0.25,影响特定method约束配置。恐慌源于编号抄错、修复时间误传及影响面夸大。正确做法:核对官网安全页→确认本地版本→检查web.xml配置。三步自查后,无需连夜升级。一切以官方为准,避免被误导。

2026-11-05 10:19:18 118

原创 Doris 5.0的第三张牌:把Agent当数据消费者设计

Doris 5.0首次将Agent视为数据基础设施的一等公民,通过多模湖仓、实时增量计算与Agent式分析三张牌,重构存储计算以应对10-100倍并发的Ad-hoc查询。其核心在于:数据保持开放格式统一查询,结果实时更新,接口支持智能对话,并强化权限治理。这标志着数据层正式进入“Agent时刻”,对负载、权限与选型提出新要求,未来真实性能需以5.0发布后为准。

2026-11-05 10:18:30 129

原创 天垓300的超节点账:一柜144卡怎么把token成本压下来

天垓300的真正突破在于算力竞争从“跑分”转向“每百万有效token成本”,其40%成本降幅依赖折损因子与采购运维成本双重前提。本文通过反推IXL144超节点产能,构建可复用的核算框架,揭示有效吞吐受互联延迟、负载类型影响显著,强调采购时应验算折损因子与成本比,而非盲信宣传口径。

2026-11-05 10:16:14 235

原创 FlashProve的证明账:给大模型验一次真要花多少

FlashProve将模型掉包问题从信任难题转化为可验证的数学问题,通过zkSNARK实现模型权重承诺与输出证明,但证明生成开销为推理的72–94倍,注定无法实时逐条验证。其核心价值在于“服务方留痕+客户端抽检”的审计基础设施:全量验证每百万token需4.61核·小时,而1%抽检仅需0.046核·小时、183MB存储。适用于企业级智能体平台的身份可审计场景,建议采用承诺留痕+按风险抽检策略,而非全量实时验证。

2026-11-05 10:13:21 255

原创 Valkey 9.2 的 Path Hash:为 LLM 缓存设计

Valkey 9.2 RC1引入的PathHash专为LLM前缀缓存设计,通过路径感知键组织降低内存开销(每项省24字节),排名查询提速最高7倍;无fork快照将内存峰值从1.5倍压至1.15倍,支持高频持久化。结合INCREX原子操作与轻量级条件守卫,显著优化LLM场景下的缓存与限流性能。该版本标志着通用KV正向特定场景深度定制,路径结构优化成关键趋势。

2026-11-04 15:12:41 100

原创 昇腾 950 的『一台机器』:45% 利用率有两种说法

华为昇腾950超节点以1024张NPU构建“一台机器”,核心突破在于统一内存编址与灵衢协议实现跨节点如访存,调度器不再按单机思维运行。45%训练利用率反映通信、气泡等开销可控,非峰值指标;其真正挑战是软件能否真正“视千卡为单机”。落地超千套证明可复制性,但“业界1.5/1.8倍”因分母不明难作横向比较。未来竞争在调度器而非互联,关键看应用能否零代码迁移。

2026-11-04 15:11:22 167

原创 Paimon 2.0 的『一张表』:BLOB 和向量进了同一份快照

Paimon 2.0 的核心突破在于大对象、向量与行数据共享同一套快照与提交机制,实现多模态数据统一管理。通过不可变BLOB包、索引驱动的检索及DataEvolution支持,显著简化了RAG链路中向量与原文版本不一致的问题,推动“三套系统”向“一张湖”收敛。虽暂难替代专用向量库,但为数据一致性与运维降本提供新范式。

2026-11-04 15:10:26 66

原创 DeepInfer 开源的『半张牌』:推理框架给了,KV 缓存没给

DeepInfer开源了高性能推理引擎内核与调度能力,但未开放跨请求KV缓存、PD分离部署及副本负载均衡等关键组件。实测表明,缺失KV缓存导致多轮会话算力浪费高达76%,有界重放可进一步降低50%预填充开销。其价值在于“单机跑得快”,而集群满卡依赖自建“油路”系统。建议将该框架作为内核参考,结合vLLM/SGLang生态或自研缓存方案落地生产。

2026-11-04 15:09:13 288

原创 MCP 网关的『收口』:800 个服务和 5000 个工具怎么管

MCP规模化后,核心瓶颈并非模型调用能力,而是企业无法清晰管控“谁可调何工具、传何参数、取何数据”。Uber实践表明,唯有通过网关实现控制面(定义归属)与数据面(协议转换)分离,结合默认禁用、工具级授权与响应投影,才能解决安全碎片化与上下文膨胀问题。实测显示,全量schema达41万token,而增量发现压缩至132token,压缩比超3000倍。关键在于:工具必须默认禁用、授权细化到工具与参数、响应仅返回必要字段。适用于工具超10个、跨团队共享且涉及敏感数据的企业;小团队或只读场景则无需网关。本质是用制度

2026-11-04 15:05:34 306

原创 Claude 消息线程公测:长会话省的是上传不是 token

message threads 把「每轮重传整段历史」这件事从客户端搬到了服务端内存,换来 35% 的首 token 等待下降;代价是 5 分钟过期、参数指纹锁定、以及放弃零数据保留。把视角拉回企业侧:真正需要这类优化的,不是实验室里的对话机器人,而是接进业务系统、一轮接一轮跑下去的智能体——它们既要求低延迟,又要求会话状态可回溯、可审计。服务端线程解决的是前者,后者仍要靠企业自己的会话存储层来做。这一层职责通常落在缓存与状态存储上:为长会话提供低延迟的热点状态读写,同时保留一份可回放的完整记录。

2026-11-03 11:11:45 208

原创 HAIP 的『五可』原则:医院 AI 为什么必须先建平台

这份白皮书真正价值在于推动医院AI从“各科室买模型”转向“全院建平台”,其成败取决于三大工程决策:垂域模型与基座解耦实现“可演进”;小模型优先与潮汐调度保障“可评估”;脱敏、标识与责任归属构建“可监管”。平台化核心挑战不在技术,而在治理与系统集成,关键在于能否将既有系统能力封装为可复用、可审计的接口。

2026-11-03 11:10:17 115

原创 数字人民币 2.0:负债关系改写后银行系统要改什么

2.0升级核心并非支付体验,而是负债归属变革:数字人民币从央行直接负债转为商业银行表内负债,引发利息计提、准备金管理、账务核算与跨境清算等系统性重构。银行IT需重点改造账务系统、智能合约状态机对接及跨机构对账链路,其中计息与积数、准备金计提、核心系统对接成三大难点。智能合约推动“三流合一”与自动履约,但智能体仍以辅助审核为主。真正的挑战在于新增链路与存量系统的集成,消息中间件成为关键承载层。

2026-11-03 11:07:44 202

原创 GDPx 只考出 12%:智能体接专业活的成本账怎么算

12%不是情绪化判断,而是可计算的盈亏平衡点:当前智能体成功率低于复核系数,导致“AI先做+人复核”比纯人工更贵。基于GDPxv1.0数据,若复核成本占重做成本超1.6%,则该路径不划算。真正杠杆不在模型提升,而在设计可机检证据链以压低复核系数(v),使“AI辅助+人工定稿”实现盈利。

2026-11-03 11:05:03 190

原创 LongCat-2.5 的『超节点账』:国产算力上单卡吞吐提 86%

86%的训练吞吐提升并非源于算力加速,而是国产算力在显存受限下通过“通信域折叠”“同步量削减”与“分片策略重构”三重工程优化实现的。核心在于将高频通信限制在超节点内、压减跨域同步数据量,并结合显存敏感的微批次调整。实证表明,仅靠排布优化无法达此效果,必须满足高通信占比、高速互联与低同步量三条件。关键启示:先量化集群通信占比(>60%才值得投入),再针对性重构并行策略,否则优化无效。

2026-11-03 11:02:34 289

原创 超声内镜的清单:AI 先把扫查全不全这件事管住

这套EUS人工智能系统聚焦“扫得全不全”,而非“看得准不准”,将AI角色从诊断转向过程质控,通过实时识别、语音引导与清单化管理,实现检查完整性可核查、责任可追溯。其核心价值在于:以标准化清单绑定解剖标志,形成可落地、可解释、可闭环的质控流程,推动医疗AI从“辅助决策”迈向“过程管控”。

2026-11-02 09:31:31 162

原创 智能体的钱包:Grok Bot 保存一张卡意味着什么

本轮智能体“会花钱”的更新,核心挑战已从“密钥是否可见”转向“授权粒度”——保存一张卡即意味着将逐次审批权让渡给系统,风险在于失去对交易判断的控制。相比默认自动支付,Stripe的LinkBalance通过预算+单笔限额+白名单实现更精细管控,而xAI的“先问后行”规则则凸显不可逆操作需强制干预。真正关键的是:企业级应用需在身份透传、限额审计与失败回滚上构建统一治理机制,尤其在国产化环境中,接口层治理应优先于模型改造。未来智能体支付授权将收敛为“预算+限额+清单”三件套,技术可行,但责任与审计才是采用率瓶颈

2026-11-02 09:30:08 118

原创 Iceberg V4 的表约束:主键第一次有了快照级结论

IcebergV4通过“声明+enforced开关+快照级约束结论”三件套,将主键约束从模糊的“愿望”变为可验证的“事实”,使查询优化器能区分真实唯一性与仅声明的约束。尽管不强制校验,但每个快照记录约束状态(validated/invalid),实现数据质量的版本化可追溯。此举推动湖仓向数据库对齐,关键在于将可信度落于可核查元数据,而非依赖人工或默认假设。

2026-11-02 09:29:01 200

原创 Mistral Large 4 开源:万亿参数自托管这笔账怎么算

Mistral Large 4 开源万亿参数权重解决了“能否自部署”问题,但未解决“是否值得”。基于vLLM官方配方测算,8张GB300满负荷运行时,GPU成本约2.53美元/百万输出token,仍高于API的2.10美元。自托管的核心价值在于数据不出域、可控性与合规性,而非省钱。实际成本受利用率制约显著,多数场景利用率不足,难以打平API价格。真正决策应聚焦于业务边界与治理能力,而非单纯算账。

2026-11-02 09:27:52 264

原创 智能体的『调度层』:Super-agent 怎样省下人的注意力

Super-agent原型的真正价值不在于AI修Bug,而在于将会话调度、事件订阅与权限控制拆解为显式系统组件——通过Router-Worker双层架构,实现任务自动流转与人机注意力分离。其核心设计:工具负向裁剪保障安全,订阅直通降低决策负载,副作用队列与上下文硬预算控制成本。实测显示,直通模式使Router决策次数减少13倍,时延仅微增2%。该方案适用于企业级智能体系统,关键在“事件可靠投递+可审计”,而非模型智商。下一程竞争,是调度系统的工程扎实度。

2026-11-02 09:25:38 221

原创 右上腹超声的『第一稿』:1.1 万例 AI 起草、医生改

这项研究最值得关注的不是99.6%的诊断正确率,而是盲评中专家无法区分“医生修改后的AI报告”与“医生全写报告”——证明AI可作为可靠草稿,核心价值在于省去第一遍书写,责任仍属医生。研究限于11,000例右上腹超声、三家机构数据,模型仅适合作为辅助起草工具,不可替代临床决策。落地关键在系统高可用、国密安全与流程适配,效率提升尚无量化支撑。若科室引入此类工具,你最在意诊断准确、耗时节省,还是审计留痕?

2026-10-30 16:20:56 252

原创 支付系统的『无源码迭代』:兴业银行这次招标真正的门槛

兴业银行新安统一支付系统迭代征集公告中“我行无平台源码”六字揭示项目本质:非开发,而是黑盒变更。核心能力转向接口契约反推、消息层解耦与影子流量回归验证,考验的是对系统的深度理解而非编码能力。趋势上,“无源码迭代”将成常态,招标门槛将从案例数量转向契约与验证资产。消息中间件需支持多协议、零代码迁移,金蝶天燕ADMQ等国产化方案可支撑平滑替换。关键在于构建可交付的契约测试集与差异判定标准,而非堆砌项目数量。

2026-10-30 16:19:15 186

原创 智能体圈选进了湖仓:一条 SQL 如何同时查标量与向量

阿里云发布全模态湖仓,核心突破在于将“圈选”(先标量过滤再向量检索)纳入SQL,实现智能体用一条带权限语义的语句完成跨系统取数,解决权限分散、一致性差与召回率低三大痛点。此举标志着湖仓从分析底座转向AI取数层,向量降级为数据类型,权限与一致性成选型关键。国产场景中,KVDB等产品则承担AI记忆底座,与湖仓形成分工:前者处理高频小粒度知识,后者聚焦大规模数据圈选。本质是引擎层能力下沉,而非单纯性能提升。

2026-10-30 16:17:51 192

原创 TPU『原生化』:vLLM 与 SGLang 换回 PyTorch

Google 2026年10月将TPU升级为PyTorch原生设备,实现vLLM与SGLang在TPU上的直接运行,显著提升可调试性与优化迁移效率。核心突破非性能数字,而是接口统一带来的工程红利。官方公布的“每百万token 2.01美分”等数据高度依赖特定模型、负载形状与硬件代次,缓存命中率与输入占比可使成本波动一个数量级。长上下文下“搬KV”与“重算”存在交叉点(约12.8万token),HBM容量限制迫使分层卸载成刚需。换引擎前须评估输入占比、命中率、模型调优状态、硬件代次与并发规模五项关键指标,避免

2026-10-30 16:16:44 284

原创 智能体权限的『单向阀』:Agent Habitat 只缩不扩

把智能体接入企业系统,真正的安全门禁不在模型本身,而在“权限只能沿委托链收缩”这一不变量。Replit通过将安全原则转化为四条可代码化、可进CI的检查项——权限单调收缩、凭证不进上下文、爆炸半径可数、不可逆动作需人工审批——实现了可验证的安全架构。实测表明,按组织授权比按智能体授权的爆炸半径缩小5.5倍,且主动违规均被拦截。核心启示:沙箱隔离挡不住越权请求,必须依赖凭证代理与统一出口;国产化落地需依托中间件平台实现身份收敛、动作统管与跨架构审计。安全不是文档承诺,而是可运行、可验证的工程实践。

2026-10-30 16:04:11 133

原创 北医三院的『一扫多查』:76种征象并入PACS怎么读

北大三院发布脊柱MRI“一扫多查”AI智能体,核心突破在于结果直接嵌入PACS流程,医生无需切换系统,实现“AI辅助、医生终审”。相较56%的效率提升,更关键的是流程融合与工作路径不变。医疗AI落地成败不在算法精度,而在是否真正融入临床流程。未来应聚焦节段化、结构化场景,以“结果进工作台”为验收标准,确保本地化部署与系统稳定支撑。

2026-10-29 10:07:28 222

原创 智能体的『越界清单』:信通院把AI安全改判为行动问题

本文核心价值在于将AI风险定性为“行为越界”,推动安全治理从“内容输出”转向“行动控制”。基于信通院官方报告,提出四类可落地的安全基线:人工确认、最小权限、独立审计、异常可中止。强调提示词无效、权限需动态管理、监督须独立,要求智能体操作全程可追溯。对开发者而言,应将行为审计纳入基础设计,使用独立凭证并实现任务级权限回收。当前仍为治理建议,但已具备直接作为验收标准的工程价值。

2026-10-29 10:06:10 145

原创 扩散模型的『一次成型』:Clover35B把智能体编程时延砍半

Clover-35B-A3B以dLLM范式实现智能体任务延迟显著降低,核心优势在于“整体成型再修正”的并行生成机制,而非单纯工程优化。其680tokens/s速度与WindTunnel中位1.52秒执行时间,凸显对结构化输出负载的适配性。尽管基准为自评、需独立复现验证,但该范式已初步进入可用区间,预示dLLM将成为智能体推理的重要选项。开发者应关注任务级时延、重构延迟预算,并重视数据服务层(如向量检索、会话记忆)的瓶颈。

2026-10-29 10:04:59 128

原创 英伟达的『吉瓦级』:超节点当电力资产来规划

本次公告核心变革在于集群规划单位从“卡数”转向“吉瓦级电力容量”,并首次将CPU作为智能体负载的独立容量轴。通过零依赖脚本换算,1吉瓦园区约对应7,000机架、50万GPU;首批15万颗VeraCPU与10万张GPU配比达1.5:1(132核/GPU),凸显通算对减少GPU空转的关键作用。NVL72与NVL8并存,提供新建与渐进双路径。结论:未来集群规划需同步关注“通算:智算配比”与电力容量,而非仅看GPU数量。

2026-10-29 10:03:55 234

原创 Kafka的『先分配后鉴权』:90MB请求怎么打挂1GB堆

这批Kafka漏洞的共性并非“Kafka有bug”,而是“解析先于鉴权+按声明值分配”模式被四次击穿。修复版本仅堵分配端,如CVE-2026-114349需手动配置max.decompressed.message.bytes才有效。攻击者可利用90MB请求触发数倍内存分配,甚至在堆仅512MiB的容器中单请求打挂服务。升级≠修复完成,必须同步收紧配置、暴露面与权限审计。该模式适用于所有自研协议栈,安全默认行为应为fail-closed,而非静默放行。

2026-10-29 10:01:22 287

原创 星火医疗 V3.7 登顶 MedBench:99.6 分该怎么读

科大讯飞99.6分的医疗大模型成绩需谨慎看待,其为厂商自述、非独立复现,且依赖特定评测模式与参评范围。真正关键的是41.9%端侧任务覆盖度与96.1%路由准确率等工程指标,反映实际部署能力。医疗AI落地核心在于数据不出域、调用可审计、推理有兜底,而非榜单名次。评估应优先考虑能否在院内安全合规部署,而非追逐分数。

2026-10-28 11:33:35 180

原创 智能体的『工牌』:Salesforce 把每次调用做成计费单位

Salesforce将通过智能体注册、独立身份与调用计量(HPI)实现对非人类调用方的精细化治理,核心在于强制企业厘清“有多少智能体在运行”,并绑定身份、权限与计费。此举推动安全与成本可控性同步提升,但开发者需重新评估工具粒度、权限设计与调用策略。真正的挑战不在价格,而在组织能否准确盘点智能体资产——若无法在一周内列出所有智能体且准确率不足,变革成本已悄然发生。

2026-10-28 11:32:09 90

原创 Pulsar 的『匿名兜底』:一条未验签 JWT 怎么换到超级用户

CVE-2026-105869并非简单“JWT未验签”,而是认证失败兜底路径保留原始Authorization头,导致鉴权环节读取未验证的伪造角色声明,形成权限提升漏洞。影响版本为2.8.1至4.2.4,关键条件包括使用MultiRolesTokenAuthorizationProvider、anonymousUserRole非空、且认证失败被兜底。修复版强制要求配置tokenauthenticationprovider,否则broker拒绝启动。建议立即升级并检查匿名角色配置,尤其关注工具账号共用令牌与异

2026-10-28 11:27:59 267

原创 ClickHouse 26.10 的『读更少』:三条性能线怎么量化

ClickHouse 26.10的真正价值不在于104项新特性,而在于五组“优化前→优化后”的倍率数据。通过将绝对值转化为单位口径(如“每值字节”),可发现67倍读取量节省的前提是数据高度有序且统计完备,实际收益由查询形态决定。脚本模型表明,Top-K下推收益在1~50倍间浮动,取决于不可跳过占比(s)。灰度验证应以system.query_log的read_rows变化为准,而非盲目相信厂商数字。最终,性能提升需回归自身SQL形态与数据特征,才能实现可落地的优化。

2026-10-28 11:25:31 224

原创 Redis『4GB 边界』:集群总线 pub/sub 堆溢出该怎么查

2026年10月26日,Redis与Valkey同日发布安全补丁,修复集群模式下经总线传播超4GB的PUBLISH/SPUBLISH消息导致堆溢出漏洞。触发条件为五个要素缺一不可:集群模式、集群总线、PUBLISH/SPUBLISH、传播过程、消息>4GB。4GB是32位长度字段上限(2³²字节),超出将引发截断与越界。脚本可自动校验配置、扇出量与版本,建议立即核查proto-max-bulk-len、隔离总线端口、收紧ACL权限,并统一升级至对应版本。

2026-10-28 11:21:51 327

原创 OpenRouter 周榜:188 万亿 token 怎么读

调用量榜单反映的是需求侧使用热度,而非模型能力排名。OpenRouter数据虽显示中国大模型连续26周领先,但其样本受限于聚合平台特性,环比增幅易受低基数影响,且token统计口径不一,无法直接比拼性能。应将其视为趋势温度计:关注长期趋势、建立内部可控评测、用调用量预警成本。工程上需可靠计数系统支撑,如金蝶天燕KVDB可实现高并发、多维度、可回溯的调用计量。核心建议:别依赖外部榜单,自己跑出真实对比表。

2026-10-27 16:00:51 136

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除