当业务选择通过 Ollama、vLLM 或 Xinference 等外部服务运行大模型时,数据库并不会退化成一个只管存取字节的静态仓库。在金仓 AI 数据库的“库外对接 · 生态兼容”路径中,模型前向计算通过 RESTful API 交给外部服务执行,而 SQL 解析、表数据提取加工、业务口径对齐、行级权限校验以及结果的后续归并,依然收拢在 Kingbase ES(KES) 内核侧完成。
顺着一次外部模型调用从请求发出到结果返回的完整往返,可以清楚看到接口两端的职责边界,以及数据库在其中承担的组织与管控工作。
01 请求发出前:KES 内核怎样组织 SQL 与准备表数据
用户或应用程序向 Kingbase ES 服务提交包含模型调用的 SQL 后,外部推理服务并不会直接接触底层关系表。请求先在 KES 库内走完解析、计划编排与数据提取链路:
- 语句解析与计划生成:SQL 语法解析器解析传入语句并识别推理相关函数,查询计划生成器据此安排表扫描、过滤与外部调用的执行次序。
- 表数据提取与缓存加速:数据处理/ETL 组件通过
Transform通道从底层关系型数据存储(表/索引/元数据/日志)读取并加工所需字段,共享内存与缓存暂存提取出的临时数据以减少重复 I/O。 - 推理流程协调与模型映射:KES 执行引擎中的推理执行引擎协同模型管理器,按照注册的服务地址与模型标识组装推理请求,在发送前把“查哪些表、取哪些行、传哪些字段”先在库内确定下来。

提取出的字段要能被模型与上层应用正确理解,还离不开准确的业务口径。企业接入 AI 时普遍面临业务语义不完整、存量数据难以直接参与 AI 检索与推理以及 AI 访问数据安全管控难三项挑战——外部服务解决了“去哪里调用大模型算力”,却无法替企业解释某张业务表里的编码或统计口径。
为此,金仓在库内语义层将实体、属性、关系、口径、规则、标签等原生语义对象与物理数据统一管理,避免语义解释与真实表结构脱节;通过规则+AI 识别自动推荐字段业务含义并结合人工校准确认,再借助语义变更订阅、版本管理与优化及自我进化机制持续维护。即便后端接入的外部模型服务发生更换,库内维护的业务口径依然保持连续一致。

02 RESTful API 两端分工:推理框架与模型各司其职
数据准备就绪后,KES 通过 RESTful API 与外部推理服务通信,呈现“推理外包、流程内聚”的协作结构:
| 调用环节 | Kingbase ES 数据库侧工作 | 外部推理服务侧工作 |
|---|---|---|
| 请求编排 | 解析 SQL 函数、生成查询计划、校验调用方访问权限 | 监听接口端点,接收标准化的推理请求载荷 |
| 输入准备 | 经 Transform 提取表记录并依托共享内存整理待处理字段 | 解析输入文本、多模态内容或重排候选列表 |
| 模型计算 | 管理连接状态并等待接口响应 | 由推理框架加载目标模型权重并执行前向推理或生成 |
| 结果归并 | 接收返回张量或文本,接回外层 SQL 继续排序、关联或输出 | 按协议格式封装推理结果并回传给 KES |
在外部服务一侧,还要区分推理框架与模型本体两层角色:
- 推理服务框架:技术演示列出了 Ollama、vLLM、Xinference、其他自定义推理框架,并支持兼容 OpenAI 接口的服务端点,负责管理显存、批处理调度与暴露 HTTP 接口。
- 可加载模型示例:演示图中列有 DeepSeek、Qwen3-VL-Embedding、GLM、MiniMax-M3、qwen3-rerank 等模型,覆盖文本生成、多模态嵌入与检索重排等不同任务。实际接入时的参数传递、超时重试与兼容性,需以目标框架版本和模型配置为准。

在评估数据传输与耗时时,也需把逻辑边界与物理拓扑分开看:外部推理服务既可对接远程平台,也可部署在企业自有内网专有机房。“数据出库”准确描述的是请求字段离开数据库进程发往推理服务;而端到端响应延迟则由库内数据准备+网络往返传输+外部队列等待+模型推理计算共同决定,需在完整调用链上实测评估。
03 出库前过滤与返回后约束:内生安全贯穿完整往返
正因为外部调用会把 SQL 选中的数据片段装入请求体,请求发出之前的权限过滤与结果返回之后的操作管控就显得尤为关键。
金仓明确区分了 AI 与数据库的安全职责:AI 负责理解自然语言意图和规划任务步骤,凡涉及企业数据的访问与修改,一律继续接受数据库既有安全体系的约束。内生安全涵盖权限管理、访问控制、SQL 防火墙、行级控制和操作审计五项核心能力,确保整条链路权限可继承、执行可管控、行为可追溯:
- 发往外部服务前:行级控制与访问控制先按当前会话身份裁剪可见记录,调用者无权查看的行不会进入
Transform提取结果,从而避免越权数据随 RESTful API 外传。 - 推理结果返回后:若上层应用或智能体根据模型返回建议继续发起写库、改表等 SQL 操作,SQL 防火墙与权限管理会再次拦截越权或高危语句,并由操作审计完整留痕。


04 总体架构中的库内计算:存量向量检索、实时图化与双路互补
外部模型调用并非孤立运行,而是嵌在金仓 AI 数据库的整体底座之中。在总体架构底层,多模数据统一承载层集中承载关系、GIS、文档、全文本、向量、图六类数据;中层由库内语义层、库内计算与内生安全协同支撑;上层金融智能风控、政务智能问答、智能运维等智能应用,通过开发智能体与运维智能体经 MCP、Skill、RAG 接口、记忆接口访问数据库能力。

除了对接外部推理服务,金仓库内计算本身也提供完整的本地推理、高效向量检索与图关联能力,供业务按场景组合使用:
- 库内 ONNX 推理:集成 ONNX 推理框架直接在库内完成向量化,实现数据不出库;同时支持独立租户/节点部署以隔离 AI 计算负载,降低对既有核心业务的影响。
- DiskANN 高效向量检索:面对知识库与业务表的持续增删改,KES Vector DiskANN 索引在借鉴相关研究成果的基础上,自主实现了高效的向量删除与更新机制。
实验室测试结果与环境说明:金仓公布的实验室测试显示,在 1 亿向量数据 × 768 维、98% 召回率条件下,基于 128 核 ARM CPU、256GB 内存、麒麟 V10 环境,相较业界主流方案,在相同召回率下内存占用降低 95.4%(原文未点名具体对照产品;该指标衡量大规模向量索引内存开销,不包含外部推理服务的网络传输与模型计算时间)。
- 关系数据实时图化:通过视图映射把现有关系表实时转化为图结构,做到“表变,图即变”,使向量检索查出的候选记录能够顺畅衔接显式实体关系计算。

05 面向开发与运维智能体的标准化调用链
当智能体接管日常查询构建与运维诊断时,金仓通过标准化工具集把数据组织与安全管控能力开放给上层:提供 10+ 原生 KES MCP tools(覆盖语义查询、数据操作与库管理工具接口)以及 30+ Skills(支撑数据库全生命周期管理)。
- 智能开发(NL2SQL):NL2SQL 智能体融合库内语义与记忆理解业务提问,生成符合企业口径的 SQL;金仓公布的实验室测试结果为千表规模下秒级生成 SQL,准确率 >95%。
- 智能运维:运维智能体结合 300+ 高质量指标数据与数十年专家运维经验积累,辅助完成智能巡检、智能诊断和处置建议,实验室测试中复杂问题定位准确率达 90%+(两项准确率均属实验室测试结果,实际落地效果需结合具体业务场景验证)。

由此可见,把模型推理交给外部服务,移出去的只是张量与生成算力;请求怎样拆解、哪些行允许提取、字段遵循什么业务口径、返回结果怎样接回 SQL 并接受审计,始终由金仓数据库在内核侧统一组织与守卫。
本文阐述金仓AI数据库(KES)如何在对接vLLM等外部大模型服务时,仍由内核统一完成SQL解析、表数据提取、业务口径对齐、行级权限过滤及结果归并。强调其“推理外包、流程内聚”架构,突出库内语义层、内生安全机制、向量检索与图化能力,以及面向智能体的标准化调用链,体现数据库在AI应用中不可替代的组织与管控角色。

被折叠的 条评论
为什么被折叠?



