多模型适配器模式:用 Rust Trait 统一接入 DeepSeek、Claude 与本地 Ollama

Rust+Tauri打造的DeepSeek代码助手:本地化AI编程前端实践 代码助手是现代开发者提升效率的核心工具,其本质是将大语言模型能力与直观、可集成的用户界面相结合。原理上依赖轻量级GUI框架实现低开销交互,结合安全的系统API调用与结构化会话管理,确保响应实时性与数据可控性。技术价值在于规避Electron臃肿、Python分发难等传统方案缺陷,以Rust保障内存安全与性能,Tauri复用系统WebView实现跨平台精简部署。典型应用场景包括IDE插件嵌入、企业内网AI编码平台搭建、以及个人本地化AI协作者。本文详解基于Rust+Tauri构建的DeepSeek版Claud 阅读详情

多模型适配器模式:用 Rust Trait 统一接入 DeepSeek、Claude 与本地 Ollama

封面信息图

在我们的抓包分析器中,AI 诊断模块是核心亮点之一。然而,不同的用户和部署环境有着多样化的模型诉求:

  • 在日常开发和公开云端测试时,用户倾向于使用高性价比的 DeepSeek API;
  • 在涉及企业内网敏感报文诊断时,出于数据隐私与合规要求,用户希望直接连接本地通过 Ollama 部署的离线开源小模型;
  • 在进行深度安全漏洞因果推断时,可能需要切换到 Claude 或其他高智力模型。

如果针对每个不同的模型厂商都写一套独立的调用逻辑,代码库很快就会变得臃肿混乱。

在 Rust 中,**基于 Trait 的适配器模式(Adapter Pattern)与依赖注入(Dependency Injection)**是实现多后端解耦的最佳范式。今天这篇文章,我们在 packet-ai 模块中设计一套统一、抽象、且支持动态多态与静态分发的多模型适配器体系。


1. 适配器架构设计与异步 Trait 契约

在 Rust 1.75+ 中,标准库已经原生支持了 async fn in traits(AFIT)。我们定义一个统一的 LlmProviderAdapter Trait:

               ┌───────────────────────────────┐
               │    trait LlmProviderAdapter   │
               │  + diagnose_stream(...)       │
               │  + provider_name()            │
               └───────────────┬───────────────┘
                               │
       ┌───────────────────────┼───────────────────────┐
       ▼                       ▼                       ▼
┌──────────────┐       ┌──────────────┐       ┌──────────────┐
│ DeepSeek     │       │ Ollama       │       │ Claude       │
│ Adapter      │       │ LocalAdapter │       │ Adapter      │
└──────────────┘       └──────────────┘       └──────────────┘

2. 定义通用流式诊断 Trait

在 crates/packet-ai/src/adapter.rs 中:

// crates/packet-ai/src/adapter.rs
use crate::client::AiClientError;
use futures_util::Stream;
use std::pin::Pin;

pub type DiagnosticStream = Pin<Box<dyn Stream<Item = Result<String, AiClientError>> + Send>>;

/// 统一的 AI 模型服务提供商适配器特征
pub trait LlmProviderAdapter: Send + Sync {
    /// 服务商名称标识(用于日志与 TUI 展现)
    fn provider_name(&self) -> &'static str;

    /// 发起流式诊断请求
    fn stream_diagnose(
        &self,
        system_prompt: &str,
        anomaly_context: &str,
    ) -> Pin<Box<dyn std::future::Future<Output = Result<DiagnosticStream, AiClientError>> + Send + '_>>;
}

3. 实现 DeepSeek / OpenAI 兼容适配器

在 crates/packet-ai/src/providers/openai_compatible.rs 中:

// crates/packet-ai/src/providers/openai_compatible.rs
use crate::adapter::{DiagnosticStream, LlmProviderAdapter};
use crate::client::AiClientError;
use crate::stream_client::stream_diagnose;
use reqwest::Client;
use std::pin::Pin;

pub struct OpenAiCompatibleAdapter {
    client: Client,
    provider_tag: &'static str,
    base_url: String,
    api_key: String,
    model_name: String,
}

impl OpenAiCompatibleAdapter {
    pub fn new(
        provider_tag: &'static str,
        base_url: impl Into<String>,
        api_key: impl Into<String>,
        model_name: impl Into<String>,
    ) -> Self {
        Self {
            client: Client::new(),
            provider_tag,
            base_url: base_url.into(),
            api_key: api_key.into(),
            model_name: model_name.into(),
        }
    }
}

impl LlmProviderAdapter for OpenAiCompatibleAdapter {
    fn provider_name(&self) -> &'static str {
        self.provider_tag
    }

    fn stream_diagnose(
        &self,
        system_prompt: &str,
        anomaly_context: &str,
    ) -> Pin<Box<dyn std::future::Future<Output = Result<DiagnosticStream, AiClientError>> + Send + '_>> {
        let full_prompt = format!("{}\n\n待分析异常报文:\n{}", system_prompt, anomaly_context);

        Box::pin(async move {
            stream_diagnose(
                &self.client,
                &self.base_url,
                &self.api_key,
                &self.model_name,
                &full_prompt,
            )
            .await
        })
    }
}

4. 实现 Ollama 本地离线小模型适配器

本地部署的 Ollama 提供了极简的 /api/generate 原生端点(格式为 JSON 换行流):

在 crates/packet-ai/src/providers/ollama.rs 中:

// crates/packet-ai/src/providers/ollama.rs
use crate::adapter::{DiagnosticStream, LlmProviderAdapter};
use crate::client::AiClientError;
use futures_util::StreamExt;
use reqwest::Client;
use serde::{Deserialize, Serialize};
use std::pin::Pin;

#[derive(Serialize)]
struct OllamaGenerateRequest {
    model: String,
    prompt: String,
    system: String,
    stream: bool,
}

#[derive(Deserialize)]
struct OllamaGenerateChunk {
    response: String,
    done: bool,
}

pub struct OllamaAdapter {
    client: Client,
    endpoint: String,
    model_name: String,
}

impl OllamaAdapter {
    pub fn new(base_url: &str, model_name: &str) -> Self {
        let endpoint = format!("{}/api/generate", base_url.trim_end_matches('/'));
        Self {
            client: Client::new(),
            endpoint,
            model_name: model_name.to_string(),
        }
    }
}

impl LlmProviderAdapter for OllamaAdapter {
    fn provider_name(&self) -> &'static str {
        "Ollama (Local Offline)"
    }

    fn stream_diagnose(
        &self,
        system_prompt: &str,
        anomaly_context: &str,
    ) -> Pin<Box<dyn std::future::Future<Output = Result<DiagnosticStream, AiClientError>> + Send + '_>> {
        let req_body = OllamaGenerateRequest {
            model: self.model_name.clone(),
            prompt: anomaly_context.to_string(),
            system: system_prompt.to_string(),
            stream: true,
        };

        Box::pin(async move {
            let res = self
                .client
                .post(&self.endpoint)
                .json(&req_body)
                .send()
                .await
                .map_err(AiClientError::HttpError)?;

            let byte_stream = res.bytes_stream();

            let token_stream = async_stream::try_stream! {
                let mut buffer = String::new();
                for await chunk_result in byte_stream {
                    let bytes = chunk_result.map_err(AiClientError::HttpError)?;
                    buffer.push_str(&String::from_utf8_lossy(&bytes));

                    while let Some(pos) = buffer.find('\n') {
                        let line: String = buffer.drain(..=pos).collect();
                        if let Ok(chunk) = serde_json::from_str::<OllamaGenerateChunk>(line.trim()) {
                            yield chunk.response;
                            if chunk.done {
                                return;
                            }
                        }
                    }
                }
            };

            Ok(Box::pin(token_stream) as DiagnosticStream)
        })
    }
}

5. 动态工厂与依赖注入实战

在主程序启动时,根据命令行参数一键创建对应的适配器实例(基于 Arc<dyn LlmProviderAdapter> 动态分发):

// crates/packet-ai/src/factory.rs
use crate::adapter::LlmProviderAdapter;
use crate::providers::ollama::OllamaAdapter;
use crate::providers::openai_compatible::OpenAiCompatibleAdapter;
use std::sync::Arc;

pub struct AdapterFactory;

impl AdapterFactory {
    pub fn create_adapter(
        provider_type: &str,
        base_url: &str,
        api_key: &str,
        model: &str,
    ) -> Arc<dyn LlmProviderAdapter> {
        match provider_type.to_lowercase().as_str() {
            "ollama" | "local" => {
                Arc::new(OllamaAdapter::new(base_url, model))
            }
            "claude" => {
                Arc::new(OpenAiCompatibleAdapter::new("Anthropic Claude", base_url, api_key, model))
            }
            _ => {
                // 默认使用 DeepSeek / OpenAI 标准
                Arc::new(OpenAiCompatibleAdapter::new("DeepSeek Cloud", base_url, api_key, model))
            }
        }
    }
}

总结

通过引入 Trait 适配器模式:

  • 上层业务零感知:TUI 看板和诊断流水线只依赖 dyn LlmProviderAdapter,不与任何具体厂商 API 强绑定;
  • 支持一键平滑切换:用户通过命令行 --provider ollama --base-url http://localhost:11434 即可瞬间切换为纯本地离线推理,兼顾数据隐私与公网可用性。
「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品) 阅读详情

相关推荐

船载 OpenHarmony AIS 航海工作台:告警与防碰撞预警系统

船载OpenHarmony AIS航海工作台的告警与防碰撞系统,集成十余类告警(超速、偏航、会遇、SOS等),通过网格空间索引实现高效邻近判定,保障实时性。告警管理器统一调度规则、去重、通知与日志,支持悬浮球、语音、跑马灯、弹窗多渠道触达,确保航行安全。SOS紧急通道独立运行,避免干扰。系统设计强调性能优化与多场景适配,为航海安全提供核心支撑。

专注于计算机研发知识和资讯分享 533

AI 问数真的能替代 BI 报表吗?

AI问数赋能自然语言查询,提升临时分析效率,但无法替代传统报表。报表适用于稳定输出与持续监控,AI则擅长探索性提问。企业用好AI问数,关键在于夯实数据模型、统一指标口径、健全权限体系与结果校验机制。合理组合报表、仪表板与AI,才能实现高效、准确的业务洞察。

葡萄城技术团队博客 338

AI 应用开发:四维架构落地实战——以 HR Agent 为例拆解感知·推理·记忆·执行【意图路由、规划编排、长期记忆、工具执行、面试题】

本文基于四维架构(感知·推理·记忆·执行),以HR Agent为例,系统拆解大模型应用从“聊天”到“生产可用”的落地路径。通过Spring AI实现意图路由、规划编排、RAG检索与工具调用,结合真实踩坑复盘,揭示架构化设计对安全、成本与可维护性的关键价值,为AI Agent工程化提供可复用的实战框架。

王大师企业官方博客 1322

ChatGPT、Perplexity、Gemini 与 AI Overviews 引用对比:谁的引用更可信

AI 引擎的引用机制差异很大:ChatGPT 以行内引用加 Sources 列表呈现来源,Perplexity 几乎逐句可溯源,Gemini 在回答中内嵌相关来源链接,AI Overviews 则把多源聚合答案与来源列表一起放在搜索结果顶部。本文从引用透明度、来源偏好、可干预性 3 个维度对比这 4 个引擎,并给出 GEO 的 3 点启示,帮企业在多引擎环境下提升被引用的概率。

淡然一笑 的专栏 276

玩转Isaac Sim动态控制:从随机舞动到精准操控Franka的5种控制模式实测

本文深入实测了在NVIDIA Isaac Sim仿真平台中,利用Dynamic Control模块对Franka机械臂进行精准操控的五种核心模式:位置控制、单关节位置控制、速度控制、单关节速度控制和力矩控制。通过详细的代码示例和对比分析,阐述了每种模式的适用场景、参数调优技巧及从随机运动到闭环控制的实现路径,为机器人算法验证提供了实用指南。

night的博客 808

APP抓包-代理转发绕过反代理+Xposed绕过证书校验

而这里的牛牛不止设置了反代理还设置了证书校验,一闪而过的三个数据包就是在校验证书。而proxifier工具的转发机制获取的是网络接口出口数据,相当于是在网络接口设代理。这个时候就可以在夜神打开牛牛开始抓包了,打开牛牛可以看到proxifier有夜神流量通过。关闭代理之后牛牛就正常了,可恶的牛牛啊,这样我没办法抓包啊,怎么办啊。模拟器开启代理,burp开启监听。打开牛牛app,牛牛不在报错。牛牛app检测的是系统代理,也就是在模拟器或手机上设置的代理。再在浏览器下载两个模块,在夜神安装,用来屏蔽证书校验。

xiaoheizi的博客 7532

【从零理解 Spring AI · 12】MCP 的两种角色:做客户端还是做服务端

上一篇讲了 MCP 的概念:标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 615

解决UNITE数据库注释高unassigned率:手把手教你训练专属真菌分类器(含预训练模型分享)

本文针对使用UNITE数据库进行真菌ITS序列注释时出现的高未分配率问题,提供了详细的实战解决方案。通过对比vsearch直接注释与Naive Bayes分类器的原理差异,文章手把手指导读者在QIIME 2环境中训练专属分类器,包括数据准备、模型训练、参数优化及效果验证,并分享了预训练模型,旨在显著提升真菌群落分析的注释准确性和数据利用率。

weixin_29214199的博客 339

抽象主义人工智能和生命体AI的内在联系

彭军辉提出“抽象主义人工智能”作为第四大AI范式,批判符号主义、连接主义、行为主义剥离生命本体的误区,确立“智能是现象,生命是本体”的核心公理。主张原生智能必须依附具备存续诉求的生命本体,提出“生命体AI理论”,构建七层演化阶梯与自闭环工程框架,强调智能不可跳过底层存续机制直接模拟语言。该体系为生成式AI提供科学边界,推动从“仿真表象”向“原生智能”的范式跃迁,开辟硅基人工生命新赛道。

抽象主义人工智能和生命体AI 207

Abaqus CEL分析必备:Hypermesh网格导出与inp文件合并技巧

本文详细介绍了在Abaqus CEL分析中使用Hypermesh生成六面体网格并合并多组件inp文件的完整流程。从单元类型设置(EC3D8R)、网格质量优化到inp文件合并技巧,提供了一套解决流固耦合仿真前处理痛点的实战方案,帮助工程师高效完成复杂CEL分析任务。

weixin_29279101的博客 218

(2)NPW(监控片)【中】---业务场景精讲

自己在日常工作当中,由于非产线人员出生,对NPW的知识一直一知半解,业务场景认识的不够透彻,做系统的时候很难理解甲方的NPW业务应用,特收集了不少关于NPW的一些业务场景,下面都是一些摘抄,大家关注我标红标粗的部分,

阿拉伯梳子的专栏 1592

OpenAI Control Room 架构拆解:给企业 AI Agent 加一套可审计的急停系统

OpenAI 公开了用于追踪和停止研究模型工作负载的 Control Room。本文拆解 job_id、推理前鉴权、35 秒撤销窗口与 Fail Closed 设计,并给出企业 AI Agent 急停控制面的数据模型、FastAPI 参考实现、缓存撤销策略和故障演练清单。

jerry764的博客 343

Hermes接入IMA知识库全攻略:将知识库装进你的Hermes智能体

本文详细介绍了如何将IMA知识库功能接入Hermes Agent平台,实现一站式笔记管理和知识库操作。主要内容包括:获取IMA访问凭证、下载技能包、配置凭据(支持文件和环境变量两种方式)、验证配置有效性,以及实际应用演示(查询知识库列表、创建笔记并添加到知识库)。文章还提供了常见问题解决方案,如认证失败处理、版本更新等。通过该集成,用户可在Hermes中直接调用IMA的笔记创建、知识库管理等强大功能,提升工作效率。

小石头的专栏 642

OpenClaw 深度调查:把 AI 助手做成你自己的控制平面

对 openclaw/openclaw 的完整技术尽调:Gateway 架构、Agent 运行时、工具与沙箱、30 个消息通道、181 个插件、安全信任边界、工程代价与采用建议。17 章 / 10 张图,全部数字标注口径,数据截至 2026-10-31。

厚积薄发 349

基于YOLOv5的人脸识别系统:从构建到应用的全流程指南

本文详细介绍了基于YOLOv5的人脸识别系统开发全流程。首先阐述了YOLOv5模型的高效性和准确性优势,随后分步骤讲解了深度学习环境配置、数据集准备(推荐WIDER FACE数据集)和模型训练方法。重点展示了如何将训练好的模型集成到Tkinter开发的GUI界面中,实现图片上传、人脸检测和结果可视化功能。文章提供完整的代码示例和飞书文档链接(密码:946m22&8),帮助开发者快速构建可交互的人脸识别系统,适用于安防、门禁等多种应用场景。通过该项目,读者可掌握YOLOv5的实际应用和界面集成技术。

FJN110的博客 170

拉曼光谱入门:5.表面增强与共振增强

拉曼散射效应因其弱信号特性限制了传统拉曼光谱术的检测灵敏度。为克服这一局限,表面增强拉曼光谱术(SERS)和共振增强拉曼光谱术(RRS)被开发出来,显著提升了信号强度。SERS通过金属表面的电磁和化学效应放大信号,而RRS则通过匹配激发光波长与分子电子跃迁波长来增强信号。这两种技术扩大了拉曼光谱的应用范围,尤其在低浓度和微量试样分析中表现出色,尽管在实验操作和试样损伤方面存在挑战。

qq_53529450的博客 1448

AI赋能智慧港口建设|造形家快速生成港口全要素三维场景

随着智慧港口、港口数字孪生项目的持续推进,港口三维场景的需求日益旺盛。传统港口三维建模,往往需要航拍倾斜摄影采集数据,再人工搭建吊机、岸桥、船舶、集装箱等大量工业设施模型,项目周期长、人力成本高,修改迭代繁琐,制约港口可视化项目落地效率。国产AI三维建模工具,依托卫星影像 AI 识别能力,无需航拍作业,一键快速搭建港口完整三维场景,为港口数字孪生、方案汇报、投标演示提供高效的场景解决方案。

m0_69539167的博客 85

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

从设备增点到治理闭环:老旧小区物业数智化落地实践

系统连接合同审批、银行流水、收费记录与项目台账,执行到期提醒、收入核验、异常标色和月度对账,让每一笔资金来源明确、去向可查。针对设施老旧、诉求响应慢、公共收益不透明等问题,津南以6类小区为试点场景,统一建设物业数字化底座,关联楼栋、单元、房屋、业主、空间、设施设备、工单、公共收益等核心数据。系统采用统一编码管理,将摄像头、路灯、井盖、道路、绿化等设施纳入资产台账,解决纸质记录更新滞后、故障责任难追溯的问题。基于历史工单建立分类模型和知识库,辅助识别照明、给排水、电梯、环境秩序、秩序维护等问题;

wuyeshuzhihua的博客 161

华为的C语言编程规范.pdf

华为技术有限公司内部技术规范。本规范制定了编写C语言程序的基本原则、规则和建议。从代码的清晰、简洁、可测试、安全、程序效率、可移植各个方面对C语言编程作出了具体指导。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

企业微信iPad协议详解:接口接入、实时消息同步与语音转码实践

深入解析企业微信iPad协议的技术架构与开发思路,涵盖API接口接入、长连接通信、实时消息同步、Silk语音转码、异常重连及高并发优化,帮助开发者了解企业微信自动化系统的设计与实现。

欢迎来到祖安! 512

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

Product Hunt 热榜 2026-11-13:Plurai Simulation、YouArt Desktop App、Omnigraph

2026-11-13 Product Hunt 新产品精选:Plurai Simulation、YouArt Desktop App、Omnigraph。汇总 15 款产品的中文介绍、功能关键词和产品链接。

LaughingZhu的博客 616

【AI Agent面试系列】AI Agent可观测、评测、安全相关的知识点

之前的文章介绍了和,本文主要介绍AI Agent的测评、可观测等知识。

406

Docling 原理解读:是什么、为什么、怎么样

从论文视角拆解 Docling 的整体架构、DoclingDocument 数据模型、PDF 预处理、版面分析、OCR、TableFormer 双解码器、阅读顺序与装配流程,并解释版面框与 OCR 框的区别。

PLANTTHESON的博客 401

WorkBuddy 实战:一句话需求 → 七屏可交互原型,户外徒步 App 的 AI 设计全流程

WorkBuddy 实战:一句话需求 → 七屏可交互原型,户外徒步 App 的 AI 设计全流程,跟着博主一起来还原整个过程。

夜郎King的博客 5160

从认识人工智能到理解机器学习:我的 AI 入门第一课

正式开始学习人工智能之前,我对 AI 的认识其实比较模糊:知道 ChatGPT、知道大模型,也知道现在很多岗位都在谈 AI,但如果有人问我“人工智能到底是什么”“机器是怎么学会识别一只猫的”,我未必能从头到尾讲清楚。上午的课程更偏向行业全景:人工智能的发展、研究方向、NLP、岗位分工、学习路线和 AI Coding 工具。下午的课程更偏向技术基础:机器学习的原理、有监督学习、深度学习、模型训练和评估方法。

chh563的博客 568

企业宣传片发前如何批量排查并遮挡视频里的敏感信息

做企业视频的人都会碰到一个具体问题:实拍画面里混进了不该出现的信息。办公室背景里有贴着客户信息的白板,采访对象的授权书边缘露出一串身份证号码,街采素材里路人面孔和车牌号直接入镜。人眼在时间线上扫视,会漏掉快速闪过的帧、画面边缘的小字、以及暗光区域里的证件号码。用抹影AI完成车牌、人脸和证件区域批量检测后,又手动补充了两个时间段的屏幕遮罩,最终导出时画面已无合规隐患。重点关注快速运动、遮挡、低光照条件下的目标,这些是漏检的高发区域。导入视频后选择要检测的目标类型(人脸、车牌、证件号、二维码等)。

Mysssone的博客 181

面向工业对讲的双通道声学 DSP 模组 A-59(NR2050-A)方案解析与工程落地案例

A-59模组以NR2050-A DSP为核心,37.5×16mm邮票孔封装,支持-40℃~85℃工业温域,兼容A-06/A-09/A-29系列,可低成本替换存量设备。通过固件切换实现三种模式:模式一(低改版成本,适配矿井、电梯);模式二(最优AEC,用于医院呼叫);模式三(双波束独立输出,支持双人会议语音分离)。集成AEC、ENC、BF与AGC算法,有效抑制回声、噪声与串扰,解决对讲系统核心声学难题。选型需注意参考信号路径、麦间距与温度匹配,建议先做声学测试再量产。

R190_6589的博客 373
上一篇: 抓包分析器 Day 8:TCP 分片滑动窗口乱序重组引擎实战
下一篇: 错误链追踪与 tracing-error 集成:跨 async 状态机捕获完整故障链
第一程序员
博客等级 码龄1年 1万+粉丝 1827原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值