Biu懂AI:硬件能力MCP—— Astra MCP

      为了拓展大模型的功能,现在越来越多的模型支持调用工具以实现自身无法完成的功能,例如网页搜索、文件创建等。基于此,逐渐延伸出workflow和agent的业务框架。为了满足工具的通用性需求,类似USB协议的MCP协议应运而生。通过标准化协同,MCP协议使得大模型能够无缝连接外部世界。

过去,大模型与浏览器、数据库、代码仓库等外部工具的对接通常采用“一对一”的定制化方式——不同模型有不同的工具调用标准,开发者需要重复适配,效率低下且兼容性差。而MCP协议的核心价值之一在于建立了统一的“AI-工具通信语言”。在安全与治理层面,MCP支持细粒度权限控制,例如限制模型可访问的文件目录,从而防止敏感信息泄露。这一特性也与边缘计算的优势相契合,提升了数据安全性。同时,大模型的强大交互能力也很好地弥补了边缘计算在交互性方面的不足。

      网络上的MCP基本上是提供软件能力的MCP,如果加上硬件能力的MCP,大模型能力边界是不是可以更广。本篇博文就让小编带大家用边缘设备实现MCP协议。

实现步骤(这里以Synaptics的Astra SL1640为例):

1. 建立环境

安装pip

            python3 -m ensurepip –upgrade

安装uv

            pip3 install uv

2. 创建项目

初始化项目

            uv init astra_mcp

            cd astra_mcp

添加项目依赖包

     uv add "mcp[cli]" httpx

3. 编写MCP Server脚本

创建MCP并设定监听端口:  

  设定监听8050端口,这样可以让其他设备通过HTTP网络访问该MCP。

定义MCP的工具:

  在定义工具时,务必清晰地注释或描述变量,因为大模型会通过这些信息判断工具的用途及如何传参。

运行脚本的传输类型:

  MCP支持不同的传输类型:

  - `streamable-http`:支持多个客户端访问。

  - `stdio`:仅支持单个客户端访问,适合调试使用。

4. 开启MCP Server

运行脚本:

  uv run main.py

5. 调试与测试

通过HTTP发送指令即可收到回复。推荐使用官方调试工具MCP Inspector。

运行MCP Inspector(这个工具可以在任何环境运行,详情参考官方指导):

  npx @modelcontextprotocol/inspector

连接MCP地址:

  在浏览器中输入MCP地址进行连接。在界面中可以查看当前连接的MCP所包含的工具,并输入参数测试工具的有效性。

至此,一个MCP Server就搭建完成了,但尚未涉及边缘计算和LLM的使用,这部分内容将在下一篇博文中详细介绍,欢迎关注

以上是本期博文的全部内容,如有疑问就在博文下方评论留言,或者联系我们,我们会尽量安排上(o´ω`o)و。谢谢大家浏览,我们下期再见。

FAQ 1:MCP与传统工具调用方式相比有什么不同?

A1:传统方式通常是定制化开发,效率低且兼容性差;而MCP通过统一协议实现标准化,显著提升了开发效率和工具兼容性。

FAQ 2:MCP协议的主要优势是什么?

A2:MCP协议的主要优势在于标准化工具调用接口,提升了兼容性和开发效率,同时支持细粒度权限控制以增强安全性。

FAQ 3:如何确保MCP的安全性?

A3:通过设置访问权限、限制文件目录范围以及监控数据传输,MCP可以有效防止敏感信息泄露。

FAQ 4:MCP是否支持跨平台使用?

A4:是的,MCP协议设计为跨平台兼容,可以在不同操作系统和设备上运行。

FAQ 5:如何扩展MCP的功能?

A5:可以通过定义新的工具并添加到MCP Server中来扩展其功能。

FAQ 6:如何调试MCP Server?

A6:可以使用MCP Inspector工具,通过浏览器连接MCP地址,查看工具列表并测试其功能。

FAQ 7:MCP是否适合大规模应用?

A7:适合。MCP的标准化设计和高兼容性使其能够支持大规模应用场景。

本篇作者-诠鼎集团-Biu~

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值