作为一个整天在 AI 圈子里摸爬滚打的开发者,我前几天在 EdgeOne Pages 平台上意外发现了个新玩意——DeepSeek R1 边缘 AI 模板。强大的 DeepSeek R1 模型可以直接在边缘节点跑?不用受制于传统云服务的各种限制?
什么是边缘 AI?
简单粗暴点说,边缘 AI 就是把 AI 的计算能力从遥远的云端拉到你身边。简单来说,你的 AI 小助手不是在云端转圈圈,而是直接部署在你家门口待命,响应速度直接起飞,这就是边缘 AI 的牛逼之处。对于开发者来说,这意味着可以搞出响应更快、体验更好的 AI 应用。
模板实测:有惊喜也有失望
选择“DeepSeek-R1 for Edge”模板,点击开始部署,整个过程应该不到两分钟,就能上线一个类似 DeepSeek 官网那样的 AI 对话应用,效率确实不错。
功能上,能展示思考过程,还能联网,没有感觉到明显变弱智。不过有点问题,聊天记录没法保存,页面一关历史对话全没了,体验上还有点粗糙,希望以后能优化下。
意外之喜:隐藏的 API 宝藏
刚开始以为这只是一个普通的 AI 聊天应用,然后无意中发现这个模板竟然还支持 OpenAI API 的标准接口,这它意味着更多的可能性。
目前市面上的 API 服务要么响应慢,要么不稳定,更多的还要收费。而通过 Pages 的这个模板部署出来的 API 不仅响应快速,实测也还算稳定(至少没见过转圈转不出来的情况),关键目前还是免费的,很多个人开发者还是有需求的。
先拿国内比较火的 Cherry Studio 测试,在设置里面任意挑一个模型服务(如硅基流动),API 密钥可随意填写,然后在 API 地址填写模板部署后的域名,建议添加自己的域名,规避 Pages 的 xxx.edgeone.site 有三个小时有效期的问题。
回到聊天界面,选择刚刚配置的模型,就可以愉快的聊天了,响应速度不错。
另外一款海外用的比较多的 ChatWise,操作流程大同小异,直接参考下图:
通过两款第三方工具的接入试用,结果令人惊喜,API 调用顺畅, AI 响应迅速。
更多期待
能兼容 OpenAI 标准接口,无缝集成到第三方工具,其实带来了非常大的可能性。有很多之前只萌生过想法的应用场景似乎可以逐步落地了:
- 为我的个人博客添加一个智能问答助手
- 开发一个基于我专业领域的 AI 顾问
- 创建一个实时新闻摘要器
- 设计一个智能写作辅助工具
写在最后
其实,边缘 AI 在国外早就不是啥稀罕货。比如 Cloudflare 的 Workers AI,已经上线好一阵子了,一直在探索边缘 AI 的各种玩法。而国内平台像 EdgeOne,终于也跟上了脚步,在 Pages 推出了这个 DeepSeek R1 模板。
对我来说,这模板的魅力就在于“低成本高回报”。不掏钱是最大的魅力,折腾点小项目,能省则省。