Deepseek的效果太好了,以至于每天2000万的用户在请求,这给服务器带来了超负荷的压力,经常是这样的情况,有时候又很想用,那今天就给大家找一下国内部署的全量模型替代方案。
方案1:硅基流动的全量模型图中这两个671B的模型就是全量推理模型,普通问题效果还行,不足之处是最大tokens吞吐做了限制,一般的提问够用了,不足在于代码编程受限于tokens最大8192,不能完全一次输出,也有api调用同样受限于8192大小。
硅基流动登录链接:https://cloud.siliconflow.cn/i/8LRUWYcY 目前可以免费在线使用,也有api调用.
方案2:秘塔搜索的R1增强开启R1长思考,然后提问就可以,免费使用,强在搜索,但编程有一点牺牲性能。