注意事项
建议使用 NVIDIA 卡,体验会好不少,AMD 显卡未做测试,但应该也是能跑的
欢迎各位在本文档评论区反馈各自运行情况,这样可以帮到更多人
LM Studio
官网下载:https://lmstudio.ai/
模型列表
请选择文件体积小于自己显存大小的模型,略大一些的虽然也能跑,但是速度会慢很多。因个人能力有限,以下模型推荐不一定是最好的
更多模型下载
链接1:https://www.modelscope.cn/organization/lmstudio-community
记得用搜索功能搜索 DeepSeek 相关模型
链接2:https://www.modelscope.cn/collections/DeepSeek-R1-Distill-GGUF-eec5fee2f2ee42
相比链接1会多一点不同量化精度的模型
显存大小 |
推荐模型 |
---|---|
32GB |
|
24GB |