2024年1月20日晚,中国DeepSeek发布了最新推理模型DeepSeek-R1,引发广泛关注。这款模型不仅在性能上与OpenAI的GPT-4相媲美,更以开源和创新训练方法,为AI发展带来了新的可能性。
DeepSeek R1 系列模型包括多个版本,适合不同场景和硬件配置:
满血版 DeepSeek-R1:参数高达 671B,需专业服务器支持,适合高性能计算场景4。
蒸馏版 DeepSeek-R1:参数从 1.5B 到 70B 不等,适合普通用户和开发者使用,显存需求较低45。
量化版:通过模型压缩技术,进一步降低显存需求,适合家用电脑和移动设备68。
本文讲解如何在本地部署deepseek r1模型。deepseek官网https://chat.deepseek.com
1.安装ollama
下载对应版本即可
官网:https://ollama.com
windows直接下载包安装即可
linux运行脚本:curl -fsSL https://ollama.com/install.sh | sh
2.安装deepseek
在终端中执行以下指令
ollama run DeepSeek-R1
3.界面搭建