windows本地部署deepseek(小白详细教程版)
前言
本地安装大模型可以无需联网进行推理操作,提升使用体验,简单业务上可以自行使用,不用担心泄密等问题。
1,使用到的软件以及介绍
-
ollama
Ollama 是一个开源项目,专注于在本地运行大型语言模型(LLMs),尤其是 Meta 的 LLaMA 系列模型。它允许用户在个人计算机上部署和运行这些模型,无需依赖云端服务。
主要特点:
- 本地运行:支持在本地设备上运行大型语言模型,保护隐私。
- 开源:代码公开,用户可自由查看、修改和分发。
- 多平台支持:兼容 macOS、Linux 和 Windows。
- 模型支持:主要支持 Meta 的 LLaMA 模型,未来可能扩展至其他模型。
- 易用性:提供简单接口,便于用户快速上手。
使用场景:
- 隐私保护:适合处理敏感数据,避免上传至云端。
- 研究开发:研究人员和开发者可在本地测试和调整模型。
- 教育学习:学生和爱好者可通过它学习语言模型的工作原理。
-
chatbox
Chatbox 是一款开源的桌面应用程序,主要用于与多种大型语言模型(LLMs)进行交互。它支持 OpenAI 的 GPT 系列、Anthropic 的 Claude 等模型,适合开发者和普通用户使用。
主要特点:
- 多模型支持:兼容deepseek、Anthropic Claude 等多种模型。
- 跨平台:支持 Windows、macOS 和 Linux。
- 用户友好:界面简洁,易于操作。
- 本地运行:部分模型可在本地运行,保护隐私。
- 插件扩展:支持插件,功能可扩展。
使用场景:
-
开发测试:开发者可快速测试和调试语言模型。
-
日常使用:普通用户可用于写作、学习等。
-
隐私保护:本地运行模型,适合处理敏感数据。
2,主要步骤
- 1.安装ollama
- 2.ollama下载deepseek大模型
- 3.chatbox连接ollama并使用对应大模型
3,详细步骤
1.访问ollama官网下载
进入ollama官网https://ollama.com/,点击download选择