windows本地部署deepseek(小白详细教程版)

windows本地部署deepseek(小白详细教程版)

前言

​ 本地安装大模型可以无需联网进行推理操作,提升使用体验,简单业务上可以自行使用,不用担心泄密等问题。

1,使用到的软件以及介绍

  • ollama

    Ollama 是一个开源项目,专注于在本地运行大型语言模型(LLMs),尤其是 Meta 的 LLaMA 系列模型。它允许用户在个人计算机上部署和运行这些模型,无需依赖云端服务。

    主要特点:

    1. 本地运行:支持在本地设备上运行大型语言模型,保护隐私。
    2. 开源:代码公开,用户可自由查看、修改和分发。
    3. 多平台支持:兼容 macOS、Linux 和 Windows。
    4. 模型支持:主要支持 Meta 的 LLaMA 模型,未来可能扩展至其他模型。
    5. 易用性:提供简单接口,便于用户快速上手。

    使用场景:

    • 隐私保护:适合处理敏感数据,避免上传至云端。
    • 研究开发:研究人员和开发者可在本地测试和调整模型。
    • 教育学习:学生和爱好者可通过它学习语言模型的工作原理。
  • chatbox

    Chatbox 是一款开源的桌面应用程序,主要用于与多种大型语言模型(LLMs)进行交互。它支持 OpenAI 的 GPT 系列、Anthropic 的 Claude 等模型,适合开发者和普通用户使用。

    主要特点:

    1. 多模型支持:兼容deepseek、Anthropic Claude 等多种模型。
    2. 跨平台:支持 Windows、macOS 和 Linux。
    3. 用户友好:界面简洁,易于操作。
    4. 本地运行:部分模型可在本地运行,保护隐私。
    5. 插件扩展:支持插件,功能可扩展。

    使用场景:

    • 开发测试:开发者可快速测试和调试语言模型。

    • 日常使用:普通用户可用于写作、学习等。

    • 隐私保护:本地运行模型,适合处理敏感数据。

2,主要步骤

  • 1.安装ollama
  • 2.ollama下载deepseek大模型
  • 3.chatbox连接ollama并使用对应大模型

3,详细步骤

1.访问ollama官网下载

进入ollama官网https://ollama.com/,点击download选择

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值