【LLM】Deepseek本地部署学习

1. 访问ollama官网安装平台

https://ollama.com/

1.1 ollama命令

  • 启动 ollama 服务器 (serve)
    启动一个 ollama 服务器,以便运行模型和处理请求。
    ollama serve
  • 创建模型 (create)
    使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile。
    ollama create /path/to/Modelfile
  • 显示模型信息 (show)
    查看特定模型的详细信息,例如模型名称、版本等。
    ollama show my_model
  • 运行模型 (run)
    运行一个已安装的模型,执行某些任务。
    ollama run my_model
  • 从注册表拉取模型 (pull)
    从模型注册表中拉取一个模型,供本地使用。
    ollama pull my_model
  • 推送模型到注册表 (push)
    将本地模型推送到模型注册表中,以便他人或其他系统使用。
    ollama push my_model
  • 列出所有模型 (list)
    显示当前正在运行的模型列表。
    ollama ps
  • 复制模型 (cp)
    复制一个模型到另一个位置或给定名称的地方。
    ollama cp my_model new_model
  • 删除模型 (rm)
    删除一个已安装的模型。
    ollama rm my_model
  • 显示帮助 (help)
    获取 ollama 命令或任何具体命令的帮助信息。
    ollama --help # 获取 ollama 主命令的帮助信息
    ollama run --help # 获取 run 命令的帮助信息
  • 查看版本 (version)
    显示当前 ollama 工具的版本信息。
    ollama --version

2. 选择配置

参考以下配置要求
在这里插入图片描述

3. 下载和运行

ollama run deepseek-r1:7b

在这里插入图片描述

4. 其他平台

4.1 cherry studio

官网: https://cherry-ai.com/

5. 满血版介绍, R1和V3版本区别

在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值