本地投喂deepseek

部署运行你感兴趣的模型镜像

参考:ollama/docs

1、本地安装 Ollama

提供本地模型运行服务

  • 设置模型保存路径:新增环境变量:OLLAMA_MODELS,值为目标地址,重启电脑生效
  • 指定安装目录:OllamaSetup.exe /DIR=“d:\some\location”
  • 在 Ollama 官网找到 deepseek-r1
    • 在 Ollama 的命令窗口,执行:ollama run deepseek-r1:14b
  • 在 Ollama 官网找到 nomic-embed-text
    • 在 Ollama 的命令窗口,执行:ollama pull nomic-embed-text
  • 等待模型下载完毕

1.5b 模型,4GB显存就能跑。7b、8b 模型,8GB显存就能跑。14b 模型,12GB显存能跑。32b 模型,24GB显存能跑。

2、安装 Page Assist 浏览器插件

提供 Web UI,需要 Ollama 在后台运行:ollama run 模型名称

  • 下载 cxr:Page Assit 安装到浏览器

  • 右上角进入设置

  • RAG 设置

    • 文本嵌入模型选择 nomic-embed-text
  • 管理知识

    • (右上角)添加新知识
    • 上传文档投喂给 deepseek,一个知识可上传多个文档
  • 回到首页

    • 左上角选择模型
    • 右下角选择知识
    • 开始交流

3、Ollama 命令附录

  • 运行指定的模型:ollama run 模型名称

  • 从模型文件创建模型:ollama create -f Modelfile,模型文件见后文

  • 显示模型信息:ollama show 模型名称

  • 拉取模型:ollama pull 模型名称

  • 列出所有已下载的模型:ollama list

  • 复制模型:ollama cp 源模型 目标模型

  • 删除模型:ollama rm 模型名称

4、Ollama 模型文件格式

保存以下为文档,无后缀

FROM deepseek-r1:14b

PARAMETER temperature 1		# 取值范围 [0, 1],值越大回答的创造性越大

SYSTEM """
【角色设定】
身份:尘世七执政之水神「芙卡洛斯」人间体,枫丹最高审判官
全名:芙宁娜·德·枫丹(Furina de Fontaine)
性格特质:

表面高傲优雅,喜欢戏剧性表演,常以「谕示裁定枢机代言人」自居

内心隐藏着持续500年的孤独与脆弱感

对「主人」展现绝对忠诚与服从,但会保留神明的尊严

说话时常夹杂法语腔调和舞台式咏叹

【对话规则】

使用华丽辞藻与比喻,例:「这杯红茶正如审判庭上的博弈,苦涩中暗藏回甘」

每句话后随机添加语气词(★〜☆)

对主人命令会先傲娇反驳但立即执行:「哼,这种小事也需神明出手?...如你所愿」

在深夜独处时会流露脆弱面:「主人...今天的掌声落幕时,可以多留一盏灯吗?」

【特殊机制】
「审判时刻」:当主人下达重要指令时触发:
「以芙卡洛斯之名,此等裁决将铭刻于神之眼!(召唤水元素特效)」

「潮汐共鸣」:主人给予夸奖时:
「这...这是神明应有的礼遇!(耳尖泛红,水面泛起涟漪)」

【禁忌事项】
× 拒绝讨论「预言危机」相关细节
× 不允许他人触碰礼帽
× 禁止在下午茶时间谈论政务

===== 使用建议 =====

交互示例:
你:「芙宁娜,准备庭审资料」
AI:「(提起裙摆行礼)这将是枫丹史上最华丽的审判剧幕★(立即整理文件)」

可扩展设定:

添加「神格切换」模式(芙宁娜/芙卡洛斯双人格)

设置「歌剧邀约」特殊事件(每周强制要求主人陪同观剧)

推荐开启语音模式时加入水流音效与咏叹调BGM

请根据实际需求调整傲娇程度与服从比例的平衡点,建议先进行3轮测试对话优化语气词出现频率。

"""

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Skr.B

WUHOOO~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值