Ollama + Page Assist 本地部署一个可以联网搜索的大模型

部署运行你感兴趣的模型镜像

Ollama + Page Assist 本地部署一个可以联网搜索的大模型

Ollama安装

官网:https://ollama.com/

1.点击下载安装ollama。
ollama官网页面
2.随便选一个你的设备能带动的模型,我是1050ti,所以只能选小大模型。我这里选择的是gemma3:1b这个模型。然后在电脑的终端(或者cmd)输入命令ollama run gemma3:1b,直接下载并且开始运行。
选择模型
3.下载embedding模型。选一个热门的就行,例如这里的nomic-embed-text。
embedding模型
4.下载Page Assist的浏览器插件。Edge可以用扩展商店直接下载,或者你下载crx文件也行。
GitHub:https://github.com/n4ze3m/page-assist

5.设置Page Assist的设置,以支持联网搜索和RAG检索增强搜索。
搜索引擎选择Baidu,Google和DuckDuckGO需要魔法,bing需要账号,比较复杂。(这个设置的位置在“一般设置”中)
网络搜索管理
6.设置RAG。文本嵌入模型选择之前下载的那个模型。其他的可以不动。
在这里插入图片描述
7.然后就可以测试一下,是否成功联网。例如问今天是几号。在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值