- 博客(15)
- 收藏
- 关注
原创 deepseek篇004--Windows搭建Docker+Open-WebUI部署本地模型后=实现局域网连接=
这篇的基础是deepseek篇002–Windows搭建Docker+Open-WebUI部署本地模型。
2025-02-27 18:56:02
455
原创 deepseek篇003--Windows中使用ollama+Page Assist - 本地 AI 模型的 Web UI 搭建模型
本文使用浏览器插件,实现使用已有的本地大模型 构建webui界面。
2025-02-27 10:14:45
414
原创 deepseek篇002.2--Windows搭建Docker+Open-WebUI部署本地模型中可能出现的问题
在上一篇部署中,如果出现了webui界面正常打开,但是找不到本地有大模型。更改 openui设置,使其ollama端口指向当前ip。更改ollama的api连接地址,修改为。刷新界面,等待一会儿。
2025-02-27 09:24:30
342
原创 deepseek篇002--Windows搭建Docker+Open-WebUI部署本地模型
返回版本则安装成功在软件内修改镜像(images)以及容器(container)的下载位置进入后点击跳过,不进行登录设置更改二、部署Open-WebUI进入cmd,使用下面这个命令进行拉取,将http://192.168.1.6:8080修改为你自己电脑的ipv4的地址和之前自定义的端口号,不能用环回地址127.0.0.1:8080,否则后面会识别不到本地的大模型参数解释安装完成2. 添加环境变量,确保ui界面可以访问到模型配置 Open-WebUI现在,我
2025-02-24 16:16:23
1269
原创 deepseek篇001--windown环境下的本地部署
此时我们会看到下拉框中有各个版本的大模型,越往后对电脑硬件的要求越高。到此,DeepSeek R1的部署就告一段落。注
2025-02-23 09:59:25
1317
原创 书生浦语第四期--基础岛-第六关
文章目录使用opencompass进行模型评价配置KEY环境变量以及API模型接口、配置数据集进行评测开始评测测评结束使用opencompass进行模型评价配置KEY环境变量以及API模型接口、配置数据集进行评测开始评测测评结束
2024-12-18 11:02:21
200
原创 书生浦语第四期--基础岛-第五关
学习使用Xtuner微调大模型开始微调检查hf文件夹–权重转换检查meraged文件夹–模型合并启用WebUI 对话查看效果
2024-12-17 23:41:31
114
原创 书生浦语第四期--基础岛-第四关
这里写自定义目录标题Llamaindex RAG 实践问题:未使用RAG的回答:使用RAG后的回答:Llamaindex RAG 实践问题:未使用RAG的回答:使用RAG后的回答:
2024-12-15 12:29:34
135
原创 书生浦语第四期--基础岛-第三关
基础任务:提示词工程未用提示词效果:使用提示词效果Context (背景): 提供任务背景信息Objective (目标): 定义需要LLM执行的任务Style (风格): 指定希望LLM具备的写作风格Tone (语气): 设定LLM回复的情感基调Audience (观众): 表明回复的对象Response (回复): 提供回复格式设置:CONTEXT你是一名语言学专家,擅长统计单词中特定字母的出现次数。########OBJECTIVE你需要统计单词中某个字母的出
2024-12-15 10:38:48
443
原创 书生浦语第四期--基础岛--第一关-书生大模型全链路开源开放体系
进入2024年,1月7日,InterLM2模型开源,其性能在同量级开源模型中脱颖而出,展现了强劲的竞争力。到了7月4日,InterLM2.5正式开源,其中 InterLM2.5-20B-chat 模型表现尤为突出,与当时业界领先的 GPT-4(20240409)模型在多项评测中旗鼓相当,充分展示了浦语系列在大模型领域的持续创新。同时,这套工具链还提供丰富的可扩展接口和详细的文档,方便开发者快速上手和深度定制,极大地提升了模型开发的效率与可用性,为科研和工业界的各类大模型项目提供了有力支持。
2024-12-15 09:47:57
1809
原创 书生浦语第四期--入门岛--第二关
json\n{\n “model_name”: “书生浦语InternLM2.5”,\n “development_institution”: “上海人工智能实验室”,\n “parameter_versions”: [“1.8B”, “7B”, “20B”],\n “context_length”: “1M”\n}\n’可能出现错误的原因:json.loads()解析一个格式错误的JSON 字符串,res的内容被包裹在了一个 Markdown 格式的代码块标记。
2024-12-14 18:34:11
172
原创 书生浦语第四期--入门岛-第一关
书生浦语第四期--入门岛-第一关闯关任务SSH连接:端口映射:可选任务任务一:linux命令熟悉任务二:创建虚拟环境闯关任务SSH连接:端口映射:可选任务任务一:linux命令熟悉任务二:创建虚拟环境
2024-12-14 14:09:51
105
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人