- 博客(21)
- 收藏
- 关注
RSS订阅原创 书生第四期作业：L0G3000 任务作业 + 解决令牌问题
push的时候发现：用密码无法登录github授权失败解决办法：GitHub 已经不再支持使用用户名和密码进行身份验证。你需要使用个人访问令牌（PAT）来替代密码。创建个人访问令牌（PAT）：使用个人访问令牌：https://github.com/AlexaOscar/Mynotes
2024-10-26 20:51:18
203
原创 茴香豆：知识问答助手作业 + 上传自己的文档
FastGPT、Dify、Qanyhting都试过，个人感觉RAGflow效果更好，希望帮你少走弯路。想构建自己的本地RAG知识库，建议试试RAGFlow，docker构建方便，定制选项很多，效果可见。看到公众号上很多文章推AnythingLLM，不推荐，看上去搭建很快，回答效果差的无法接受。方便起见，我就把原来repodir下的文件 和workdir下数据库的两个文件夹都清空了。这个问题回答效果不好，可能和pdf格式有关，也可能和分块大小有关。第一个问题：什么是大模型增强知识图谱？再启动后端命令行测试。
2024-08-26 15:02:30
563
原创 MindSearch HuggingFace部署 + 小白详细步骤
尤其教程最后一步一句话：将 /root/mindsearch/mindsearch_deploy 目录下的文件（使用 git）提交到 HuggingFace Space 即可完成部署。借着github的codespaces窗口里继续写，按教程创建复制好文件，mindsearch_deploy文件夹下创建app.py。去setting设置access token，创建一个新的，记下name，创建复制好那一串密钥到别处备用。老样子，右边不出字，我之前就这样，不纠结了。按教程即可，中间有个小技巧解决。
2024-08-24 11:41:45
769
原创 LMDeploy W4A16+KV量化 、Function Call
W4A16的意思是：权重（weight）量化为4位整数（int4），激活（Activate）保持在16位浮点数（例如FP16或BF16）。量化使用的是AWQ算法，所以命令会看到awq。运行加 乘的python。重新部署7B的模型API。同前一步，API已OK。
2024-08-15 21:03:32
525
原创 MindSearch 部署作业/ 报错修复
以上这几步与教程完成相同，不复制粘贴了。按教程尝试了很多遍，一直以为是自己卡了。能将我的提问按逻辑拆解，进行搜索，打开localhost:7860。启动前端，端口映射8002。启动后端，端口映射7860。感觉本地部署还有提升空间。
2024-08-12 17:51:48
359
原创 XTuner 作业
这里/root/InternLM/Tutorial/tools/跑了20多分钟，如果用30%显卡，调配置应该可以时间短点。运行py脚本后，生成了一个json数据文件。我喜欢问“你是谁”，所以加了一条。看到hf文件夹内容，有bin文件。多了一个merged文件夹内容。AI回答自己是“汪星人”的助手。命名为“汪星人”的小助手。重新打开8501端口网页。注意py文件的地址，在。
2024-08-09 10:52:48
210
原创 graphrag+ollama的两个“坑”与解决办法
根据官方的步骤，修改setting到ollama本地，会出现如下两个常见问题：找起来很费时间 ，分享给大家希望有帮助。
2024-08-08 18:25:51
2196
3
原创 13.8和13.11哪个大？InternLM2-chat-1.8b
在数学中，13.8 和 13.11 都是小数，它们的大小取决于它们所代表的数字。13.8 表示一个非常接近 13 的数，而 13.11 表示一个非常接近 13 的数，但比 13.8 小。例如，13.8 表示一个非常接近 13 的数，而 13.11 表示一个非常接近 13 的数，但比 13.8 小。因此，我们可以得出结论，13.8 比 13.11 更大。你是一个数学计算大师，在数学领域，13.8 和13.11 哪个数字更大？你是一个数学计算大师，在数学领域，13.8 和13.11 哪个数字更大？
2024-08-08 11:59:10
644
原创 关于书生LLM的全链路开源开放体系
有兴趣的同学可以自行搜索。作为小白，通过学习书生浦语大模型，不仅让我对整个书生大模型的开源体系有了解，配套的工具链也让我对AI学习有了感性+理想的认识，因为我一直想找个相对完整的技术栈和对应工具来理解AI。书生浦语大语言模型的全链路开源开放体系是由上海人工智能实验室开发的一系列开源软件和数据集，旨在推动大模型技术的研究和应用。这个体系包括数据集、预训练模型、微调工具、部署框架、评测平台和应用开发工具等组成部分，形成了一个完整的大模型研发和应用生态。
2024-08-08 06:20:53
856
原创 书生闯关_第1~3关
--------------------------------- 欢迎使用 InternStudio 开发机 ------------------------------| 目录 | 名称 | 简介 || / | 系统目录 | 每次停止开发机会将其恢复至系统（镜像）初始状态。不建议存储数据。
2024-08-03 20:47:44
1573
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人