- 博客(8)
- 收藏
- 关注
RSS订阅原创 第四期书生大模型实战营-Tutorial 8
Task 1：基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。对使用RAG技术前后大模型能力的对比，首先建立测试文件，将其中的api_key换位自己的，这里提问的问题是“xtuner是什么？首先构建基于CUDA11.7的镜像，步骤基本上与Task 1相同；首先新建开发机，配置30%A100，选择cuda12.2-conda镜像；
2024-12-27 21:58:34
765
原创 第四期书生大模型实战营-Tutorial 7
Task 1: 任务要求：利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证；直接在浦语书生上面去试，果然出错，采用思维链的方式也回答错误；以同样的方法比较科幻小说生成，对比效果；可以看到，故事具体的细节更多，变得更丰满，而且最后多了对故事的寓言性的思考，从个人英雄主义上升到人类价值观；输入同样的问题，生成效果如下，确实效果更好，更符合现实的格式，而不使用提示工程的结果类似于故事描述；这里我选择了公文写作助手以及科幻小说生成；
2024-12-03 21:58:05
1252
原创 第四期书生大模型实战营-Tutorial 6
Task 1：MindSearch的使用体验，提出问题：2024 年诺贝尔物理学奖为何会颁发给人工智能领域的科学家 Geoffrey E. Hinton，这一举动对这两个领域的从业人员会有什么影响？回答可见，其形成了思考链，具有逻辑性，回复专业；Task 4部分的问题：最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节？1. 对于如今的就业情况，博士生毕业后要在就业市场极具竞争力，读博期间应该怎么做？，并且将一个回复的问题发布到知乎；Task 分为四部分：使用。
2024-12-03 18:22:10
260
原创 第四期书生大模型实战营-Tutorial 5
7. 开源体系如下：在数据、预训练、微调、应用、评测、部署都有强大的支撑，我个人比较感兴趣的是看看数据语料库，最重要的是微调、应用（比如使用茴香豆构建自己的专业知识库）和部署方面应用于实际生产应用；11. 对于智能体的构建，提供轻量级Lagent框架（支持多模态）以及MindSearch（模拟人脑的思维路径）；4. 模型的记忆能力非常好，对于给出非常长的参考资料（一本书），定位任何位置背景信息的能力非常好；8.对于传统费时费力的数据标注工作，也有专业的工具支持，其中Label U支持多模态，我更感兴趣；
2024-12-03 17:29:16
737
原创 第四期书生大模型实战营-Tutorial 4
Task 1：模型下载，首先注册一个HuggingFace账号，关联自己的Github用户名，进入Github的codespaces，选择jupyter notebook（新建hf_download_josn.py文件，写入下载模型命令。本次是对HuggingFace平台的操作熟悉，为模型下载；在终端中安装模型要运行的依赖包。
2024-12-02 13:57:52
250
原创 第四期书生大模型实战营-Tutorial 3
Task 1: 提交一份自我介绍到https://github.com/InternLM/Tutorial 的 class 分支；1. 首先登录Github账号，直接folk本次实战营的所有分支，注意不要勾选Copy the camp4 branch only。Task 2: 创建并维护一个公开的大模型相关项目或笔记仓库，新建Repository，可以选择添加readme，以后修改。5.点击Compare & pull request，注意此处要修改base为class还有修改compare，即可完成。
2024-12-01 22:18:36
193
原创 第四期书生大模型实战营-Tutorial 2
Task 1: Leetcode383赎金信问题，给定字符串1和字符串2，判断字符串1是否能由字符串2里的元素构成。解题思路可以尝试映射关系，主要涉及字符串出现以及出现的次数。4. 左上角显示了每一步的变量变化情况（包含res变量），点击continue功能发现31步开始报错，原因如图，造成本bug的原因与LLM的输出有关。Task2: 通过debug功能定位到调用书生浦语API实现将非结构化文本转化成结构化json的例子的报错原因；2. 在代码中res变量这里打断点查看变化。
2024-12-01 19:48:14
253
原创 第四期书生大模型实战营-Tutorial 1
5.下一步使用RAS-keygen进行密钥远程连接，输入ssh-keygen -t rsa，一路回车即可。本次是关于远程连接开发机的部分以及在服务机上跑一下helloworld.py。8.为了完全访问Web UI需要进行端口映射，复制实例上的自定义服务的命令。9.运行开发机，首先pip install gradio==4.29.0。1.首先在安装好的vscode的扩展界面安装SSH插件。3.选择SSH连接并且直接复制登录命令和密码，分别输入。2.安装好了之后进入书生的开发机界面并创建开发机。
2024-11-20 11:17:11
202
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人