- 博客(12)
- 收藏
- 关注
RSS订阅原创 书生第四期 - 进阶 -LMDeploy
使用结合W4A16量化与kv cache量化的internlm2_5-1_8b-chat模型封装本地API并与大模型进行一次对话，作业截图需包括显存占用情况与大模型回复，参考4.1 API开发，请注意2.2.3节与4.1节应使用作业版本命令。使用Function call功能让大模型完成一次简单的"加"与"乘"函数调用，作业截图需包括大模型回复的工具调用情况，参考4.2 Function call(选做。执行以下指令（使用量化后的 1.8B 模型）未量化的模型参数 14GB。未量化的模型参数 14GB。
2025-01-12 23:03:41
432
原创 书生第四期 - 进阶 - Lagent
在 /root/agent_camp4/lagent/examples 中新建 multi_agents_api_web_demo.py 代码，执行后展示效果。按esc键退出，:wq保存并退出，重启环境变量。
2025-01-10 15:09:00
308
原创 书生第四期 - 基础 - OpenCompass
文章目录API 模式评测本地模型评测下载数据集查看相关配置进行评测API 模式评测本地模型评测下载数据集查看相关配置进行评测
2025-01-05 14:27:41
107
原创 书生第四期 - 基础 - XTuner 微调个人小助手认知任务
基础任务要求：使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知，记录复现过程并截图。
2025-01-05 11:32:32
218
原创 Linux 离线安装 libreoffice + python 使用示例
（1）执行语句，如果看到类似 libreoffice7.6 或 libreoffice7.6-writer 等包，说明安装成功。（2）安装后的软件会在 /opt/libreoffice7.6 目录下，program下有可执行文件 soffice。如果 ubuntu 版本不高的尽量选择低版本的 libreoffice，如 7.x。（3）手动运行 soffice 文件，如果能输出版本信息，说明正确安装。当然，这个时候可能会遇到下载失败的问题，换个其它版本。缺啥下啥，因此顺便安装其它可能的图形库。
2024-12-31 16:57:48
952
原创 书生第四期 - 基础 - Llamaindex RAG 实践
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 InternLM2-Chat-1.8B 模型不会回答，借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力，截图保存。基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力，截图保存。
2024-12-29 00:34:09
156
原创 书生第四期 - 基础 - LangGPT结构化提示词编写实践
任务要求：利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。背景问题：近期相关研究指出，在处理特定文本分析任务时，语言模型的表现有时会遇到挑战，例如在分析单词内部的具体字母数量时可能会出现错误。
2024-12-23 18:56:03
228
原创 书生第四期 - 基础 - 书生大模型全链路开源体系
相比InternLM2推理性能提升，支持100w token 上下文，结合MindSearch搜索。基于规则的数据构造、基于模型的数据扩充、基于反馈的数据生成（数据标注：Label LLM)写一篇关于书生大模型全链路开源开放体系的笔记。工具 - 基准 - 榜单 三位一体。长上下文，模型的推理能力。数据质量驱动的模型性能。
2024-12-20 22:40:50
617
原创 书生第四期 - 入门 - git&maas
任务内容每位参与者提交一份自我介绍。提交地址：https://github.com/InternLM/Tutorial 的 class 分支～命名格式为 .md，其中 是您的报名问卷UID。文件路径应为 ./icamp4/。【大家可以叫我】内容可以是GitHub 昵称、微信昵称或其他网名。在 GitHub 上创建一个 Pull Request，提供对应的 PR 链接。步骤下载和配置 git开发机已经安装git，用 git --version 验证。配置git：fork 项目。
2024-12-18 18:18:02
250
原创 书生第四期 - 入门 - Linux
使用“ctrl+shift+~”打开vscode终端，看端口。修改ssh的config文件，配置端口。使用本地VSCode进行SSH连接。
2024-11-27 22:08:05
121
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人