- 博客(13)
- 收藏
- 关注
RSS订阅
4原创 第四期书生大模型实战营 基础岛第6课 OpenCompass 评测书生大模型实践
如果你想要评测通过 API 访问的大语言模型 整个过程其实很简单 首先你需要获取模型的 API 密钥（API Key）和接口地址 以 OpenAI 的 GPT 模型为例 你只需要在 OpenAI 官网申请一个 API Key 然后在评测配置文件中设置好这个密钥和相应的模型参数就可以开始评测了 评测过程中 评测框架会自动向模型服务发送测试用例 获取模型的回复并进行打分分析 整个过程你不需要准备任何模型文件 也不用担心本地计算资源是否足够 只要确保网络连接正常即可。
2025-02-07 23:41:21
733
原创 第四期书生大模型实战营 基础岛第5课 XTuner 微调个人小助手认知任务
该命令需要三个参数：CONFIG 表示微调的配置文件， PATH_TO_PTH_MODEL 表示微调的模型权重文件路径，即要转换的模型权重， SAVE_PATH_TO_HF_MODEL 表示转换后的 HuggingFace 格式文件的保存路径。对于全量微调的模型（full）其实是不需要进行整合这一步的 因为全量微调修改的是原模型的权重而非微调一个新的 Adapter 因此是不需要进行模型整合的。脚本来观察微调后的对话效果 不过在运行之前 需要将脚本中的模型路径修改为微调后的模型的路径。
2025-02-06 15:41:32
670
原创 第四期书生大模型实战营 基础岛第4课Llamaindex RAG 实践
检索增强生成 RAG（Retrieval-Augmented Generation）是一种结合了检索和生成的混合型人工智能技术 其工作原理主要分为以下几个阶段RAG技术通过检索增强的方式 弥补了传统生成模型在知识更新和准确性方面的不足 能够生成更准确且上下文更合适的答案。
2025-02-05 15:26:41
870
原创 第四期书生大模型实战营 基础岛第3课 LangGPT结构化提示词编写实践
将不使用系统提示的书生浦语大模型作为 baseline 对比 提交的系统提示词要指导LLM表现出比baseline更高的性能 提供对比截图并加以分析说明即可。任选下面其中1个任务基于LangGPT格式编写提示词 (优秀学员最少编写两组) 使用书生·浦语大模型 进行对话评测。可以看到 模型仅在第一次回答时候就回答正确。再次获得r出现的次数为3的答案。流程安排什么的很不错 非常细致。模型生成的效果还是很不错的。生成内容画面感很强 有代入感。时模型输出r的数量为2。内容有点新意 但不多。
2025-02-03 23:56:19
402
原创 第四期书生大模型实战营 基础岛第2课 玩转书生「多模态对话」与「AI搜索」产品
你是一位stable diffusion的资深使用者 你在使用stable diffusion以及个人经验之中 积累了许多个人审美等方面的自己的见解 请你面对一位正缺少灵感 需要一串stable diffusion提示词用来生成想要的图像 他的要求是。你可以根据网上信息 找出一些增强画风的画师提示词 并且严格按照stable diffusion提示词的格式增添上画师词 5. 请加上一些你认为可以提升画作整体质量的高质量提示词。请你在此基础上结合你审美等方面的经验增加上你的个人见解 要求:1. 务必输出。
2025-01-29 21:27:21
1488
原创 第四期书生大模型实战营 基础岛第1课 全链路开源开放体系
经历了一年以来的努力，书生·浦语已经打通大模型的全链路。从数据的收集整理、数据标注，到模型训练、模型微调、模型评测，再到基于模型的 Agent、RAG、搜索引擎，以及最后AI应用的部署，都得到了实现以及开源。预训练: InternEvo 框架，适用于企业做预训练，迁移学习。部署: LMDeploy 部署工具，性能超越 VLLM。写一篇关于书生大模型全链路开源开放体系的笔记。微调: 微调框架 Xtuner，方便上手。评测: OpenCompass 思南评测。数据: 开源多模态语料库“书生万卷”
2025-01-29 18:44:33
437
原创 第四期书生大模型实战营 入门岛第4课 Hugging Face/魔搭/魔乐篇
现在可以在Hugging Face的个人profile里面看到这个model 也可以直接将下面的Url输入到浏览器网址栏上。创建成功后会自动跳转到一个默认的HTML页面 创建好项目后 回到CodeSpace 接着再clone项目。在创建页面中，输入项目名为intern_cobuild，并选择Static应用进行创建。命令进行登录，这时需要输入刚刚的token (看不见输入) 按Enter后 按y确认。克隆好之后 刷新文件目录可以看到克隆好的intern_study_L0_4文件夹。
2025-01-27 20:45:40
658
原创 第四期书生大模型实战营 入门岛第3课 Git 前置基础
确保提交的标题和之前的命名是相同的 然后点击。创建并维护一个公开的大模型相关项目或笔记仓库。检查分支列表 显示为icamp4 为成功。把原分支的位置转移到lclass分支。然后打开fork好的项目 复制地址。输入指令 推送分支到远程仓库。打开网站进行Fork 把。
2025-01-25 23:49:47
287
原创 第四期书生大模型实战营 入门岛第2课 Python 前置基础
再运行 从终端中可以看到res变量格式有问题。在终端中临时将token加入变量。发现未安装openai模块 通过。的版本号 说明安装和引用成功。首先安装好debugpy。指定安装在envs目录。
2025-01-25 18:56:48
291
原创 第四期书生大模型实战营 入门岛第1课 Linux 基础知识
粘贴SSH登录命令 回车后 选择 Linux 等待输入密码 回车。来查看当前开发机中conda的版本信息。创建hello_world.py文件。打开vscode点开左侧扩展搜索。把密码也Ctrl+V进去 (等待到这个界面代表连接成功。使用vim打开编辑 并粘贴。然后打开本地映射端口窗口。创建好开发机后 在左侧。(windows)中。
2025-01-24 22:45:03
400
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人