书生浦语大模型实战营-课程笔记（6）

最新推荐文章于 2026-01-02 12:27:30 发布
原创 最新推荐文章于 2026-01-02 12:27:30 发布 · 516 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记

本文探讨了模型评测在考虑社会风险方面的独特应用，提及了Opencompass流程，并提及了飞书中的状态上报功能作为可能的实践案例。

在这里插入图片描述
模型评测的意义与方式。有点类似论文里大家用来比较性能的公开数据集
在这里插入图片描述
评测用于减少社会风险这个角度确实没想到过，学到了
在这里插入图片描述
opencompass的整体流程。这个飞书状态上报功能后续可以试试

dooooos
关注
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 2271
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生浦语大模型实战营-课程笔记（3）
dooooos的修炼之地
02-15 671
区别在于生成了这个prompt，猜测是用数据库里最接近的向量来辅助模型找出答案。涉及了文本相似度匹配，是不是和传统的问答系统（直接匹配数据库）有点类似？本节课主要是跟着教程做的，操作的东西放到作业里记录了。RAG=外挂知识库？优点是成本低，不用重新训练。langchain的介绍，用来构建LLM应用。这里主要记录一些视频里讲的非操作性的东西。RAG的一个整体流程。
书生浦语大模型实战营-课程笔记（5）
dooooos的修炼之地
02-20 592
移动端竟然也可以部署LLM。之前以为只能在服务端部署，移动端作为客户端发起请求来调用大模型。LLM部署特点，内存开销大，TOKEN数量不确定。LMDeploy用于模型量化。量化主要作用：降低现存开销。模型量化：降低内存消耗。
书生浦语大模型实战营-课程笔记（4）
dooooos的修炼之地
02-17 604
2.训练时数据为一问一答的形式（input和output）微调分为两种，增量预训练和指令跟随。只需要output的数据进行训练。操作部分的笔记参考git上的文档。1.只对答案计算Loss。xtuner:微调框架。
书生·浦语大模型实战营-学习笔记6
qq_37397652的博客
01-24 644
可以基于正则表达式的方式，提取模型的回答，只要在模型的回答中提取到北京这个关键词，就认为模型在客观上答对了这道题。就可以去统计所有题目在客观上的准确率，这样是客观评测的方式。 另一种对模型进行评测的方式：可以使用Prompt Enginnering方法测试模型对Prompt的敏感性。同一个问题有多种问法，有多种Prompt的表达方式，预期模型在这5种问题下的回答都是一样的，都能答对。如果只是简单的换了一种Prompt的问法，模型就答错了的话，说明模型的鲁棒性很差。 https://github
书生浦语大模型实战营-课程作业（6）
dooooos的修炼之地
02-20 542
这次作业比较简单，用现成的模型和测试集跑一下推理就行了。主要熟悉一下OpenCompass用于评测模型性能。
书生浦语大模型实战营-课程作业（5）
dooooos的修炼之地
02-20 521
之前作业里尝试过web_demo的部署方式了，这次直接简单点用了命令行本地对话。
书生浦语大模型实战营-课程作业（3）
dooooos的修炼之地
02-15 676
不知道为啥我这里是白色的，看视频是黑色的。但猜测应该是gradio框架设置的问题，导致前端显示不太一样，反正不影响模型，问题不大。下载sentence_transformer的代码运行情况。sentence_transformer用于embedding（转向量）本地构建持久化向量数据库。就是把txt和md文件抽取出纯文本，分割成定长（500）后转换成向量，保存到本地，称为知识库构建。把InternLM 接入 LangChain，然后构建检索问答链。最后用Gradio做成一个网页的demo。
书生浦语大模型实战营-课程作业（4）
dooooos的修炼之地
02-18 534
作业教程里的文件路径好像有点小问题，遇到了点坑。
书生浦语大模型实战营-课程作业（2）
dooooos的修炼之地
02-14 494
hugging face下载模型（过年在家实在没电脑用，只好用开发机了抱歉。生成了一个DOTA2的小故事。玩黑鸟使人目光呆滞.jpg。
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
精选资源
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
Java Collection 集合体系核心笔记
2401_87932709的博客
12-29 1038
一、前言Java 集合框架分为两大平行体系，`Collection` 体系是**单列集合的顶层核心**，专门用于存储单个独立的对象元素，解决了数组长度固定、功能单一的局限性。它定义了所有单列集合的通用行为规范，为后续 `List`、`Set` 等子接口提供了统一的方法模板，是日常开发中处理批量零散数据的基础，所有核心类和接口均位于 `java.util` 包中。 二、Collection 接口的核心定位与特征 1. 核心定位 `java.util.Collection` 是所有单列集合的**顶层父接口**，
快慢双指针算法笔记
enthan809882的博客
12-29 159
快慢双指针算法笔记
Android C++ 学习笔记 2
zhuguanlin121的博客
12-28 854
template.cpp template2.cpp exception.cpp exception2.cpp exception3.cpp exception4.cpp exception5.cpp exception6.cpp exception7.cpp exception8.cpp 19th_smartpointer person.cpp person2.cpp person3.cpp person4.cpp person5.cpp person6.cpp person7.cpp person8.c
小迪安全笔记_第4天|扩展&整理|30+种加密编码进制全解析：特点、用处与实战识别指南|小迪安全笔记|网络安全|
weixin_45635831的博客
12-30 1051
"32位MD5/NTLM，40位SHA1，64位SHA256；Base64带=，URL带%，Hex无符号，JSFuck全符号！"MD5存密码？漏洞在手！Base64当加密？直接解码走！NTLM看ccef，SHA256更安全！
第一章_UINX基础知识_《UNIX 环境高级编程（第三版）》_笔记
C/C++
12-28 873
apue.h：书中自定义头文件，封装了<unistd.h>（系统调用头文件）、<stdio.h>等标准头文件，还定义了err_sys等错误处理函数（避免重复写perror：关键优化点！多数UNIX文件系统的磁盘块大小是4096字节，设置缓冲区为该值可减少readwrite的调用次数（系统调用需切换用户态→内核态，成本高）。若设为1字节，会触发百万次系统调用，效率极低。核心难点：理解“无缓冲I/O”的本质——每次readwrite都直接调用内核，缓冲区由用户手动管理。
ue c++ websocket 音频实时传输实战笔记
最新发布
jacke121的专栏
01-02 29
ue c++ websocket 库实战笔记
markdown笔记分享
2401_87316040的博客
12-27 143
|：-|：-：|“左对齐和居中对齐，原生markdown无合并单元格功能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值