- 博客(12)
- 收藏
- 关注
RSS订阅原创 【书生实战营】L1G6-OpenCompass 评测书生大模型实践
修改opencompass/opencompass/datasets/lveval/evaluators.py，opencompass/opencompass/datasets/longbench/evaluators.py。将 from rouge 修改为。
2024-12-02 17:25:03
276
原创 【书生实战营】L1G5-XTuner 微调实践微调
XTuner 是一个高效、灵活的 LLM 微调工具支持在几乎所有 GPU 上进行大语言模型（LLM）、视觉语言模型（VLM）的预训练 / 微调。XTuner 能够在单个 8GB GPU 上对 7B 参数的大语言模型进行微调，也能对超过 70B 参数的模型进行多节点微调。自动调度诸如 FlashAttention 和 Triton 内核等高性能算子以提高训练吞吐量。支持持续预训练、指令微调以及智能体微调。
2024-11-29 14:19:33
344
原创 【书生实战营】L1G4-Llamaindex RAG 实践
LLM 会出现幻觉的现象，对于模型没有学习过的内容，大模型也会一本正经的“胡说”。为了解决这个问题，2020 年 Meta 在 RAG 的概念，Retrival-Argumentation-Generation，提取-增强-生成。基本步骤是：首先构建知识向量库，例如文档类型的知识，对文本进行分块然后提取特征向量并存入向量库；对于用户输入的问题，首先从知识库中提取最相关的知识；讲检索到的知识和用户的原始输入一起喂入 LLM，生成最终的回答。
2024-11-28 15:53:33
400
原创 【书生实战营】L1G2-玩转书生「多模态对话」与「AI搜索」产品
书生·万象，InternVL 开源的视觉语言模型官方的对话产品。书生·浦语，InternLM 开源模型官方的对话类产品。MindSearch，开源的 AI 搜索引擎。
2024-11-18 11:19:21
235
原创 【书生实战营】L1G1-书生大模型全链路开源体系
AgentLego：用于扩展和增强基于大语言模型的代理的多功能工具 API 库，与 Lagent、Langchain 等兼容。InternLM-XComposer：一个基于 InternLM 的视觉语言大模型（VLLM），用于高级文本图像理解和合成。XTuner：用于高效微调大语言模型的工具包，支持各种模型和微调算法。Lagent：允许用户高效构建基于大语言模型的代理的轻量级框架。InternLM-Math：最先进的双语数学推理大语言模型。LMDeploy：用于压缩、部署和服务大语言模型的工具包。
2024-11-18 11:17:38
139
原创 【书生实战营】L0G4-玩转HF社区
这里使用 Github ModelSpace 作为下载环境。选择 jupyter template:我们需要从 hg 中下载 internlm2 模型：创建 hf_download_json.py 文件，用于配置需要下载的文件、存放的目录。
2024-11-18 09:55:34
196
原创 【书生实战营】L0G3-Git 前置基础
在本机上使用 git 拉取 fork 的项目并新建一个分支，之后我们在新建的这个分支上提交自己的自我介绍文件。在 Tutorial 项目中 fork 到自己仓库。在 github 中创建一个 pr。
2024-11-15 17:42:47
272
1
原创 【书生实战营】L0G2-Python基础
），导致转成 json 时发生错误，于是在代码中对 res 串处理，去掉前后部分即可。以下时调试后代码的正常输出结果。需要 debug 的文件是使用 openai 库调用书生 api，首先申请一个 api。在 vscode 中选择 debug 菜单并配置json 文件。通过调试发现，是因为 res 字符串的前后有多余的字符（“
2024-11-15 16:48:24
227
原创 【书生实战营】L0G1-Linux基础
创建开发机并选择资源配置，这里选择 10% A100 即可。这里的开发机相当于创建一个 docker 容器。创建开发机需要等待容器启动。点击“进入开发机”可以在浏览器中连接开发机。网页中提供了三种开发方式（JupyterLab、终端、VSCode），通过点击左上角不同图标可以切换。在终端中，输入nvidia-smi。
2024-11-15 11:20:41
153
原创 leetcode-两数相加
题目描述给出两个 非空 的链表用来表示两个非负的整数。其中，它们各自的位数是按照 逆序 的方式存储的，并且它们的每个节点只能存储 一位 数字。如果，我们将这两个数相加起来，则会返回一个新的链表来表示它们的和。您可以假设除了数字 0 之外，这两个数都不会以 0 开头。输入：(2 -> 4 -> 3) + (5 -> 6 -> 4)输出：7 -> 0 -> 8原因：342 + 465 = 807来源：力扣（LeetCode）链接：https://leetco
2020-11-01 22:20:14
145
原创 POJ3087Shuffle‘m Up
https://blog.youkuaiyun.com/lyy289065406/article/details/6645450问题描述两个相同长度的串，s1和s2，以及目标串s12。经过洗牌构成一新串重复多次直到出现s12输出洗牌次数，若无法形成s12，输出-1.源码...
2019-10-08 21:06:36
176
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人