qq_57357509的博客

原创 基础第6章

安装完成后再次执行，又出现报错：RuntimeError: Failed to import transformers.pipelines because of the following error (look up to see its traceback): module 'torch' has no attribute 'float8_e4m3fnuz'在终端中运行:export INTERNLM_API_KEY=xxxxxxxxxxxxxxxxxxxxxxx # 填入你申请的 API Key。

原创 基础第5关

y 是 conda create 命令的一个选项，它的作用是在创建虚拟环境的过程中，自动对所有的提示进行确认。训练过程中产生的所有文件，包括日志、配置文件、检查点文件、微调后的模型等，默认保存在work_dirs目录下，我们也可以通过添加--work-dir指定特定的文件保存位置。对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。当我们准备好了所有内容，我们只需要将使用。

原创 基础第四关

正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。1、首先，打开InternStudio界面，因为之前参加课程创建了10%的开发机，这里对它进行升级为30%的开发机。另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重，如外接实时库(RAG)。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，如模型。安装Llamaindex和相关的包，安装python依赖包。

原创 基础关卡-第3关

请遍历“strawberry”这个字符串中的每个字符，写出遍历过程，并统计字符‘r’的出现次数count，count初始值为0，每出现一次count就+1。请在遍历过程中，每次输出count的计数，得出最后结果。

原创 基础第二关

MindSearch开源的 AI 搜索引擎。

原创 L0G4000

上传成功。

原创 L1G1000

数据（书生·万卷）作为起点，经过IntermLM-Train的预训练，使用XTuner进行微调，通过LMDeploy实现部署，通过OpenCompass进行全面评测，最终应用在Lagent构建的多模态智能体中。然而，随着技术的进步和需求的增长，这一格局正在发生深刻的变化。LMDeploy提供了全链路部署的解决方案，包括模型轻量化、推理和服务，使得大模型在GPU上的部署更加高效，性能领先。评测阶段使用OpenCompass工具，全方位评测模型性能，保证了评测结果的复现性，成为全球领先的大模型开源评测体系。

原创 L0G3000

提交成功。

原创 L0G2000

LeetCodepython。

原创 L0G1000运行结果