好名字的blog-优快云博客

原创 Win 平台安装FFmpeg

下载链接：https://www.ffmpeg.org/download.html#releases。3.将bin路径加入到系统环境变量中即可。1.下载后,移到自己想要安装的路径解压。2.切入到解压后的bin目录下。

2024-12-22 14:15:02 292

原创 docker拉取镜像失败的解决方法

通过docker info查看配置文件。然后重启docker。

2024-12-12 23:15:07 3246

原创书生实战训练营-基础岛：OpenCompass 评测 InternLM-1.8B 实践

OpenCompass2.0，又称“司南”，是由上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系。其主要是用于为大语言模型、多模态模型等提供一站式评测服务。其主要特点如下：开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。

2024-09-24 22:20:49 572

原创书生实战训练营基础岛-书生大模型全链路开源体系

2023年6月7日InternLM千亿参数语言大模型发布。2023年7月6日，InternLM千亿参数大模型全面升级，支持8K语境、26种语言，并全面开源，免费商用。2023年8月14日，书生万卷1.0多模态预训练语料库开源发布。2023年8月21日，升级版对话模型InternLM-Chat-7B v1.1发布，同时开源智能体框架Lagent，支持从语言模型到智能体升级转换。2023年8月28日，InternLM千亿参数模型参数量升级到123B。

2024-09-23 21:46:50 737

原创书生实战训练营基础岛-微调实战

一、 Finetune简介增量预训练微调：让基座模型学习到一些新知识，如某个垂类领域的常识指令跟随微调：让模型学会对话模板，根据人类指令进行对话二、数据处理1、为了让LLM知道什么时候开始/结束一段话，实际训练时需要对数据添加起始符BOS和结束符EOS。大多数模型使用作为结束符。2、增量预训练微调：将system和input置空，把数据放入output，仍然计算assistant部分的损失3、指令跟随微调。

2024-09-20 23:22:03 1072