JustForFun_sd的博客

原创 L2G4000闯关作业提交

Xtuner的环境之前用过了，所以试着更新了一下里面的安装包。里面要更新的东西还是挺多的。查看了微调配置文件，貌似数据集什么的都帮我们准备好了，不用自己再去动，只要启动微调就可以了。因为是使用的原来的xtuner环境，有可能不成功。所以又重新做了一个。deploy的环境还没动。直接试着先启动了一下demo。果然像教材中说的出现了错误。

原创 L2G3000闯关作业提交

直接进行W4A16 量化+ KV cache+KV cache 量化三合一部署。新建一个50%的虚拟机，按调查安装环境。似乎也没有快多少，还是等很久。查看一下磁盘使用空间。加载，看一下显存的使用情况。先根据教程1.3安装部署一个7B的。确认量化的是1.8 B小模型。在这里看一下显存占用的情况。接下来准备开展量化。

原创 L2G2000闯关作业提交

开始源码安装，但是经历过几次之后，对源码安装不是很有信心啊。开始创建一个新的环境。但是空间好像不够了。现在做下一个multi agents。加入天气查询的插件也很方便。插件的结果略有参考价值。

原创 L1G6000闯关作业提交

opencompass/configs/datasets/demo/demo_cmmlu_chat_gen.py 这个文件之前已经有了内容看上去也一致，但是还是按照教程贴了内容。先 pip install -r requirements.txt，再pip install -e . ，结果过了。说rouge没有装，但实际是装的。为此删掉了环境再装一次还是一样的。在装hugging face的时候，又报了个错。按要求再搞一个环境但是空间好像不是很够了。换了几次环境了，报各种奇奇怪怪的错。继续搞几个配置文件。

原创 L1G5000闯关作业提交

根据以上一系列试验猜测：https://github.com/InternLM/Tutorial.git -b camp4 或 https://github.com/InternLM/xtuner.git 中有一个的环境要求与指导的安装环境有冲突。有可能是有些依赖的版本升了。有同学说是transformers的版本太低，要升到4.47，我试着升到xturner标称的最高版，4.42.4，还是报一样的错。报的是xturner语法错，但是语法肯定没有错。试了之前llamaindex_demo的环境，也报错。

原创 L1G4000闯关作业提交

首先，按readme_api中的说明先做一遍，基本上就是把环境装了，把最基本的两个python文件生成了。其中一个是直接问问题的，另一个是用rag的。从网上搜了一些公开新闻，贴在了/root/llamaindex_demo/data/somethingnew.txt中。“王小洪对如何加快形成和提升新质公安战斗力的要求”接下来就想个题目吧。

原创 L1G3000闯关作业提交

你是一个非常听话的小学生，只会写26个字母，专注于数字母。现在我教你如何辨别一个英文单词中有几个字母。第一步，逐个字母列出。在拆分单词时，确保按照正确的顺序列出每个字母。可以将每个字母写在一行或者后面。添加分隔符号，如，或者空格，以便更清晰地看到每个字母。列出单词后再次检查列表却表没有遗漏或重复的字母。与字母比较，逐一比较列表中的每个字母与目标字母，确保没有遗漏或误判。注意，一定要写出比较结果。进入目标字母一致的次数，并复述目标字母在给定单词中出现的次数，以确保回答的准确性。以后，一定要严格按照要求来。

原创 L1G2000闯关作业提交

那个思考的过程界面上做的还是蛮有意思的，也能让人进行回溯这个过程。但实质上并没有显示出很强的“思考”。从简单的问题上，感觉还是一个跳文字的进度条。还有拿一些更复杂的问题试一下。我上传了两张吉他谱，是六线谱。他能准确地识别这是吉他谱。我要求他改写成和弦谱。他尝试了，虽然内容有错，几经尝试，还是没有完全正确。但我觉得还是挺厉害的。顺手用同样的问题对比了一下通义千问的深度搜索。还是书生浦语的回答更有针对性一些。对这个话题比较感兴趣，我们来试一下。试了一下，上下文还行。但是没有能给出合理的答案。

原创 L1G1000闯关作业提交

我意识到，一个好的模型不仅仅是算法和技术的堆砌，更是一个完整生态系统的构建。MindSearch 是一个思维式的开源搜索应用，而 Lagent 则是一个支持代码解释器的智能体框架，这两个工具为开发者提供了创新的应用开发途径。XTuner 支持千亿参数级别的微调，而 InternEvo 则是一个高性能的预训练框架，这两项技术共同提升了模型的适应性和泛化能力。我相信，随着技术的不断进步和社区的持续壮大，未来将会有更多令人激动的应用诞生，为我们的生活带来更多的便利和乐趣。

原创 L0G3000闯关作业提交

点击绿色的code按钮，直接选择open with GitHub desktop，进行clone，但似乎网不是很好。这一关比较简单，原来就有GitHub的账号，并且在电脑上装了GitHub desktop。在github网页上新建一个InternLM_Learning仓库,直接编辑redame。好像提交这个项目和交作业没什么太大关系。提交项目的,还要做其他的工作,再说吧。切换到class分支,进入icamp4r的目录。根据提示fork了Tuorial，并且根据提示，取消了只复camp4的勾。

原创 L0G2000闯关作业提交

然后通过vs code连上了开发机在开发机，在根目录上建了一个debug_exec.py，把练习代码贴进去，开始排错。结果还不是，是大括号前后不能有东西。还有一个方括号的问题。用了很挫的替换解决了。但是我认为这不是一个好的方法。任务是做debug。这个我会，但是先要获取书生浦语的API key。那么通过阅读说明找到了获取API_Key的方法。报了一个open AI的error，是因为我没有把 API key贴进去吧。搜了一下，应该是三联引号引起的问题。加一行语句，试一下。贴进API key之后就跑起来了。

原创 L0G1000闯关作业提交