<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[zhjunqin的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/zhjunqin</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; zhjunqin]]></copyright><item><title><![CDATA[OpenCompass 大模型评测]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135727095</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135727095</guid><author>zhjunqin</author><pubDate>Sun, 21 Jan 2024 12:20:03 +0800</pubDate><description><![CDATA[C-Eval 是一个全面的中文基础模型评估套件。它包含了13948个多项选择题，涵盖了52个不同的学科和四个难度级别，如下所示。地址： https://cevalbenchmark.com/index_zh.html。]]></description><category></category></item><item><title><![CDATA[LMDeploy 大模型量化部署实践]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135587979</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135587979</guid><author>zhjunqin</author><pubDate>Sun, 14 Jan 2024 21:48:46 +0800</pubDate><description><![CDATA[下图中，左边主要对比 LMDeploy 自身在量化前后的性能；右边主要对比 vLLM 和 LMDeploy 的性能对比。量化后，显存占用量显著减少，其中包括权重和 KV Cache。由于 GPU 的计算需要将权重从 GPU 主存 -> GPU 共享内存，因此量化显著减少了数据的传输量，提高了整体效率。AWQ 算法全称：Activation-aware Weight Quantization。]]></description><category></category></item><item><title><![CDATA[XTuner 大模型单卡低成本微调实战]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135572684</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135572684</guid><author>zhjunqin</author><pubDate>Sun, 14 Jan 2024 10:59:16 +0800</pubDate><description><![CDATA[视频链接：https://www.bilibili.com/video/BV1yK4y1B75J/?vd_source=bebd279bbc043ae1c13d45838597180f
文档地址：https://github.com/InternLM/tutorial/tree/main/xtuner
XTuner Repo: https://github.com/InternLM/xtuner/tree/main















拷贝修改配置文件

训练微调
使用命令训练


也可以增加 d]]></description><category></category></item><item><title><![CDATA[基于 InternLM 和 LangChain 搭建你的知识库]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135491992</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135491992</guid><author>zhjunqin</author><pubDate>Wed, 10 Jan 2024 23:13:34 +0800</pubDate><description><![CDATA[视频链接：https://www.bilibili.com/video/BV1sT4y1p71V/文档：https://github.com/InternLM/tutorial/tree/main/langchain。]]></description><category></category></item><item><title><![CDATA[轻松玩转书生·浦语大模型趣味Demo]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135433000</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135433000</guid><author>zhjunqin</author><pubDate>Sat, 06 Jan 2024 22:34:34 +0800</pubDate><description><![CDATA[InternLM 是一个开源的轻量级训练框架，旨在支持大模型训练而无需大量的依赖。通过单一的代码库，它支持在拥有数千个 GPU 的大型集群上进行预训练，并在单个 GPU 上进行微调，同时实现了卓越的性能优化。在 1024 个 GPU 上训练时，InternLM 可以实现近 90% 的加速效率。基于 InternLM 训练框架，上海人工智能实验室已经发布了两个开源的预训练模型：InternLM-7B 和 InternLM-20B。]]></description><category></category></item><item><title><![CDATA[书生·浦语大模型全链路开源体系]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/135397770</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/135397770</guid><author>zhjunqin</author><pubDate>Thu, 04 Jan 2024 23:07:47 +0800</pubDate><description><![CDATA[从论文中可以看到在 2022 年底 ChatGPT 发布后，arXiv 上包含 "large language model” 关键字的论文呈指数型增长。]]></description><category></category></item><item><title><![CDATA[openMMLab AI实战营开课]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/130978583</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/130978583</guid><author>zhjunqin</author><pubDate>Wed, 31 May 2023 22:52:37 +0800</pubDate><description><![CDATA[OpenMMLab 底层基于 Pytorch 框架，是一个适用于学术研究和工业应用的开源项目，涵盖了计算机视觉的许多研究课题，如：图像分类、目标检测、目标分割、超分辨率图像生成等。开课的 PPT 上看到一个极市平台：使用OpenMMLab挑战极市平台工业项目开发挑战入口：https://www.cvmart.net/topLis。久闻 openMMLab 大名，最开始用过几次 MMDetection，这次有机会参加一下 AI 实战营，希望这次可以了解更多，能够坚持参加下去。此为开课第一篇笔记。]]></description><category></category></item><item><title><![CDATA[Init Post]]></title><link>https://blog.youkuaiyun.com/zhjunqin/article/details/130962288</link><guid>https://blog.youkuaiyun.com/zhjunqin/article/details/130962288</guid><author>zhjunqin</author><pubDate>Wed, 31 May 2023 09:36:01 +0800</pubDate><description><![CDATA[Init Post。]]></description><category></category></item></channel></rss>