书生·浦语第二期实战营(初夏专场)-作业1

书生·浦语第二期实战营(初夏专场)-作业1

课程文档:https://github.com/InternLM/Tutorial/tree/camp2
第一课录播:https://www.bilibili.com/video/BV1Vx421X72D
InternLM2

技术报告arxiv.org/pdf/2403.17297.pdf

(1) 书生·浦语全链路开源体系

核心理念:开源共享,促进技术进步和社区协作。
组成部分:数据集(书生万卷)、预训练框架(InternLM-Train)、微调框架(X Tuner)、部署解决方案(LM Deploy)、评测体系(Open Compass)。

(2) 书生·浦语大模型趣味Demo

演示内容:文本生成、阅读理解、对话系统等。
技术亮点:模型的灵活性和易用性,以及在不同自然语言处理任务中的应用。

(3) 零代码搭建RAG智能助理

操作流程:利用RAG技术,无需编写代码即可构建智能助理。
技术优势:简化了AI应用的开发流程,使得非技术用户也能轻松构建智能系统。

(4) XTuner微调LLM

微调目的:针对特定任务优化模型性能。
技术细节:介绍了1.8B参数规模的模型微调和多模态、Agent的应用。

(5) LMDeploy量化部署LLM-VLM

量化意义:减少模型大小,提高运算效率。
实践过程:展示了如何将大型模型量化并部署到不同的硬件平台上。

(6) Lagent & AgentLego智能体应用搭建

工具功能:快速构建和定制智能体应用。
应用场景:客服、个人助理、行业自动化等。

(7) OpenCompass大模型评测实战

评测重要性:评估模型性能,指导模型优化。
评测工具:OpenCompass提供了一套全面的评测工具链。
4. 心得体会

这门课程为我打开了一扇通往大模型世界的大门。通过陈恺老师的讲解,我对书生·浦语大模型的全链路开源体系有了全面的认识。特别是开源体系的介绍,让我深刻理解了开源对于推动技术发展的重要性。在Demo演示环节,我被模型的强大能力所震撼,它在文本生成和阅读理解任务上的表现令人印象深刻。零代码搭建RAG智能助理的部分,让我看到了AI技术普及的可能性。这种无需编程的方式,极大地降低了技术门槛,使得更多的人能够参与到AI应用的创造中来。XTuner微调和LMDeploy量化部署的内容,让我对如何优化和部署大型

根据原作 https://pan.quark.cn/s/0ed355622f0f 的源码改编 野火IM解决方案 野火IM是专业级即时通讯和实时音视频整体解决方案,由北京野火无限网络科技有限公司维护和支持。 主要特性有:私有部署安全可靠,性能强大,功能齐全,全平台支持,开源率高,部署运维简单,二次开发友好,方便与第三方系统对接或者嵌入现有系统中。 详细情况请参考在线文档。 主要包括一下项目: 野火IM Vue Electron Demo,演示如何将野火IM的能力集成到Vue Electron项目。 前置说明 本项目所使用的是需要付费的,价格请参考费用详情 支持试用,具体请看试用说明 本项目默认只能连接到官方服务,购买或申请试用之后,替换,即可连到自行部署的服务 分支说明 :基于开发,是未来的开发重心 :基于开发,进入维护模式,不再开发新功能,鉴于已经终止支持且不再维护,建议客户升级到版本 环境依赖 mac系统 最新版本的Xcode nodejs v18.19.0 npm v10.2.3 python 2.7.x git npm install -g node-gyp@8.3.0 windows系统 nodejs v18.19.0 python 2.7.x git npm 6.14.15 npm install --global --vs2019 --production windows-build-tools 本步安装windows开发环境的安装内容较多,如果网络情况不好可能需要等较长时间,选择早上网络较好时安装是个好的选择 或参考手动安装 windows-build-tools进行安装 npm install -g node-gyp@8.3.0 linux系统 nodej...
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值