教程链接
第二课主要介绍大模型的部署使用,实战为主,没有什么理论知识,根据文档教程实践一下最好的学习方式。
** 视频教程**:https://www.bilibili.com/video/BV1AH4y1H78d/
课程文档:https://github.com/InternLM/Tutorial/blob/camp2/helloworld/hello_world.md
部署的基本流程
1.配置环境
需要有强大算力的机器,根据你所用大模型所依赖的python包,安装好,把环境配置好。
2.拉取模型
通常模型都在代码仓库,需要将模型下载到机器上。
3.启动模型
需要写一个python文件,加载模型,将模型运行起来,可以采用web框架,提供接口,在页面上使用模型,简单的可以直接在机器上使用测试。
实战4个例子
部署 InternLM2-Chat-1.8B 模型进行智能对话
部署实战营优秀作品 八戒-Chat-1.8B 模型
通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo
实践部署 浦语·灵笔2 模型
本文介绍了大模型部署的实战步骤,包括配置环境、安装依赖、模型下载、启动示例等,通过四个实例展示如何部署InternLM、八戒-Chat、Lagent和浦语·灵笔模型,适合通过实践学习。
2273

被折叠的 条评论
为什么被折叠?



