书生浦语大模型实战营第二课笔记

本文介绍了大模型部署的实战步骤,包括配置环境、安装依赖、模型下载、启动示例等,通过四个实例展示如何部署InternLM、八戒-Chat、Lagent和浦语·灵笔模型,适合通过实践学习。

教程链接

第二课主要介绍大模型的部署使用,实战为主,没有什么理论知识,根据文档教程实践一下最好的学习方式。
** 视频教程**:https://www.bilibili.com/video/BV1AH4y1H78d/
课程文档:https://github.com/InternLM/Tutorial/blob/camp2/helloworld/hello_world.md

部署的基本流程

1.配置环境
需要有强大算力的机器,根据你所用大模型所依赖的python包,安装好,把环境配置好。
2.拉取模型
通常模型都在代码仓库,需要将模型下载到机器上。
3.启动模型
需要写一个python文件,加载模型,将模型运行起来,可以采用web框架,提供接口,在页面上使用模型,简单的可以直接在机器上使用测试。

实战4个例子

部署 InternLM2-Chat-1.8B 模型进行智能对话
部署实战营优秀作品 八戒-Chat-1.8B 模型
通过 InternLM2-Chat-7B 运行 Lagent 智能体 Demo
实践部署 浦语·灵笔2 模型

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值