书生·浦语大模型实战营第二期 第2节笔记

轻松玩转书生·浦语大模型趣味 Demo

本节课老师一共讲了 4 个实操，主要内容是：

• 部署InternLM2-Chat-1.8B模型进行智能对话
• 部署实战营优秀作品八戒-Chat-1.8B模型
• 通过InternLM2-Chat-7B运行Lagent智能体Demo
• 实践部署浦语·灵笔2模型

从配置的基础环境，到如何操作，都做了详细的介绍

Lagent 的特性总结如下：

• 流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。
• 接口统一，设计全面升级，提升拓展性，包括：
  • Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
  • Action: 简单的继承和装饰，即可打造自己个人的工具集，不论 InternLM 还是 GPT 均可适配；
  • Agent：与 Model 的输入接口保持一致，模型到智能体的蜕变只需一步，便捷各种 agent 的探索实现；
• 文档全面升级，API 文档全覆盖。