lsjmax的博客

需要写一个python文件，加载模型，将模型运行起来，可以采用web框架，提供接口，在页面上使用模型，简单的可以直接在机器上使用测试。** 视频教程**:https://www.bilibili.com/video/BV1AH4y1H78d/第二课主要介绍大模型的部署使用，实战为主，没有什么理论知识，根据文档教程实践一下最好的学习方式。需要有强大算力的机器，根据你所用大模型所依赖的python包，安装好，把环境配置好。通常模型都在代码仓库，需要将模型下载到机器上。

采用书生浦语提供的开发平台https://studio.intern-ai.org.cn/console/instance/new。使用studio-conda -o internlm-base -t demo。相当于以下几个命令：创建python虚拟环境，然后安装模型所依赖的包。让模型编写一个300字关于程序员的小故事。创建开发机，选用封装好的镜像。

实际从模型到应用中间还间隔比较多步骤，个别步骤还是比较复杂和有难度，为此，书生浦语提供了全链路的开源体系，降低这个过程的难度。高效的轻量级预训练框架，在减少通信开销，通信预计算的重叠，长序列训练，容错性等方面做了很多功夫进行优化。第一节课主要对大模型进行介绍，特别是书生浦语大模型的发展历史和目前的全链路开源体系进行总体介绍。通用大模型：一个模型应对多种任务，多种模态。一个模型可以应对文本，语音，图像等相关任务。上传表格，可以根据用户的要求，进行数据的分析和画图展示，以及采用机器学习模型进行建模。