书生·浦语大模型开源体系（五）作业

最新推荐文章于 2025-12-04 17:40:34 发布
原创 最新推荐文章于 2025-12-04 17:40:34 发布 · 389 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#笔记

本文详细介绍了如何配置和优化LMDeploy环境，包括下载和使用internlm-chat-1.8b模型，设置KVCache参数，以命令行和APIServer方式运行，以及集成Python代码和视觉多模态模型llavagradiodemo。同时强调了过程中的挑战和充实感。

💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。谢谢你的光临，让我们一起踏上这个知识之旅！
请添加图片描述

文章目录

🍋配置lmdeploy运行环境

在这里插入图片描述

🍋下载internlm-chat-1.8b模型

在这里插入图片描述

🍋以命令行方式与模型对话

在这里插入图片描述

在这里插入图片描述

🍋设置KV Cache最大占用比例为0.4，开启W4A16量化，以命令行方式与模型对话

在这里插入图片描述

🍋以API Server方式启动 lmdeploy，开启 W4A16量化，调整KV Cache的占用比例为0.4，分别使用命令行客户端与Gradio网页客户端与模型对话

在这里插入图片描述

在这里插入图片描述

🍋使用W4A16量化，调整KV Cache的占用比例为0.4，使用Python代码集成的方式运行internlm2-chat-1.8b模型

在这里插入图片描述

🍋使用 LMDeploy 运行视觉多模态大模型 llava gradio demo

在这里插入图片描述

在这里插入图片描述

挑战与创造都是很痛苦的，但是很充实。

书生·浦语大模型全链路开源体系（LLM/AGENT/多模态/应用部署）从入门到精通
熊猫小妖的AI世界
04-17 1337
书生浦语LLM大模型教程
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1508
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
书生·浦语大模型全链路开源体系-作业1
gy77
05-27 603
大型语言模型的历史可以追溯到2017年,当时OpenAI推出了GPT-1(Generative Pre-trained Transformer)模型,这是一个基于Transformer架构的语言生成模型,在多个自然语言处理任务上取得了突破性进展。通用大模型是指参数量巨大、覆盖广泛的通用模型,这些模型通过海量的训练数据积累了丰富的知识和能力,能够适用于多种不同的任务和模态。相比之前的专用模型,大模型具有更强的迁移学习能力,可以通过少量的细化训练在特定任务上发挥出色的性能。1. 工具链极其完善！
书生·浦语大模型开源体系（七）作业
null18的博客
04-26 526
💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。
书生·浦语大模型开源体系（六）作业
null18的博客
04-25 366
💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。
书生·浦语大模型开源体系（二）作业
null18的博客
04-02 369
💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。
书生·浦语大模型开源体系（四）作业
null18的博客
04-24 299
💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。
书生・浦语大模型开源开放体系：开启智能新时代
qq_51046480的博客
12-11 811
在本次精彩纷呈的课程中，我们深入探究了书生・浦语（Informer）大模型的开源开放体系及其波澜壮阔的发展历程，全方位领略了其在人工智能领域所展现出的卓越魅力与巨大潜力。
书生 浦语大模型实战营-作业 1
kuangkaiming的博客
01-10 632
大模型成为热门关键词大模型成为发展通用人工智能的重要途径从专用模型到通用模型书生大模型的开源历程。
书生·浦语大模型实战营合集
个人小站：www.xiaowangyun.com
04-18 1118
书生·浦语大模型实战营
书生·浦语入门岛作业（书生大模型全链路开源体系）
m0_74997196的博客
11-04 152
开源历史：InternLM性能天梯：书生·浦语2.5模型概览 ：迭代的核心思路：解决问题的思路对比：社区生态：数据：数据处理工具箱：与训练internEvo：微调Xtuner：OpenCompass评测体系：LMDeploy的部署：智能体Lagent：实战项目：
书生·浦语大模型全链路开源体系（第二期学员笔记总结）
DizzyOK的博客
05-23 1887
书生·浦语大模型实战营第二期初夏场，记录一下第一节课的视频作业和文档作业。
书生·浦语大模型开源体系（三）笔记+作业
null18的博客
04-09 931
💗💗💗欢迎来到我的博客，你将找到有关如何使用技术解决问题的文章，也会找到某个技术的学习路线。无论你是何种职业，我都希望我的博客对你有所帮助。最后不要忘记订阅我的博客以获取最新文章，也欢迎在文章下方留下你的评论和反馈。我期待着与你分享知识、互相学习和建立一个积极的社区。
【 书生·浦语大模型实战营】学习笔记（七）：大模型评测实战
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
05-03 1511
本篇笔记内容主要为【 书生·浦语大模型实战营】学习笔记（七）：大模型评测实战 ，主要对OpenCompass 大模型评测部分详细介绍，欢迎大家交流学习！
【 书生·浦语大模型实战营】学习笔记（三）：“茴香豆” 搭建你的RAG 智能助理
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-12 1526
本篇笔记内容主要分为RAG理论介绍和“茴香豆” RAG 智能助理实战。前半部分对RAG流程、向量数据库、优化等展开介绍，后半部分实战任务分为以web页面及Internlm框架进行茴香豆实战，欢迎大家交流学习！
第2讲：BTC-密码学原理 北大肖臻老师客堂笔记
最新发布
涂涂
12-04 365
比特币依赖两大密码学支柱保障安全性：哈希函数和数字签名。哈希函数通过生成固定长度的"数据指纹"，确保交易和区块内容不可篡改，任何改动都会导致哈希值显著变化。数字签名则利用公钥/私钥体系，让用户能证明交易的真实性并防止抵赖。比特币地址由公钥经多次哈希生成，既保护隐私又便于验证。这两项技术共同构建了去中心化的信任机制：哈希链确保账本历史不可更改，数字签名确认交易授权，全网节点通过数学验证替代中心机构审核。这种设计使比特币在开放网络中实现了防伪、防篡改和防冒充的安全特性。
CentOS7 + 芯片验证工具环境部署全笔记：从虚拟机到 VCS/Verdi 实战
m0_46663240的博客
12-03 700
本文提供从CentOS7虚拟机搭建到芯片验证工具部署的完整指南。首先介绍VMware虚拟机安装CentOS7的详细步骤，包括磁盘分区、用户设置等关键配置。随后讲解网络连接设置、VNC远程服务部署及防火墙配置，实现可视化远程操作。最后涵盖vim编辑器和Shell环境的个性化优化，为后续芯片验证工具安装做好准备。文中包含各环节的常见问题解决方案和实用配置代码，适合芯片验证初学者和Linux运维人员参考使用。
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 907
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
C++基础：Stanford CS106L学习笔记 1 类型与结构
WM2101的博客
12-02 319
本文介绍了C++的类型系统和结构体特性。在类型系统方面，C++采用静态类型，变量类型一旦确定不可更改，与Python的动态类型形成对比。静态类型能提高效率并减少运行时错误。文章还介绍了using类型别名、auto类型推断以及函数重载等现代类型特性。在结构体方面，展示了如何定义和使用结构体，以及使用std::pair模板简化多值返回的实现方式。通过对比Python和C++的代码示例，突出了C++在类型安全性和编译时检查方面的优势。
书生浦语大模型作业
05-13
### 书生浦语大模型作业实现指南 #### 1. 环境配置与模型加载 为了完成与书生浦语大模型相关的作业，首先需要确保基础环境已正确配置。可以通过指定 `local_llm_path` 参数来加载本地模型文件夹路径或 Huggingface ...
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小馒头学python

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值