书生大模型作业2_Demo

原创 已于 2024-04-07 16:27:22 修改 · 188 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

于 2024-04-01 15:47:45 首次发布
本文介绍了如何实现InternLM2-Chat-1.8B和八戒-Chat-1.8B模型的Demo，涉及powershell远程登陆问题的解决方案，以及在本地安装HuggingFaceCLI时遇到Python版本不足的解决方法。

Demo1：实现InternLM2-Chat-1.8B模型

Demo2：实现八戒-Chat-1.8B模型

坑点1：powershell无法直接远程登陆，卡在这个界面

解决方法：直接使用vscode端口转发机制打开，最终实现远程登陆，但真的十分卡顿！！！

Demo3：Lagent 运行 InternLM2-Chat-7B 模型

demo3 ——浦语·灵笔2

图文写作实战

图文理解实战

安装hf模型

本地安装huggingface-cli命令行工具

问题：

本地Python版本低于3.8

解决方法：使用hf_transfer加速

ANDyLEeZ
关注
【第 2 节】轻松玩转书生·浦语大模型趣味 Demo
熊猫小妖的AI世界
04-17 1731
1.2.1 什么是大模型？大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。这种模型通常采用深度神经网络结构，如 Transformer、BERT、GPT（ Generative Pre-trained Transformer ）等。
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1531
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
【书生大模型Demo-2】
li_kin的博客
01-10 688
书生大模型Demo
internlm书生大模型作业1_linux基本操作
weixin_61861097的博客
12-03 251
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档。
大模型部署_书生浦语大模型 _作业2基本demo
cfy2401926342的博客
05-28 680
打开 路径下 文件，并修改对应位置 (71行左右) 代码 :internlm2_agent_web_demo_hf.py。图片理解实战（开启 50% A100 权限后才可开启此章节）补充环境包，选用 进行开发：50% A100。
L1G2-OpenCompass 评测书生大模型作业
m0_57280180的博客
06-29 386
本文介绍了使用OpenCompass评测工具对InternLM和InternVL模型进行性能评估的实践过程。针对InternLM模型，通过配置环境、下载数据集并执行C-Eval选择题评测任务，展示了命令行和定制化脚本两种评测方式。对于InternVL模型，则利用VLMEvalKit工具包进行多模态评测，覆盖图像描述、视觉问答等任务。评测结果显示两个模型均能较好地完成指定任务。该实践为开发者提供了大模型评测的完整流程参考，包括环境配置、数据集准备、评测执行和结果分析等关键步骤。
大模型部署_书生浦语大模型 _作业3 RAG
cfy2401926342的博客
05-30 1007
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。
大模型部署_书生浦语大模型 _作业4 XTuner 微调个人小助手认知
cfy2401926342的博客
06-02 1199
一个大语言模型&多模态模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。 1.2数据集准备 为了让模型能够让模型认清自己的身份弟位，知道在询问自己是谁的时候回复成我们想要的样子，我们就需要通过在微调数据集中大量掺杂这部分的数据。首先我们先创建一个文件夹来存放我们这次训练所需要的所有文件。 之后我们可以在 目录下新建一个 文件，将以下代码复制进去，然后运行该脚本即可生成数据集。假如想要加大剂量让他能够完完全全认识到你的身份，那我们可以吧 的值调大一点。 tree.
轻松玩转书生·浦语大模型趣味 Demo (笔记和作业)
sorrowyn的博客
05-26 2016
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
8.15 书生大模型实战营-基础岛2 -玩转书生大模型Demo作业
zjzjsuus的博客
08-15 1150
学习使用LMDeploy对模型进行部署使用，并启动gradio服务！
书生·浦语大语言模型——趣味Demo
Yogffee的博客
01-30 571
概念：人工智能领域中参数量巨大、拥有庞大计算能力和参数规模的模型特点及应用：利用大量数据进行训练；拥有数十亿甚至数千亿个参数；模型在各种任务中展现出惊人的性能。
书生模型实战L1---8G 显存玩转书生大模型 Demo(什么是分词器？AutoTokenizer, AutoModelForCausalLM)
早睡早起吧
07-31 624
第一章 入门岛L0（Linux）第二章 入门岛L0（python）第三章 入门岛L0（Git）第四章 基础岛L1（Demo）
（笔记+作业）第五期书生大模型实战营---L2G1000 InternVL 部署微调实践
haidizym的博客
07-17 591
（笔记+作业）第五期书生大模型实战营---L2G1000 InternVL 部署微调实践
轻松玩转书生·浦语大模型趣味 Demo 笔记二&作业二
qq_46576562的博客
04-15 899
本次课程由带大家玩转书生·浦语大模型趣味 Demo。LagentDemoLagent工具调用。
AI赋能金融科技，VisualProject引领项目管理新潮流
weixin_46916369的博客
01-06 567
金融科技项目管理迈入AI赋能新阶段，VisualProject引领智能化转型。随着金融科技竞争转向"体系化能力"，传统管理模式面临需求断层、资源失衡等痛点。维普时代推出的VisualProject通过AI深度融入项目全流程，实现智能需求解析、资源协同和风险预警，使招商银行等项目效率提升40%、延期率降至8%。该产品构建"数据驱动决策"体系，提供30余项核心指标分析，助力金融机构实现精准管理。未来，AI与项目管理的深度融合将持续推动金融科技高质量发展。
基于LangChain与RAG技术构建智能客服问答系统：完整实现指南
weixin_46244623的博客
01-08 978
本文介绍了基于LangChain框架和RAG技术的智能客服系统构建方法。该系统整合了Ollama本地语言模型服务和FAISS向量数据库，能够高效检索项目文档并生成准确回答。文章详细阐述了系统架构、核心组件及实现代码，包括知识库构建、文档检索和回答生成流程。该系统可显著提升客服效率，支持网络搜索、数学计算、节假日查询等多种功能，并提供了良好的可扩展性。通过本地部署Qwen2.5模型，实现了安全可靠的智能客服解决方案。
[20页中英文PDF]生物制药企业新一代知识管理：用知识图谱+大模型构建“第二大脑“
01-07 505
药物研发正面临知识爆炸的挑战。本文深入探讨如何利用大语言模型和知识图谱技术构建企业级"第二大脑"，将分散的科研数据、文献和隐性知识整合为可搜索的知识库，实现60%的文档审查效率提升，并可能为制药行业创造600-1100亿美元的年度价值。
Skills详解：AI Agent 的模块化能力扩展系统
最新发布
a18792721831的博客
01-09 929
Skills系统是AI Agent的模块化能力扩展方案，通过标准化方式将专业知识和操作流程打包为可复用模块。它采用分层架构设计，包含技能管理器、加载器和注册表等核心组件。系统创新性地使用渐进式加载机制，分为元数据、指令和资源三层，有效解决上下文窗口限制问题。Skills支持多维度智能匹配算法，通过语义、功能和优先级三个维度精准定位最适合的技能。相比传统插件系统，Skills更注重知识传递而非功能扩展，采用配置文件+资源包形式，维护成本更低。该系统适用于企业自动化、专业服务和开发工具链等场景，显著提升AI A
基于学科知识图谱的智能搜索平台研究与构建
专业代码设计
01-09 387
本论文针对传统搜索引擎的不足，提出基于学科知识图谱的智能搜索平台。平台通过构建知识图谱，实现学术资源的精准索引与高效检索。实验证明，相比传统搜索，本平台在准确性、速度和满意度上均有显著优势，为学科知识检索提供新方案，具重要理论和应用价值。
书生浦语大模型作业
05-13
### 书生浦语大模型作业实现指南 #### 1. 环境配置与模型加载 为了完成与书生浦语大模型相关的作业，首先需要确保基础环境已正确配置。可以通过指定 `local_llm_path` 参数来加载本地模型文件夹路径或 Huggingface ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值