- 博客(9)
- 收藏
- 关注
原创 InternVL 部署微调实践
我们主要通过接口来构造多轮对话管线,核心代码为:## 1.导入相关依赖包## 2.使用你的模型初始化推理管线## 3.读取图片(此处使用PIL读取也行)## 4.配置推理参数## 5.利用 pipeline.chat 接口 进行对话,需传入生成参数## 6.之后的对话轮次需要传入之前的session,以告知模型历史上下文lmdeploy推理的核心代码如上注释所述。
2024-12-03 13:24:27
789
原创 书生大模型全链路开源体系
这些核心技术思路体现了书生大模型在设计和开发过程中的迭代、数据驱动和智能化的特点,旨在通过不断的自我优化和学习,提高模型的性能和适应性,以满足各种复杂的应用场景。经典的问答大模型,智能体MindSearch,能够在挥发时更加的智能,更符合提问的需求,还能由此生成更进一步的内容,类如下图中的思考。利用模型的能力辅助人工标注,提高数据标注的效率和质量,进一步优化模型的训练数据。书生大模型的开源工具体系为用户提供了从模型训练到部署的全链条支持,有:模型训练框架、数据处理工具、模型评估工具、模型部署方案。
2024-11-26 20:59:07
896
原创 Lagent:制作一个属于自己的Agent
复现首先来为 Lagent 配置一个可用的环境。# 创建环境# 激活环境# 安装 torch# 安装其他依赖包接下来,我们通过源码安装的方式安装 lagent。# 创建目录以存放代码。
2024-11-26 14:38:38
952
原创 OpenCompass 评测复现
创作原文在这里,本文是对原文的实验复现我们首先在训练营提供的开发机上创建用于评测 conda 环境:cd /root。
2024-11-22 08:38:45
630
原创 提示工程(Prompt Engineering)
背景问题:近期相关研究指出,在处理特定文本分析任务时,语言模型的表现有时会遇到挑战,例如在分析单词内部的具体字母数量时可能会出现错误。 任务要求:利用对提示词的精确设计,引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。
2024-11-17 15:44:45
238
原创 玩转书生「多模态对话」与「AI搜索」产品 - 任务
2、选择逻代码编程、文章创作、灵感创意、角色扮演、语言翻译、逻辑推理以上任意一个场景或者你自己感兴趣的话题与浦语进行对话 (轮次不限)。3、体验书生·万象模型多模态能力,从图片 OCR、图片内容理解等方面与书生·万象展开一次包含图片内容的对话。最近大火的中国 3A 大作《黑神话·悟空》里有什么让你难忘的精彩故事情节?:截图保存对话内容并提交到飞书问卷。:截图保存对话内容并提交到飞书问卷。
2024-11-13 09:03:02
294
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人