自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(11)
  • 收藏
  • 关注

原创 InternVL 部署微调实践

我们可以使用UI界面先体验与InternVL对话:拉取本教程的github仓库。

2024-12-27 01:06:26 499

原创 LMDeploy 量化部署实践

显存占用约。

2024-12-19 15:43:16 230

原创 Lagent:从零搭建你的 Multi-Agent

在huggingface上space,用codespaces git clone这个space,创建app.py和requirement.txt,推出仓库。在开发机上远程链接huggingface个人账号,创建model,将属于自己的agent放进去。,用以说明模型具备识别调用不同工具的能力,什么任务对应什么工具来解决。创建一个天气查询的工具程序,并将申请的API Key在终端中输入进去。属于自己的agent就部署好了,可以看到有两个插件,完成啦!,在里面实现我们的Web Demo,然后利用。

2024-12-15 15:11:54 518

原创 XTuner 微调个人小助手认知任务

使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知,记录复现过程并截图。

2024-12-12 11:38:25 359

原创 书生浦语OpenCompass 评测

可以通过以下命令评测 InternLM2-Chat-1.8B 模型在 C-Eval 数据集上的性能。由于 OpenCompass 默认并行启动评估过程,我们可以在第一次运行时以 --debug 模式启动评估,并检查是否存在问题。在 --debug 模式下,任务将按顺序执行,并实时打印输出。运行opencompass --models hf_internlm2_5_1_8b_chat_api --datasets ceval_gen --debug。

2024-12-09 21:55:27 215

原创 Llamaindex RAG 实践

workspace/codespaces-jupyter 下git clone hf的项目,然后把项目中放入文件,还要编辑一下README.md的sdk/python_version/sdk_verison/app_file。再问了 使用 LlamaIndex RAG的模型,给出的方案就更加的具体,具体到使用某种药物及药物的效果等。这题搞了蛮久的,先是使用魔法登上Hugging face,注册一个账号,然后新增一个Space。将修改推到远程仓库,push发现权限不够,跟着教程找到了token,然后编辑。

2024-12-06 12:59:13 340

原创 LangGPT结构化提示词编写

任务要求:利用对提示词的精确设计,引导语言模型正确回答出“strawberry”中有几个字母“r”。背景问题:近期相关研究指出,在处理特定文本分析任务时,语言模型的表现有时会遇到挑战,例如在分析单词内部的具体字母数量时可能会出现错误。经过提示词后生成的剧本,可以发现整体内容丰富了不少,格式、背景、角色设定和每一幕的内容都丰富了不少。经过提示词后生成的公文,无论是格式还是内容都更正规准确了。基于LangGPT格式编写提示词,使用。没有经过提示词直接生成的剧本。没有经过提示词直接生成的公文。

2024-11-30 19:34:41 590

原创 玩转书生「多模态对话」与「AI搜索」产品

开源的 AI 搜索引擎2.使用书生·浦语InternLM ,一款开源模型官方的对话类产品3.使用书生·万象InternVL ,一款开源的视觉语言模型官方的对话产品。

2024-11-28 20:58:21 282

原创 书生·浦语大模型全链路开源体系介绍

已有30+模态、7700+数据集、180TB数据大小;60亿图像、8亿片段视频、1万亿token语料。书生开源大模型体系包含了数据、训练、微调、部署以及应用等诸多模块,可以完成整个大模型的全流程生态。目前已经建成了OpenCompass评测体系,是Meta认证的中国评测体系。1.性能提升:性能较先前提升20%;已建有Miner U、Label LLM、Label U等开源数据工具。2023年7月 InternLM-7B模型免费开源商用。2024年7月 InternLM2.5开源。

2024-11-28 20:26:14 178

原创 书生大模型实战营入门岛「Python前置基础」闯关

Leetcode 383(笔记中提交代码与leetcode提交通过截图)通过截图代码。

2024-11-24 15:40:02 456

原创 书生大模型实战营入门岛「Linux 前置基础」闯关

【代码】书生大模型实战营入门岛「Linux 前置基础」闯关。

2024-11-19 12:50:59 204 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除