- 博客(11)
- 收藏
- 关注
RSS订阅原创 书生大模型实战营闯关关卡十一
主要通过## 1.导入相关依赖包## 2.使用你的模型初始化推理管线## 3.读取图片（此处使用PIL读取也行）## 4.配置推理参数## 5.利用 pipeline.chat 接口 进行对话，需传入生成参数## 6.之后的对话轮次需要传入之前的session，以告知模型历史上下文多模态大语言模型(Multimodal Large Language Model)是指能够处理和融合多种不同类型数据(如文本、图像、音频、视频等)的大型人工智能模型。
2024-12-28 20:19:10
1801
原创 书生大模型实战营闯关关卡十
LMDeploy是一个由MMDeploy和MMRazor团队联合开发的工具包，它旨在为大型语言模型（LLM）提供全套的轻量化、部署和服务解决方案。
2024-12-21 14:35:57
1882
原创 书生大模型实战营闯关关卡九
Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。Arxiv 搜索Bing 地图Google 学术搜索Google 搜索交互式 IPython 解释器IPython 解释器PPTPython 解释器。
2024-12-14 23:59:42
1598
原创 书生大模型实战营闯关关卡八
大模型评测体系，是由上海人工智能实验室研发的开源、高效、全面的大模型评测体系及开放平台，为AI从业者提供了便捷、准确的评测工具和服务。
2024-12-08 22:24:48
823
原创 书生大模型实战营闯关关卡七
XTuner是一个高效、灵活且全能的大模型微调工具库，支持在较低配置的硬件上进行大模型的微调，兼容多种大语言模型和多模态图文模型的预训练与微调，提供了增量预训练、指令微调与Agent微调等多种微调模式，以及无缝接入部署和评测工具库的功能。通过利用XTuner进行模型微调，开发者可以快速地优化和定制自己的模型，以适应不同的应用场景和任务需求。
2024-12-07 18:09:33
597
原创 书生大模型实战营闯关关卡六
RAG技术通过从庞大的文档集合或外部知识库中检索出与用户问题或生成任务相关的信息，然后利用这些检索到的信息来指导文本的生成。这一过程结合了检索和生成的优势，使得模型能够生成更加准确、符合上下文且可靠的答案或文本内容。
2024-12-06 21:13:27
781
原创 书生大模型实战营闯关关卡五
提示工程是一种通过设计和调整输入(Prompts)来改善模型性能或控制其输出结果的技术。在模型回复的过程中，首先获取用户输入的文本，然后处理文本特征并根据输入文本特征预测之后的文本，原理为next token prediction，类似我们日常使用的输入法。指令要清晰提供参考内容复杂的任务拆分成子任务给 LLM“思考”时间(给出过程)使用外部工具系统性测试变化在提示工程中，第一点给出清晰的指令是至关重要的。
2024-12-01 20:52:41
692
原创 书生大模型实战营闯关关卡四
，来展示MindSearch分析、检索、回答的过程。是一个开源的AI搜索引擎，它会对你提出的问题进行分析并拆解为数个子问题，在互联网上搜索、总结得到各个子问题的答案，最后通过模型总结得到最终答案。根据之前步骤拆解后的子问题，子节点从互联网上检索海量网页资源，进行内容摘要，并决定是否对网页进行全文精读。整合网页摘要和精读网页的信息，形成子节点的结论，主节点会根据子节点得出的结论，总结形成最终回复。我们上传了一张橘猫的照片，并向万象提问，照片中是什么动物，照片是何时拍摄的，简要概括照片的内容。
2024-11-30 18:57:39
296
原创 书生大模型实战营闯关关卡三
书生·浦语大模型，是一个基于自然语言处理技术的先进模型，旨在为用户提供高效、智能的文本处理服务，从2023年7月InternLM-7B发布，至2024年7月InternLM2.5开源，已正式开源满一周年。数据层面提供了书生·万卷语料库，涵盖了丰富的多模态数据，包括文本、图像、音视频等，此外还有Miner U、Label LLM等数据处理工具，可以高质量生成训练语料并标注数据。通过基于规则的数据构造、基于模型的数据扩充、基于反馈的数据生成等多种数据合成方案，有效提升合成数据质量。
2024-11-28 09:12:32
470
原创 书生大模型实战营闯关关卡二
解题思路：只要判断ransomNote中每个字符出现的次数是否小于magazine中该字符出现的次数，通过set集合来构建字符集，通过count函数来计算出现次数。尽量不要将api_key直接编码在代码中，最好是通过环境变量去加载api_key，然后运行test文件。比起一般的JSON内容，多了反引号"`"和"json"这个字符串，所以才会发生JSON解析错误。res是internlm_gen的返回值，此时res的内容是。可以得知是在对res的内容进行JSON解析时发生了错误，用replace函数去除。
2024-11-21 22:58:59
422
原创 【书生大模型实战营闯关关卡一】
InternStudio 是大模型时代下的云端算力平台，基于 InternLM 组织下的诸多算法库支持，为开发者提供开箱即用的大语言模型微调环境、工具、数据集，并完美兼容 🤗 Hugging Face 开源生态。上述命令的意思是将本地机器的指定端口（7860）流量，通过SSH隧道，转发到远程主机的指定端口（127.0.0.1地址上的7860端口）Gradio在开发机的7860端口搭建了一个Web服务，但是7860端口不是对外开放的，在本地的浏览器里是无法直接访问的。运行hello_world.py。
2024-11-15 22:12:04
409
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人