- 博客(11)
- 收藏
- 关注
RSS订阅原创 L2G4000 InternVL 多模态模型部署微调实践
LLaVa式架构设计InternVit ，视觉编码器和llm的文本编码器做对齐Pixel Shuffle，特征下采样，用于减少token。
2025-03-22 02:50:48
227
原创 L2G6000 MindSearch 快速部署
使用GitHub CodeSpace部署和使用MindSearch进入CodeSpace页面选择blank。
2025-03-22 01:14:29
116
原创 书生大模型实战营 L2G2000 Lagent 自定义你的 Agent 智能体
修改内容如下，目的是将该工具注册进大模型的插件列表中，使得其可以知道。以实时天气查询为例子，通过调用和风天气API，实现自定义Agent。工具包内每个子工具的功能都需要被。或者实现工具包内每个子工具的功能。中加入下面的代码，用以初始化。使用WeatherQuery。（2）实现简单工具的。
2024-12-04 17:32:34
425
原创 书生大模型实战营 L1G6000 OpenCompass 评测书生大模型实践
OpenCompass 提供了和两种方式。其中 API 模式评测针对那些以 API 服务形式部署的模型，而本地直接评测则面向那些可以获取到模型权重文件的情况。
2024-12-02 17:32:35
1708
原创 书生大模型实战营 L1G5000 XTuner 微调个人小助手认知
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。在模型合并完成后，我们就可以看到最终的模型和原模型文件夹非常相似，包括了分词器、权重文件、配置信息等等。表示微调的模型权重文件路径，即要转换的模型权重，表示合并后的模型最终的保存路径。根据训练营文档内容创建环境。
2024-11-30 14:19:59
359
原创 书生大模型实战营 L1G4000 InternLM + LlamaIndex RAG 实践
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 浦语 API 不会回答，借助 LlamaIndex 后 浦语 API 具备回答 A 的能力配置环境，安装所需依赖，下载模型后。
2024-11-29 23:09:33
1387
原创 书生大模型实战营 L1G3000 浦语提示词工程实践
该通知详细描述了活动的目的（庆祝建校100周年）、活动内容（展示辉煌历程、表彰优秀学生、精彩表演）、时间（今天下午三点）、地点（操场）以及注意事项（准时到达、有序集合、遵守秩序、听从指挥）。这样的通知信息更全面、正式，能够确保所有学生了解活动的重要性和具体安排。基于LangGPT格式编写提示词，将不使用系统提示的书生浦语大模型作为 baseline 对比，提交的系统提示词要指导LLM表现出比baseline更高的性能。格式更规范了，更加亲切和个性化，强调了课程的重要性和价值，同时提供了详细的报名方式。
2024-11-13 00:57:18
323
原创 书生大模型实战营 L1G2000 玩转书生「多模态对话」与「AI搜索」产品
MindSearch 是一个开源的 AI 搜索引擎。它会对你提出的问题进行分析并拆解为数个子问题，在数百个网页中搜索、总结各个子问题的答案，并给出完整的搜索关键词、思考路径、参考网页等中间过程，从而提供广泛、深度、高可信度的最终答案。在MindSearch中询问“目前生成式AI在学术和工业界有什么最新进展？将问题拆分成了两个子问题，对每一个子问题进行分析，在不同的页面中获取信息。对获取的信息进行整合。
2024-11-10 17:31:01
355
1
原创 书生大模型实战营 L1G1000 书生大模型全链路开源体系
大海捞针实验：模型在多种token的实验下基本都可以定位到相应位置的信息。模拟人解决问题的思路来处理用户需求。全链条开源，有助个人开发和研究。InternLM发展历程。
2024-11-10 16:39:16
168
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人