- 博客(25)
- 收藏
- 关注
RSS订阅原创 mindsearch run 本地服务
修改提示词文件 MindSearch/mindsearch/agent/mindsearch_prompt.py。启动前端运行后，会自动下载模型。（一次不行，多执行几次）如果没有修改模型路径。
2024-10-02 20:27:37
456
原创 茴香豆 + Qwen-7B-Chat-Int8
ssh -CNg -L 7860:127.0.0.1:7860 root@ssh.intern-ai.org.cn -p <你的ssh端口号>茴香豆助手搭建在远程服务器上，因此需要先建立本地和服务器之间的透传，透传默认的端口为。
2024-10-02 16:35:54
438
原创 Moshi: a speech-text foundation model for real time dialogue
结束后 点击Download audio Download video 可以下载音频与视频 （不过是webm格式）小结 对话感觉 适合简单的英文对话聊天 对专业知识欠缺。挺神奇的东西 整下来。发行版 已上传至资源。
2024-09-21 17:54:37
421
原创 书生·浦语 大模型实战营（第三期）彩蛋岛 销冠大模型案例
是一个能够根据给定的商品特点从激发用户购买意愿角度出发进行商品解说的卖货主播大模型。以其独特的智能魅力，将彻底改变用户的购物体验。该模型能深度理解商品特点，以生动、精准的语言为商品量身打造解说词，让每一件商品都焕发出诱人的光彩。无论是细节之处，还是整体效果，都能通过其细腻、独到的解说，激发用户的购买欲望。
2024-09-05 16:46:32
1285
原创 社区共建任务 在 MindSearch 中支持新的搜索 API
我们之前已将MindSearch部署到huggingface.co上，环境配置等一系列安装，便不需要重复安装。只需重新安装最新的 lagent 即可。
2024-09-01 21:04:34
753
原创 书生·浦语 大模型实战营（第三期） 进阶岛 第5关 茴香豆：企业级知识库问答工具
茴香豆是由书生·浦语团队开发的一款开源、专门针对国内企业级使用场景设计并优化的知识问答工具。在基础 RAG 课程中我们了解到，RAG 可以有效的帮助提高 LLM 知识检索的相关性、实时性，同时避免 LLM 训练带来的巨大成本。在实际的生产和生活环境需求，对 RAG 系统的开发、部署和调优的挑战更大，如需要解决群应答、能够无关问题拒答、多渠道应答、更高的安全性挑战。因此，根据大量国内用户的实际需求，总结出了三阶段Pipeline的茴香豆知识问答助手架构，帮助企业级用户可以快速上手安装部署。茴香豆特点。
2024-08-27 13:06:34
1270
原创 书生·浦语 大模型实战营（第三期） 进阶岛 第 4关 InternVL 多模态模型部署微调实践
是一种用于的深度学习模型，旨在处理和理解多种类型的数据输入，如图像和文本。它结合了视觉和语言模型，能够执行复杂的跨模态任务，比如图文匹配、图像描述生成等。通过整合视觉特征和语言信息，InternVL 可以在多模态领域取得更好的表现对于InternVL这个模型来说，它vision模块就是一个微调过的ViT，llm模块是一个InternLM的模型。对于视觉模块来说，它的特殊之处在Dynamic High Resolution。
2024-08-25 00:34:04
1152
2
原创 书生·浦语 大模型实战营（第三期） 进阶岛 第3关 LMDeploy 量化部署进阶实践
注释：实验室提供的环境为虚拟化的显存，nvidia-smi是NVIDIA GPU驱动程序的一部分，用于显示NVIDIA GPU的当前状态，故当前环境只能看80GB单卡 A100 显存使用情况，无法观测虚拟化后30%或50%A100等的显存情况。模型在运行时，占用的显存可大致分为三部分：模型参数本身占用的显存、kv cache占用的显存，以及中间运算结果占用的显存。让我们回到LMDeploy，在最新的版本中，LMDeploy使用的是AWQ算法，能够实现模型的4bit权重量化。输入以下指令，执行量化工作。
2024-08-20 08:34:31
1281
原创 书生·浦语 大模型实战营（第三期） 进阶岛 第2关 Lagent 自定义你的 Agent 智能体
Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。Arxiv 搜索Bing 地图Google 学术搜索Google 搜索交互式 IPython 解释器IPython 解释器PPTPython 解释器在本节中，我们将带大家基于 Lagent 自定义自己的智能体。Lagent 中关于工具部分的介绍文档位于动作 — Lagent。继承BaseAction类实现简单工具的run。
2024-08-19 12:08:03
1065
原创 书生·浦语 大模型实战营（第三期） 进阶岛 第1关 探索 InternLM 模型能力边界
右边模型InternLM2.5-Chat-20B (上海AILab书生·浦语) 回答错误。左边模型GLM-4-0520 (智谱AI) 不知道lumina。现在模型都好聪明，找边界真的好难！
2024-08-18 22:32:09
278
原创 书生·浦语 大模型实战营（第三期） 基础岛 第5关 XTuner 微调个人小助手认知
微调（fine-tuning）是一种基于预训练模型，通过少量的调整（fine-tune）来适应新的任务或数据的方法。微调是在预训练模型的基础上，将模型中一些层的权重参数进行微调，以适应新的数据集或任务。预训练模型部分已经在大规模数据上得到了训练，它们通常是较为通用且高性能的模型，因此可以很好地作为新任务的起点。微调可以加快模型的收敛速度，降低模型过拟合的风险，并在不消耗过多计算资源的情况下获取较好的模型性能。
2024-08-18 14:34:45
804
原创 书生·浦语 大模型实战营（第三期） 基础岛 第4关 InternLM + LlamaIndex RAG 实践
InternLM + LlamaIndex RAG 实践 遇到报错不要像热锅上的蚂蚁。
2024-08-17 20:36:24
169
原创 书生·浦语 大模型实战营（第三期） 基础岛 第1关 书生大模型全链路开源体系
大模型全链路开源体系通过集成前沿技术与开源开放理念，为开发者提供了一个强大的AI开发平台。其在降低大模型开发门槛、推动AI普及方面的努力，将对未来的技术发展和产业升级产生深远的影响。通过不断创新和社区合作，书生·浦语将持续引领大模型领域的技术变革，成为AI时代的重要推动力量。该视频系统完整地讲述了 intern LM发展与全链路开源体系。intern LM 成长路线。intern LM系列。
2024-08-16 12:37:29
208
原创 书生·浦语 大模型实战营（第三期）第3关Git 基础知识
Git 是一种开源的分布式版本控制系统，广泛应用于软件开发领域，尤其是在协同工作环境中。它为程序员提供了一套必备的工具，使得团队成员能够有效地管理和跟踪代码的历史变更。
2024-08-15 22:21:23
222
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人