NoemPol-优快云博客

原创 MindSearch深度解析实践-Hugging Face 部署

MindSearch 是一个开源的 AI 搜索引擎框架，具有与 Perplexity.ai Pro 相同的性能。我们可以轻松部署它来构建自己的专属搜索引擎，可以基于闭源的LLM（如GPT、Claude系列），也可以使用开源的LLM（如经过专门优化的InternLM2.5 系列模型，能够在MindSearch框架中提供卓越的性能）🤔 任何你想知道的问题：MindSearch 通过搜索解决你在生活中遇到的各种问题📚 深度知识探索：MindSearch 通过数百个网页的浏览，提供更广泛、深层次的答案。

2024-12-30 16:31:30 718

原创 InternVL 部署微调实践-训练微调模型打造AI美食家

InternVL部雪微调实践-训练微调模型打造AI美食家

2024-12-30 16:04:14 835

原创 LMDeploy 量化部署实践-让模型占用更小显存

LMDeploy 量化部署实践-让模型占用更小显存

2024-12-30 15:44:01 1003

原创 Lagent：利用书生浦语从零搭建你的 Multi-Agent 并部署到huggingface space

# Lagent：利用书生浦语从零搭建你的 Multi-Agent 并部署到huggingface space

2024-12-30 10:34:27 915

原创利用OpenCompass 评测大语言模型AI API和本地模型

利用OpenCompass 评测大语言模型AI API和本地模型OpenCompass 提供了和两种方式。其中 API 模式评测针对那些以 API 服务形式部署的模型，而本地直接评测则面向那些可以获取到模型权重文件的情况。更多使用说明，请参考 OpenCompass。

2024-12-18 12:02:39 1509

原创 XTuner 模型微调，打造个人小助手

微调内容需要使用 30% A100 才能完成。SFT 数据的获取使用模型微调针对业务场景（如特殊自我认知的机器人）的微调能力一个属于自己的语言聊天机器人。

2024-12-18 11:36:08 964

原创 Llamaindex RAG 实践本地部署+InternLM API+部署到 Hugging Face Space

给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。“先安装 Pytorch 再安装 Llamaindex”存在的问题是：匹配CUDA 11.7的torch安装在前，但是其后安装 LLamaIndex 相关的指令会稳定触发torch的升级到最新版本，而新版本的PyTorch (2.5.1) 默认使用CUDA 12.4，导致 Pytorch 版本与 CUDA版本不匹配。左图中问答均未给出准确的答案。

2024-12-18 11:04:37 1222

原创 MindSearch、InternVL ——玩转书生「多模态对话」与「AI搜索」

是一款由上海人工智能实验室开发的开源AI搜索引擎框架，旨在通过模仿人类思维，提供高效、准确的信息检索和整合服务。其核心技术基于大型语言模型（LLM），并采用多智能体框架，包括WebPlanner和多个WebSearcher，以模拟人类在信息检索中的思维过程。

2024-12-15 10:45:44 762

原创利用书生大模型打造专属猫娘——LangGPT结构化提示词编写实践

你是提示词专家，根据用户的输入设计用于生成**高质量（清晰准确）**的大语言模型提示词。我是您的提示词专家助手，请随时告诉我您需要设计什么用途的提示词吧。- 识别并替换“用户要求处理的字符串”和“用户指定字符”为具体的文本和字符。请用户“用户要求处理的字符串”和“用户指定字符”。- 为代码或文章提供**详细、准确和深入**的内容。- 为代码或文章提供**详细、准确和深入**的内容。**你的任务是帮助用户设计高质量提示词。你是专家，根据用户的输入设计用于生成正确的答案。- 逐步工作并提供专业和深入的回答。

2024-11-06 10:32:43 2928

原创书生大模型全链路开源开放体系

该体系包含了从数据收集整理、数据标注、模型训练、模型微调、模型评测，到基于模型的agent、RAG、搜索引擎，最后到AI应用的部署的全链路解决方案，并且所有工具和方案都已开源。书生大模型全链路开源开放体系的推出，为用户提供了从数据到预训链、微调、部署、评测到应用的全链路解决方案，降低了大模型研发和应用门槛，加速了通用人工智能的发展。书生大模型全链路开源开放体系的推出，为用户提供了从数据到预训链、微调、部署、评测到应用的全链路解决方案，降低了大模型研发和应用门槛，加速了通用人工智能的发展。

2024-11-04 16:03:36 1003

原创书生闯关L0G4000

github codespace 配置环境。

2024-11-02 21:53:49 235

原创书生闯关L0G2000

{'model_name': '书生浦语InternLM2.5', 'developer': '上海人工智能实验室', 'parameter_versions': ['1.8B', '7B', '20B'], 'context_length': '1M'}"model_name": "书生浦语InternLM2.5","model_name": "书生浦语InternLM2.5",转化成结构化json，返回结果多了```json导致bug，删去即可。"developer": "上海人工智能实验室",

2024-10-29 15:38:05 542