qq_52928908的博客

原创 四期书生大模型实战营（【进阶岛】- 第1关 | -探索书生大模型能力边界

的 puzzle 推理题(您所在专业题目、面试代码题、逻辑思维题、行测找规律问题、高等数学题、奥赛题等等) 考倒 InternThinker：让 InternThinker 生成错误的回复。：在 LeetCode 使用 InternThinker 刷 5 道算法题：使用 InternThinker 生成答案提交至 100% 通过。在书生·浦语 Chat Web 中使用。

原创 四期书生大模型实战营（【进阶岛】- 第6关 | L2G6000-MindSearch 快速部署

MindSearch 是一个开源的 AI 搜索引擎框架，具有与 Perplexity.ai Pro 相同的性能。我们可以轻松部署它来构建自己的专属搜索引擎，可以基于闭源的LLM（如GPT、Claude系列），也可以使用开源的LLM（如经过专门优化的InternLM2.5 系列模型，能够在MindSearch框架中提供卓越的性能） 最新版的MindSearch拥有以下特性：🤔 任何你想知道的问题：MindSearch 通过搜索解决你在生活中遇到的各种问题。

原创 四期书生大模型实战营（【进阶岛】- 第2关 | Lagent 自定义你的 Agent 智能体

Agent是一种能够自主感知环境并根据感知结果采取行动的实体，以感知序列为输入，以动作作为输出的函数。它可以以软件形式（如聊天机器人、推荐系统）存在，也可以是物理形态的机器（如自动驾驶汽车、机器人）。（2）医疗诊断系统自主性：能够在没有外部干预的情况下做出决策。交互性：能够与环境交换信息。适应性：根据环境变化调整自身行为。目的性：所有行为都以实现特定目标为导向。Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。

原创 四期书生大模型实战营（【进阶岛】- 第3关 | LMDeploy 量化部署进阶实践

使用结合W4A16量化与kv cache量化的模型封装本地API并与大模型进行一次对话，作业截图需包括显存占用情况与大模型回复，参考4.1 API开发(优秀学员必做)，使用Function call功能让大模型完成一次简单的"加"与"乘"函数调用，作业截图需包括大模型回复的工具调用情况，参考4.2 Function call。

原创 四期书生大模型实战营（【进阶岛】- 第4关 | InternVL 多模态模型部署微调实践（差点倒在了UI使用上）

一，多模态大模型简介1, 什么是多模态大模型多模态大语言模型(Multimodal Large Lanquage Model)是指能够处理和融合多种不同类型数据(如文本、图像、音频、视频等)的大型人工智能模型。这些模型通常基于深度学习技术能够理解和生成多种模态的数据，从而在各种复杂的应用场景中表现出强大的能力。2, 常见的多模态融合方式Q-formerBLIP2三个loss:ITM loss:图文匹配LM loss: Predict Next TokenITC loss:对比学习

原创 四期书生大模型实战营（【基础岛】- 第2关 | 玩转书生「多模态对话」与「AI搜索」产品

思考，信息来源，信息整合三大步骤，让模型的生成更加有理有据！综述小助手了属于是哈哈哈。非常有趣的七夕安排qwq，如果真有女朋友就好了！成功地识别了图中的内容，包括人物，文字！

原创 大模型实战营，扫码就报名！！！

原创 四期书生大模型实战营（【基础岛】- 第6关 | OpenCompass 评测书生大模型实践（降低transformers版本）

internlm_url = 'https://internlm-chat.intern-ai.org.cn/puyu/api/v1/' # 你前面获得的 api 服务地址。d['reader_cfg']['test_range'] = '[0:1]' # 这里每个数据集只取1个样本, 方便快速评测.export INTERNLM_API_KEY=xxxxxxxxxxxxxxxxxxxxxxx # 填入你申请的 API Key。openai_api_base=internlm_url, # 服务地址。

原创 四期书生大模型实战营（【基础岛】- 第1关 | 书生大模型全链路开源体系

最后提到茴香豆知识库工具的构建与应用进展。自2022年开源以来，已推出多个模型（如7B、20B等），并实现全链路的开源工具体系，包括数据收集、模型训练、微调与部署。同时，展示了模型在超长上下文下的推理能力，解释了“大海捞针”实验，表明模型能有效定位长文本信息，未来有望替代传统的RAG方法。课程回顾了书生葡语模型的开源历程，包括不同版本的发布与性能提升，强调了模型在推理能力和上下文处理上的进步。讨论了不同参数量模型的特点，其中1.8B和7B模型适合日常使用，而200B模型展现出“涌现”现象，性能卓越。

原创 四期书生大模型实战营（【基础岛】- 第5关 | XTuner 微调个人小助手认知

parser.add_argument("--new_text", default="动感超人", help="Text to replace with")parser.add_argument("--old_text", default="尖米", help="Text to be replaced")# '请给我介绍五个上海的景点', 'Please tell me five scenic spots in Shanghai'，# 将处理后的对象转回 JSON 字符串。2 安装XTuner。

原创 四期书生大模型实战营（【基础岛】- 第4关 | InternLM + LlamaIndex RAG 实践

st.session_state.messages = [{"role": "assistant", "content": "你好，我是你的助手，有什么我可以帮助你的吗？st.session_state.messages = [{"role": "assistant", "content": "你好，我是你的助手，有什么我可以帮助你的吗？#将创建的嵌入模型赋值给全局设置的embed_model属性，#设置全局的llm属性，这样在索引查询时会使用这个模型。#这样在后续的索引构建过程中就会使用这个模型。

原创 四期书生大模型实战营（【基础岛】- 第3关 | 浦语提示词工程实践

任务要求：利用对提示词的精确设计，引导语言模型正确回答出“strawberry”中有几个字母“r”。完成正确的问答交互并提交截图作为完成凭证。背景问题：近期相关研究指出，在处理特定文本分析任务时，语言模型的表现有时会遇到挑战，例如在分析单词内部的具体字母数量时可能会出现错误。

原创 四期书生大模型实战营（【入门岛】- 第4关 | 玩转HF

2 运行代码，下载config.json model.safetensors.index.json。1 激活虚拟环境，下载transformer包。

原创 第四期书生大模型实战营（【入门岛】- 第3关 | Git 基础知识 ）

2，在fork的仓库里，直接上传md文件。1，切换到class fork。

原创 第四期书生大模型训练营——入门关第二关

书生浦语InternLM2.5是上海人工智能实验室于2024年7月推出的新一代大语言模型，提供1.8B、7B和20B三种参数版本，以适应不同需求。请帮我从以下``内的这段模型介绍文字中提取关于该模型的信息，要求包含模型名字、开发机构、提供参数版本、上下文长度四个内容，以json格式返回。res = res[7:-3].strip() # 去掉开头和结尾的反引号，以及json。res = res[7:-3].strip() # 去掉开头和结尾的反引号，以及json。2.1 运行debuger。

原创 第四期书生大模型实战营（【入门岛】- 第1关 | Linux基础知识）

6 激活虚拟环境（事先准备好的）并进行端口映射。7 运行halloworld。