LLM Weekly（2025.03.17-03.23）

已于 2025-04-07 10:18:50 修改
阅读量398 收藏
点赞数 13
CC 4.0 BY-SA版权
分类专栏： LLM Daily LLM Weekly 文章标签： 语言模型 人工智能 自然语言处理
于 2025-03-28 16:39:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/146589168

在这里插入图片描述

😎 网络新闻速览

  • OpenAI API推出下一代音频模型。OpenAI在其API中发布了全新的语音转文本和文本转语音模型，提升了语音代理的准确性和可靠性。新功能包括多语言覆盖能力提升、语音风格自定义，以及强化学习方法的整合。
  • Gemini引入更智能的深度研究和扩展上下文的2.0闪电思考。Gemini应用推出重大升级，包括支持扩展上下文窗口的2.0闪电思考、更智能的深度研究功能，以及实验性个性化设置。
  • Claude now可进行网络搜索。Claude开始支持网络搜索功能，提供更及时、相关的回答。该功能面向美国付费用户开放，赋能销售团队、金融分析师、研究人员和消费者获取实时洞察。
  • o1-pro模型加入OpenAI API。OpenAI在API中引入o1-pro模型，通过提升算力提供更优质的响应。该模型面向1-5级开发者开放，支持视觉处理、函数调用和结构化输出，并与响应式API和批量API兼容。算力升级伴随成本增加：每百万输入token150美元，每百万输出token600美元。
  • Gemini新增Canvas和音频概览功能。Gemini的新功能Canvas和音频概览（Audio Overview）提升了创意协作和理解能力。Canvas支持实时文档和代码优化，音频概览可将文件转换为沉浸式播客式讨论。
  • Mistral发布Mistral Small 3.1。Mistral AI发布了遵循Apache 2.0
了解本专栏 订阅专栏 解锁全文 超级会员免费看
构建面向人工智能决策的世界模型引擎所需的基本知识体系
形上得其象，形下合于数；阴阳自济，玄理自明。
08-26 968
为了实现真正意义上的人工智能（AI）决策，即超越模式识别和统计预测，达到具备理解、推理与规划能力的智能水平，构建一个完备的、动态的“世界模型”（World Model）作为其核心引擎，已成为业界和学界的共识。本文认为，通往高级AI决策的道路，本质上是构建一个能够模拟、预测并与世界交互的内部心智模型的旅程，这需要认知科学、神经科学、计算机科学及人文社科等领域的深度融合与协同创新。通过具身交互，AI的世界模型才能实现真正的“接地”，其内部的符号和概念才能与外部世界的实体和动态产生稳定、可靠的映射。
【商业解密】AI商业项目的系统配置学：从变量定义到目标架构
海棠AI实验室
11-11 68
AI商业项目的高失败率（95%）往往源于配置阶段的系统性错误，而非技术或市场问题。本文提出将商业项目视为可配置系统，强调参数化定义（预算、时间、能力、风险）而非硬编码策略。通过四维配置空间模型（时间、预算、能力、风险）和自适应策略生成，确保项目设计与执行匹配。典型失败症状包括资源耗竭和能力超载，科学的配置方法可显著提升成功率。
Firefox沉浮录：一部关于反叛、兴衰与开放网络未来的史诗
greenspan的专栏
09-26 984
Firefox沉浮录：从反叛崛起到守护开放网络的使命 Firefox诞生于微软IE垄断的背景下，脱胎于网景开源的Mozilla项目，以轻量、安全、支持标准的特点迅速崛起。2004年正式版发布后，凭借标签页浏览、扩展生态等创新功能，市场份额一度达32%。其成功源于全球社区的自发推广和用户对开放网络理念的认同。然而，2008年谷歌Chrome的入局改变了竞争格局，Chrome的多进程架构和V8引擎性能优势使Firefox市场份额持续下滑。尽管如此，Firefox始终坚守开放网络使命，成为技术单极化时代的重要平衡
【机器学习】第27天：玩转时间序列预测，从 ARIMA 到 Prophet 实战指南
吴师兄大模型的博客
04-10 6314
今天，我们将深入探讨一个在现实世界中应用极其广泛的领域——时间序列分析与预测。从天气预报、股票价格波动、产品销售额预测，到网站流量监控、服务器性能指标分析，时间序列数据无处不在。理解并掌握处理这类具有时间依赖性数据的方法，对于数据科学家和分析师来说至关重要。本篇文章将带您系统地了解时间序列的核心特性，掌握经典的预测模型如 ARIMA，并实战应用 Facebook 开源的强大预测库 Prophet。我们还会简要介绍深度学习在时间序列预测中的应用。
TCP/IP 知名端口号
热门推荐
duanbeibei的专栏
06-18 25万+
(last updated 2007-12-10) The port numbers are divided into three ranges: the Well Known Ports, the Registered Ports, and the Dynamic and/or Private Ports. The Well Known Ports are those from 0 thr
51c大模型~合集166
whaosoft~aiotの开发板商城
08-09 1395
为应对这一挑战，Scaffold 作为一种稳健的联邦学习（FL）方法被提出，旨在通过基于控制变元（control variates）的校正机制来减缓客户端更新的偏移，从而提升在非 IID 场景下的模型收敛性。因此，将这些本地模型进行平均时，得到的全局模型可能会偏离真实的全局最优解，尤其是在存在大量本地训练轮次的情况下。出乎意料的是，通过 RRVF 训练的 7B 模型，最终的综合得分（64.36）不仅远超其基础模型（38.17），甚至超越了在训练中为它提供反馈和评分的、更强大的 72B 模型（47.30）。
51c深度学习~合集8
whaosoft~aiotの开发板商城
11-22 2323
方法的完整数学描述略显复杂，如果只是想了解主要思想，可以只看上面 PatchMix的流程图即可（其实只是公式多，每个公式也不复杂，后续有机会做个演示动画，帮助大家理解。这个方法也可以用简单的 Mask 方法实现，但是本方法在大规模图像处理上效率是最高的），对该工作感兴趣的同行可以看一下，我尽量写得清楚一些。结合 PatMix 的流程图，主要过程如下：由于混合图像和混合图像之间，重叠比例的不同，mix-to-mix label 中每一项的权重分数是不同的，根据上图，可以得到权重系数可以表示为。
tensorrt-llm-0.5.0.post1-cp310-cp310-win-amd64.whl
03-08
whl格式，可直接下载使用
lmos-router-llm-0.2.0.jar
09-10
lmos-router-llm-0.2.0.jar
GoogleNews-vectors-negative300.bin
08-17
nlp, llm, 搜广推常用word2vec预训练模型，使用范围广泛
mnn_llm_app_debug.apk
01-31
mnn_llm_app_debug.apk
ollama-ipex-llm-2.2.0b20250318-win
03-21
Ollama 英特尔优化版 本镜像提供基于 IPEX-LLM 的 Ollama 英特尔优化版，用户可在英特尔GPU (如搭载集成显卡的个人电脑，Arc 独立显卡等) 上直接免安装运行 Ollama.
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 213
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 337
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
2025企业微信AI落地新趋势：微盛AI·企微管家破解内外增长难题
最新发布
weisheng00的博客
11-24 566
2025年企业微信AI落地的三大关键趋势：微盛AI·企微管家通过智能客服、精准营销和内部协作三大场景，帮助企业实现200%的客服效率提升、90%的报修响应提速和50%的员工效能增长。作为企业微信生态最大ISV服务商，微盛依托"AI+SCRM"双引擎，已服务160家500强企业，提供合规AI聊天Agent、生态闭环整合及私有化部署方案，有效解决数据孤岛问题，90%客户在3个月内实现AI能力全员覆盖。
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 218
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1795
基于华为开发者空间实现花卉识别
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 486
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 235
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
~/MNN/build/Qwen3-0.6B-MNN $ ls -al total 444295 drwx------. 2 u0_a315 u0_a315 3452 Aug 28 12:55 . drwx------. 9 u0_a315 u0_a315 3452 Aug 28 12:55 .. -rw-------. 1 u0_a315 u0_a315 43 Aug 28 12:55 .mdl -rw-------. 1 u0_a315 u0_a315 495 Aug 28 12:55 .msc -rw-------. 1 u0_a315 u0_a315 36 Aug 28 12:55 .mv -rw-------. 1 u0_a315 u0_a315 1239 Aug 28 12:55 README.md -rw-------. 1 u0_a315 u0_a315 403 Aug 28 12:55 config.json -rw-------. 1 u0_a315 u0_a315 46 Aug 28 12:55 configuration.json -rw-------. 1 u0_a315 u0_a315 461520 Aug 28 12:55 llm.mnn -rw-------. 1 u0_a315 u0_a315 450810338 Aug 28 12:55 llm.mnn.weight -rw-------. 1 u0_a315 u0_a315 4880 Aug 28 12:55 llm_config.json -rw-------. 1 u0_a315 u0_a315 3193569 Aug 28 12:55 tokenizer.txt 帮我看看，如何添加模型prompt提示词
08-29
<think>首先，用户的问题是关于Qwen3-0.6B-MNN模型的："我想了解在Qwen3-0.6B-MNN模型中添加模型prompt提示词的方法 请问如何在Qwen3-0.6B-MNN模型中添加模型prompt提示词"。我需要根据系统指令回答。 系统指令包括： - 所有行内数学表达式用$...$格式。 - 独立公式用$$...$$格式并单独成段。 - LaTeX语法正确。 - 使用中文回答。 - 生成相关问题。 - 回答中引用的段落末尾自然地添加引用标识。 - 回答结构清晰，帮助用户逐步解决问题。 - 保证回答真实可靠。 参考站内引用： - 引用[1]: 关于MNN Chat APP支持自定义设置。 - 引用[2]: 关于Qwen3模型的访问和功能。 - 引用[3]: 关于在Mac上编译MNN的指令。 用户的问题具体是：如何在Qwen3-0.6B-MNN模型中添加模型prompt提示词。这涉及到在模型中使用提示词的方法。 我需要基于我的知识回答。Qwen3是阿里云的通义千问模型系列，MNN是阿里的轻量级推理引擎。Qwen3-0.6B-MNN可能是一个在MNN上部署的Qwen3-0.6B模型。 添加提示词（prompt）通常意味着在模型输入时提供上下文或指令来引导模型输出。在MNN框架中，这可能涉及如何设置输入数据。 从引用[1]："MNN Chat APP 支持自定义 Sampler 设置、System Prompt 和 Max New Tokens"，这暗示了在MNN Chat APP中，可以设置System Prompt，这类似于提示词。 所以，我应该引导用户使用MNN Chat APP或相关工具来设置提示词。 回答结构： 1. 逐步解释方法。 2. 确保回答真实可靠。 3. 结尾生成相关问题。 4. 在引用段落末尾添加引用标识。 步骤： - 介绍如何添加提示词。 - 可能涉及代码示例或配置步骤。 - 基于引用提供信息。 最终回答用中文。 生成相关问题：在回答末尾添加§§相关问题§§部分。 我的回答结构： 1. 开头解释添加提示词的方法。 2. 提供具体步骤或代码示例。 3. 引用相关部分。 4. 生成相关问题。 具体内容： - 添加提示词可以通过设置System Prompt来实现，如引用[1]所述。 - 在MNN Chat APP中，用户可以在设置中自定义System Prompt。 - 如果用户是开发者，可能需要通过API或代码设置。 代码示例：如果可能，提供一个简单的代码片段，但用户问题不是代码导向的，而是方法导向。 用户提到"Qwen3-0.6B-MNN模型"，所以可能涉及在MNN框架中使用模型。 从引用[3]，有编译MNN的指令，但这不是直接相关的。 核心方法：在输入时添加提示词作为模型输入的一部分。 在大型语言模型中，提示词通常作为文本输入的前缀。 在MNN中，当加载模型时，输入数据可能是一个字符串，用户可以在其中包含提示词。 但更具体地说，引用[1]提到"System Prompt"，这可能是APP中的一个功能。 所以，我应该建议使用MNN Chat APP或类似工具。 回答： - 在MNN Chat APP中，您可以直接在设置中配置System Prompt来添加提示词。 - 对于代码实现，您需要在模型输入时拼接提示词文本。 为了清晰，分步骤解释。</think>### 在Qwen3-0.6B-MNN模型中添加提示词的方法 在Qwen3-0.6B-MNN模型中添加提示词（prompt）是一种常见的做法，用于引导模型生成更符合特定需求的输出。Qwen3-0.6B-MNN模型是基于阿里云通义千问的轻量级模型，使用MNN（Mobile Neural Network）推理引擎部署。添加提示词主要通过以下两种方式实现，具体取决于您的使用场景（如使用MNN Chat APP或代码集成）。下面我将逐步解释方法，确保回答真实可靠。 #### 步骤1: 理解添加提示词的基本原理 提示词是模型输入的一部分，用于提供上下文或指令。例如，如果您希望模型生成一个关于“天气”的回答，提示词可以是“请描述今天的天气情况：”。在Qwen3模型中，输入数据通常是一个文本字符串，格式为： $$ \text{输入} = \text{系统提示} + \text{用户输入} $$ 其中，系统提示（System Prompt）是固定的引导文本，用户输入是动态内容。在MNN框架中，这需要正确设置输入张量或通过API配置。 #### 步骤2: 使用MNN Chat APP添加提示词（推荐给非开发者） 如果您使用MNN Chat APP（一个支持Qwen3模型的聊天应用），添加提示词非常简单： 1. 打开MNN Chat APP，并选择Qwen3-0.6B-MNN模型。 2. 在设置菜单中，找到“System Prompt”选项（引用[1]提到该功能支持自定义）。 3. 输入您的提示词，例如：“你是一个助手，请用中文回答所有问题。”。 4. 保存设置后，模型在生成响应时会自动将提示词作为前缀应用到用户输入中。 - 例如，用户输入“解释量子力学”，模型实际处理的是“你是一个助手，请用中文回答所有问题。解释量子力学”。 5. 此方法无需代码，适合快速测试和日常使用。更多细节可参考Qwen3文档（引用[2]）。 #### 步骤3: 通过代码集成添加提示词（适合开发者） 如果您在本地或代码中部署Qwen3-0.6B-MNN模型（如在Python或C++中使用MNN），需要通过编程方式在输入数据中拼接提示词。以下是基于MNN框架的简单示例（使用Python伪代码）： - 首先，确保您已正确编译MNN，并支持LLM功能（引用[3]提供了编译指令）。 - 然后，在加载模型后，创建输入数据时直接包含提示词： ```python import MNN import numpy as np # 加载模型（假设模型路径为'qwen3-0.6b-mnn.mnn'） interpreter = MNN.Interpreter('qwen3-0.6b-mnn.mnn') session = interpreter.createSession() # 定义提示词和用户输入 system_prompt = "你是一个专业助手，请用简洁语言回答。" # 您的自定义提示词 user_input = "解释快速排序算法。" # 用户实际输入 # 拼接完整输入 full_input = system_prompt + user_input # 将输入转换为模型所需的张量格式（假设输入ID为0） input_tensor = interpreter.getSessionInput(session) # 注意：Qwen3模型输入通常是token IDs，需先分词；这里简化处理，实际需调用tokenizer # 伪代码：token_ids = tokenizer.encode(full_input) # 实际中，使用Hugging Face的tokenizer或MNN内置工具 # 设置输入数据（示例为浮点数组） input_data = np.array([...], dtype=np.float32) # 替换为实际token IDs input_tensor.copyFrom(input_data) # 运行模型推理 interpreter.runSession(session) # 获取输出 output_tensor = interpreter.getSessionOutput(session) output_data = output_tensor.getData() # 解码输出为文本 response = tokenizer.decode(output_data) print(response) ``` - **关键点**： - 提示词必须在输入序列的开头拼接。 - Qwen3模型使用类似GPT的架构，输入长度有限制（例如4096 tokens），需确保提示词+用户输入不超过该限制。 - 在实际部署中，您可能需要使用Hugging Face的`transformers`库进行分词（引用[2]提到Qwen3支持Hugging Face集成）。 - 如果使用MNN的LLM功能，编译时需开启相关选项（如`-DMNN_BUILD_LLM=true`，引用[3]）。 #### 注意事项 - **性能影响**：添加过长提示词可能增加推理时间，因为模型需要处理更多tokens。建议提示词长度控制在50-100字符内。 - **模型兼容性**：Qwen3-0.6B-MNN是量化版本，添加提示词不会改变模型权重，只影响输入数据。 - **最佳实践**：测试不同提示词的效果，例如使用“请用中文回答”来强制输出语言（引用[1]表明这能调节输出风格）。 - **参考资源**：更多实现细节可访问Qwen官方文档（引用[2]）或MNN GitHub仓库。 通过以上方法，您可以灵活地在Qwen3-0.6B-MNN模型中添加提示词，无论是通过APP还是代码。如果遇到具体问题（如分词错误），建议查阅Qwen3的快速入门指南[^2]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值