LLM Weekly（2025.12.29-2026.1.4）

原创 于 2026-01-08 10:11:22 发布 · 83 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #大模型

在这里插入图片描述

网络资讯

深度求索提出全新训练方法，助力中国人工智能能效提升 深度求索发布一篇关于流形约束超连接（Manifold-Constrained Hyper-Connections） 的论文，该训练框架可提升大型人工智能模型的可扩展性，同时降低算力与能耗需求。研究团队基于字节跳动2024年的技术成果，对参数量从30亿到270亿不等的模型展开测试。此项研究先于深度求索备受期待的R2模型问世，分析人士指出，即便面临美国的芯片限制，该模型仍有望再度颠覆全球人工智能领域格局。

谷歌在NotebookLM平台测试30分钟音频课程功能 谷歌正在其NotebookLM平台测试一项名为“课程”的音频概述新功能，该功能以30分钟单人独白的形式，对用户上传的资料内容进行阐释与串联。NotebookLM还为这类音频课程提供了语言选择功能，并计划于2026年推出英式英语旁白选项，目标用户群体为需要通过音频形式梳理晦涩文档的学生、研究人员及专业人士。

网络指南

2025年大语言模型年度回顾 安德里杰·卡帕西发布的2025年度回顾报告指出，基于验证奖励的强化学习（RLVR） 已成为大语言模型训练的全新核心环节，它借助可验证的奖励机制提升模型的推理能力，将算力投入从预训练阶段转移至长期的强化学习训练

了解本专栏 订阅专栏 解锁全文 超级会员免费看
LLM Weekly（2025.12.1-12.7）
c_cpp_csharp的专栏
12-10 637
LLM Weekly（2025.12.15-12.21）
c_cpp_csharp的专栏
12-24 19
OpenAI推出由其最强文本生成图像模型驱动的ChatGPT图像功能，该功能已向所有ChatGPT用户及API调用用户开放。这款模型指令遵循精度更高，在图像编辑过程中能精准保留光影、构图与人物肖像特征，优化了密集文本渲染效果和小尺寸人脸画质，图像生成速度提升高达4倍。新增的图像侧边栏功能，提供预设风格模板、热门提示词以及可重复使用的肖像上传功能。。谷歌推出Gemini 3 Flash模型，将其部署为Gemini应用及AI搜索模式的默认模型。
LLM Weekly（2025.11.03-11.09）
c_cpp_csharp的专栏
11-12 642
该模型采用量化感知训练（Quantization-Aware Training），实现高速、尖端的推理效果，在智能体搜索、编程及各类任务的推理能力上均取得显著提升。研究人员构建了“深度推理数据集”（Deep Reasoning Dataset），测试模型在递增复杂度任务中的表现，发现模型在高复杂度场景下性能大幅下降。为提升 Siri 性能，苹果将在其私有云计算服务器（Private Cloud Compute）上运行 Gemini 模型，支持实时个性化查询，同时确保 Siri 与苹果生态系统的深度融合。
LLM Weekly（2025.10.6-10.12）
c_cpp_csharp的专栏
10-15 657
OpenAI 在 ChatGPT 平台内推出新一代支持聊天功能的应用程序，目前已在欧盟与英国以外地区上线。该功能由基于模型上下文协议（Model Context Protocol）构建的全新应用程序软件开发工具包（Apps SDK）提供技术支持。OpenAI 与 Spotify、Zillow 等合作伙伴展开合作，助力开发者触达 8 亿用户，通过对话式界面提升交互体验。
LLM Weekly（2025.02.10-02.16）
c_cpp_csharp的专栏
02-20 702
本次主要是针对2.10-2.16之间的LLM 论文和相关新闻进行摘要总结。
LLM Weekly（2025.10.13-10.19）
c_cpp_csharp的专栏
10-21 340
Anthropic 公司发布 Claude Haiku 4.5 模型，该模型在提升编码性能的同时降低成本、提高速度，在特定任务中表现优于 Claude Sonnet 4 模型。用户可通过 Claude Code 平台及主流平台使用该模型，它为开发者提供了高性价比的选择，能助力聊天助手、编码代理等人工智能应用的优化。
Cyber Weekly #41
产品老A，7年互联网大厂AIPM，专注探索新型人机交互
01-26 1238
赛博周刊 (Cyber Weekly），每周日晚发布，欢迎关注、点赞、收藏、评论。
TechCrunch 最新文章 (2025-05-24)
Albert_Lsk的博客
05-24 1447
TechCrunch最新日报（2025-05-24）
2025年度总结之-如何构建 2025 专属的 GitHub AI 项目情报库
CoderJia的学习之路
01-02 1626
为了更好地追踪 2025 年涌现的 AI 开源项目，我经常浏览 Github 热榜并整理分享。但手动查阅难免会有遗漏，为此，我计划开发一套自动化工具来采集 Github 热榜数据，旨在辅助个人技术积累的同时，也为博客内容提供持续的素材来源。下文将详细介绍我的技术实现思路，若有设计不足之处，恳请各位读者指正。
tensorrt-llm-0.5.0.post1-cp310-cp310-win-amd64.whl
03-08
whl格式，可直接下载使用
lmos-router-llm-0.2.0.jar
09-10
lmos-router-llm-0.2.0.jar
ollama-ipex-llm-2.2.0b20250318-win
03-21
Ollama 英特尔优化版 本镜像提供基于 IPEX-LLM 的 Ollama 英特尔优化版，用户可在英特尔GPU (如搭载集成显卡的个人电脑，Arc 独立显卡等) 上直接免安装运行 Ollama.
LM-Studio-0.3.16-8-x64.exe
06-19
LM Studio 是一款专为本地部署和运行大型语言模型（LLM）设计的开源桌面应用程序，致力于降低用户使用门槛，提供一站式、图形化的操作体验。
[20页中英文PDF]生物制药企业新一代知识管理：用知识图谱+大模型构建“第二大脑“
01-07 418
药物研发正面临知识爆炸的挑战。本文深入探讨如何利用大语言模型和知识图谱技术构建企业级"第二大脑"，将分散的科研数据、文献和隐性知识整合为可搜索的知识库，实现60%的文档审查效率提升，并可能为制药行业创造600-1100亿美元的年度价值。
AI赋能金融科技，VisualProject引领项目管理新潮流
weixin_46916369的博客
01-06 512
金融科技项目管理迈入AI赋能新阶段，VisualProject引领智能化转型。随着金融科技竞争转向"体系化能力"，传统管理模式面临需求断层、资源失衡等痛点。维普时代推出的VisualProject通过AI深度融入项目全流程，实现智能需求解析、资源协同和风险预警，使招商银行等项目效率提升40%、延期率降至8%。该产品构建"数据驱动决策"体系，提供30余项核心指标分析，助力金融机构实现精准管理。未来，AI与项目管理的深度融合将持续推动金融科技高质量发展。
基于LangChain与RAG技术构建智能客服问答系统：完整实现指南
最新发布
weixin_46244623的博客
01-08 719
本文介绍了基于LangChain框架和RAG技术的智能客服系统构建方法。该系统整合了Ollama本地语言模型服务和FAISS向量数据库，能够高效检索项目文档并生成准确回答。文章详细阐述了系统架构、核心组件及实现代码，包括知识库构建、文档检索和回答生成流程。该系统可显著提升客服效率，支持网络搜索、数学计算、节假日查询等多种功能，并提供了良好的可扩展性。通过本地部署Qwen2.5模型，实现了安全可靠的智能客服解决方案。
【金猿CIO展】上海康展物流有限公司董事长兼CIO王浩：AI驱动数智化转型——医药物流供应链的全链路革新之路
数据猿
01-04 757
未来，我们将继续聚焦技术创新与服务升级，深化人工智能、物联网等技术在全场景的应用，以更高效、更合规、更智能的供应链服务，助力大健康产业发展，致力于成为专业医药物流最佳服务商，与行业伙伴共同构建更具韧性与价值的供应链生态。：建立全链路透明服务体系，客户、委托方、康展物流、承运商派送商四方均可通过WEB端、移动端实时跟踪订单信息、物流状态、车辆位置与温度数据，实现发货通知、时效跟踪、回单状态查询、异常反馈等全流程可视化，变被动查询为主动感知。数智化转型的终极目标，是实现运营模式的升级与服务价值的重塑。
以 JoyAgent-JDGenie 项目为例：如何利用 AI Agent 高效学习开源框架
caicongyang
01-05 1033
本文以JoyAgent-JDGenie项目为例，介绍利用AI技术高效学习开源框架的方法。
PBA-PEG-Silane，苯硼酸-聚乙二醇-硅烷在二氧化硅表面修饰中的应用研究
lk13186385584的博客
01-04 443
PBA-PEG-Silane是一种集成了苯硼酸（PBA）、聚乙二醇（PEG）和硅烷偶联剂的三功能分子。
~/MNN/build/Qwen3-0.6B-MNN $ ls -al total 444295 drwx------. 2 u0_a315 u0_a315 3452 Aug 28 12:55 . drwx------. 9 u0_a315 u0_a315 3452 Aug 28 12:55 .. -rw-------. 1 u0_a315 u0_a315 43 Aug 28 12:55 .mdl -rw-------. 1 u0_a315 u0_a315 495 Aug 28 12:55 .msc -rw-------. 1 u0_a315 u0_a315 36 Aug 28 12:55 .mv -rw-------. 1 u0_a315 u0_a315 1239 Aug 28 12:55 README.md -rw-------. 1 u0_a315 u0_a315 403 Aug 28 12:55 config.json -rw-------. 1 u0_a315 u0_a315 46 Aug 28 12:55 configuration.json -rw-------. 1 u0_a315 u0_a315 461520 Aug 28 12:55 llm.mnn -rw-------. 1 u0_a315 u0_a315 450810338 Aug 28 12:55 llm.mnn.weight -rw-------. 1 u0_a315 u0_a315 4880 Aug 28 12:55 llm_config.json -rw-------. 1 u0_a315 u0_a315 3193569 Aug 28 12:55 tokenizer.txt 帮我看看，如何添加模型prompt提示词
08-29
<think>首先，用户的问题是关于Qwen3-0.6B-MNN模型的："我想了解在Qwen3-0.6B-MNN模型中添加模型prompt提示词的方法 请问如何在Qwen3-0.6B-MNN模型中添加模型prompt提示词"。我需要根据系统指令回答。 系统指令包括： - 所有行内数学表达式用$...$格式。 - 独立公式用$$...$$格式并单独成段。 - LaTeX语法正确。 - 使用中文回答。 - 生成相关问题。 - 回答中引用的段落末尾自然地添加引用标识。 - 回答结构清晰，帮助用户逐步解决问题。 - 保证回答真实可靠。 参考站内引用： - 引用[1]: 关于MNN Chat APP支持自定义设置。 - 引用[2]: 关于Qwen3模型的访问和功能。 - 引用[3]: 关于在Mac上编译MNN的指令。 用户的问题具体是：如何在Qwen3-0.6B-MNN模型中添加模型prompt提示词。这涉及到在模型中使用提示词的方法。 我需要基于我的知识回答。Qwen3是阿里云的通义千问模型系列，MNN是阿里的轻量级推理引擎。Qwen3-0.6B-MNN可能是一个在MNN上部署的Qwen3-0.6B模型。 添加提示词（prompt）通常意味着在模型输入时提供上下文或指令来引导模型输出。在MNN框架中，这可能涉及如何设置输入数据。 从引用[1]："MNN Chat APP 支持自定义 Sampler 设置、System Prompt 和 Max New Tokens"，这暗示了在MNN Chat APP中，可以设置System Prompt，这类似于提示词。 所以，我应该引导用户使用MNN Chat APP或相关工具来设置提示词。 回答结构： 1. 逐步解释方法。 2. 确保回答真实可靠。 3. 结尾生成相关问题。 4. 在引用段落末尾添加引用标识。 步骤： - 介绍如何添加提示词。 - 可能涉及代码示例或配置步骤。 - 基于引用提供信息。 最终回答用中文。 生成相关问题：在回答末尾添加§§相关问题§§部分。 我的回答结构： 1. 开头解释添加提示词的方法。 2. 提供具体步骤或代码示例。 3. 引用相关部分。 4. 生成相关问题。 具体内容： - 添加提示词可以通过设置System Prompt来实现，如引用[1]所述。 - 在MNN Chat APP中，用户可以在设置中自定义System Prompt。 - 如果用户是开发者，可能需要通过API或代码设置。 代码示例：如果可能，提供一个简单的代码片段，但用户问题不是代码导向的，而是方法导向。 用户提到"Qwen3-0.6B-MNN模型"，所以可能涉及在MNN框架中使用模型。 从引用[3]，有编译MNN的指令，但这不是直接相关的。 核心方法：在输入时添加提示词作为模型输入的一部分。 在大型语言模型中，提示词通常作为文本输入的前缀。 在MNN中，当加载模型时，输入数据可能是一个字符串，用户可以在其中包含提示词。 但更具体地说，引用[1]提到"System Prompt"，这可能是APP中的一个功能。 所以，我应该建议使用MNN Chat APP或类似工具。 回答： - 在MNN Chat APP中，您可以直接在设置中配置System Prompt来添加提示词。 - 对于代码实现，您需要在模型输入时拼接提示词文本。 为了清晰，分步骤解释。</think>### 在Qwen3-0.6B-MNN模型中添加提示词的方法 在Qwen3-0.6B-MNN模型中添加提示词（prompt）是一种常见的做法，用于引导模型生成更符合特定需求的输出。Qwen3-0.6B-MNN模型是基于阿里云通义千问的轻量级模型，使用MNN（Mobile Neural Network）推理引擎部署。添加提示词主要通过以下两种方式实现，具体取决于您的使用场景（如使用MNN Chat APP或代码集成）。下面我将逐步解释方法，确保回答真实可靠。 #### 步骤1: 理解添加提示词的基本原理 提示词是模型输入的一部分，用于提供上下文或指令。例如，如果您希望模型生成一个关于“天气”的回答，提示词可以是“请描述今天的天气情况：”。在Qwen3模型中，输入数据通常是一个文本字符串，格式为： $$ \text{输入} = \text{系统提示} + \text{用户输入} $$ 其中，系统提示（System Prompt）是固定的引导文本，用户输入是动态内容。在MNN框架中，这需要正确设置输入张量或通过API配置。 #### 步骤2: 使用MNN Chat APP添加提示词（推荐给非开发者） 如果您使用MNN Chat APP（一个支持Qwen3模型的聊天应用），添加提示词非常简单： 1. 打开MNN Chat APP，并选择Qwen3-0.6B-MNN模型。 2. 在设置菜单中，找到“System Prompt”选项（引用[1]提到该功能支持自定义）。 3. 输入您的提示词，例如：“你是一个助手，请用中文回答所有问题。”。 4. 保存设置后，模型在生成响应时会自动将提示词作为前缀应用到用户输入中。 - 例如，用户输入“解释量子力学”，模型实际处理的是“你是一个助手，请用中文回答所有问题。解释量子力学”。 5. 此方法无需代码，适合快速测试和日常使用。更多细节可参考Qwen3文档（引用[2]）。 #### 步骤3: 通过代码集成添加提示词（适合开发者） 如果您在本地或代码中部署Qwen3-0.6B-MNN模型（如在Python或C++中使用MNN），需要通过编程方式在输入数据中拼接提示词。以下是基于MNN框架的简单示例（使用Python伪代码）： - 首先，确保您已正确编译MNN，并支持LLM功能（引用[3]提供了编译指令）。 - 然后，在加载模型后，创建输入数据时直接包含提示词： ```python import MNN import numpy as np # 加载模型（假设模型路径为'qwen3-0.6b-mnn.mnn'） interpreter = MNN.Interpreter('qwen3-0.6b-mnn.mnn') session = interpreter.createSession() # 定义提示词和用户输入 system_prompt = "你是一个专业助手，请用简洁语言回答。" # 您的自定义提示词 user_input = "解释快速排序算法。" # 用户实际输入 # 拼接完整输入 full_input = system_prompt + user_input # 将输入转换为模型所需的张量格式（假设输入ID为0） input_tensor = interpreter.getSessionInput(session) # 注意：Qwen3模型输入通常是token IDs，需先分词；这里简化处理，实际需调用tokenizer # 伪代码：token_ids = tokenizer.encode(full_input) # 实际中，使用Hugging Face的tokenizer或MNN内置工具 # 设置输入数据（示例为浮点数组） input_data = np.array([...], dtype=np.float32) # 替换为实际token IDs input_tensor.copyFrom(input_data) # 运行模型推理 interpreter.runSession(session) # 获取输出 output_tensor = interpreter.getSessionOutput(session) output_data = output_tensor.getData() # 解码输出为文本 response = tokenizer.decode(output_data) print(response) ``` - **关键点**： - 提示词必须在输入序列的开头拼接。 - Qwen3模型使用类似GPT的架构，输入长度有限制（例如4096 tokens），需确保提示词+用户输入不超过该限制。 - 在实际部署中，您可能需要使用Hugging Face的`transformers`库进行分词（引用[2]提到Qwen3支持Hugging Face集成）。 - 如果使用MNN的LLM功能，编译时需开启相关选项（如`-DMNN_BUILD_LLM=true`，引用[3]）。 #### 注意事项 - **性能影响**：添加过长提示词可能增加推理时间，因为模型需要处理更多tokens。建议提示词长度控制在50-100字符内。 - **模型兼容性**：Qwen3-0.6B-MNN是量化版本，添加提示词不会改变模型权重，只影响输入数据。 - **最佳实践**：测试不同提示词的效果，例如使用“请用中文回答”来强制输出语言（引用[1]表明这能调节输出风格）。 - **参考资源**：更多实现细节可访问Qwen官方文档（引用[2]）或MNN GitHub仓库。 通过以上方法，您可以灵活地在Qwen3-0.6B-MNN模型中添加提示词，无论是通过APP还是代码。如果遇到具体问题（如分词错误），建议查阅Qwen3的快速入门指南[^2]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值