数据周期:2026-04-24 ~ 2026-09-04 | 案例模型:DeepSeek V4、GLM-5.3、Qwen3.8-Max 系列续篇:上一篇《AI 编码半年没质变?强项在涨,短板在露》聊的是能力怎么变,这篇往回退一步,问能力从哪来。
9 月 2 日,Qwen3.8-Max-0902 登上了 Arena 真人盲评榜 Code Arena: WebDev 的榜首。这不是一个新模型——qwen3.8-max 八月三日就发布了,当时排第四,落后 Claude Opus 5 Max 大约 37 分。一个月后,同一个模型,一个参数没加,1691 分反超 Opus 5(1688 分),还顺手把价格摆上台面:Opus 一百万 token 混合计价 20 美元,它 5 美元,还站在了同价位段的帕累托前沿上。
阿里的解释是:针对编码和长程智能体任务做了一轮定向强化学习(据 TechTimes 报道)。翻译成大白话:后训练。
这个剧本我们见过。7 月 31 日,DeepSeek V4-Flash 正式版上线,官方更新日志原话是"模型结构、尺寸和预览版保持一致,仅重新进行了后训练"——就这一句"仅重新后训练",智能指数从 40 拉到 50。8 月 13 日,V4-Pro 正式版上线,架构不动,智能体基准全线大涨。8 月 14 日,智谱发布 GLM-5.3,官方说得更直白:"全部能力提升都来自后训练 Scaling"。9 月 2 日,千问跟上。
四个模型,同一个动作,四份成绩单。这不是巧合,是行业在换挡。这篇就聊聊:后训练到底是什么,为什么它这半年突然这么能打,以及——它的边界在哪。
一、模型的一生,分两段
先把概念掰开。一个大模型的诞生分两步,两步干的事完全不同。
第一步,预训练。 拿几万亿 token 的网页、代码、书籍,让模型做一件事:预测下一个词。这一步过后,模型什么都"读过"——全世界的开源代码、技术文档、论坛吵架帖都在它的参数里。但它只是读过,不一定会干。你让它修一个 bug,它可能给你背一段教科书,然后半路把文件删了。
第二步,后训练。 基座冻结之后的一切加工。早期是指令微调和人类反馈强化学习,教模型"好好说话、别答非所问"。这两年的主角换成了 RLVR——可验证奖励的强化学习:把模型扔进海量真实任务里反复跑,环境自动判卷,测试通过给分,漏洞复现成功给分,命令跑挂扣分。模型在犯错、挨罚、重试里,学会把一件事从头办到尾。
打个比方:预训练是上学,后训练是上岗培训。上学攒知识,上岗练的是"接到活怎么把它干完"。
二、四份成绩单
模型
动了什么
代表性结果
口径
V4-Flash-0731(7/31)
仅重做后训练
智能指数 40→50;DeepSWE 7.3→54.4
第三方独立评测
V4-Pro-0813(8/13)
架构不动
DeepSWE 12.8→62.7;Terminal-Bench 72.1→87.9
社区流出,未进官方日志
GLM-5.3(8/14)
同基座,零新参数
编程能力 +50%;DeepSWE 46.2→66.9
官方自报
Qwen3.8-Max-0902(9/2)
同模型快照
Code Arena 1669→1691,登顶
真人盲评
四份单子里,含金量最高的是两头:DeepSeek 那格"40→50"是第三方评测机构 Artificial Analysis 的独立复评,Qwen 那格是真人在 Arena 上盲投出来的——不经过任何厂商自报,模型的实际表现说话。中间两格是官方口径,看看趋势就好,等独立复现。
有意思的是各家暴涨的项目:DeepSWE、Terminal-Bench、CyberGym、Code Arena——全是写代码、跑终端、挖漏洞、做网页这一类。没有一家宣称后训练让模型诗写得更好了。这不是疏忽,是线索。
三、为什么效果这么好
我认为是三层原因,一层比一层硬。
第一层:考试终于对齐了。 预训练的考题是"预测下一个词",人类想要的考试是"把活干完",中间隔着一条鸿沟。模型学会了世界的知识,但没人教它把知识组织成行动:什么时候读代码,什么时候调工具,报错了往哪回退,长任务里怎么不丢目标。后训练直接把训练目标对准"干成事"本身。同一个学生,以前天天考奥赛,现在直接练上岗——练什么,出什么成绩。
第二层:代码是天然的完美考场。 强化学习有个死穴:奖励从哪来?对话、写作、审美这类任务,判卷靠人,贵且慢,没法规模化。代码不一样:测试能不能跑通、漏洞能不能复现、任务能不能端到端交付,全是机器自动出分的客观信号。出题机器(任务环境)和批卷机器(验证器)一齐,练习量就不再稀缺,可以无限刷。回头看四个案例的暴涨项,清一色落在可验证领域——魔法边界就在"机器能不能自动判卷"这条线上。
第三层:军备重心从数据搬到了环境。 预训练时代拼语料,后训练时代拼"任务环境"。智谱官方说得很实在,GLM-5.3 的提升来自三样:数十倍的长程任务环境、更丰富的环境类型、更长的训练时间。而为了让这些环境跑得起,GLM-5.3 的技术家底里躺着推理加速框架 IndexShare——在 30B 实验模型上砍掉 75% 的索引计算,推理提速近一倍——和异步强化学习框架 Slime。这些技术不直接增加智能,但决定了模型能在同样的算力里经历多少、多长的任务。环境即数据,这是这轮竞赛的新护城河。这条路线研究侧早有铺垫:Reasoning Gym 把"出题机器+批卷机器"做成了程序化环境库,100 多个可验证环境难度可调、可以无限刷;更新的 Terminal-Universe 走得更远,从 agent 的历史轨迹里逆向重建出 3.7 万个可执行环境,还给出一个关键消融——在重建环境里让模型重新解题,效果好过直接模仿原始轨迹。环境比轨迹值钱。
还有一笔账:预训练一轮要几个月、亿美元级投入;后训练单位能力提升的成本低得多。智谱创始人唐杰在业绩会上说得很坦白——这是权衡边际收益后的主动选择,"参数规模并非 Scaling 的唯一变量",资源现在向后训练倾斜。
四、两个流行说法,各对一半
聊到模型提升,最常见的说法是两条:参数越大越博学;后训练越极致,某个领域越厉害。两句各对一半,拆开看。
"参数越大自然越博学"——对了一半。 准确的说法是:参数决定博学的上限,数据决定你摸没摸到上限。容量再大,语料不够多不够好,照样装不满。经典证据是 Chinchilla:同样的算力预算,700 亿参数的模型配 4 倍数据,打赢了 2800 亿参数的大模型——后者不是输在脑容量,是输在没吃饱。顺带一提,"参数"这个词本身也在变模糊:V4 Pro 总参数 1.6 万亿,每次推理只激活 490 亿。比"多大"更关键的是"多厚地用"。
"训练越极致,某个领域越厉害"——偏差更大。 RLVR 这条路练的不是某个领域的知识,是"把已有知识组织成行动"的通用能力。两个证据:其一,GLM-5.3 只在编程上做强化学习,结果网络安全能力"意外涌现",CyberGym 从 77.2% 涨到 84.5%,压过了 GPT-5.6 Sol——如果后训练只是往脑子里灌领域知识,不该跨域长出新东西。其二,Artificial Analysis 对 V4-Flash-0731 的独立评测显示,准确率一格没动(37%),幻觉率降了 11 个百分点(95%→84%)——知识没变,行为变了。它没变博学,是变靠谱了。
研究侧也有对应:两篇 RLVR 机制论文(Beyond the 80/20、OPSA)从不同路径得出同一个结论——RL 训练几乎不动承载知识的 token,增益全部集中在少数高熵"分叉点"上。前者只对约 20% 的高熵 token 施加梯度,成绩反而比全量训练更高;后者更彻底,拆掉蒸馏的 teacher、只压制低概率 token,性能不降反升。后训练动的不是知识,是行为。
所以更准的图景是:预训练决定"知道什么",后训练决定"会做什么"。 而"会做"是通用的——拆任务、调工具、看报错、失败回退,这套"办事学"在代码、网安、智能体上是同一套功夫,所以才会跨域迁移。真正"往一个领域猛灌"是早年期微调的玩法,代价是一处灌狠了别处退化,那是老路线的问题,不是现在的主流。
再补两条常被漏掉的轴:架构效率——IndexShare 没加一个参数就把推理提速近一倍,它是后训练烧得起的前提;推理时算力——DeepSeek 的 low/high/max 思考档位、各家测试时多算几步的策略,同一副参数,当场多想十分钟,分数就不一样。
所以完整的画面不是两条路,是四层:参数乘以数据决定矿有多深,后训练决定能挖出多少,架构效率决定挖矿成本,推理时算力决定当场使多大力。四层之间的关系是上下游,不是平行选项——后训练的天花板由基座决定,知识不在基座里,后训练变不出博学。基座挖井,后训练装抽水机;井里没水,抽水机再好也白搭。
五、泼半盆冷水
"效果这么好"这个前提,值得拆一下,不然容易变成新神话。
有几项提升是变谨慎,谈不上变聪明。 幻觉率 95%→84%,但准确率 37% 纹丝不动——模型只是少编了,知识没多。矿还是那个矿,是挖得干净了。
红利集中在可验证领域。 代码、智能体、网安暴涨;写作、审美、开放问答没有对应暴涨。RLVR 的魔法出不了"机器能自动判卷"这个圈。这个圈的边界研究侧也看得见:RLSVR 想把可验证奖励扩到开放任务,办法是把任务先改造成"机器能判卷"的形状——圈子在扩大,但每一步都得先过这道门。圈内也未必稳,Reasoning Gym 测出过"难度悬崖":任务难度上一档,成绩断崖式下跌,最狠的掉幅超过 70%。
还有一个心照不宣的可能。 预览版本来就是后训练没做满的版本,"preview 到正式版的暴涨"里,或许有一部分只是口径差——这一条没有官方证据,纯属合理怀疑,但 DeepSeek 两次跳变的时间线跟它对得上。
头部玩家自己承认了极限。 唐杰的原话:后训练做到极致之后,下一个阶段的增长必须回到基座模型——智谱下一代基座已在推进。市场也已经在问"智谱是不是只会后训练",这个质疑本身,说明风向开始转了。
六、结尾
这轮后训练竞赛里,全行业疯狂挖矿,是因为年初那批基座(DeepSeek V4、GLM-5 基座、Qwen3.8)矿脉确实好,而后训练的工程化刚刚成熟。挖到边际收益递减那天,大家还是会回去造更大的钻机。
对普通人来说,更实际的变化是发布节奏:同一个基座连出多版,带日期后缀的"快照"成了主流命名。模型正在从"一个大版本"变成"一项持续更新的服务",榜单竞争从年度战争变成月度竞赛。这个节奏在发稿时现场上演了一次:9 月 2 日 Qwen3.8-Max-0902 登顶,9 月 4 日截取 Arena 实时榜时,Anthropic 的 Fable 5.1 Max 已经以 1765 分把榜首抢了回去,0902 落到第二(1688 分),对 Opus 5 Max 的领先缩水到 1 分。从登顶公告到王座易主,不超过 48 小时。上个月你还领先的模型,这个月——不,这两天——就可能被反超,这大概就是"后训练时代"最直观的体感。
参考资料
DeepSeek 官方更新日志:https://api-docs.deepseek.com/zh-cn/updates
Artificial Analysis 对 V4-Flash-0731 的独立评测(知乎转载):https://zhuanlan.zhihu.com/p/2067219668155347201
DeepSeek V4 Pro 正式版发布(优快云 社区转载):https://deepseek.youkuaiyun.com/6a805c2210ee7a33f29b65ef.html
智谱发布 GLM-5.3(网易):https://www.163.com/dy/article/L4CP0LK40556OXHR.html
智谱业绩会回应"只会后训练"质疑(搜狐·每日经济新闻):https://timeline.sohu.com/news/S8oNitws1R
GLM-5.3 后训练技术解析(知乎):https://zhuanlan.zhihu.com/p/2072048332042670756
Qwen3.8-Max-0902 登顶 Code Arena(TechTimes):https://www.techtimes.com/articles/326373/20260902/qwen38-max-0902-beats-claude-opus-5-coding-china-law-still-owns-every-call.htm
Arena.ai 官方公告(X):https://x.com/arena/status/2094974637704913198
DeepSeek V4 Pro 正式版上线(IT之家):https://www.ithome.com/0/989/423.htm
DeepSeek V4 Pro 正式版深夜突袭(华尔街见闻):https://wallstreetcn.com/articles/3779306
论文佐证
Beyond the 80/20 Rule: High-Entropy Minority Tokens Drive Effective RL for LLM Reasoning(NeurIPS 2025,RLVR 机制:增益集中在高熵 token):https://arxiv.org/abs/2506.01939
Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement(OPSA,on-policy 蒸馏实质是压制低概率 token):https://arxiv.org/abs/2608.31046
REASONING GYM: Reasoning Environments for RL with Verifiable Rewards(NeurIPS 2025 Spotlight,程序化可验证环境库与跨域迁移实验):https://arxiv.org/abs/2505.24760
Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments(轨迹重建 3.7 万可执行环境,环境重解优于轨迹模仿):https://arxiv.org/abs/2609.04148
From RLVR to RLSVR: Task Transformation Induces Self-Verifiable Rewards(开放任务的可验证奖励扩展):https://arxiv.org/abs/2607.23802
ProRL: Prolonged Reinforcement Learning Expands Reasoning Boundaries(延长 RL 可发现基础模型采样不到的新策略):https://arxiv.org/abs/2505.24864
Knowing When Not to Reuse: Conditional Experience Transfer in Autonomous LLM Post-Training(BCIT,阿里云,后训练经验复用的条件与风险):https://arxiv.org/abs/2608.26730
相关推荐
DeepSeek V4.1 Flash实战:性能反超旗舰的轻量级模型部署与调优指南
大语言模型部署中,推理效率与成本往往难以兼得。MoE架构通过稀疏激活机制,在保持模型能力的同时降低计算开销,成为平衡性能与性价比的关键技术。基于此原理,开发者可在API调用和本地部署两种路径间灵活选择:云端API适合快速集成,而本地量化部署则保障数据隐私。在Agent与工具调用场景中,模型稳定性至关重要,当遇到“DeepSeek服务器繁忙,请稍后再试”的限流提示时,需设计重试机制。借助DeepSeek Harness等编排工具,可高效串联多步任务,提升生产环境下的自动化水平。实际落地中,V4.1 Flash
大模型推理优化实战:不增参数也能反超旗舰模型
大模型能力评估长期陷入参数量迷信,仿佛参数规模就是智能的唯一标尺。然而真实业务中,旗舰模型翻车、小模型逆袭的案例屡见不鲜,揭示出性能公式远非“参数越大越强”这般简单。推理阶段的调度质量,才是决定潜力能否兑现的另一半功夫。解码温度与采样策略的精细调节,能让瘦模型在特定任务上跨级反超;上下文工程通过结构化提示、思维链与外部知识检索,在不改动权重的前提下重构模型的问题求解空间;KV缓存与量化技术则从系统层释放效率红利,让相同硬件跑出更强效果。从概念到原理,再到垂直场景的实践验证,本文梳理出一套可复现的推理侧优化方
GLM-5-Turbo实测对比GLM5:API接入、参数调优与场景落地方案
大模型API接入已成为企业智能化转型的关键环节,而模型选型直接影响应用效果与成本。理解模型在后训练阶段的对齐与指令遵循能力,比单纯比较参数规模更具现实意义。不同模型在结构化输出、推理稳定性、代码生成等工程场景中表现差异显著,通过系统化的评测方法和参数调优,可以找到最适合业务需求的方案。本文以GLM-5-Turbo为例,展示了从API配置、参数设置到RAG问答、代码审查、信息抽取等场景的落地经验,并与GLM5进行多维度实测对比,为开发者提供一份可复用的选型参考。
Sonnet 5.5编码反超旗舰,定价不涨背后的开发者选型启示
大模型API的定价与性能评测,一直是开发者在技术选型时的核心关注点。通常旗舰模型拥有最强综合能力,但中端型号能否通过专项优化实现单点反超?这涉及模型训练目标、推理架构与产品策略的深层取舍。Claude Sonnet 5.5以输入3美元/百万tokens、输出15美元/百万tokens的稳定定价,在SWE-bench等编码基准上超越自家旗舰,同时保持了低延迟与高稳定性。这种“效率与质量平衡点”的定位,为编码助手、自动化代理等高频场景提供了更具性价比的选择。了解API定价逻辑与编码跑分维度的关系,能帮助开发者避
开源大模型一周三连发:登顶榜单、4.69万亿Token与推理模型突破
大模型技术的演进正从单一维度的参数竞赛,转向架构、数据与训练策略的协同创新。混合专家(MoE)架构通过解耦知识容量与推理成本,让模型在总参数高达236B时仍能保持高效激活;而预训练数据规模扩充至4.69万亿Token,配合合成数据的质量筛选,显著提升了模型在数学、代码等逻辑密集型任务上的泛化能力。与此同时,推理模型通过过程监督与强化学习的结合,在复杂问题求解上展现出超越传统对话模型的表现,推动开源生态与闭源产品的差距从代差缩小至半步。对于开发者而言,无论是长上下文处理、结构化输出还是思考链日志的应用,都需基
orangepi 5 plus ubuntu24.04上安装redroid
OrangePi 5 Plus运行reDroid云手机方案总结 在RK3588+Ubuntu 24.04上部署reDroid(Android容器化方案)的关键步骤: 内核要求:确保启用binderfs(无需ashmem,新版reDroid使用memfd替代); 安装流程: 安装Docker并配置代理加速镜像拉取; 拉取reDroid镜像(推荐Android 12/13 ARM64版本); 通过挂载binderfs启动容器,指定分辨率与DPI参数; 多实例管理: 脚本化创建多个容器(如8个实例),分配独立端口
大模型‘另一半功夫’:提示工程、RAG、推理优化与安全免疫四大支柱
大模型落地效能瓶颈往往不在参数规模,而在于模型外的系统性工程能力——即提示工程、检索增强生成(RAG)、推理优化与安全合规四大技术支柱。其核心原理是通过结构化指令设计、可信溯源闭环、显存与延迟协同优化、业务级主动免疫等手段,提升模型在真实场景中的稳定性、准确性与可控性。这类工程能力直接决定首问解决率、人工介入率等关键业务指标,广泛应用于政务热线、金融客服、医疗问答等高可靠性要求场景。本文聚焦可复用、轻量级、零参数改动的落地实践路径,覆盖Prompt建模、RAG重排序、动态批处理与安全探针等高频热词技术。
monocle使用sct整合数据integration还是rna中的counts数据 轨迹分析 拟时序
【代码】monocle使用sct整合数据integration还是rna中的counts数据 轨迹分析 拟时序。
DeepSeek V4.1 Flash:效率旗舰如何低成本碾压前代旗舰
在AI模型竞争从“堆参数”转向“有效参数利用率”的背景下,混合专家架构(MoE)与知识蒸馏成为平衡性能与成本的关键技术。DeepSeek V4.1 Flash通过优化专家路由与推理引擎,在代码生成、数学推理等任务上实现追平乃至反超前代旗舰,同时将API调用成本降至原来的几分之一。这一技术路线使高性价比AI能力成为可能,适用于高并发实时交互、私有化部署等场景。围绕其架构设计、核心原理、接入实践与常见故障排查展开解析,帮助开发者在模型选型与工程落地中快速决策。
il2cpp分析-gobal-metadata.dat解密
打开ida,把libil2cpp拖到ida中按快捷键Shift+F12等待字符串分析完后,搜索global-metadata.dat。ida中双击sub_57EE7C进入,VS code中也跳转到LoadMetadataFile函数。VSCode打开il2cpp源代码,全局搜索global-metadata.dat。工具:010Editor,IDA 7.5,Jadx,VS Code。判断加密逻辑为根据文件的长度循环读取字节码做亦或加密。双击搜索出来的结果,切记要选il2cpp目录下的。
CANoe软件之离线报文回放与分析实战
本文详细介绍了如何使用CANoe软件进行离线报文回放与分析,帮助工程师将现场故障数据转化为可反复研究的实验室资源。通过实战步骤,指导如何搭建分析工程、加载DBC文件解码信号,并利用Trace和Graphics窗口进行深度数据筛选与图形化分析,从而高效定位汽车电子故障,是提升诊断效率的关键技能。
国产旗舰、AI天价估值与春运抢票:科技生活三重奏
智能手机的旗舰之争、AI大模型的资本叙事与春运购票的数字化体验,看似独立,实则共同勾勒出技术渗透生活的真实图景。“国产旗舰第一”的背后,是芯片、屏幕与操作系统的全链路自研,体现供应链话语权的转移;而Anthropic估值3500亿美元,则反映市场为AI“可能性”定价的逻辑,云端与端侧模型的协同正成为趋势。与此同时,春节火车票开售考验着高并发系统的稳定性,官方候补机制成为高效抢票的关键。理解这些技术原理,能帮助你在换机决策、AI工具选型与出行规划中,将信息转化为更理性的行动。
避开这些坑!晶圆封装中Wire Bonding(引线键合)的5种常见不良与实战调试心得
本文深入探讨晶圆封装中Wire Bonding(引线键合)的5种常见不良现象,包括Wire Offset、BSOB不良、球径/球厚异常、弧度不良和IMC问题。通过实际案例和参数优化方案,帮助工程师提升封装质量和可靠性,特别适用于半导体封装领域的专业人士。
GLM-5-Turbo实测:轻量版为何能在特定任务中反超完整版
在大模型应用落地中,模型选型直接关系到成本、延迟与输出质量。许多开发者习惯于将注意力集中在旗舰模型上,却忽略了经过知识蒸馏、稀疏化与量化等技术优化的轻量版本。蒸馏让学生模型学习教师输出的概率分布,从而强化格式服从性与短链推理能力;量化则降低显存占用并提升并发效率。这些工程手段让Turbo版在高频调用、结构化输出、代码生成等场景中表现得更为稳定,甚至在部分任务上优于完整版。本文基于真实项目一周的对比测试,梳理了Turbo版与完整版在不同任务上的优劣边界,并给出了生产环境下的接入策略与调参建议,帮助开发者在成本
StarRC常见问题整理
我正在「拾陆楼」和朋友们讨论有趣的话题,你⼀起来吧?使用starrc_cmd “错误代码”就能看对应Error或Warnning的解释。
智能车图像处理3-入门级分析2 ---直道冲刺
PS :入门级文章适合新手,如果已经有基础可以去看进阶篇文章。
国产大模型密集更新,开发者如何精准选型与成本优化
大模型技术正经历代际跃迁,推理能力、上下文窗口、多模态理解与性价比成为衡量模型实力的核心维度。理解这些技术指标的底层原理,是做出理性选择的前提:推理深度决定了复杂任务的处理上限,有效上下文长度比宣传参数更关键,而多模态细粒度识别能力则直接影响业务落地效果。对开发者和企业而言,模型选型不再是非此即彼的决策,而是基于场景需求的动态匹配。从个人工具的轻量级接入,到企业级系统的私有化部署,再到混合架构下的开源闭源协同,每一步都需要结合成本与性能的平衡。同时,通过Prompt压缩、模型路由和语义缓存等策略,可以在不牺
4.Simulink基础建模操作——加减乘除运算
加减乘除运算
九月旗舰模型扎堆:从刷榜到单位智能成本的选型新逻辑
大模型推理成本与响应延迟是工程落地的核心约束。通过量化、蒸馏与注意力机制优化,模型在保持能力的同时显著降低单位token开销,使高频任务全量覆盖与多轮Agent调用成为可能。技术价值在于以更低成本实现稳定服务,应用场景涵盖内容审核、合同审核与实时客服。当能力趋同,选型标准正从榜单分数转向单位智能成本与可用性,推动行业从炫技走向务实。
C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片
基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正
深度学习工具包 DeepLearningToolbox
深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[](https://bitdeli.com/free "Bitdeli Badge")
不调权重也能反超GPT-6?RSIAgent用上下文工程和技能编排实现性能跃升
在大模型能力日益趋同的今天,旗舰模型之间的基准分数差距越来越小,真正的差异体现在复杂任务的完成质量上。然而多数用户仍停留在“一次提问、一次回答”的直连用法,导致模型潜力被严重浪费。上下文工程通过重新设计模型读取的输入结构,在不修改权重的前提下显著提升行为表现;技能编排则将任务拆解为原子操作,配合提示词优化与工具调用控制流,让模型从自由发挥转变为按流程执行。这种思路在金融、法律等对可解释性要求高的场景中尤为适用,同时也能降低token消耗、提升多步任务成功率。本文以RSIAgent为例,展示如何在不改动GPT
visio安装包
Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。
GLM-5.3 和 Qwen3.8-27B 同一天发布,走的是完全相反的路
GLM-5.3 和 Qwen3.8-27B 同一天发布,两条路线,一个向上突破天花板,一个向下降低门槛。这其实反映了整个行业的一个趋势:大模型正在从"军备竞赛"走向"分工协作"——不是所有人都需要 740B 的模型,也不是所有人都适合 27B 的模型,关键是找到适合自己的那一款。我比较好奇的是,这种"双轨并行"的开发模式会持续多久?会不会最终收敛到某个"最优参数区间"?还是说,大模型会像芯片行业一样,形成"高端通用芯片 + 专用芯片"的分层格局?你怎么看?欢迎评论区聊聊。
迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)
迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)
2025大模型选型全景指南:闭源与开源、API与本地部署实战解析
大模型技术正从概念验证走向工程落地,理解不同模型的能力边界与部署方式成为开发者选型的关键。闭源模型以API形式提供开箱即用的能力,适合快速验证与高要求场景;开源模型则通过本地部署和微调实现数据可控与长期成本优化。在实际应用中,模型效果、推理延迟、上下文长度与多模态能力共同影响业务表现,而成本、合规与运维约束则决定最终选型。RAG、LoRA微调和Agent等工程手段,进一步将通用模型转化为业务生产力。本文系统梳理2025年主流大模型格局,从GPT、Claude到DeepSeek、Qwen,给出按场景选型与混合
51c大模型~合集110
为了解决这一问题,在稠密化过程中,我们对容易引起退化和梯度集中的具有极端延展率的高斯面片进行了筛选,并对其增殖过程进行了限制,从而在不牺牲性能的情况下有效稳定了训练过程,保障了优化过程的顺利进行。大规模场景的重建往往还意味着显著的训练开销,要重建 1.97 平方千米的区域会产生接近两千万的高斯点,这意味着 4.6G 的存储以及 31.5G 的显存开销,以及超过三小时的训练时长。站在 AI 研究者的角度,得到了《苦涩的教训》,意味着在总结教训的过程中明确了什么是「更好」的。第二类则瞄准了相对复杂的问题。
AI日报解读:Claude狙击GPT-6与联想超级芯片背后的模型硬件博弈
大模型推理与AI芯片是当前人工智能领域的两大核心驱动力。模型侧通过后训练对齐与推理能力优化,持续提升指令遵循与长上下文处理表现;硬件侧则围绕算力密度、内存带宽与软硬协同,突破推理成本与能效瓶颈。二者相互塑造,推动AI应用在长文档分析、实时交互与边缘智能等场景加速落地。本文从行业动态切入,拆解模型竞争与硬件突围的技术逻辑,帮助读者建立评估框架,看清AI落地的真实门槛。
DeepSeek 论文撞上 MiMo-V2.6:AI 竞赛悄悄换了赛道,不再只拼参数
最近 AI 圈有个很有意思的现象。 一边是 DeepSeek 放出一篇新论文,讲的不是模型有多聪明,而是"怎么给成千上万个 AI 智能体搭训练用的沙箱"。 另一边,小米开源了 MiMo-V2.6-Pro-RL,通篇最核心的一句话也不是"我参数有多大",而是"我们怎么把强化学习的算力、环境和评分器一起放大"。 两家路线不同、风格不同的国产团队,几乎在同一时间把话题从"模型本身"挪到了"模型背后
大模型API价格波动下的成本测算与模型选型实战
大模型API的计费方式通常以Token为基础,输入与输出Token单价不同,输出成本往往更高。理解这一原理后,开发者才能在价格变动中准确评估项目成本。技术层面,OpenAI SDK的兼容性让GPT、智谱GLM、DeepSeek等主流模型的切换变得轻量,通过统一接口即可快速调整供应商。面对“降价80%”“涨价3倍”等市场信息,工程实践的关键在于建立成本测算模型、设计多模型降级机制,并结合业务场景选择合适方案。无论是高频问答、代码生成还是长文档处理,都需要权衡API调用费用与本地部署的硬件投入。本文从Token






345



被折叠的 条评论
为什么被折叠?



