- 博客(963)
- 收藏
- 关注
RSS订阅
原创 【深度学习新浪潮】国产基础模型研发进展全景：从跟跑到领跑的历史性跨越
国产基础模型已从技术跟跑进入局部领跑阶段，在市场规模、应用广度和技术创新上实现全面突破。随着"预训练+微调"范式的成熟和产业生态的完善，基础模型将成为数字经济发展的核心驱动力，为中国AI产业高质量发展提供坚实支撑。作为开发者，应积极拥抱这一技术浪潮，通过实践掌握基础模型开发技能，为国产AI技术创新贡献力量。
2026-04-08 10:31:58
227
原创 【AI黑话日日新】什么是大模型的上下文长度？
在大模型（LLM）的技术选型和日常使用中，上下文长度（Context Length）是绕不开的核心指标：GPT-4 Turbo的128K、Claude 3 Opus的200K、Llama 3的70K、国产大模型的128K/256K……越长的上下文长度，意味着模型能处理更长的文本、记住更多对话历史、理解完整的长文档。到底什么是上下文长度？大模型为什么受限于长度？长上下文是如何技术实现的？本文将从通俗定义→技术瓶颈→核心实现→代码实战。
2026-03-31 16:20:48
1259
原创 【深度学习新浪潮】算力上太空：NVIDIA Space-1 Vera Rubin Module 深度技术解析
NVIDIA Space-1 Vera Rubin Module 不只是一款芯片模组，它是天地一体化 AI 的基础设施底座。它用成熟的 GPU 架构 + 航天级加固，把地面 AI 生态直接平移到太空。下一个 AI 创新战场，不在云端，而在轨道。在轨 LLM星上多模态实时处理卫星自主组网与分布式推理太空算力成为云计算的一级节点参考资料NVIDIA 官方博客：NVIDIA 推出太空计算，将 AI 送入太空轨道GTC 2026 黄仁勋主题演讲。
2026-03-23 23:42:55
1123
原创 【深度学习新浪潮】Token经济学深度解析：从AI“新智元”梗到产业核心，研究成果+标杆产品全拆解
在正式深入研究和产品分析前，必须先破除概念误区：行业内常说的Token经济学，并非单一概念，而是分为AI词元Token经济学和Web3通证Token经济学两大核心分支，二者底层逻辑、应用场景天差地别，也是大众最容易混淆的点。Token是AI时代的新大宗商品：黄仁勋将Token类比为工业时代的电力、石油，是AI时代的核心生产资料与基础计价单位，不再是单纯的技术单元，而是具备标准化、可计量、可交易、可分层的数字商品，其价值由算力消耗、推理效率、实际应用价值共同决定，而非虚拟炒作。Token五层定价模型。
2026-03-21 23:47:08
683
原创 【深度学习新浪潮】NeurIPS 2026 Agent 论文梳理：六条主线与代表工作
NeurIPS 2026 的 Agent 论文，值得看的不是数量。本文按六条主线梳理收录工作，给出代表论文、做法和摘要里能查到的实验数字，workshop 论文与 2025 年的对照工作单独标出，免得引用时串了赛道。适合做 Agent 系统、评测或选题的开发者，文末附完整参考资料。会议 12 月在悉尼开，录用通知 9 月 24 日发的，论文集还没正式上线。现在能查的只有官方 virtual 站点的 poster 页、arXiv 上的录用声明，加上各机构的公示。文里的实验数字都从摘要或项目页表格来。
2026-11-06 10:30:00
3
原创 【AI黑话日日新】Day 083｜Mixed Precision（混合精度）
混合精度不增加参数、不改动模型，只是把“算”和“存”分两个精度来用——同样的卡，训练快一倍、显存省一半。
2026-11-06 09:00:00
3
原创 Reward 涨了别急着高兴：后训练指标与一条能跑通的入门路线
大模型训练指标系列第二期。第一期讲预训练的交叉熵损失，这一期讲后训练和怎么入门。没看过第一期也能读，必要的背景开头会补。预训练舒服，是因为语料里下一个 token 就是标准答案，损失函数和真实分布之间只隔一次 KL 分解。后训练没这个待遇。"回答得好不好"没人能给标准答案，只能一层层造打分器。把两期的指标按层摆在同一个表里，能看出后训练为什么麻烦：它的每一层都比预训练那一层离真值远一截。误差沿着链条往上累积，每一层都只能看见下一层愿意给它看的东西。
2026-11-05 10:45:00
116
原创 跑Agent需要显卡吗：三层架构、显存账与三档硬件配置
跑 Agent 到底要不要独立显卡？本文把 Agent 拆成编排层、工具沙箱层、推理层，给出 KV cache 显存估算公式与多并发内存账；按普通用户、专业用户、程序员三档列出可直接照抄的硬件配置，附 git worktree 隔离与容器限额命令。文中 vLLM、Claude Code、Jetson 的口径均回官方页核对，纠正了三处常见抄错。
2026-11-05 10:44:27
363
原创 【AI黑话日日新】Day 082｜ZeRO and FSDP（显存分片优化）
ZeRO 和 FSDP 不增加算力，只是把每张卡重复占着的“模型账本”均摊掉——同样的卡，能训的模型大了数倍。
2026-11-05 09:00:00
5
原创 【深度学习新浪潮】2026 年 CV 大模型还有哪些值得做的方向
调研做完说句真心话。CV 这个领域过去三年被大模型冲得有点慌，很多人跑去做多模态 SFT，很多人跑去刷榜，也有一批人在 3D、在几何、在表征上坚持了下来。现在回头看，坚持下来的那批人反而站在了最好的位置，因为今年最热的具身、世界模型、空间智能，全都要扎实的几何与表征功底。Depth Anything 3 用一个没改造的 DINOv2 骨干打赢所有精心设计的多任务架构，这件事本身就是对"CV 基础能力还有没有价值"最好的回答。
2026-11-04 11:30:00
523
原创 【AI黑话日日新】Day 081｜Parallelism Strategies（并行策略）
并行策略不是“加卡”，而是“怎么切”——把对的切法放在对的网络上，才算真正把算力用起来。
2026-11-04 09:00:00
6
原创 预训练只盯一个数够不够：Loss、PPL 和那些会被误读的数字
大模型训练指标系列第一期，只讲预训练。公式都配了符号含义和单位，最后给一条周末能跑完的动手清单。第二期讲后训练，那边的麻烦是另一种。这不是说预训练简单，是说它幸运。语料里下一个 token 就是标准答案，真值明摆着，优化目标和我们真正想要的东西之间只隔一层。等到第二期讲后训练，"回答得好不好"没人能给标准答案，中间要塞奖励模型、裁判模型、验证器，指标立刻变成一堆互相打架的代理量。所以这一期的任务很具体：把这一个数拆开，看它什么时候可信，什么时候纯属误导。
2026-11-03 16:51:30
520
原创 【AI黑话日日新】Day 080｜Distributed Training（分布式训练）
分布式训练的本质不是“算力更多”，而是“把装不下、跑不完的活，拆成能协同的活”——协同效率，才是真正的门槛。
2026-11-03 09:00:00
9
原创 【深度学习新浪潮】美股AI板块回调：OpenAI、Anthropic融资遇冷，AI资本的狂热期过去了
这一轮美股科技股回调，OpenAI和Anthropic融资不及预期，本质上是产业发展里一次预期修正。通用人工智能的长期空间没有消失，市场对AI的长期价值也没有否定，只是狂热的溢价阶段暂时告一段落。资本不再愿意为遥远的想象买单，更想要看得见、可验证的商业化结果。对我们做技术的人来说，这反而是更舒服的环境。热度降一点，泡沫少一点，真正能落地、能帮业务降本增效、持续打磨成本方案的技术和产品，才更容易凸显价值。AI接下来的叙事，重心会慢慢从“我们能做出多强的模型”，转向“模型到底能创造多少实实在在的价值”。
2026-11-02 09:54:57
294
原创 【AI黑话日日新】Day 079｜FLOPs（浮点运算量）
FLOPs 是 AI 的“总账本”，记着跑通一个模型要算多少笔账；但账多大和收钱快不快，是两件必须分开看的事。
2026-11-02 09:00:00
97
原创 【深度学习新浪潮】Google Suncatcher深度复盘：把TPU送上太空，轨道AI算力时代的第一步
2025年11月Google正式对外抛出Project Suncatcher（捕日计划），当时很多人把它当成又一个远景Moonshot脑洞：在轨道上搭建太阳能驱动的AI算力集群，用星间激光链路组网，把大模型推理放到太空运行。到2026年10月1日，事情从预印本和PPT落地成在轨硬件：代号MVP的验证卫星搭乘SpaceX Transporter‑18拼车发射入轨，Google已经成功建立测控链路，卫星状态正常，开启人类第一批TPU在轨环境长期试验。
2026-11-01 09:00:00
119
原创 【深度学习新浪潮】AI 研发周报 | 2026 年第 43 周（10.25 – 10.31）
在第 42 周"国产 Flash 对决 + Agent 自我监控失控 + 自主算力突破"之后，本周叙事重心切换到两条主线：其一是**"每单位智能的价格"被重新定义**——OpenAI 用 GPT-6.1 Terra 把 computer use 拉进 1 元/百万 Token 档，Google 用 Gemini 4 Carbon 在长周期任务与网络安全上登顶 Artificial Analysis 智能指数，Mistral 则把约 1T 参数的 MoE 直接开放权重；
2026-10-31 10:40:17
179
原创 【AI黑话日日新】Day 077｜GPU / NPU（加速芯片）
GPU 与 NPU 不是谁取代谁，而是把“训练”和“推理”这两件事，分别交给最适合的硬件去干——分工，才是加速芯片最朴素也最关键的道理。
2026-10-31 09:00:00
13
原创 【AI黑话日日新】Day 076｜Token Economics（Token 经济学）
Token 经济学不是又一门技术，而是 AI 从玩具变生意时绕不开的那本账——它把“让模型干一次活”的真实成本，算到了每一笔调用、每一个用户头上。
2026-10-30 09:00:00
14
原创 【深度学习新浪潮】OpenAI DevDay 2026深度复盘：从GPT-6系列到Dot主动智能，Agent工业化时代正式开启
9月底的OpenAI DevDay 2026，是OpenAI历史上发布密度最高的一届开发者大会，一口气抛出20余项核心更新，后续10月又持续放出GPT-6.1 Sol、GPT-6.1 Terra、行业收购与云厂商合作等一连串动作，彻底把竞争主线从“模型跑分”切换到可落地的Agent工作流、分层模型矩阵、企业私有化与行业垂直落地。很多人看完发布会只记住新模型参数，但容易忽略一条主线：OpenAI不再单纯追求单模型极限智商，而是在搭建一套完整的AI生产操作系统。
2026-10-30 09:00:00
285
原创 【AI黑话日日新】Day 075｜Model Cascading（模型级联）
模型级联不是又一个省钱神话，而是“先试便宜的、不行再换贵的”这条朴素直觉的工程化——它把成本省在平均值上，代价是难问题要等更久。
2026-10-29 09:00:00
9
原创 【LLM技术全景】44. 阶段总结：工程实践篇部署检查清单
核心问题：工程实践篇（第 33–44 篇）讲了大量"点"——量化、蒸馏、vLLM、TensorRT-LLM、服务化、多卡、边缘、多模态、生态。但真要上线一个模型时，缺的是一份"照着打勾就能少踩坑"的全局清单。主要贡献：把 12 篇文章凝练成三件可直接使用的工具——部署检查清单（部署前 / 中 / 后）、性能调优手册（瓶颈导向）、常见故障排查表；并附一段真实可跑的部署选型决策脚本。阅读收获：① 拿到一张工程实践篇知识地图，知道每篇解决哪类问题；② 掌握"先定位瓶颈再谈优化"的调优心法；
2026-10-29 09:00:00
388
原创 【AI黑话日日新】Day 074｜Model Router（模型路由）
模型路由不是又一项炫技，而是“没有模型能又便宜又好”这个现实矛盾的工程解法——把难的部分留给贵的，把大部分留给便宜的，钱才花在刀刃上。
2026-10-28 09:00:00
121
原创 【深度学习新浪潮】Anthropic 招股书透露出了哪些反一般人常识的讯息？ ＞
2026年10月26日，Anthropic正式向SEC递交S-1招股文件，拟纳斯达克上市，代码ANT。作为全球第一家走到IPO阶段的基础大模型厂商，这份文件不只是一份给投资者看的招股书，更是当前闭源大模型商业模式、算力契约、安全治理范式最完整的一手样本。在全网热议“半年巨亏807亿美元”的标题时，很多人被表层数字误导。巨亏不等于疯狂烧现金；手握天量现金，却背着更恐怖的远期刚性负债；它主动放弃图像、视频生成这条流量赛道；云厂商同时是股东、渠道、客户、供应商、竞争对手；
2026-10-28 08:55:11
205
原创 【AI黑话日日新】Day 073｜Long CoT（长思维链）
长思维链不是“想得越久越聪明”，而是一段可调节的推理轨迹——在正确的难度上多想才划算，想错地方只是更贵、更慢。
2026-10-27 09:00:00
14
原创 【LLM技术全景】43. 开源 LLM 生态工具链：模型、数据集、框架全景
核心问题：前 42 篇零散介绍了量化、蒸馏、vLLM、边缘部署、多模态服务化等工具，但初学者最缺的是一张"全景地图"——这些工具分属哪几层、彼此如何衔接、何时该用哪一个。主要贡献：把整个开源 LLM 生态拆成五层（模型 / 数据集 / 训练栈 / 推理栈 / 评估栈），给出每个层次的代表工具与选型思路，并用一个最小代码演示讲清"权重文件格式为什么事关安全"。阅读收获：① 明白 HuggingFace 为何被称为"机器学习的 GitHub"；
2026-10-27 09:00:00
121
原创 图像处理入门040：阶段实战：智能美颜滤镜开发——皮肤检测 + 双边磨皮 + 美白 + 锐化（Python + OpenCV 完整实现）
前面 11 期（029-039）我们把空间域滤波的武器库一件件攒齐了：卷积、均值、高斯、中值、双边、导向、锐化、可分离滤波器组、积分图。本期是模块四的"总装车间"——把它们组装成一个真正能用的智能美颜滤镜。环节干什么用到的前期知识① 皮肤检测找出"哪里是皮肤"，生成 mask彩色空间（005）、形态学（M09 预热）② 磨皮只把皮肤磨平，五官不动双边滤波（033）、mask 融合③ 美白只把皮肤提亮，色相不漂颜色空间（005）、点运算（M03）④ 锐化回收整体清晰度拉回来。
2026-10-26 22:33:42
343
原创 【AI黑话日日新】Day 072｜Reasoning Model（推理模型）
推理模型不是更大的模型，而是被训练成“先想后答”的模型——把思考变成出厂能力，用可控的算力预算换更可靠的答案。
2026-10-26 09:00:00
13
原创 【AI黑话日日新】Day 071｜Test-Time Compute（测试时算力）
测试时算力不是让模型更聪明，而是给同一个模型一个可调的“思考预算”——难的题多花算力，简单的题少花，把智力当成可按次购买的资源。
2026-10-24 09:00:00
17
原创 【AI黑话日日新】Day 070｜Prompt Compression（提示压缩）
Prompt Compression（提示压缩）指的是：在不改变任务目标、尽量不损失答案质量的前提下，把送进大模型的提示词（prompt）缩短，让里面的 token 数量减少。打个比方：你让同事帮忙办事，原先写满三页邮件，把背景、来历、客套都说一遍；提示压缩相当于把三页删成半页要点——把“谁、什么背景、要什么”留下，把重复、铺垫、客套删掉。模型读半页照样把事办好，但你省下了邮件字数，也就是 token 和钱。它和“摘要”不是一回事：摘要是把内容重新讲一遍，可能改写数字、改变语气、甚至引入幻觉；提示压缩是尽量
2026-10-23 09:00:00
64
原创 【AI黑话日日新】Day 069｜Prompt Caching（提示缓存）
提示缓存不存答案、只存“重复前缀的算力”，靠逐字节一致的复用把输入账单打几折——它考验的不是模型，而是你把固定内容放在哪、把变动内容放在哪的提示工程纪律。
2026-10-22 09:00:00
140
原创 【LLM技术全景】第42篇 多模态模型部署：视觉语言模型的服务化
核心问题：前两篇我们把纯文本 LLM 装进了 GPU 和口袋。一张图悄悄变成数百到上千个 token，直接把按"纯文本假设"预留的 KV 缓存池打爆。主要贡献：拆解 VLM「视觉编码器 + 投影层 + LLM」架构；量化"图像 → token"的膨胀规律及其对 KV 缓存的真实冲击；给出 vLLM 多模态服务的三个显存旋钮（）与视觉特征缓存实践；对比 vLLM / SGLang / TensorRT-LLM / BentoML 四条服务化路线。阅读收获。
2026-10-22 09:00:00
501
原创 【AI黑话日日新】Day 068｜Constrained Decoding（约束解码）
约束解码把“希望模型别写错格式”变成“让写错在解码层物理上不可能”，它根治了解析失败，但也只管形状、不管内容——格式可靠了，真假仍要你把关。
2026-10-21 09:00:00
115
原创 【深度学习新浪潮】递归自我改进 RSI 入门：从哥德尔机到 2026 的智能体自主进化，附 200 行核心闭环
RSI = Recursive Self-Improvement，递归自我改进。关键词是"递归"：这一轮改进的产出，是下一轮改进的输入，收益会复利而不是相加。任务内自我修正（模型不变）→弱 RSI（AI 干大部分活、人把关）→强 RSI（闭环、无人类闸门）。所有公开披露的实验室都停在第二级，第三级无人在公开场合做到。可验证任务 + 自我修改载体 + 沙箱执行 + 归档谱系 + 选择策略。少任何一件，闭环都转不起来。2025 年的分水岭是（SWE-bench 20.0% → 50.0%）和。
2026-10-21 09:00:00
374
原创 【AI黑化日日新】 Day 067｜Structured Output（结构化输出）
结构化输出把“希望模型别跑偏”变成“让跑偏在结构上不可能”，它根治了解析失败，但绝不替你验证内容真假——形状可靠了，内容仍要你把关。
2026-10-20 09:00:00
84
原创 【LLM技术全景】第41篇 边缘设备部署：手机与IoT设备上的LLM
核心问题：第 39、40 篇我们把模型装进了 PC/服务器的 GPU——但现实里更多推理发生在"口袋里"：手机、车机、IoT 网关、工厂边缘盒子。这些设备的约束从"显存"变成了"内存 + 功耗 + 散热"，一套全新的部署范式登场。主要贡献：梳理端侧推理的硬件光谱（从树莓派到骁龙旗舰到车规 Jetson）；横向对比 MNN / NCNN / llama.cpp / MLC LLM / Core ML / LiteRT 六大框架的定位与选型；
2026-10-20 09:00:00
159
原创 【AI黑化日日新】Day 066｜Beam Search（束搜索）
束搜索是一类“每步都留几条、最后挑整段最顺”的确定性解码，它在翻译与识别上仍是主力，但在开放写作里已被采样取代——它不是更高级，只是更挑场景。
2026-10-19 09:00:00
94
原创 太空计算一周大事（2026 W42）：一箭十星把算力送上轨，“天数天算“跨过验证期
2026 年第 42 周（10 月 12 日–10 月 18 日），太空计算赛道出现了过去两年少见的"同期共振"——一枚火箭一次性把 10 颗卫星送入轨道，其中 8 颗是算力卫星；三天后，国内首个开源计算星座发布，首期规划 2600 颗；同周，主管部门把频轨许可从"一星一证"改为批量颁发。发射端、行政端、制造端三件事第一次落在同一周里。本文梳理本周 Top 10 事件并给出热度评分，拆解三条主线，对照国际进展，并列出三个尚未被验证的关键变量。
2026-10-19 09:00:00
332
机器学习与模式识别领域的PRML习题解析手册
2025-03-10
在TensorFlow中将预训练好的模型转换成tflite格式模型的python代码实现
2025-03-10
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人