- 博客(1550)
- 收藏
- 关注
RSS订阅原创 端侧模型部署：被聚光灯漏掉的那条主赛道
AI Infra 和 Agent 占了九成热度，并不等于它们占了九成未来。更接近事实的判断是：云端先把能力做出来，端侧才决定 AI 能不能变成日用基础设施。端侧模型部署，正是把这件事从 PPT 收成现场的那一层。
2026-08-18 19:51:05
254
原创 端侧模型部署全景：发展 · 场景 · 职业与技能地图
时间过得真快。多年前在大厂从一路走过来：Linux、Arm、板级启动与驱动；做过，也进过现场。后来既做过，也做过——训练侧怎么出模型，设备侧怎么接工具链，精度和性能怎么对齐，两边都摸过。所以讲部署时，习惯站在：模型、软件栈、板端资源、交付约束放在一张图里看，而不是只抠某一个转换命令。写这张地图，是想给一条路线，大家一起学的时候能清楚；再用系统视角把端侧部署怎么串、行业往后技术会往哪长讲清楚，少在零散教程和岗位名词之间打转。
2026-08-14 10:48:56
200
原创 流式 ASR 从入门到实践：Zipformer2 + ONNX 全链路详解
一篇面向初学者的语音识别教程。以工业界常见的 Zipformer2 Transducer 流式评测流水线为例，从「声音是什么」讲到 FBank 特征、Encoder/Decoder/Joiner 解码、流式推理与模型评测，并附带可运行的实验代码。
2026-06-05 16:55:00
382
1
原创 最爱加班的岗位之一：AI模型部署转换、优化与量化
如果模型改写不可行，就需要为硬件引擎开发自定义算子。这需要熟悉硬件的指令集和编程模型，门槛较高。
2026-05-10 17:54:12
535
原创 普通 YOLO 检测 与 YOLO-seg（实例分割）差在哪里
Ultralytics 里名字差一个-segyolo11n.pt和不是换皮，是。下面按「输入一路怎么走、最后多出什么」写，少用比喻，方便你对照代码和 Netron 里的图。
2026-05-07 16:57:17
400
原创 从语义分割、像素级预测到 YOLO 实例分割
先把「要语义还是要实例」想清楚，再走 YOLO-seg 的 mask 和 ROI 与运算，中间 letterbox、τ、T 这几步最容易出「肉眼对、代码错」。业务只决定 ROI 从哪来、T 取多少；上面这条链本身是通用的。API 细节以你装的版本文档为准，版本换了默认行为有时会变。
2026-05-07 15:32:30
391
原创 AI Agent 面试记录
按时间讲比堆关键词顺：multipart 与 Content-Length、断点与校验、落盘与临时目录、异步扫描别堵主链路、解析要流式、下游用 MQ 解耦、背压与限流、进度查询与清理审计。优化从「别一次性读进内存」说到 sendfile、mmap、worker 池，已经足够体面。
2026-05-07 11:19:20
512
原创 Agent / LLM 方向面经整理（思路引导 + 推荐回答）
如果投的岗位对后端技术栈有一两条要求，你没有相关经历但业务还是放了简历进来，最好针对 JD 里那两条单独准备一下。其实就算 JD 没写死，HTTP、流式、异步这类也算互联网底座，有时间还是摸一遍皮毛，面试里至少能接住话头、显得你是主动补过的人。没正经后端经历的（比如我），体感是面试官一般不会往死里抠实现细节，更在意知识广度和积极性：你有没有针对他们的栈新学东西、工作之余有没有继续啃。忙成狗还得学，这事没得商量，只能认。下面从「项目深挖」按模块往下写；项目主线。
2026-05-07 11:08:09
131
原创 小白也能看懂：GLM-4-9B-Chat 4bit量化加载代码完整解析
这段看似简单的 GLM-4-9B 加载代码，其实整合了本地模型读取、低内存优化、量化压缩、推理模式切换等核心能力。解决显存不足问题；保护内存不崩溃；保证 GLM 模型正常加载；.eval()让模型专注于对话生成。对于小白来说，不用深究复杂的底层算法，记住这套参数组合，就能用最低的硬件配置，流畅运行 GLM-4-9B-chat 大模型。
2026-04-09 20:13:16
506
原创 讲一下GLM-4-9B-chat的显存占用计算
模型权重（量化决定）运行临时开销表格数值是最小配置的实测值，权重做了模型优化，叠加极小动态显存默认20GB是正常对话配置，权重无优化+全量动态显存。
2026-04-09 19:57:18
305
原创 10秒就能懂的「核心本质区别」Anchor-based VS Anchor-free
对你这个已经稳定落地的门禁闸机项目来说，YOLOv5的「有模板」设计，就是最稳妥、最省心、维护成本最低的选择。YOLOv8的「无模板」设计，虽然理论上精度上限更高，但需要你投入大量的时间调参、适配、排查问题，对于已经能稳定运行的生产设备来说，完全没必要。
2026-03-20 11:22:34
414
原创 Anchor-based（YOLOv5） VS Anchor-free（YOLOv8/v11）
就像有经验的老员工，手里有现成的“工作手册（锚框）”，哪怕遇到没见过的小情况（hand样本少），也能按手册兜底，稳得一批——适合你的已稳定生产的门控项目；：就像刚毕业的高材生，上限很高，但没有工作手册，全靠自己摸索，需要大量时间培训（调参、大数据集）——适合新项目预研，不适合你的已落地生产项目。
2026-03-20 11:19:09
436
原创 三大 AI Agent 模式 大白话对比表
补充说明：当下主流的Agent框架，基本都是以ReAct为核心基础，再叠加Plan-and-Execute的规划能力、Reflection的纠错优化能力，组合成更强大的智能体。
2026-03-01 15:10:33
449
原创 20260229刷题计划：Day1 数组&字符串+哈希表
先理解模板每一行的含义、适用场景、边界处理，再抄写到模板手册中，作为当日默写的标准版本，禁止死记硬背。：30分钟内完成所有错题的录入，哪怕5道题全错，也要全部按格式录入，不遗漏任何一个错误点。：不修改代码，只标注问题，错题修改放到晚上复盘环节。
2026-02-28 17:23:34
736
原创 智驾后融合感知核心：融合策略设计，从算法到量产的落地框架
至此，我们完整拆解了后融合感知的三大核心模块：卡尔曼滤波（状态估计）、匈牙利算法（数据关联）、融合策略（系统落地）。卡尔曼滤波是状态估计的核心，解决了「目标在哪、会去哪」的问题；匈牙利算法是数据关联的核心，解决了「哪个检测对应哪个目标」的问题；融合策略是系统落地的框架，决定了「什么时候、用什么方式把两个算法组合起来，输出规控能用的结果」。后融合感知之所以能成为量产智驾的主流方案，核心就在于它的模块化、可解释性、功能安全易满足，而融合策略的设计，正是把算法转化为量产产品的最后一公里。
2026-02-25 15:44:03
985
原创 车载毫米波&超声波雷达核心知识点结构化总结
在自动驾驶的感知体系里，没有任何一种传感器是万能的。摄像头、激光雷达、毫米波雷达、超声波雷达，各有各的优势，也各有各的短板。毫米波雷达，负责中高速、中远距离的全天候感知，是车辆高速行驶的安全核心，撑起了ACC、防撞预警等核心行车功能；超声波雷达，负责低速、短距离的近距离感知，是自动泊车、倒车辅助的刚需标配，成本低、耐造可靠。只有通过多传感器的深度融合，取长补短，才能构建出全场景、全天候、高可靠的环境感知系统，让自动驾驶更安全、更普及。
2026-02-24 10:18:34
1911
原创 车载激光雷达核心知识点结构化总结
从零读懂激光雷达：从核心原理到产业落地，一文搞懂智能时代的“三维火眼金睛”当我们谈论自动驾驶、机器人导航、高精度测绘时，总会绕不开一个核心传感器——激光雷达（LiDAR）。它被称作机器的“三维眼睛”，能把现实世界精准复刻成三维点云，让冰冷的机器真正“看清”周围环境的每一处细节。但对很多人来说，激光雷达依然是个“熟悉的陌生人”：只知道它是车顶上那个会转的器件，却不懂它的工作原理，分不清905nm和1550nm的区别，搞不懂机械式、混合固态、固态的技术路线差异。
2026-02-24 09:58:05
1235
原创 车载摄像头核心知识点结构化总结
车载摄像头按安装位置分为4大类，高阶自动驾驶车型常规配置：ADS前视摄像头7~10颗，侧视+后视摄像头合计5颗，车型配置差异主要集中在前视摄像头。车载摄像头硬件核心由5大组件构成，成像核心链路：光线→光学镜头→红外滤光片→图像传感器（光电转换）→ISP（信号处理）→串行器→域控制器。，当前所有主流自动驾驶方案均无去摄像头的设计，仅存在去激光雷达/毫米波雷达的方案。车载摄像头是自动驾驶。
2026-02-21 11:58:43
1422
原创 深度学习目标关联：常见深度学习匹配方法全面详解
孪生网络是深度学习匹配的入门方案，适合单目标跟踪；ReID表观匹配是工业落地首选，简单、高效、稳定，DeepSORT 就是代表；度量学习让特征更具判别力，适合高密度、高干扰场景；时序运动匹配擅长处理遮挡与快速运动；表观+运动融合是当前最强方案，真正解决复杂真实场景；Transformer全局匹配是未来趋势，但目前仍难以实时部署。深度学习匹配 = 让机器从“看位置”升级为“认目标”，是现代多目标追踪真正的灵魂。
2026-02-12 15:29:28
589
原创 深挖 TBD 核心进阶点：深度学习匹配（目标关联的“智能指纹”）
深度学习匹配的本质：给目标提取“外观指纹”，靠指纹相似度做关联，而非仅靠位置/重叠；核心价值：解决传统关联方法“认位置不认长相”的痛点，大幅提升复杂场景下的追踪稳定性；落地关键：ReID 特征提取 + 余弦相似度 + 匈牙利算法（DeepSORT 是最经典的落地范式）；工程权衡：需在“准确率”和“实时性”之间平衡（比如轻量模型 + 硬件加速）。
2026-02-12 15:25:32
599
原创 彻底搞懂：基于检测的追踪（TBD）与质心关联算法
Tracking By Detecting（基于检测的追踪）是目前工业界、学术界最主流、最通用的多目标追踪范式。每一帧都先做目标检测，再把前后帧的检测结果关联起来，形成连续轨迹。先检测 → 后关联 → 生成轨迹这一逻辑的追踪方法，全都叫 TBD。质心法 = TBD 框架下，最简单、最朴素的目标关联方式。谁离得近，谁就是同一个目标。不看外观、不看尺寸、不看特征，只看中心点距离。TBD 是框架所有「先检测、后关联、串成轨迹」的追踪方法都叫 TBD。质心法是算法是 TBD 里。
2026-02-12 15:13:39
741
原创 万字长文吃透光流法：原理、LK算法、稀疏/稠密对比 + 工程优缺点 + 实战应用场景
光流 = 视频里每个像素在两帧之间的“运动速度与方向”。更标准一点：在连续图像序列中，同一物理点在相邻帧之间的位移向量，就叫光流。第 t 帧：一堆像素的位置第 t+1 帧：这些像素移动了一点点每个点从哪来，到哪去光流不是真实的物理速度（距离/时间），而是图像平面上的表观运动。物体在动相机在动动得快还是慢往哪个方向动光流：两帧之间像素的位移向量 (u, v)光流原理：亮度恒定 + 小运动 + 空间一致 → 得到 (I_x u+I_y v+I_t=0)LK 算法。
2026-02-12 14:57:07
784
原创 技术科普：一文彻底搞懂 ROI Pooling、ROI Align 与插值算法
线性插值是最简单、最基础的插值方法，用于在一维空间中，根据两个已知点估算中间任意点的数值。已知点 x₀ 对应值 y₀已知点 x₁ 对应值 y₁求中间点 x 的值 y两点之间的变化是均匀线性的。双线性插值是线性插值在二维图像/特征图根据一个像素周围四个整数坐标点的数值，估算任意浮点坐标位置的像素值。在x 方向做两次线性插值，得到两条边上的中间值；在y 方向再做一次线性插值，得到最终点的数值；两次一维线性插值的组合。操作核心策略误差适用场景整数坐标取整 + Max Pooling。
2026-02-12 14:34:56
587
原创 目标追踪概述、分类
目标追踪的输入通常是视频。视频是一种非结构化的数据，可以看作图像序列的组合（一组有序的图像）。虽然在形式上视频没有固定的结构，但在内容上视频本身有着较强的逻辑关系。如图10.15所示，按照颗粒度大小将视频分为帧(Frame)、镜头(Shot)和场景(Scene)3个层次。· 帧是视频最基本的单元，视频帧其实是一幅图像，关键帧又叫代表帧，是指具有代表性的帧。· 镜头是由一系列帧组成的，这些帧表达同一个事件或者摄像机的一组连续的运动。
2026-02-12 14:06:28
551
原创 图像分割：目标检测、语义分割和实例分割
FCN模型先进行一系列的卷积与池化操作，实现图像的下采样，以提取图像中的目标特征，然后再通过反卷积实现上采样，将特征图放大到与原图同样大小的尺寸，并对每个像素点进行分类，从而实现图像的分割。FCN是首个图像语义分割的深度学习模型，它可以实现像素级的分类。FCN也是一个端到端的模型，使用起来非常方便，后来很多分割模型受到了FCN模型的启发。FCN模型会忽略图像的细节信息，同时它也没有考虑图像的全局特征，这会导致其预测的目标边界不够清晰。另外，FCN模型不能区分不同的个体，不能做到实例级别的分割。
2026-02-12 11:21:14
803
原创 U-Net训练中Adam优化器的核心原理与参数本质解析
优化器的本质：利用梯度信号制定参数更新规则，核心是确定参数调整的“方向”和“幅度”；Adam的核心优势：相比SGD，Adam通过“动量（记忆历史方向）+自适应学习率（个性化调整幅度）”实现快速、稳定的参数更新；Adam参数的本质：所有参数（超参数/状态参数）均非模型训练参数，是“优化规则”而非“被优化的对象”；适配U-Net的核心：Adam的自适应特性、高鲁棒性完美匹配U-Net参数多、需精准分割的训练需求，是语义分割任务的最优选择之一。
2026-02-12 10:09:23
730
原创 深度学习核心优化指标教程：参数量、FLOPs、推理延迟（区别+计算+优化）
精准定义：模型中所有可通过训练学习更新的参数总数（如卷积层的权重、偏置，全连接层的权重等）。通俗理解：类比“一本字典的字数”——字典字数越多，占用的存储空间越大；模型参数量越多，占用的磁盘/显存空间越大。常用单位K（千，10310^3103）、M（百万，10610^6106）、G（十亿，10910^9109例：MobileNetV2参数量约3.5M，意为约350万个可学习参数。核心意义决定模型的存储大小（参数量1M≈4MB，因浮点数占4字节）；影响训练时的显存占用。
2026-02-11 08:47:55
745
原创 MobileNetV2训练+推理的完整逻辑
核心流程脉络：配置初始化 → 数据处理 → 模型准备 → 训练（多轮）→ 测试 → 保存最优模型 → 推理；关键模式切换：训练用，测试/推理用；反向传播三步骤：清空梯度 → 计算梯度 → 更新参数，这是模型“学习”的核心逻辑。整个流程的核心是通过多轮训练调整模型参数，让模型在测试集上的准确率最大化，最终用最优模型完成新图片的推理预测。
2026-02-11 08:35:39
444
原创 PyTorch深度学习基础教程：从核心概念到MobileNetV2完整训练与推理
核心概念：张量是PyTorch的基础数据结构，通道是特征维度，卷积层负责提取特征，参数是模型需要学习的权重；MobileNetV2实战：核心流程为「数据加载→模型定义（适配任务）→损失/优化器→训练循环→测试→推理」；关键操作：训练时用，推理时用，参数更新依赖反向传播和优化器.step()。通过这份教程，你不仅能跑通完整的MobileNetV2训练推理代码，还能理解深度学习的核心基础概念。
2026-02-11 08:35:07
426
原创 能跑通、贴合自动驾驶场景的完整优化流水线代码
基础模型 → 通道剪枝+微调 → QAT量化 → 导出ONNX → TVM算子搜索 → 编译部署；精度不崩（安全）> 速度够快（实时）> 体积够小（适配车载芯片）；工业界落地：代码逻辑和这个一致，只是数据集换成KITTI/COCO，模型换成语义分割/目标检测模型（比如YOLO+UNet）。
2026-02-10 10:02:27
292
原创 三类优化技术对应的具体算法/方法
模型剪枝：自动驾驶只选「通道剪枝+迭代微调」，保证部署性和精度；量化：车端必须用「量化感知训练（QAT）」，优先混合精度/非对称量化；算子搜索：工业界用「AutoTVM+算子融合+模板搜索」，适配车载芯片、保证实时性。
2026-02-10 10:00:44
270
原创 基于搜索的剪枝方法
从表中可以看出，基于重要性的剪枝依赖人工设计的重要性评价准则，在低压缩率下尚能保持精度，但随着剪枝比例提升，精度会出现明显下降；而基于搜索的剪枝将剪枝视为结构搜索问题，通过强化学习、演化算法、可微分搜索等策略自动优化通道配置，能够在更高压缩率下更稳定地保持模型精度。其中，DMCP、AutoSlim 等可微分搜索剪枝方法，在搜索效率与性能上均表现突出，成为当前结构化剪枝的主流发展方向。
2026-02-10 09:01:56
358
原创 小白版详解：剪枝怎么评好坏？怎么判断该剪谁？
剪枝效果评价：看3点——准确率掉得少、模型压缩比例大、实际运行时间短，测试用CIFAR-10（小测）/ILSVRC-2012（大考），模型用VGG/ResNet/MobileNet；剪枝选谁裁：分两类规则——参数驱动（看简历，快但糙）、数据驱动（看面试，慢但准），现在主流用数据驱动；核心逻辑：剪枝不是乱裁，而是“精准裁员”——先打分，裁掉分数低的，既让模型变小变快，又尽量不影响准确率。
2026-02-10 08:45:35
395
原创 三种剪枝算法流程
因为咱们只做图片分类用什么数据测？用大家公认的标准图片数据集（比如ImageNet），保证公平。用什么模型剪？就是前面说的 ResNet、MobileNet 这些常用网络。瘦了多少：参数少了多少、计算量少了多少；笨了多少：图片分类准确率掉了多少。好剪枝 = 又小又快，准确率还几乎没变。现在剪枝就三套路标准剪枝：先训大模型 → 剪 → 微调 → 循环剪（最常用）；采样剪枝：剪一堆小模型，挑最好的；搜索剪枝：AI 自己搜最优结构，一步到位。给网络安全减肥，又小又强。
2026-02-10 08:37:24
389
原创 残差网络 & 两种剪枝
残差结构 = 算个差值 + 原信息一串绑在一起的残差块 = 一个阶段只剪小零件 = 滤波器剪枝（会变沙漏）整段一起剪 = 阶段剪枝（均匀瘦身）两者搭配 = 又小又强的压缩模型。
2026-02-10 08:07:48
861
Scalable Private Membership Test Using Trusted Hardware
2023-08-20
A TC Architecture of Embedded System Based on Improved TPM
2023-08-20
Technical Background of the Android Suspend Blockers Controversy
2023-02-22
DEN0021D-Trusted-Base-System-Architecture-Client
2023-01-02
DEN0056E-System-Control-and-Management-Interface-v3.2-BETA
2023-01-02
DEN0022E-Power-State-Coordination-Interface-BETA
2023-01-02
DVR_LoopRecording_2026-06-12_11-29-00_front_camera.mp4
2026-06-13
TRACE32工具的SiFive RISC-V调试和跟踪方案
2024-03-11
ChatGPT芯片算力：研究框架
2024-03-11
on-chip networks：片上网络（On-chip Networks）
2024-03-11
TEE and its Key Management：
2024-03-11
A new IoT Security certification scheme with trust signals
2023-09-02
TCG Guidance for Secure of Software and Firmware on Embedded Sys
2023-08-20
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人