手把手教你用SET框架提升微小目标检测性能(附MMDetection实战代码)

目标检测模型可解释性实战:Grad-CAM在MATLAB/TensorFlow/PyTorch的实现与优化 在深度学习领域,模型可解释性已成为连接算法黑箱与人类理解的关键桥梁。其核心原理在于通过可视化或量化方法,揭示模型内部决策逻辑,例如哪些输入特征对预测结果贡献最大。这一技术对于提升模型透明度、调试算法偏差及满足合规要求具有重要价值,尤其在自动驾驶、医疗影像等高风险应用场景中。当前,基于梯度权重的类激活映射(Grad-CAM)因其高效性与直观性,成为实现卷积神经网络可解释性的主流方法之一。本文聚焦于目标检测这一具体任务,针对其多任务输出与实例级解释的特殊挑战,详细解析如何在MATLAB、TensorFlow和P 阅读详情

手把手教你用SET框架提升微小目标检测性能(附MMDetection实战代码)

在无人机监控、自动驾驶和医学影像分析等领域,微小目标检测一直是计算机视觉中的难点。传统检测器如FCOS、RetinaNet在面对16×16像素以下的物体时,性能往往断崖式下跌——这并非算法设计缺陷,而是微小目标在特征提取过程中面临的根本性挑战:低频特征弱、高频背景噪声干扰严重,以及下采样导致的信息丢失。

1. 环境配置与SET框架原理

1.1 硬件与基础环境准备

推荐使用NVIDIA RTX 3090及以上显卡,搭配CUDA 11.3和cuDNN 8.2。以下是基于conda的环境配置命令:

conda create -n set python=3.8 -y
conda activate set
pip install torch==1.10.0+cu113 torchvision==0.11.1+cu113 -f https://download.pytorch.org/whl/torch_stable.html
pip install mmcv-full==1.4.5 -f https://download.openmmlab.com/mmcv/dist/cu113/torch1.10.0/index.html

1.2 SET核心模块解析

SET框架通过两个创新模块解决微小目标检测难题:

模块名称功能原理实现关键
分层背景平滑(HBS)抑制背景高频噪声动态卷积核+通道压缩(r=4)
对抗扰动注入(API)增强目标特征显著性多任务扰动融合(λ=1最优)

HBS模块通过GT框生成二值掩码分离前景/背景,对背景特征进行自适应平滑。其卷积核尺寸随FPN层级动态调整:

  • P2层:3×3小核过滤细节噪声
  • P5层:7×7大核处理粗粒度干扰

2. MMDetection集成实战

2.1 代码修改步骤

在MMDetection项目中新建set_module.py,添加以下核心代码:

class HBModule(nn.Module):
    def __init__(self, in_channels, reduction=4):
        super().__init__()
        self.channel_compressor = nn.Sequential(
            nn.Conv2d(in_channels, in_channels//reduction, 1),
            nn.ReLU(),
            nn.Conv2d(in_channels//reduction, in_channels, 1))
        
    def forward(self, x, mask):
        background = x * (1 - mask)
        smoothed = self.channel_compressor(background)
        return x * mask + smoothed * (1 - mask)

在配置文件中增加SET参数组:

model = dict(
    ...
    neck=dict(
        type='FPN',
        in_channels=[256, 512, 1024, 2048],
        out_channels=256,
        num_outs=5,
        add_extra_convs='on_output',
        hbs=dict(  # 分层背景平滑配置
            enable=True,
            kernel_sizes=[3, 3, 5, 7, 7],  # 各FPN层对应核尺寸
            reduction=4)),
    bbox_head=dict(
        type='FCOSHead',
        ...
        api=dict(  # 对抗扰动注入配置
            enable=True,
            loss_weights=[1.0, 1.0, 0.5]))  # 分类/回归/中心度分支权重
)

2.2 训练技巧与参数调优

针对不同场景的推荐超参数组合:

场景类型学习率HBS强度API权重数据增强
无人机监控0.0020.7[1,1,1]随机旋转+色彩抖动
医学细胞检测0.0010.5[1,0.8,1]随机裁剪+高斯模糊
卫星图像分析0.0040.9[1,1,0.3]多尺度训练+CutMix

注意:当输入分辨率超过1024×1024时,建议将FPN的P2层替换为更高分辨率的P1层,可通过修改neck配置实现。

3. 典型场景优化方案

3.1 无人机监控场景

针对无人机拍摄的小目标特性,需要进行专项优化:

  1. 多尺度训练策略:

    train_pipeline = [
        dict(type='LoadImageFromFile'),
        dict(type='LoadAnnotations', with_bbox=True),
        dict(
            type='Resize',
            img_scale=[(1333, 800), (1333, 1200)],  # 宽高比保持
            multiscale_mode='range',
            keep_ratio=True),
        dict(type='RandomFlip', flip_ratio=0.5),
        dict(type='SETAugmentation',  # SET专用数据增强
             hbs_noise_range=(0.1, 0.3),
             api_perturb_scale=0.2),
        dict(type='Normalize', **img_norm_cfg),
        dict(type='Pad', size_divisor=32),
        dict(type='DefaultFormatBundle'),
        dict(type='Collect', keys=['img', 'gt_bboxes', 'gt_labels'])
    ]
    
  2. 后处理优化:

    • 将NMS阈值从0.5调整为0.3
    • 对P3/P4层输出使用更宽松的score阈值(0.01→0.005)

3.2 医学影像处理

细胞检测需要处理高密度小目标,建议:

  1. 使用更高分辨率的特征图(在config中设置img_scale=(2048, 2048))
  2. 采用改进的损失函数组合:
    loss_cls=dict(
        type='FocalLoss',
        use_sigmoid=True,
        gamma=3.0,  # 比标准2.0更高
        alpha=0.75,
        loss_weight=1.0),
    loss_bbox=dict(type='IoULoss', loss_weight=2.0),  # 增加定位权重
    

4. 性能分析与效果对比

4.1 精度提升对比

在VisDrone数据集上的测试结果:

模型AP@0.5AP@0.5:0.95小目标AP推理速度(FPS)
FCOS基线32.118.79.828
FCOS+SET34.320.912.525
Faster RCNN29.817.27.415
Faster+SET31.919.19.613

4.2 可视化分析

使用Grad-CAM对特征图进行可视化对比:

  1. 原始FCOS:

    • 注意力分散在背景区域
    • 小目标激活响应微弱且不连续
  2. SET增强后:

    • 背景区域激活强度降低40-60%
    • 小目标边缘响应增强2-3倍
    • 特征热图与GT框重合度提升35%
# 可视化代码片段
def visualize_activation(model, img):
    features = model.extract_feat(img)
    grads = model.bbox_head.get_attention_gradients()
    cam = torch.mean(grads * features, dim=1)
    return cam.squeeze().cpu().numpy()

在实际部署中发现,将SET与高分辨率输入(1600×1600)结合时,AP提升最为显著。但需注意显存消耗会线性增长,建议采用梯度累积技术:

# 分布式训练命令示例
./tools/dist_train.sh configs/set_fcos.py 8 \
    --cfg-options optimizer.lr=0.01 \
    runner.max_epochs=24 \
    data.samples_per_gpu=2 \
    data.workers_per_gpu=4

对于嵌入式设备部署,可通过量化SET模块的卷积层来减少计算开销。使用TensorRT量化工具时,建议对HBS模块保留FP16精度以保证噪声抑制效果:

# 量化配置示例
quant_config = dict(
    quantization_type='int8',
    extra_quantizer_dict=dict(
        hbs_compressor=dict(dtype='fp16'),  # HBS通道压缩器保持半精度
        api_perturb=dict(quantize=False)))  # 对抗扰动不量化
YOLO机油泄露检测数据集:工业微小液态缺陷识别实战指南 目标检测是计算机视觉基础任务,其核心在于定位与分类的联合优化;在工业场景中,微小缺陷检测面临低对比度、模糊边缘和强背景干扰等独特挑战。YOLO作为轻量高效的目标检测框架,凭借其单阶段架构和端到端训练优势,成为产线部署首选。本文聚焦‘机油泄露’这一典型工业液体缺陷,解析真实成像规律、多格式标注设计及面向部署的训练调优策略,涵盖VOC/COCO/YOLO标签适配、光照鲁棒性验证与边缘推理优化。内容直击设备健康管理、智能巡检等落地痛点,为工业视觉工程师提供可复现、可扩展、可部署的最小可行数据基线。 阅读详情

相关推荐

YOLO红蚂蚁检测数据集:开箱即用的目标检测实战指南

目标检测是计算机视觉的核心任务之一,旨在识别图像中特定物体的位置和类别。其原理通常基于深度学习模型,通过卷积神经网络提取特征,并预测边界框和类别概率。这项技术的核心价值在于将视觉信息转化为结构化数据,为自动化决策提供基础。在工程实践中,高质量、格式规范的数据集是模型成功的关键,直接影响模型的训练效率和最终性能。应用场景广泛,从工业质检、安防监控到农业虫害监测,都依赖于精准的目标检测。本文以红蚂蚁检测为例,深入剖析了包含VOC、COCO和YOLO三种主流格式的即用型数据集,并详细讲解了基于YOLOv8的完整训

weixin_30667649的博客 424

手把手教你用SET提升无人机监控中的微小目标检测(附MMDetection配置)

本文深入解析了2025CVPR提出的SET框架,它通过频域视角创新性地解决了无人机监控中微小目标检测的难题。文章手把手指导如何将SET集成到MMDetection框架,并针对VisDrone数据集进行实战配置与调优,帮助开发者在几乎不增加推理开销的情况下,有效提升微小目标的检测精度。

cheese的博客 240

基于VOC格式的螺丝螺帽缺陷检测数据集与YOLO训练实践

机器视觉技术正深入工业质检领域,目标检测模型的训练效果高度依赖标注数据的质量与格式。VOC格式作为通用的目标检测标注标准,通过XML文件记录目标的类别与边界框坐标,为模型训练提供了规范化的数据基础。在螺丝螺帽等紧固件生产中,缺陷检测是保障产品质量的关键环节,裂纹、锈蚀、螺纹损伤等微小瑕疵都需精准识别。一套包含3081张图片、支持VOC格式的螺丝螺帽缺陷检测数据集,能够帮助开发者快速构建和验证检测算法,结合YOLOv8等模型实现高效训练与推理。围绕该数据集的标注结构、数据校验流程及YOLO格式转换方法,并探讨

weixin_29051149的博客 283

PointTinyBenchmark vs 传统检测框架:微小目标场景下的8项关键指标领先

PointTinyBenchmark是UCAS-VG开发的基于点的微小目标检测与定位代码集,专为解决远距离监控、无人机航拍等场景中的微小目标检测难题而设计。与传统检测框架相比,它在微小目标场景下的8项关键指标实现全面领先,为工业级应用提供了更精准、高效的解决方案。 ## 微小目标检测的核心挑战 在安防监控、无人机巡检等实际应用中,**微小目标检测**面临三大核心挑战:目标像素占比低(通常小于3

gitblog_01130的博客 326

Matlab实现使用遗传算法的混合能源系统优化.rar

Matlab实现使用遗传算法的混合能源系统优化.rar

基于斜坡补偿的Buck电路峰值电流+电压电流双闭环控制【附说明文档】(Simulink仿真实现)优快云首页发布文章优快云同步助手LLC谐振变换器开环+闭环软启动仿真设计(Simulink

内容概要:本文围绕三电平VIENNA整流器的双闭环控制与中点电位平衡问题展开仿真研究,提出了一种基于上下电容电压差值补偿的中点电位平衡策略。该策略在传统电压电流双闭环PI控制的基础上,引入电容电压差值作为反馈信号,通过SVPWM调制中冗余小矢量的时间分配实现中点电荷的定向调节,从而在不改变主控制结构的前提下有效抑制中点电位偏差。仿真结果表明,该方法不仅确保直流母线电压稳定跟踪800V给定值,还能显著提升上下电容电压的均衡度,同时保持输入电流低谐波水平,验证了控制策略的可行性和有效性。; 适合人群:电力电子、电气自动化及相关专业的研究生、科研人员及工程技术人员,具备一定的MATLAB/Simulink仿真基础和电力电子拓扑知识背景者更佳。; 使用场景及目标:①掌握三电平VIENNA整流器的工作原理与中点电位波动的成因;②理解电压电流双闭环PI控制的设计要点与参数整定原则;③学习基于差值补偿的中点电位平衡控制策略及其与SVPWM的协同机制;④应用于充电桩、航空电源、通信电源等中大功率单向整流场合的控制系统设计与优化。; 阅读建议:建议结合文中提供的仿真模型与参数设置进行动手实践,重点关注中点电位平衡投入前后电容电压波形的变化,对比分析不同工况下的系统动态响应,深入理解控制策略的作用机理。同时可进一步探索在电网不平衡、轻载等复杂工况下的控制性能,以拓展应用场景。

TinyPerson数据集详解:PointTinyBenchmark如何解决海上与地面微小行人检测难题

PointTinyBenchmark是UCAS-VG团队开发的基于点的微小目标检测与定位代码集,专注于解决海上与地面场景下的微小行人检测难题。TinyPerson数据集作为该项目的核心组成部分,为算法研究提供了丰富的真实场景数据支持。 ## 🌊 什么是TinyPerson数据集? TinyPerson数据集是一个专注于微小行人检测的大规模数据集,包含1610张标注图像和759张未标注图像,总

gitblog_00656的博客 1013

自适应多机器人编队规划,以包围和跟踪具有运动和可见性约束的目标(Matlab代码实现)

内容概要:本文针对“自适应多机器人编队规划,以包围和跟踪具有运动和可见性约束的目标”开展研究,提出一种基于Matlab的仿真方法,实现多机器人在动态环境中对移动目标的协同包围与持续跟踪。该方法综合考虑了机器人的运动学约束与传感器的视线(visibility)限制,设计了分布式控制策略与自适应编队算法,能够在复杂环境下有效维持编队结构的稳定性和任务执行的鲁棒性。研究详细阐述了系统建模过程、控制律设计原理、编队形成与保持机制,并通过Matlab代码实现了完整的仿真验证,展示了算法在不同动态场景下的适应能力与性能优势; 适合人群:具备机器人学、自动控制理论、多智能体系统等相关基础知识,熟悉Matlab编程语言,从事智能系统、协同控制、路径规划与自主导航等方向的研究生、科研人员及工程技术人员; 使用场景及目标:①应用于安防监控、环境探测、灾害救援等场景中的多机器人目标围捕与跟踪任务;②为多智能体协同控制、分布式编队保持、避障与可见性维护等关键技术提供可复现的算法框架与仿真平台;③辅助高校与科研机构在相关领域的教学演示与科研创新,深化对自适应控制与分布式协同机制的理解; 阅读建议:建议读者结合提供的Matlab代码逐模块分析其实现逻辑,重点关注控制律设计、约束处理与自适应机制部分,可通过调整机器人数量、目标轨迹、传感器参数等进行扩展性实验,以深入掌握多机器人协同系统的动态行为与优化方法。

从论文到代码:PointTinyBenchmark中Spatial Self-Distillation实现解析

PointTinyBenchmark是UCAS-VG团队开发的基于点的微小目标检测与定位代码集,其中包含了多项创新技术,Spatial Self-Distillation(空间自蒸馏)便是其中之一,该技术发表于ICCV2023,旨在解决边界框不准确情况下的目标检测问题。 ## 技术背景:微小目标检测的挑战 🔍 微小目标检测由于目标尺寸小、特征不明显等问题,一直是计算机视觉领域的难点。传统检测

gitblog_00003的博客 192

patch_1.23.0.2584_game_No6.android.pak

patch_1.23.0.2584_game_No6.android.pak

麒麟V10系统下微信PC版安装全攻略:从源配置到一键安装(附常见问题解决)

本文详细介绍了在麒麟V10系统下安装和优化微信PC版的完整流程,包括系统环境准备、软件源配置、多途径安装方案以及性能优化技巧。特别针对国产操作系统用户,提供了从基础安装到高级配置的一站式解决方案,并附有常见问题排查方法,帮助用户快速实现微信PC版的高效运行。

weixin_30500105的博客 721

PointTinyBenchmark性能测试:4种主流算法在TinyPersonV2上的精度对比

PointTinyBenchmark是UCAS-VG开发的基于点的微小目标检测与定位代码集,专注于解决TinyPerson等小目标检测场景中的精度挑战。本文将通过实测数据对比Faster RCNN、RetinaNet、FCOS和RepPoint四种主流算法在TinyPersonV2数据集上的性能表现,为开发者选择合适的小目标检测方案提供参考。 ## 🌊 TinyPersonV2数据集特点 T

gitblog_00278的博客 306

电子病历编辑器源码(Springboot+原生HTML)

应用场景包括:电子病历书写、体温单录入、全平台信息采集、检验检查报告、不良事件上报等。 此外,电子病历编辑器软件还适用于医生工作站的病历编辑、护士工作站的护理记录输入、PASC/LIS/RIS报告编辑打印、病案首页、出院小结、病程记录、手术记录、各种知情书、康复及精神学科用的量表、临床路径用表单界面等等。 这些应用场景都涉及到了医疗文书编辑的需求,因此电子病历编辑器软件在这些场景中具有广泛的应用价值。

xingchen优快云的博客 3899

PointTinyBenchmark实战案例:如何用单指点监督实现高精度目标定位

PointTinyBenchmark是UCAS-VG开发的基于点的微小目标检测与定位代码集,通过创新的单指点监督技术,在大幅降低标注成本的同时实现高精度目标定位。本文将通过实战案例,详细介绍如何利用这一技术解决实际场景中的目标检测难题。 ## 什么是单指点监督? 传统目标检测需要精确标注目标边框(如坐标(x1,y1,x2,y2)),而**单指点监督**仅需标注目标中心点或少量代表性点,即可通过

gitblog_00531的博客 671

高效打卡系统设计:从行为心理学到实践工具

打卡系统作为现代时间管理的重要工具,其核心原理植根于行为心理学中的即时反馈机制和习惯养成理论。通过科学设计的打卡周期和可视化反馈,能有效提升个人自律性和目标达成率。在技术实现上,从纸质记录到数字化工具(如Notion、Excel自动化模板)的演进,为不同场景提供了灵活解决方案。特别在习惯追踪和进度管理领域,结合热力图生成、数据统计等技巧,打卡系统能转化为强大的自我监督工具。本文通过实践案例,详解如何构建兼顾弹性和约束力的个性化打卡方案,帮助读者突破'三天打鱼两天晒网'的常见困境。

weixin_30047059的博客 342

Android音频学习(十四)——加载音频设备

loadHwModule 是 Android 音频系统的核心初始化函数,负责加载音频硬件抽象层(HAL)的模块实现。它建立 AudioPolicyService 与底层硬件的桥梁,将配置文件(audio_policy_config.xml)中的标签<module>定义转化为可操作的硬件对象,加载的是音频硬件模块(HAL实现),每个模块对应一种音频设备类型,以动态库的形式存在,负责与底层音频硬件交互。

miemie2014的博客 1735

PointTinyBenchmark核心算法揭秘:从Scale Match到Point-to-Box的4大技术突破

PointTinyBenchmark是UCAS-VG开发的基于点的微小目标检测与定位代码集,专注于解决小目标检测领域的关键挑战。本文将深入剖析该项目的四大核心技术突破,包括Scale Match、Point-to-Box、Coarse Point Refinement(CPR)和语义方差优化,揭示其如何提升微小目标检测的精度与效率。 ## 1. Scale Match:自适应尺度匹配技术 Sc

gitblog_00401的博客 254

边表法

边表法是用来绘制填充一个面的,边表法的关键是边表和连接边表的扫描线。 对于边的描述利用边表数据结构,包含边与扫描线的交点x坐标,边的最大y坐标,这样可以知道边加入到哪些扫描线上,便还有一个指针来记录扫描线上其它边。 //边数据结构 #pragma once #ifndef __CAETZ__ #define __CAETZ__ #include "pch.h" #include "CPoin...

weixin_42376458的博客 2104

PointTinyBenchmark进阶指南:Coarse Point Refinement算法调优技巧

PointTinyBenchmark是UCAS-VG推出的基于点的微小目标检测与定位代码集,其中Coarse Point Refinement(CPR)算法是处理语义方差问题的核心技术。本文将分享CPR算法的调优技巧,帮助开发者提升微小目标检测精度。 ## 什么是Coarse Point Refinement算法? 在目标检测中,点标注的语义方差问题会导致模型性能下降。CPR算法通过**算法级

gitblog_01069的博客 1060

GEE:随机森林分类教程(样本制作、特征添加、训练、精度、参数优化、贡献度、统计面积)

本文将介绍在Google Earth Engine (GEE)平台上进行随机森林分类的方法和代码,其中包括制作样本点教程(本地、在线和本地在线混合制作样本点,合并样本点等),加入特征变量,运行随机森林分类器教程,计算随机森林分类结果的精度,优化随机森林分类算法的参数,打印各个变量特征的贡献度等步骤的方法和代码。本教程可以应用于多种分类场景,包括土地利用分类、种植区提取(大蒜、小麦、玉米等)、局部气候区分类、植被分类等多种场景。

养乐多的博客 1万+

Python分布式爬虫深度实战:反爬破解+数据清洗+性能优化全流程

分布式爬虫的核心是“调度中心化+执行分布式”,Scrapy-Redis是最易落地的框架,无需从零写调度逻辑;反爬破解要分级应对:基础反爬靠随机UA/限流,进阶反爬靠代理池,高级反爬靠第三方验证码API;数据清洗的关键是“批量处理+标准化”,避免内存溢出,核心字段去重和异常值过滤是必做步骤;性能优化不是单纯加节点,而是从架构(分片)、代码(批量写入)、服务器(索引/网络)三层协同优化,才能实现效率翻倍。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 1201

小目标检测的光谱增强技术解析与应用

在计算机视觉领域,目标检测是基础且关键的技术,而小目标检测因其特征信息匮乏、背景噪声干扰严重等挑战成为研究难点。频域分析作为图像处理的重要手段,通过傅里叶变换将图像从空间域转换到频域,能够有效分离不同频率的成分。SET(Spectral Enhancement for Tiny Object Detection)技术创新性地利用频域特性,通过分层背景平滑(HBS)和对抗扰动注入(API)两大核心模块,显著提升了小目标检测的性能。这种方法在无人机巡检、自动驾驶等实际场景中展现出重要应用价值,为解决小目标检测难

weixin_34208283的博客 424

FPGA 学习笔记:Vivado 工程更改FPGA 型号

FPGA 学习笔记:Vivado 工程更改FPGA 型号

坚韧与专注 1万+

DistScan:基于Pre-NMS预测分布偏移的目标检测模型后门检测方法

在深度学习模型安全领域,后门攻击是一种隐蔽且危害性强的威胁。其原理在于攻击者通过在训练数据中植入特定触发器,使模型在正常输入下表现良好,一旦遇到触发器则输出预设的错误结果。这种攻击对模型安全构成了严峻挑战,尤其在自动驾驶、安防监控等关键应用场景中,可能导致严重后果。从技术价值看,有效的后门检测是确保AI系统可信赖部署的基石。传统基于图像分类的检测方法难以直接适用于目标检测任务,因为后者在非极大值抑制(Pre-NMS)前会产生高维、稀疏的预测框分布。DistScan方法正是针对这一痛点,通过分析模型在Pre-

weixin_30835649的博客 457

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

BEVFusion模型部署实战:从PyTorch到TensorRT的完整流程与优化

多模态融合感知是自动驾驶和机器人领域的核心技术,它通过整合不同传感器(如摄像头和激光雷达)的数据,在统一的特征空间中进行信息互补,从而实现对三维环境的更鲁棒、更全面的理解。其技术原理在于利用深度学习模型,将异构数据映射到统一的表示空间(如鸟瞰图BEV),并进行特征级或决策级的融合。这项技术的核心价值在于能够显著提升复杂场景下的感知精度和可靠性,是高级别自动驾驶系统不可或缺的一环。在工程实践中,为了将前沿的融合感知模型(如BEVFusion)高效部署到边缘设备或车载计算单元,开发者需要掌握从训练框架到推理引擎

weixin_34174422的博客 399

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

上一篇: S4HANA开发实战:5分钟搞定基于CDS View的OData服务(含完整配置流程)
下一篇: MATLAB实战:5分钟搞定广义超几何函数计算(附完整代码)
linux6sysadmin
博客等级 码龄4年 59粉丝 1615原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值