Enhancing Medical Image Segmentation with Probabilistic U-Net for Handling Ambiguities

AI对战五子棋——深度学习策略网络 在本篇博文中,我们完成了:✔ 构建一个 CNN 五子棋策略网络✔ 让神经网络输出落子概率✔ 使用 Policy Gradient 强化学习训练 AI✔ 让 AI 实现人与 AI、AI 自对弈博弈。 阅读详情

1. 为什么医学图像分割需要“概率思维”?

如果你接触过医学图像分析,比如在CT或MRI图像上圈出肿瘤区域,你肯定遇到过那种让人头疼的情况:病灶的边缘模模糊糊,和周围正常组织混在一起,几个专家标注的结果可能都不一样。这时候,传统的深度学习分割模型,比如经典的U-Net,就会显得有点“力不从心”。它通常会给你一个确定的、非黑即白的答案——“这里就是肿瘤边界”。但这个答案真的可靠吗?模型有没有可能“猜”错了呢?它对自己的预测有多大的信心?这些关于“不确定性”的问题,在关乎生命健康的医疗诊断中,恰恰是最关键的。

这就像一位经验丰富的放射科医生,在面对一张边界不清的影像时,他不仅会给出一个最可能的判断,还会在心里评估这个判断的把握有多大,可能会说“这里高度怀疑是病灶,但需要结合其他检查确认”。而传统的AI模型,就像一个过于自信的新手,只给一个斩钉截铁的结论,缺少了这份至关重要的“自我怀疑”能力。

概率U-Net就是为了解决这个问题而生的。它的核心思想很简单:我不只给你一个分割结果,我给你一堆可能的结果,并且告诉你每种结果出现的可能性有多大。这样一来,我们不仅能得到最可能的那个分割区域,还能清晰地看到哪些地方的边界是模糊的、存在争议的。这对于辅助医生决策、评估AI模型的可信度、甚至筛选出那些需要专家重点复核的疑难病例,都有着巨大的价值。它让AI从“给出答案”进化到“给出答案并评估答案的可靠程度”,这无疑是向更安全、更可靠的医疗AI迈出的关键一步。

2. 从U-Net到概率U-Net:给确定性模型加上“不确定性引擎”

要理解概率U-Net,我们得先看看它的基石——U-Net。U-Net因其对称的编码器-解码器结构和跳跃连接,在医学图像分割领域取得了巨大成功。但它本质上是一个确定性模型:同一张输入图像,无论你跑多少次,只要模型权重固定,输出的分割图就是完全一样的。它没有内置的机制来告诉我们:“对于这个模糊的边界,我其实也不是很确定。”

那么,如何让U-Net学会表达“不确定”呢?早期有一些方法,比如蒙特卡洛Dropout和模型集成。它们的思路是对模型的权重引入随机性。蒙特卡洛Dropout在测试时也随机“关闭”一些神经元,多次推理得到多个结果,用这些结果的差异来衡量不确定性。模型集成则是训练多个不同的模型,用它们的“投票”分歧来度量不确定性。

而概率U-Net走的是另一条有趣的路:它不对模型权重动手脚,而是对输入数据本身进行“扰动”。更准确地说,它是在模型内部的高层特征空间里,引入了一个隐性的随机变量。这个思路来源于条件变分自编码器。你可以把它想象成在U-Net的“大脑”(深层特征)里,开辟了一个“想象空间”。这个空间里存储了各种可能影响分割结果的、图像本身没有明确显示的潜在因素,比如器官形状的常见变异、噪声模式、边界模糊的不同可能性等。

在训练时,模型学习这个潜在空间的分布规律。在预测时,我们从这个空间里多次随机采样,每次采样就相当于给模型一个不同的“假设”或“视角”,模型会基于这个“视角”生成一个分割结果。采样10次,就可能得到10个略有不同的分割图。这些结果在清晰明确的地方会高度一致,而在模糊不清的地方则会产生分歧。通过统计这些分歧,我们就能直观地量化出分割结果中每个像素点的不确定性。

我刚开始接触这个想法时觉得特别巧妙。它不像Dropout那样粗暴地干扰网络,而是让模型学会主动生成并利用一组有意义的“假设”,来探索分割任务中固有的模糊性。这更接近人类专家的思考过程:考虑多种可能性,然后给出一个概率性的判断。

2.1 核心架构拆解:先验网络、后验网络与U-Net的融合

概率U-Net的架构图看起来有点复杂,但拆解开来就清晰了。它主要在三部分:

  1. 主干U-Net:负责提取图像特征,并最终上采样生成分割图。这和标准U-Net一样。
  2. 先验网络:这是一个小型神经网络,以原始输入图像为条件,学习潜在空间的先验分布 P(z|X)。简单理解,它看了输入图像后,会预测一个高斯分布的均值和方差,这个分布代表了在“看到真实标注之前”,模型认为潜在变量可能的样子。
  3. 后验网络:同样是一个小型网络,但它以输入图像和真实的分割标注为条件,学习潜在空间的后验分布 Q(z|X, Y)。它是在“看过标准答案后”,反过来推断潜在变量最可能是什么样子。

训练阶段,我们使用后验网络。潜在变量z从后验分布中采样,然后与U-Net最深层的特征图进行组合(通常是拼接在一起),共同送入解码器去预测分割图。这样,模型就学会了如何利用这个潜在变量z来生成与真实标注匹配的分割结果。

而在测试或实际应用阶段,我们没有真实标注Y。这时,我们就切换到先验网络。从先验分布 P(z|X) 中多次采样不同的z,每次采样结合U-Net特征,就能产生一个可能的分割结果。重复这个过程T次(比如30次),我们就得到了T个可能的分割图。

2.2 损失函数:在准确性与多样性间寻找平衡

概率U-Net的损失函数是条件变分自编码器标准的证据下界损失,它由两部分组成:

L = 重建损失 + β * KL散度
  • 重建损失:衡量模型生成的分割图与真实标注之间的差异,通常使用交叉熵损失或Dice损失。这部分确保模型预测要准确。
  • KL散度:衡量后验分布 Q(z|X,Y) 与先验分布 P(z|X) 之间的差异。它的作用是让模型在训练时学到的后验分布不要偏离先验分布太远。这样一来,在测试时使用先验分布进行采样,才能得到有意义的、多样化的结果。

这里有个超参数 β 非常关键。如果β太大,KL散度项占主导,会迫使后验分布死死贴合先验分布,导致潜在变量z携带不了什么有用信息,模型就退化成普通的U-Net,失去了产生多样性的能力。如果β太小,重建损失主导,模型可能会为了完美拟合训练数据而“过拟合”潜在变量,让测试时的先验采样失效。在我的实验里,β通常需要小心地调校,从0.001到0.1之间尝试,才能让模型既保持预测准确性,又能产生合理的不确定性估计。

下面是一个简化版训练步骤的伪代码,可以帮助你理解这个过程:

# 伪代码:概率U-Net训练步骤
for 图像X, 真实标注Y in 数据加载器:
    # 1. 提取U-Net特征
    unet_features = unet_encoder(X)

    # 2. 训练阶段:使用后验网络
    posterior_mean, posterior_log_var = posterior_net(X, Y) # 后验网络输入X和Y
    # 重参数化技巧采样z
    z = posterior_mean + torch.exp(0.5 * posterior_log_var) * torch.randn_like(posterior_log_var)

    # 3. 将采样的z与U-Net特征结合
    combined_features = torch.cat([unet_features, z.expand_as(unet_features)], dim=1)
    prediction = unet_decoder(combined_features)

    # 4. 计算损失
    reconstruction_loss = dice_loss(prediction, Y)
    kl_loss = kl_divergence(posterior_mean, posterior_log_var, prior_mean, prior_log_var) # 先验分布参数通常设为标准正态分布
    total_loss = reconstruction_loss + beta * kl_loss

    # 5. 反向传播,更新权重
    total_loss.backward()
    optimizer.step()

3. 实战:用概率U-Net处理模糊的医学图像

理论说得再多,不如动手试试看。我们找一个经典的医学图像分割数据集——前列腺MRI分割数据集。这个任务中,前列腺的边界常常因为与周围组织对比度低而显得模糊,不同标注者之间差异也较大,正是概率U-Net大显身手的地方。

3.1 数据准备与模型搭建

首先,我们需要准备数据。假设我们使用一个2D切片的数据集,每个样本包含MRI图像和对应的分割掩码。为了模拟真实世界中的模糊性,我们甚至可以保留来自不同标注者的多个标注(如果数据集提供的话),让模型学习这种天然的变异性。

搭建概率U-Net模型时,我们可以基于一个现成的U-Net实现(比如segmentation_models.pytorch库中的U-Net),然后为其添加上先验网络和后验网络。这两个网络通常结构简单,由几个卷积层和全连接层组成,用于输出潜在变量的均值和方差。

import torch
import torch.nn as nn
import torch.nn.functional as F

class PriorNet(nn.Module):
    """先验网络:输入图像X,输出潜在变量z的先验分布参数"""
    def __init__(self, input_channels, latent_dim):
        super().__init__()
        self.conv1 = nn.Conv2d(input_channels, 32, kernel_size=3, padding=1)
        self.conv2 = nn.Conv2d(32, 64, kernel_size=3, stride=2, padding=1) # 下采样
        self.conv3 = nn.Conv2d(64, 128, kernel_size=3, stride=2, padding=1)
        self.global_pool = nn.AdaptiveAvgPool2d((1, 1))
        self.fc_mean = nn.Linear(128, latent_dim)
        self.fc_logvar = nn.Linear(128, latent_dim)

    def forward(self, x):
        x = F.relu(self.conv1(x))
        x = F.relu(self.conv2(x))
        x = F.relu(self.conv3(x))
        x = self.global_pool(x).squeeze(-1).squeeze(-1)
        z_mean = self.fc_mean(x)
        z_logvar = self.fc_logvar(x)
        return z_mean, z_logvar

class PosteriorNet(nn.Module):
    """后验网络:输入图像X和标注Y,输出潜在变量z的后验分布参数"""
    def __init__(self, input_channels, annotation_channels, latent_dim):
        super().__init__()
        # 将图像和标注在通道维度拼接
        self.conv1 = nn.Conv2d(input_channels + annotation_channels, 32, kernel_size=3, padding=1)
        # ... 后续层与PriorNet类似
        self.fc_mean = nn.Linear(128, latent_dim)
        self.fc_logvar = nn.Linear(128, latent_dim)

    def forward(self, x, y):
        xy = torch.cat([x, y], dim=1)
        # ... 经过卷积和全连接层
        return z_mean, z_logvar

# 重参数化采样函数
def reparameterize(mu, logvar):
    std = torch.exp(0.5 * logvar)
    eps = torch.randn_like(std)
    return mu + eps * std

3.2 训练技巧与坑点分享

训练概率U-Net有几个需要特别注意的地方,这些都是我踩过坑之后总结的经验:

1. 潜在维度 latent_dim 的选择:这个维度不能太大也不能太小。太小了,潜在空间表达能力不足,无法捕捉足够的变异性;太大了,不仅增加计算量,还容易导致训练不稳定,KL散度难以优化。对于大多数2D医学图像任务,设置在8到32之间是个不错的起点。

2. KL散度消失问题:这是训练VAE类模型的老大难问题。你可能会发现训练一段时间后,KL散度很快降为零,这意味着后验网络完全忽略了输入,潜在变量z没学到任何有用信息。除了调整β,还可以尝试: - 使用KL散度退火:在训练初期让β从0慢慢增加到目标值,给模型更多时间先学习重建。 - 使用自由比特技巧:为KL散度设置一个最小值,强制模型保留一定量的信息通过潜在变量。

3. 如何评估不确定性:模型训练好后,我们怎么衡量它给出的不确定性好不好呢?常用的指标有: - 预测方差:对同一张测试图像采样T次,计算每个像素点上T个预测结果的方差,方差大的地方就是不确定性高的区域。 - 基于不确定性的错误检测:我们可以计算模型预测的置信度(例如,用预测的熵或1-方差)。然后观察那些模型预测错误(与真实标注不符)的像素点,它们的置信度是否普遍较低。一个好的不确定性模型,应该能在自己可能犯错的地方“自知之明”地给出低置信度。

我曾经在一个视网膜血管分割项目中使用概率U-Net,发现那些被模型标记为高不确定性的区域,往往正是血管分支交叉、边界模糊或者图像质量较差的地方。将这些高不确定性区域提示给医生,能有效引导他们进行重点审核,提高了人机协作的效率。

4. 进阶:分层概率U-Net——捕捉多尺度模糊性

基础的Probabilistic U-Net已经很强大了,但它的作者团队后来提出了一个更强大的版本——分层概率U-Net。这个改进版本解决了一个核心问题:医学图像中的模糊性存在于不同的尺度上。

举个例子,在脑肿瘤分割中,肿瘤整体的大致范围可能比较明确(宏观尺度),但肿瘤内部坏死区域和活跃区域的边界可能很模糊(中观尺度),而肿瘤浸润到正常脑组织最前沿的细胞级边界则极难界定(微观尺度)。单一的潜在变量可能难以同时刻画所有这些不同尺度的不确定性。

分层概率U-Net的解决方案非常直观:在U-Net编码器的不同深度,引入多个潜在变量。U-Net的浅层特征对应细节信息(高频),深层特征对应语义信息(低频)。在不同层注入潜在变量,就等于让模型在不同特征尺度上学习并采样不确定性。

它的生成过程是串行的、条件依赖的。最深层(分辨率最低)的潜在变量 z_L 首先根据输入图像X生成。然后,下一层 z_{L-1} 的生成,不仅依赖于图像X,还依赖于之前生成的 z_L。以此类推,直到最浅层。这就形成了一个层次化的先验分布 P(z_0, z_1, ..., z_L | X)。在解码时,所有尺度的潜在变量都会被用到,共同指导最终分割图的生成。

这种结构带来的好处是巨大的。它让模型能够更精细、更结构化地表达不确定性。实验表明,分层版本不仅能产生视觉上更多样、更合理的样本,其量化的不确定性地图也更能反映不同解剖结构层次上的模糊性。实现起来当然更复杂,损失函数也变成了各层KL散度的加权和,但为了获得更精准的不确定性,这个复杂度是值得的。

5. 在真实医疗场景中落地:价值与挑战

将概率U-Net投入到真实的医疗辅助诊断系统中,它的价值远不止于输出一张漂亮的不确定性热力图。

核心价值一:人机协同,提升诊断效率与安全。系统可以自动将分割结果分为高置信度区域和低置信度区域。高置信度区域(如明确的器官主体)可以直接采纳,节省医生大量勾画时间。低置信度区域(模糊边界、微小病灶)则高亮标出,提请医生重点审查。这相当于AI扮演了一个“不知疲倦的初级医师”,完成了大量基础工作,并把所有拿不准的疑难杂症交给了上级医师,实现了人机优势互补。

核心价值二:失败案例检测与模型监控。在模型部署后,我们可以持续监控其预测的不确定性。如果某张图像的预测整体不确定性异常升高,这可能意味着遇到了训练数据中未见过的新情况(分布外样本),或者图像质量极差。系统可以自动将这些“棘手”案例放入待审核队列,或触发警报,防止模型在“沉默”中犯错,这对于保障AI系统的长期可靠运行至关重要。

当然,挑战也同样明显:

  1. 计算成本:推理时需要多次采样(如30次),相当于进行了30次前向传播,比确定性U-Net慢得多。这对于需要实时响应的场景是个问题。解决方案包括使用更高效的采样策略、模型蒸馏(训练一个轻量网络来模拟概率U-Net的不确定性输出),或探索在边缘设备上的优化。
  2. 不确定性校准:模型输出的不确定性在数值上是否真实反映了其犯错的概率?一个校准良好的模型,说“我有90%把握”时,它的正确率就应该接近90%。确保不确定性校准良好需要专门的评估和后期处理技术。
  3. 临床接受度:如何向医生直观、无歧义地呈现“不确定性”?是使用方差热力图、置信度区间,还是生成几个最可能的分割样例供选择?这需要人机交互专家的介入,设计出符合临床工作流的可视化方案。

在我参与的一个肺部结节筛查项目中,我们最终将概率U-Net的不确定性输出,以半透明彩色蒙版的形式叠加在原始CT影像上。红色代表高不确定性(建议复核),绿色代表高确定性。放射科医生反馈,这种呈现方式非常直观,让他们能快速抓住审核重点,同时也增强了对AI系统的信任感,因为他们能“看到”AI在哪里犹豫了。这或许就是概率性AI模型在医疗领域最大的魅力:它不再是一个黑箱,而是一个能够坦诚沟通自身局限性的合作伙伴。

Frida实战:如何用HashMap.put拦截法快速定位安卓App加密参数(附完整脚本) 本文详细介绍了如何使用Frida拦截HashMap.put方法快速定位安卓App加密参数,提供完整脚本和实战案例。通过动态分析技术,相比传统静态分析大幅提升效率,适用于电商、社交、金融等场景的加密参数定位。 阅读详情

相关推荐

PG-FP6编程器错误代码解析与高效排障实战指南

在嵌入式系统开发与量产烧录中,编程器是连接开发环境与目标硬件的重要桥梁。其工作原理是通过特定的通信协议(如UART、SWD)与微控制器(MCU)建立连接,完成程序代码的写入、擦除与校验。这项技术的核心价值在于确保固件能够准确、可靠地部署到硬件中,是产品从原型到量产的关键环节。在实际的工程实践中,尤其是在使用瑞萨(Renesas)PG-FP6这类编程器进行调试或批量生产时,工程师常会遇到各种通信失败、编程验证错误或电源异常等问题,这些问题往往以特定的错误代码形式呈现。深入理解这些错误代码背后的硬件连接、电源时

weixin_34387468的博客 581

RNNoise-SpeexDSP-WebRTC使用说明

本文介绍RNNoise、SpeexDSP与WebRTC音频处理库的下载、调用及参数配置方法,适用于Android语音工程集成。RNNoise基于深度学习,适合非稳态噪声降噪,需48kHz输入;SpeexDSP支持多采样率与回声消除,适用于全双工场景;WebRTC提供轻量级窄带处理。三者可串联使用:麦克风信号先经前级降噪(RNNoise或SpeexDSP),再进入WebRTC媒体引擎进行编码。重点说明各库的典型应用场景、接口调用方式、关键参数调节策略及采样率转换注意事项,帮助开发者高效集成与优化语音处理链路。

知识共享,你我皆是知识的搬运工 239

从GitHub到海浪模拟:手把手教你配置WAVEWATCHⅢ 6.07.0的完整开发与测试环境

本文详细指导如何在Ubuntu系统中配置WAVEWATCHⅢ 6.07.0的开发与测试环境,涵盖虚拟机设置、依赖安装、源码编译及案例验证的全流程。通过步骤化教程,帮助科研人员快速搭建高效的海浪模拟平台,提升海洋数值模拟的研究效率。

weixin_42568801的博客 328

Transformer 为什么能取代 RNN?从自注意力讲起

2017 年谷歌在《Attention Is All You Need》中提出 Transformer,核心是。它如今是 GPT、BERT、ChatGPT 的共同底座。

anew___的博客 979

量化实战:如何用Barra多因子模型给你的投资组合做一次‘风险体检’?

本文详细介绍了如何利用Barra多因子模型对投资组合进行全面的风险体检,帮助投资者识别行业和风格因子的风险暴露。通过实战案例和Python代码示例,展示了数据采集、风险归因和组合优化的完整流程,提升投资组合的风险调整收益。

weixin_27215337的博客 327

h5支付不能打开支付宝 ios_iOS支付宝H5支付无法返回APP解决方案

本文前大段在讲楼主是如何解决这个问题的,以及中间遇到的麻烦。赶时间的同学可以直接看最后的 最终解决方案。在讨论之前,我们先看看官方文档上的一句话:注意:在iOS系统中,唤起支付宝App支付完成后,不会自动回到浏览器或商户APP。用户可手工切回到浏览器或商户APP;支付宝H5收银台会自动跳转回商户return_url指定的页面。what? 官方直接跟我们说GG了?楼主不甘心,还是想尝试一下。借鉴之前...

weixin_39864101的博客 856

基于深度学习的商品评论情感分析系统-毕业设计

面向商品评论的中文情感分析系统,支持单条预测、批量分析、情感分布与关键词、报告导出。TextCNN、BiLSTM、Transformer 在同一词表、同一数据切分、同一种子与超参下公平对比,测试集 F1 分别为 0.9101、0.9089、0.9075。结论是这一规模下模型复杂度未带来收益,但误差结构不同。附技术栈、截图、文档预览与演示视频。

csbysj2020 158

《童虎学习笔记》5分钟用Keepalived搭建MySQL高可用实现虚ip自动漂移

1

tonghu_note的博客 5618

图解循环神经网络(RNN)

RNN(循环神经网络)就是“带记忆的网络”:让网络拥有一块“记忆”,在处理当前数据时,能同时参考之前看过的内容;它不一次性看完全部输入,而是像人读书一样,一个字一个字地读,每读一个字就更新一次脑子里的记忆,然后用这份记忆去理解当前这个字。但便签一直在被改写,新信息不断挤占旧信息,传到第 40 步时,“巴黎”的痕迹已经淡得几乎没了。读到“贵”的时候,网络并没有重新去查“好看”这个词——但“好看”的影响已经融在了便签里(那个 1.5)。这三个困难的共同点:答案不在当前这一个字里,而在“前面那串东西”里。

技术管理两手抓,两手都要硬. 427

YOLOv11损失函数原理与源码解读:从调参血泪史到源码级优化

本文深入解析YOLOv11目标检测模型的损失函数设计,揭示其相比前代的关键改进。重点剖析了回归损失中动态权重的小目标优化、分类损失的带温度系数softmax、以及目标损失的自适应阈值机制等创新点。作者通过源码分析指出常见实现陷阱,如梯度回传的正确处理方式、标签分配的匹配策略等。结合实战经验,给出针对小目标检测、类别误判等典型问题的调参建议,并分享实用的调试工具代码片段。最后强调损失函数调参需结合具体任务,指出后处理对实际部署效果的重要影响。全文以工程实践为导向,为开发者提供可直接落地的优化思路。

as1225120794的博客 442

【嵌入式硬件】LAN9253说明书(中文版)

LAN9253是一款2/3端口EtherCAT从站控制器,具有双集成以太网PHY,每个PHY包含一个全双工100 BASE-TX收发器,支持100 Mbps(100 BASE-TX)操作。 LAN 9253支持HP Auto-MDIX,允许使用直接连接或交叉LAN电缆。支持EtherCAT P和信号质量指数PHY诊断。 LAN9253包括一个EtherCAT从站控制器,带有8K字节的双端口存储器(DPRAM)和8个现场总线存储器管理单元(FMMU)。每个FMMU将逻辑地址映射到物

qq_39200110的博客 2532

【原创深度学习项目】基于深度学习的建筑工地防护装备检测系统|安全帽与反光衣检测系统(RT-DETR-L 模型)

本文设计并实现了一套基于RT-DETR-L的建筑工地防护装备检测系统,采用Django+Vue前后端架构,实现对安全帽、反光背心等7类装备及“无PPE”“未戴安全帽”等缺失状态的精准识别。系统支持图片、视频、摄像头实时检测,具备参数可调、数据可视化与统计分析功能,有效解决小目标漏检、误检及管理难问题,助力智慧工地安全管理落地。文末可获取源码。

qq_1445749146的博客 232

SAP使用XCO框架创建RAP所有对象

通过XCO框架自动生成SAP ABAP开发对象。

DeveloperMrMeng的博客 555

神经网络入门指南:从 CNN、RNN 到 Attention

神经网络的学习,本质是“预测—比较—纠错”的循环;CNN 通过局部连接与权重共享理解图像;RNN 通过隐藏状态传递上下文;LSTM 和 GRU 用门控机制管理记忆;Encoder–Decoder 把理解与生成拆成两个阶段;Attention 则让模型在每一步都能主动寻找最相关的信息。到这里,我们已经走完了从普通神经网络到 Attention 的完整路线。下一篇将正式进入 Transformer,看看它如何摆脱 RNN 的顺序计算,又如何让每个 Token 直接找到与自己相关的信息。

爱敲代码的小黄 396

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

AI 学习第 15 课:变长序列不 pack 直接喂 RNN,隐状态全被 0 污染

NLP 的 batch 里句子长短不一,短句垫 0 补齐后直接喂 RNN,看似能跑,实际上每个 0 垫步都在更新隐状态——短序列的最后一步输出根本不是它真实句子的结果。这一课用 torch 2.15(

aifannihao的博客 161

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

CNN 卷积神经网络深度解析:卷积、池化与特征提取的底层原理

卷积核(Kernel),也叫滤波器(Filter),本质上是一个可以训练的权重矩阵。1 0 -11 0 -11 0 -1这个卷积核可以对图像中的局部像素进行加权计算。不同的卷积核能够提取不同类型的特征:水平边缘特征垂直边缘特征纹理特征角点特征局部形状特征在传统图像处理中,滤波器通常由人工设计。而在 CNN 中,卷积核的权重通过训练数据和反向传播自动学习得到。这也是 CNN 能够自动提取图像特征的关键。# 第一层卷积padding=1# 第二层卷积padding=1。

2503_90237586的博客 294

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

图解常用深度学习优化器

来隐式构造 Hessian 逆的近似,从而直接估计出“谷底在哪”,而非仅仅判断“哪边最陡”。即SGD/Adam 主要看“当前坡度”,LBFGS 还会看“最近几步坡度怎么变”,像用局部地形图来规划路线。训练 Transformer 时,有些层梯度大,有些层梯度小。如果用 Adam + L2,梯度大的参数反而可能被“少衰减”,正则效果不稳定;:你要下山,但每次迈步前都要派侦察兵把整座山的每一个坡面都测量一遍,算出“绝对最陡”的方向才走一步。:还是下山,但这次你只问身边一个路人“哪边最陡”,然后就走。

技术管理两手抓,两手都要硬. 219

【无标题】无人机视角道路坑洞坑洼目标检测数据集深度学习 目标检测 无人机航拍 道路坑洞 路面病害 YOLO格式 数据集发布9032期

(一)类别构成该数据集聚焦单一类别——坑洞(类别 ID 为 0),任务指向明确,围绕无人机俯视视角下的道路坑洞目标开展检测标注。类别体系精简,与公路路面病害巡检的实际需求高度契合,图像中的坑洞样本可直接作为路面破损识别的核心正样本,便于对接道路养护排查流程。(二)数据数量数据集规模为 3285 张无人机俯视航拍图像,采用标准 YOLO txt 标注格式,标注框总计 4457 个,其中带有效标注的图片 2007 张,全部图片均带有有效标注。

qq_2529413168的博客 187

基于深度学习的猫图像目标检测方法研究:YOLOv8s模型海选、多种子对比训练与Django+ONNX部署实现详解

本课题基于深度学习研究猫图像目标检测问题。数据集含1000张猫图像、1188个标注框,按固定比例划分并冻结清单;训练前在多个候选族中短训海选,确定YOLOv8s为主模型,经学习率搜索与显存标定后完成150轮训练,验证集mAP50达到0.92,并以7个随机种子的对比实验验证稳定性。最优权重导出为ONNX接入Django系统,提供图片、视频、摄像头三种识别方式,配套识别记录管理与统计大屏,形成从训练到应用的完整闭环。

WEIXIN_JSJBSZDS的博客 221

第 05/24 期:计算图与自动微分:深度学习如何计算梯度

本文系统阐述了神经网络训练中梯度计算的本质:损失对参数的敏感性。通过构建计算图,将复杂函数分解为基本运算,利用链式法则实现反向传播。核心在于反向模式自动微分——以一次前向计算为基础,通过传播输出对中间变量的敏感性,高效求得所有参数梯度。相比前向模式,反向模式在参数多、目标为标量的场景下更高效。计算图不仅适用于神经网络,也广泛适用于任意可微程序。关键思想是:梯度是局部导数与上游敏感性的乘积,分支路径的贡献需累加,从而保证导数计算的正确性与效率。

weixin_47502228的博客 331

【深度学习项目实战·30】PM2.5短期预测:用LSTM构造没有未来信息的滑动窗口

本文基于北京PM2.5数据,使用LSTM实现从最近24小时历史观测预测下一小时PM2.5。重点解决时间切分、因果填补、滑动窗口构建与标准化等关键问题,确保模型仅依赖过去信息,避免未来泄漏。通过滚动单步预测与持续性基线对比,评估在原始单位下的MAE/RMSE,验证模型有效性。强调时间顺序与数据完整性,为时序预测提供可复现的实践框架。

银尘博客 519

深度学习 目标检测 无人机巡检 防震锤 电力设备 YOLO格式 数据集发布

深度学习 目标检测 无人机巡检 防震锤 电力设备 YOLO格式 数据集发布 9038期

qq_2529413168的博客 335

无人机巡检道路路面异常检测数据集 深度学习 目标检测 无人机巡检 道路病害 路面异常 YOLO格式 数据集发布9028期

无人机巡检道路路面异常检测数据集 深度学习 目标检测 无人机巡检 道路病害 路面异常 YOLO格式 数据集发布9028期

qq_2529413168的博客 213

AI 学习第 14 课:CNN 训 6 轮卡在 0.5352,数据没打乱

第 13 课把 Conv2d 的参数量和池化后的尺寸算清了,这课把卷积块拼成一个能训练的完整网络,跑满 6 个 epoch。第一版直接卡死:loss 从 2.6104 掉到 0.6989 就再也不动,

aifannihao的博客 252

深度学习基本原理:从数学基础到神经网络训练

深度学习训练的核心,是先确定模型结构,再通过前向计算得到损失,利用链式法则和反向传播计算梯度,最后借助优化器与学习率不断更新参数。真正理解这条链路,后续学习更复杂的网络结构才有可靠的基础。

chh563的博客 167

计算机毕业设计选题推荐:【基于深度学习的车辆损坏严重程度评估方法研究】ResNet50 图像分类

系统用 ResNet50 完成轻微、中度、严重三档分类,输出类别、置信度和单次耗时;视频按每秒一帧抽帧识别,历史区同步出图,没识别出来的帧也保留原图;识别记录可检索、看详情和删除,大屏按类别、时段和任务类型做统计。训练采用迁移学习,部署走 ONNX,推理前加纯色和域外两道拒识,尽量避免把非车损画面硬判成某一类。

BYSJLG的博客 238
上一篇: Hugging Face量化实战:用BitsAndBytesConfig把7B模型塞进你的笔记本(Windows/WSL解决方案)
下一篇: Kunpeng 920处理器实战:如何优化64核性能提升服务器效率
devops8pract
博客等级 码龄4年 533粉丝 849原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值