murongmeng-优快云博客

原创 MindSpore社区活动：小算力也能玩转深度模型

梯度累加是一种优化神经网络训练的计数，它可以在计算梯度时候，将多个小批次数据的梯度加起来，从而达到与使用大批数据训练相似的结果。在使用小batch数据训练神经网络的时候，由于数据量比较少，梯度计算结果可能会存在一定的随机性，导致训练不稳定，而梯度累加可以使得梯度更加稳定，从而提高模型训练的稳定性和泛化性。计算过程就像下面的图一样该图来自mindspore的官网学习率 learning rate。

2024-03-24 23:29:18 1319 1

数据并行是一种分布式计算模型，它将数据切成多个部分，在多个计算节点上并行处理，以提高计算效率和处理速度。在数据并行中，每个计算节点都可以独立处理自己的数据，然后将结果汇总。整体流程如下图所示（图来自mindspore官网）mindspore是通过下面这个接口设置数据并行模式的：下面是官网教程的代码，机器是CPU，所以强制设置后端为CPU:import osinit()nn.ReLU(),nn.ReLU(),i = 0i += 1t=N7T8。

2024-03-17 21:27:36 661 1

原创消噪的Diffusion扩散模型

本文对Diffusion扩散模型的理解是基于DDPM，而DDPM已经在（无）条件图像/音频/视频生成领域取得了较多显著的成果，现有的比较受欢迎的的例子包括由OpenAI主导的GLIDE和DALL-E 2、由海德堡大学主导的潜在扩散和由Google Brain主导的图像生成。将Diffusion与其他生成模型（如Normalizing Flows、GAN或VAE）进行比较，它们都将噪声从一些简单分布转换为数据样本，Diffusion也是从纯噪声开始通过一个神经网络学习逐步去噪，最终得到一个实际图像。

2023-09-24 22:07:28 2136 1

原创 MindSpore社区活动：人脸的关键点检测

人脸关键点检测是一种计算机视觉技术，可以自动识别人脸图像的关键点，从而实现人脸识别，表情识别，面部动作分析等。CED曲线检测精度模型大小处理速度PFLD骨干网络没有采用VGG16、ResNet等大模型，采用Mobilenet-v2（对Mobilenet的输出特征进行了结构上的修改）。PFLD通过融合三个不同尺度的特征，来增加模型的表达能力。算法对嵌入式设备非常友好，在骁龙845的芯片中效率可达140fps。另外模型大小较小，仅2.1MB。ION和IPN等指标在已有算法中名列前茅。

2023-08-20 20:44:11 340 1

原创 MindSpore社区活动：UNet-2D的图像分割

UNet是由OlafRonneberger和PhilippFischer以及Thomas Brox于2015年在论文中提出的，并在ISBI 2015中获得联合国大会的奖项。UNet在医学图像分割，自然图像分割等领域都有广泛的应用。不仅如此，它具有轻量化与高性能的特点，因此通常作为语义分割任务的基线测试模型。UNet从根本性质上来说属于全卷积神经网络模型。它的名字来源于它的架构形状”U“

2023-08-20 15:03:51 455 1

原创 MindSpore社区活动：Transformer也能图像分类

ViT是一种基于自注意力机制的图像分类模型，是Google在2020年提出的。它的优点是可以处理任意大小的图像，在一些图像分类任务上取得与传统卷积神经网络相当的性能。它的缺点是，计算复杂度比较高，需要大量的计算资源和训练时间。

2023-07-30 10:10:20 157 1

原创 SSD目标检测~教程体验

SSD是一种基于深度学习的目标检测算法，由google于2016年提出。它有三个优点：1. 速度快。它采用单阶段检测，可以直接在一张图像上完成目标检测，所以速度快。2. 精度高。它采用多尺度特征图进行检测，可以检测不同大小的目标，因此精度比较高。3. 简单易用。它只需要一张图像和一个预训练模型，就可以进行目标检测，使用起来非常简单。SSD模型主要由两部分组成：特征提取网络和检测网络。特征提取网络通常采用VGG、ResNet等经典的卷积神经网络，用于提取图像的特征。

2023-06-18 20:58:25 1759 1