- 博客(32)
- 资源 (2)
- 收藏
- 关注
RSS订阅原创 昇思25天学习打卡营第26天|基于 MindSpore 实现 BERT 对话情绪识别
BERT全称是来自变换器的双向编码器表征量（Bidirectional Encoder Representations from Transformers），它是Google于2018年末开发并发布的一种新型语言模型。与BERT模型相似的预训练语言模型例如问答、命名实体识别、自然语言推理、文本分类等在许多自然语言处理任务中发挥着重要作用。模型是基于Transformer中的Encoder并加上双向的结构，因此一定要熟练掌握Transformer的Encoder的结构。
2024-07-29 16:06:29
429
原创 昇思25天学习打卡营第25天|数据集 Dataset
数据是深度学习的基础，高质量的数据输入将在整个深度神经网络中起到积极作用。MindSpore提供基于Pipeline的。此外MindSpore的领域开发库也提供了大量的预加载数据集，可以使用API一键下载使用。实现高效的数据预处理。其中Dataset是Pipeline的起始，用于加载原始数据。提供了内置的文本、图像、音频等数据集加载接口，并提供了自定义数据集加载接口。
2024-07-26 13:29:50
257
原创 昇思25天学习打卡营第24天|快速入门
实现高效的数据预处理。在本教程中，我们使用Mnist数据集，自动下载完成后，使用。类是构建所有网络的基类，也是网络的基本单元。当用户需要自定义网络时，可以继承。MindSpore提供基于Pipeline的。提供的数据变换进行预处理。包含所有网络层的定义，
2024-07-25 15:20:44
390
原创 昇思25天学习打卡营第19天|文本解码原理--以MindNLP为例
根据前文预测下一个单词一个文本序列的概率分布可以分解为每个词基于其上文的条件概率的乘积MindNLP/huggingface Transformers提供的文本生成方法Greedy search
2024-07-25 15:09:08
314
原创 昇思25天学习打卡营第23天|使用静态图加速
AI编译框架分为两种运行模式，分别是动态图模式以及静态图模式。MindSpore默认情况下是以动态图模式运行，但也支持手工切换为静态图模式。
2024-07-24 14:50:41
316
原创 昇思25天学习打卡营第22天|保存与加载
训练网络模型的过程中，实际上我们希望保存中间和最后的结果，用于微调（fine-tune）和后续的模型推理与部署。要加载模型权重，需要先创建相同模型的实例，然后使用。接口，传入网络和指定的保存路径。
2024-07-23 13:54:01
192
原创 昇思25天学习打卡营第21天|CycleGAN图像风格迁移互换
该模型一个重要应用领域是域迁移(Domain Adaptation)，可以通俗地理解为图像风格迁移。其实在 CycleGAN 之前，就已经有了域迁移模型，比如 Pix2Pix ，但是 Pix2Pix 要求训练数据必须是成对的，而现实生活中，要找到两个域（画风）中成对出现的图片是相当困难的，因此 CycleGAN 诞生了，它只需要两种域的数据，而不需要他们有严格对应关系，是一种新的无监督的图像迁移网络。该模型实现了一种在没有配对示例的情况下学习将图像从源域 X 转换到目标域 Y 的方法。
2024-07-22 14:45:21
238
原创 昇思25天学习打卡营第20天|基于MindNLP+MusicGen生成自己的个性化音乐
与传统方法不同，MusicGen采用单个stage的Transformer LM结合高效的token交织模式，取消了多层级的多个模型结构，例如分层或上采样，这使得MusicGen能够生成单声道和立体声的高质量音乐样本，同时提供更好的生成输出控制。MusicGen不仅能够生成符合文本描述的音乐，还能够通过旋律条件控制生成的音调结构。MusicGen是来自Meta AI的Jade Copet等人提出的基于单个语言模型（LM）的音乐生成模型，能够根据文本描述或音频提示生成高质量的音乐样本，相关研究成果参考论文《
2024-07-22 08:34:51
206
原创 昇思25天学习打卡营第18天|LSTM+CRF序列标注
序列标注指给定输入序列，给序列中每个Token进行标注标签的过程。序列标注问题通常用于从文本中进行信息抽取，包括分词(Word Segmentation)、词性标注(Position Tagging)、命名实体识别(Named Entity Recognition, NER)等。这里使用了一种常见的命名实体识别的标注方法——“BIOE”标注，将一个实体(Entity)的开头标注为B，其他部分标注为I，非实体标注为O。是地名，需要将其识别，我们对每个输入的单词预测其标签，最后根据标签来识别实体。
2024-07-19 14:26:01
266
原创 昇思25天学习打卡营第17天|网络构建
使用这样的嵌套结构，可以简单地使用面向对象编程的思维，对神经网络结构进行构建和管理。类是构建所有网络的基类，也是网络的基本单元。一个神经网络模型表示为一个。神经网络模型是由神经网络层和Tensor操作构成的，提供了常见神经网络层的实现，在MindSpore中，
2024-07-18 14:45:29
234
原创 昇思25天学习打卡营第16天|模型训练
除了梯度本身，这两个因子直接决定了模型的权重更新，从优化本身来看，它们是影响模型性能收敛最重要的参数。batch size过大，不同batch的梯度方向没有任何变化，容易陷入局部极小值，因此需要选择合适的batch size，可以有效提高模型精度、全局收敛。：如果学习率偏小，会导致收敛的速度变慢，如果学习率偏大，则可能会导致训练不收敛等不可预测的结果。超参（Hyperparameters）是可以调整的参数，可以控制模型训练优化的过程，不同的超参数值可能会影响模型训练和收敛速度。：训练时遍历数据集的次数。
2024-07-17 14:10:07
491
原创 昇思25天学习打卡营第15天|Vision Transformer图像分类
近些年，随着基于自注意（Self-Attention）结构的模型的发展，特别是Transformer模型的提出，极大地促进了自然语言处理模型的发展。由于Transformers的计算效率和可扩展性，它已经能够训练具有超过100B参数的空前规模的模型。ViT则是自然语言处理和计算机视觉两个领域的融合结晶。在不依赖卷积操作的情况下，依然可以在图像分类任务上达到很好的效果。
2024-07-16 13:34:50
257
原创 昇思25天学习打卡营第14天|K近邻算法实现红酒聚类
它正是基于以上思想：要确定一个样本的类别，可以计算它与所有训练样本的距离，然后找出和该样本最接近的k个样本，统计出这些样本的类别并进行投票，票数最多的那个类就是分类的结果。距离度量，反映了特征空间中两个样本间的相似度，距离越小，越相似。常用的有Lp距离（p=2时，即为欧式距离）、曼哈顿距离、海明距离等。K值，一个样本的分类是由K个邻居的“多数表决”确定的。K值越小，容易受噪声影响，反之，会使类别之间的界限变得模糊。分类决策规则，通常是多数表决，或者基于距离加权的多数表决（权值与距离成反比）。
2024-07-15 13:12:52
250
原创 昇思25天学习打卡营第13天|基于MobileNetv2的垃圾分类
MobileNet网络是由Google团队于2017年提出的专注于移动端、嵌入式或IoT设备的轻量级CNN网络，相比于传统的卷积神经网络，MobileNet网络使用深度可分离卷积（Depthwise Separable Convolution）的思想在准确率小幅度降低的前提下，大大减小了模型参数与运算量。并引入宽度系数 α和分辨率系数 β使模型满足不同应用场景的需求。
2024-07-14 16:32:04
221
原创 昇思25天学习打卡营第12天|Diffusion扩散模型‘
关于扩散模型（Diffusion Models）有很多种理解，本文的介绍是基于denoising diffusion probabilistic model （DDPM），DDPM已经在（无）条件图像/音频/视频生成领域取得了较多显著的成果，现有的比较受欢迎的的例子包括由OpenAI主导的。）（在Google Brain）才各自独立地改进了这种方法。），迁移到MindSpore AI框架上实现的。和由Google Brain主导的。实际上生成模型的扩散概念已经在（、由海德堡大学主导的。）（斯坦福大学）和（
2024-07-14 00:49:15
246
原创 昇思25天学习打卡营第11天|DCGAN生成漫画头像
判别器由分层的卷积层、BatchNorm层和LeakyReLU激活层组成。输入是3x64x64的图像，输出是该图像为真图像的概率。生成器则是由转置卷积层、BatchNorm层和ReLU激活层组成。输入是标准正态分布中提取出的隐向量𝑧𝑧，输出是3x64x64的RGB图像。DCGAN（深度卷积对抗生成网络，Deep Convolutional Generative Adversarial Networks）是GAN的直接扩展。不同之处在于，DCGAN会分别在判别器和生成器中使用卷积和转置卷积层。
2024-07-12 13:45:54
237
原创 昇思25天学习打卡营第10天|Pix2Pix实现图像转换
Pix2Pix是基于条件生成对抗网络（cGAN, Condition Generative Adversarial Networks ）实现的一种深度学习图像转换模型，该模型是由Phillip Isola等作者在2017年CVPR上提出的，可以实现语义/标签到真实图片、灰度图到彩色图、航空图到地图、白天到黑夜、线稿图到实物图的转换。
2024-07-11 13:26:40
185
原创 昇思25天学习打卡营第9天|GAN图像生成
GAN模型的核心在于提出了通过对抗过程来估计生成模型这一全新框架。在这个框架中，将会同时训练两个模型——捕捉数据分布的生成模型 𝐺𝐺 和估计样本是否来自训练数据的判别模型 𝐷𝐷。生成式对抗网络(Generative Adversarial Networks，GAN)是一种生成式机器学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。GAN通过设计生成模型和判别模型这两个模块，使其互相博弈学习产生了相当好的输出。最初，GAN由Ian J. Goodfellow于2014年发明，并在论文。
2024-07-10 13:13:54
268
原创 昇思25天学习打卡营第7天|SSD目标检测
SSD作为目标检测算法与R-CNN系列的双阶段目标检测不同，其采用端到端的训练方式实现单阶段检测，与同为单阶段目标检测算法的YOLO 系类齐名。昇思25天学习打卡营第7天，实现SSD目标检测模型的训练与验证。
2024-07-05 08:49:47
203
原创 昇思25天学习打卡营第6天|ShuffleNet图像分类
ShuffleNet图像分类模型是旷视科技的作品，对该模型的训练可以充分了解模型的设计技巧和设计思路，为图像分类模型的应用提供很好的基础保证，同事可以为自己设计图像分类模型提供思路。
2024-07-04 08:51:27
151
原创 昇思25天学习打卡营第5天|ResNet50图像分类
图像分类作为计算机视觉技术在深度学习领域最早突破旧范式的应用，已经得到广泛的应用，并且在技术成熟度上更加成熟，作为计算机视觉技术的入门训练，可以很好的体现深度学习的技术细节。
2024-07-03 08:49:38
177
原创 昇思25天学习打卡营第4天|ResNet50迁移学习
迁移学习作为现在模型训练的基本模式，基本已全面取代了最初的从零开始训练模型的方式，迁移学习不仅可以加快模型训练，加速模型收敛，针对特定任务快速完成模型训练，提高模型的泛化能力。无论从小规模，特定任务的模型训练到大模型的训练，迁移学习都成为了主流范式。
2024-07-01 10:57:24
165
原创 昇思25天学习打卡营第3天|FCN训练
初级教程之数据集及张量相关操作。对于熟悉pytorch的同学，昇思中关于张量的基本操作及数据集的操作方式很相似，熟悉下基本的库及相关调用方式，很容易上手。以下是数据集中运行操作加入的时间戳截图。
2024-06-26 16:31:38
187
原创 《昇思25天学习打卡营第1天|昇思基础知识》
或者Pytorch的小伙伴可以很容易的上手，通过基础文档查看和主流框架的区别后，就可以快速在昇思上训练自己的模型了。初学教程的10分文档，详细介绍了昇思的整体架构，及训练神经网络的基本组成单元及代码编写的基础知识。
2024-06-25 17:14:06
258
原创 torch.cumsum维度解释
官网对函数的解释：https://pytorch.org/docs/stable/generated/torch.cumsum.html?说明必须要有两个参数，一个是tensor类型的输入，也就是数据，另外一个是操作的维度，这也是今天的核心，很多人在维度上是不理解的，或者说是混淆的。大概的写法就这两种，主要分析下维度是如何计算的。采用官网的写法来测试一下，一般维度就三维算高的了，所以我就测试了一维、二维和三维数据时候的效果。例如，如果输入是大小为N的向量，则结果也将是大小为N的带有元素的向量。
2023-03-30 09:43:43
321
原创 数组、List和ArrayList的区别
数组、List和ArrayList的区别 数组在内存中是连续存储的，所以它的索引速度是非常的快，而且赋值与修改元素也很简单，比如： string[] s=new string[3]; //赋值 s[0]="a"; s[1]="b"; s[2]="c"; //修改 s[1]="b1"; 但是数组也存在一些不足的地方。比如在数组的两个数据间插入数据也是很麻烦的，还有我们在声明数组的时候，必须同时指明数组的长度，数组的长度过长，会造成内存浪费，数组和长度过短，会造成数据溢出的错误。这样如果在声
2021-05-07 17:01:06
218
转载 C#中@的用法总结
一 字符串中的用法 1.学过C#的人都知道C# 中字符串常量可以以@ 开头声名，这样的优点是转义序列“不”被处理，按“原样”输出，即我们不需要对转义字符加上 \ （反斜扛），就可以轻松coding。如， 1 stringfilePath = @"c:\Docs\Source\a.txt"// rather than "c:\\Docs\\Source\\a.txt" 2.如要在一个用 @ 引起来的字符串中包括一个双引号，就需要使用两对双引号了。这时候你不能..
2021-04-25 10:18:53
817
原创 C#的String.Split方法
String.Split方法有6个重载函数： 1) public string[] Split(params char[] separator) 2) public string[] Split(char[] separator, int count) 3) public string[] Split(char[] separator, StringSplitOptions options) 4) public string[] Split(string[] separator, StringSpli.
2021-04-23 10:24:24
5513
转载 AssemblyInfo.cs文件详解
1、.Net工程的Properties文件夹下自动生成一个名为AssemblyInfo.cs的文件，一般情况下我们很少直接改动该文件。但我们实际上通过另一个形式操作该文件。那就是通过在鼠标右键点击项目的属性进入“应用程序”->“程序集信息”，然后修改信息。 2、通过特性（Attribute）来设置程序集(dll文件)的常规信息，供查看或作为配置信息供程序内部使用。 此文件内容如下： 1 // 程序集标题 2 [assembly:AssemblyTitle...
2021-04-22 14:57:07
2952
转载 HTTP 和 SOCKET 的区别
HTTP 协议:超文本传输协议，对应于应用层，用于如何封装数据. TCP/UDP协议:传输控制协议，对应于传输层，主要解决数据在网络中的传输。 IP 协议:对应于网络层，同样解决数据在网络中的传输。 传输数据的时候只使用 TCP/IP 协议(传输层)，如果没有应用层来识别数据内容，传输后的协议都是无用的。 应用层协议很多 FTP,HTTP,TELNET等，可以自己定义应用层协议。 web 使用 HTTP 作传输层协议，以封装 HTTP 文本信息，然后使用 TCP/IP 做传输层协议，将数据发...
2021-04-22 14:12:40
171
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人