comedate的专栏

【代码】【ChatGPT】Python 实现计算两线段的变换矩阵。

[Datawhale AI夏令营 2024 第四期] 从零入门大模型微调之旅的总结

VSCode 如何远程连接开发机器，并实现 word count 功能，统计字符串中单词的使用数量。

书生大模型实战营][Task1] Linux 远程连接 InterStudio。

Diffusion也是从纯噪声开始通过一个神经网络学习逐步去噪，最终得到一个实际图像。具体的 Diffusion 扩散模型的原理，可以参考：https://zhuanlan.zhihu.com/p/650394311?utm_id=0MindSpore 的 docs 中有详细的说明；PyTorch 版本地址：过程：Diffusion对于图像的处理包括以下两个过程：a. 我们选择的固定（或预定义）正向扩散过程 q，逐渐将高斯噪声添加到图像中，直到最终得到纯噪声。

MindSpore 的 Pix2Pix 图像转换介绍Pix2Pix是基于条件生成对抗网络（cGAN, Condition Generative Adversarial Networks ）实现的一种深度学习图像转换模型，该模型是由Phillip Isola等作者在2017年CVPR上提出的，可以实现语义/标签到真实图片、灰度图到彩色图、航空图到地图、白天到黑夜、线稿图到实物图的转换。Pix2Pix是将cGAN应用于有监督的图像到图像翻译的经典之作，其包括两个模型：生成器和判别器。论文。

MindSpore 的 GAN 的图像生成介绍生成式对抗网络(Generative Adversarial Networks，GAN)是一种生成式机器学习模型，是近年来复杂分布上无监督学习最具前景的方法之一。由Ian J. Goodfellow于2014年发明，其主要由两个不同的模型共同组成——生成器(Generative Model)和判别器(Discriminative Model)。GAN通过设计生成模型和判别模型这两个模块，使其互相博弈学习产生了相当好的输出论文。

MindSpore 的 DCGAN 的图像风格迁移互换DCGAN(深度卷积对抗生成网络)， 是 GAN 网络的扩展；不同之处在于DCGAN会分别在判别器和生成器中使用卷积和转置卷积层。论文地址论文中文翻译地址主要创新点：a. 提出并评估了一组对卷积 GAN 架构拓扑的约束，这些约束使它们在大多数设置下都能稳定地进行训练。我们将这类架构命名为深度卷积 GAN （DCGAN）b. 使用经过训练的判别器进行图像分类任务，显示出与其他无监督算法相比的竞争性能。

MindSpore 的 CycleGAN 的图像风格迁移互换论文地址论文中文翻译地址主要流程：我们有一个转换器 G ： X → Y，另一个转换器 F ： Y → X，那么 G 和 F 应该是彼此的倒数，并且两个映射都应该是双射。我们通过同时训练映射 G 和 F，并添加周期一致性损失(cycle consistency losses)来应用这一结构假设，该损失鼓励 F（G（x）） ≈ x 和 G（F（y）） ≈ y。

MindSpore 的使用 ChatGLM-6B 的对话流GPT2 论文地址。

MindSpore 的使用 GPT2 实现文本摘要GPT2 论文地址。

MindSpore 的 MobileNetV2 实现垃圾分类的函数自动微分

mindspore 实现 GPT 实现情感分类；GPT 论文地址GPT 基本介绍：它是 OpenAI 于2018年开发并发布的一种新型语言模型。他是通过对各种未标记文本语料库进行语言模型的生成预训练，然后对每个特定任务进行判别性微调，可以实现自然语言理解包括各种不同的任务，例如文本蕴涵、问答、语义相似性评估和文档分类等功能。

mindspore 实现 BERT 对话情绪识别；BERT 论文地址BERT 基本介绍：它是Google于2018年末开发并发布的一种新型语言模型。与BERT模型相似的预训练语言模型例如问答、命名实体识别、自然语言推理、文本分类等在许多自然语言处理任务中发挥着重要作用。创新点：主要实在 pre-train 方法上；训练BERT的时候，随机把语料库中15%的单词做Mask操作。

mindspore 实现 VisionTransformer 图像分类；VisionTransformer 论文地址VisionTransformer (ViT) 基本介绍：Transformer模型的提出，极大地促进了自然语言处理模型的发展。由于Transformers 的计算效率和可扩展性，它已经能够训练具有超过100B参数的空前规模的模型。ViT则是自然语言处理和计算机视觉两个领域的融合结晶。在不依赖卷积操作的情况下，依然可以在图像分类任务上达到很好的效果。

mindspore 实现 SSD 图像检测；SSD 基本介绍：SSD (Single Shot MultiBox Detector) 是 Wei Liu 在 ECCV 2016 上提出的目标检测算法。使用Nvidia Titan X在VOC 2007测试集上，SSD对于输入尺寸300x300的网络，达到74.3%mAP(mean Average Precision)以及59FPS；对于512x512的网络，达到了76.9%mAP ，超越当时最强的Faster RCNN(73.2%mAP)。

ShuffleNetV1 是旷视科技提出的一种计算高效的 CNN 模型，设计目标是利用有限资源达到最好的模型精度；文章链接一文中提出的一种网络框架。解决的问题：降低模型的计算量，同时达到最好的模型精度，可以应用到移动端；创新点：a. 逐点分组卷积 (Pointwise Group Convolution)：将输入的特征分组卷积；这样每个卷积核只处理输入特征图的一部分通道；

Shuffle Net V1 文章的翻译

mindspore 实现 ResNet 50 迁移学习；具体 ResNet 50 的模型原理以及实现，可以参考本博客的 ResNet50 分类；迁移学习背景：把已训练好的模型参数迁移到新的模型来帮助新模型训练；原因：a. 避免从 0 开始重复造轮子；b. 减少训练成本；如果采用导出特征向量的方法进行迁移学习，后期的训练成本非常低，用CPU都完全无压力，没有深度学习机器也可以做。

mindspore 实现 ResNet50 图像分类；ResNet 基本介绍：Residual Networks 是微软研究院 Kaiming He 等人于2015年在 Deep Residual Learning for Image Recognition文章链接一文中提出的一种网络框架。解决的问题：传统的卷积神经网络都是将一系列的卷积层和池化层堆叠得到的，但当网络堆叠到一定深度时，就会出现退化问题；

mindspore 实现 FCN 语义图像分割；FCN 基本介绍Fully Convolutional Networks，FCN）是UC Berkeley的Jonathan Long等人于2015年在Fully Convolutional Networks for Semantic Segmentation文章链接一文中提出的用于图像语义分割的一种框架。FCN是首个端到端（end to end）进行像素级（pixel level）预测的全卷积网络语义分割的目的是对图像中每个像素点进行分类。

mindspore 框架分为两种运行模式，分别是动态图模式(PYNATIVE_MODE)以及静态图模式(GRAPH_MODE); 默认使用动态图模式； 但是，也提供静态图模式； 使用静态图模式时，编译器可以针对图进行全局的优化，获得较好的性能，因此比较适合网络固定且需要高性能的场景

使用 mindspore 保存与加载模型参数以及模型中间结果

使用 mindspore，针对手写字符集，使用 DenseNet 可以进行模型的训练与评估

使用 mindspore 的函数式自动微分常见用法；

使用 mindspore 构建神经网络

使用 mindspore 的常见的数据变换 Transforms 的使用方法；

昇思25天学习打卡营第3天; mindspore DataSet 数据集的常见用法

使用 mindspore 的 Tensor 用法

今天开始参与 优快云 的活动，使用 mindspore 学习神经网络;

python 中有不同的函数接口，可以取得当前的时间；有时候需要这几种时间格式的转化；例如将 “2023-12-04 10:48:31.811” 转化成时间戳，或者反之；

工业界经常使用 pybind 11 封装 C++ 成 python 代码，这样既有 C++ 的性能，也有 python 胶水语言的方便；因此，本文使用 pybind 11 封装 C++ 的 map, vector 来说明这样的例子；

VTK 中有比较多的平滑 Mesh 的方法，其中比较有效的方法是：vtkWindowedSincPolyDataFilter

使用工具 doc2unix 可以实现转换，linux 行末总是多了个 ^M。

使用 VTK 的 Marching Cube 将 mask 提取成 mesh, 并保存成 OBJ 格式

对于三维mesh的显示来说，VTK是一个比较通用的库。但是，VTK库属于基础库，使用起来代码量还是挺多的。后来，就找到python的pyvista三方库。

0. 背景：在做项目的时候，遇到给定空间中的几个点，插值得到空间曲面。对于 MATLAB 来说，有 griddata 这个函数可以实现；对于 Python 来说，我们可以使用 scipy 中的 griddata 也可以实现；1. 使用的实现函数：meshgrid 网格坐标的一维数组griddata scipy 中的插值函数，插值得到 N 维坐标2. 测试代码：import numpy as npimport matplotlib.pyplot as pltfrom scipy.i

Python 使用 VTK 绘制平面

NURBS 理论书本：The NURBS Book - Piegl & Tiller:Python 库：NURBS-Python 2.3.6https://github.com/orbingol/NURBS-PythonC++ 版本C++ 写的开源 NURBS (Non-Uniform Rational Basis Spline) 库 - 非均匀有理基样条https://github.com/pradeep-pyro/tinynurbs.git...

最小二乘法拟合平面已知三维空间的一些点集，求拟合出来的平面；