- 博客(11)
- 收藏
- 关注
RSS订阅原创 支持数据撤销的模型成员推理攻击工具箱
本项目是一个支持数据撤销的成员推理攻击工具，支持mnist、cifar10、cifar100、cinic10等多种数据集，可实现针对LeNet、RNN、ResNet、RL等多种模型的成员推理攻击，并给用户一个详细的使用文档。
2024-12-17 11:55:48
617
原创 成员推理攻击的防御方法及实现
机器学习中的成员推理攻击指的是攻击者可以通过观察机器学习模型的输出，来推断训练数据中是否包含了特定的样本。这种攻击技术可以通过观察模型的输出统计信息，如分类概率或回归值，来判断模型对于某个特定样本的预测结果。成员推理攻击可能会对数据隐私造成威胁，尤其是当模型训练在敏感数据集上时。针对成员推理攻击，也有一些防御方法可以采取。下图是是针对成员推理攻击的防御发展历程：首先，可以对模型输出进行扰动处理，使得攻击者无法准确地推断出是否包含某个样本。这可以通过在模型输出中添加随机噪声或限制预测结果的精确度来实现。
2024-12-10 13:25:19
845
原创 强化学习模型的训练和推理以及成员推理攻击的实现
强化学习是一种无标签的学习，通过奖励函数来判断在确定状态下执行某一动作的好坏，学习过程就是通过奖励信号来改变执行动作的策略，最终结果就是形成一个使奖励最大的策略。强化学习主要由智能体(Agent)、环境(Environment)、状态(State)、动作(Action)、奖励(Reward)组成。智能体执行了某个动作后，环境将会转换到一个新的状态，对于该新的状态环境会给出奖励信号(正奖励或者负奖励)。随后，智能体根据新的状态和环境反馈的奖励，按照一定的策略执行新的动作。
2024-12-10 13:24:01
1259
原创 RNN模型的训练和推理以及成员推理攻击的实现
循环神经网络(RNNs)是神经网络中一个大家族，它们主要用于文本、信号等序列相关的数据。不同于传统的FNNs(Feed-forward Neural Networks，前向反馈神经网络)，RNNs引入了定向循环，能够处理那些输入之间前后关联的问题。RNNs的目的是用来处理序列数据。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，每层之间的节点是无连接的，但是这种普通的神经网络对于很多问题却无能无力。
2024-12-10 13:22:56
681
原创 成员推断攻击的代码实现（至少支持3种数据）
关于成员推理攻击的目的，或者是说他的定义，就是为了分辨出某些数据样本是否被用于某一机器学习模型的训练过程。换句话来讲，对于攻击者来说这就是一个二分类任务，对于这一方向的研究就是使用不同的tricks来解决这个二分类问题。成员推理攻击利用了这样一种观察，即机器学习模型在它们所训练的数据上的行为常常与它们第一次“看到”的数据不同。过拟合是一个常见的原因，但不是唯一的原因。攻击者的目的是构建一个攻击模型，该模型可以识别目标模型行为中的这些差异，并利用它们来区分目标模型的成员和非成员。
2024-12-10 13:21:39
1214
原创 VGGNet模型的训练和推理
VGG网络的特点是利用小的尺寸核代替大的卷积核，然后把网络做深。VggNet一共有六种不同的网络结构，但是每种结构都有含有5组卷积，每组卷积都使用 3 * 3 的卷积核，每组卷积后进行一个 2 * 2 最大池化，接下来是三个全连接层．在训练高级别的网络时，可以先训练低级别的网络，用前者获得的权重初始化高级别的网络，可以加速网络的收敛。它得出结论：卷积神经网络的深度增加和小卷积核的使用对网络的最终分类识别效果有很大的作用。
2024-12-10 13:20:21
1066
原创 ResNet模型的训练和推理
ResNet是一种残差网络，咱们可以把它理解为一个子网络，这个子网络经过堆叠可以构成一个很深的网络。本项目旨在实现ResNet模型，并且支持多种数据集，目前该模型可以支持单通道的数据集，如：MNIST、KMNIST、FashionMNIST数据集，也可以支持多通道的数据集，如：CIFAR10、SVHN、STL-10数据集。模型最终将数据集分类为10种类别，可以根据需要增加分类数量。训练轮次默认为4轮，同样可以根据需要增加训练轮次。
2024-12-10 13:19:02
1219
原创 LeNet5模型的训练和推理
说起深度学习目标检算法，就不得不提LeNet-5网络，它是一种经典的卷积神经网络模型。LeNet-5由LeCun等人提出于1998年提出，是一种用于手写体字符识别的非常高效的卷积神经网络。本项目旨在实现不依赖库的LeNet5模型，并且支持多种数据集，目前该模型可以支持单通道的数据集，如：MNIST、KMNIST、FashionMNIST数据集，也可以支持多通道的数据集，如：CIFAR10、SVHN、STL-10数据集。模型最终将数据集分类为10种类别，可以根据需要增加分类数量。
2024-12-10 13:17:36
1072
原创 mindspore环境配置以及深度学习算法的介绍和实现
从定义上说，深度学习是一种机器学习方法，它通过模拟人类大脑的工作原理来处理和分析大量数据，其核心是神经网络，它由多个层次的神经元组成，每一层神经元都负责处理不同的特征。深度学习通过多层次的神经网络来提取数据的特征，并利用这些特征进行分类、预测和其他任务。下图展示了人工智能、机器学习、深度学习之间的关系：无监督预训练网络卷积神经网络循环神经网络递归神经网络可见深度学习与神经网络是密不可分的，因此我们接下来要介绍的就是神经网络。
2024-12-10 13:12:31
706
原创 图模型的训练和推理以及成员推断攻击的实现
图模型(Graph Models)在深度学习中是一种能够处理非欧几里得结构化数据的强大工具，尤其适用于处理关系复杂、数据节点互相关联的场景。与传统的卷积神经网络(CNN)处理网格结构的数据(如图像、文本等)不同，图模型能够高效地处理图结构数据，如社交网络、知识图谱、分子结构等。图模型的核心是图(Graph)这一结构，它由节点(Vertices，也称为点)和边(Edges)构成，用于表示实体(节点)及其关系(边)。具体而言，图G=(V,E)由节点集合V和边集合E组成。
2024-12-10 13:09:14
921
原创 基于Transformer的生成式人工智能模型
生成式AI是人工智能的一个分支，可以根据已经学习的内容生成新的内容。它从现有的内容中学习的过程叫做训练，训练的结果是创建一个统计模型。当用户给出提示词时，生成式AI将会使用统计模型去预测答案，生成新的文本来回答问题。生成式语言模型：这是基于自然语言处理的技术，通过学习语言的规律和模式来生成新的文本，它可以根据之前的上下文和语义理解生成连贯的句子或段落。生成式语言模型的训练基于大规模的文本数据，例如新闻文章、小说或网页内容。
2024-12-10 13:07:02
1521
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人