论文学习笔记 Helen: Maliciously Secure Coopetitive Learning for Linear Models

最新推荐文章于 2022-04-13 16:18:35 发布
原创 最新推荐文章于 2022-04-13 16:18:35 发布 · 659 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #机器学习 #矩阵 #线性代数 #安全

博客涉及人工智能、机器学习领域，重点提及矩阵和线性代数相关内容，同时关联到安全方面，但未给出具体内容，推测围绕人工智能中线性代数里矩阵的应用及安全问题展开。

alt

alt

alt

alt

alt
alt

alt

alt
alt

最低0.47元/天 解锁文章
学习笔记——Exploiting Unintended Feature Leakage in Collaborative Learning（协作学习中的非预期特征泄露研究）
弹剑听潮
09-08 2632
协作机器学习及相关技术允许多个参与者各自训练自己的模型，然后定期进行模型更新交换，进而构建联合模型。 但在彼此交换模型更新的同时会造成数据的泄露，并且利用这些数据可以进行主动或者被动的成员推理攻击。 研究内容： 1、展示了对抗参与人员可以推断出确切数据点的存在；例如，其他人的训练数据中的特定位置。 2、展示了对手如何推断出仅包含训练数据子集的属性 ...
FHE as secure as PKE & Circuit Privacy for Free
weixin_44885334的博客
11-08 262
[BV14] 展示了 GSW 的**非对称噪声增长**，并利用分支程序的每条语句都依赖**新鲜的输入密文**，给出了可计算任意 $NC^1$ 电路的 Level FHE，噪声比率为 $\alpha=n^{-c},c>0$。然后利用连续的 dimension-modulus reduction procedure，将它降低到了 $\alpha \le 1/\tilde O_\kappa(n^\epsilon \cdot \sqrt{n\log q})$，最终给出了第一个满足以下归约的全同态加密方案：
学习笔记——Helen: Maliciously Secure Coopetitive Learning for Linear Models
弹剑听潮
09-10 723
越来越多的组织倾向于协作学习模型，这样可以获得更多的好处。但是，由于隐私问题和业务问题，他们不能共享明文数据集。本文设计了Helen系统：能够允许多方训练模型、但不显示数据，也就是一个协作学习系统。与先前的安全训练系统相比，它更强大。 目的：想要使用心得应用程序，只训练一方的数据可能不够，它需要多方的数据进行补充。（使用更多的数据训练更好的模型） 挑战：隐私政策、商业竞争 用例：银行用例、医...
（阅读笔记）Falcon: Honest-Majority Maliciously Secure Framework for Private Deep Learning
qq_42328228的博客
03-30 1999
Falcon：隐私推理和训练本文贡献模型定义基础知识或先验理解安全计算协议设计 本文贡献 支持隐私保护前向推理和反向训练，且支持端对端的大型网络推理和训练；多种卷积神经网络，多种数据集，多种信息传输方式（LAN和WAN设置）； 支持安全批量归一化的前向计算和反向传播； 支持半可信场景和 Honest-Majority的恶意场景，可供选择； 安全协议性能提升，融合之前工作SecureNN以及安全三方计算框架ABY3协议的思想，通过简化代数实现定点算术运算，降低整数环大小，即降低数据类型，显然降低通信开销（众
codeforces 712C C. Memory and De-Evolution(贪心)
弹剑听潮
09-22 320
Description Memory is now interested in the de-evolution of objects, specifically triangles. He starts with an equilateral triangle of side length x, and he wishes to perform operations to obtain
fedra14 音乐播放 mp3解码问题解决
Focuse
07-10 698
找个个链接  http://ishare.iask.sina.com.cn/f/23160875.html 把这个rpm包下载之后安装 rpm -ivh rpmfusion-free-release-stable.noarch.rpm 然后用root执行 yum install gstreamer-plugins-bad gstreamer-ffmpeg gstreamer-plugi
【论文导读】Online Training Data Poisoning of Autonomous Driving Systems
weixin_40928171的博客
03-14 4352
简介 Deep learning is increasingly being deployed for real-world applications like self-driving, face recognition systems, cyber-security, etc [1–11]. Adversaries thus have strong incentives to manipulate the outputs of deep learning models, or even the mode
联邦学习框架浅析
Hyperchain的博客
09-17 2362
【前言】 ▲ 联邦学习问题回顾 前文提及，于2016年，Google提出了用于训练输入法模型的新型方式，称为「联邦学习」。随着时间的推移，联邦学习不再是单纯解决Google输入法模型的一种解决方案，进而形成了一种新型的学习模式。联邦学习解决的问题通常被称为TMMPP–Training Machine Learning Models over multiple data sources with Privacy，即在保证多方参与者的数据不泄露的情况下，共同完成预定模型的训练。 在联邦学习解决的TMMPP问题中
机器学习隐私保护-MPC通用编译器
qq_38798147的博客
12-13 4456
安全多方计算通用编译器 一：Abstract摘要 1.安全多方计算功能:Secure multi-party computation (MPC) allows a group of mutually distrustful parties to compute a joint function on their inputs without revealing any information beyond the result of the computation（安全的多方计算（MPC...
学习笔记——Neural Cleanse——Identifying and Mitigating Backdoor Attacks in Neural Networks
弹剑听潮
09-17 3152
神经网络清理 - 识别和减轻神经网络中的后门攻击 背景：深度神经网络（DNN）缺乏透明度（即在训练时无法观察到内部），故易受到后门的攻击，隐藏的关联和触发器会覆盖正常的分类。 针对此问题，本文提出了第一个稳健的、通用的DNN后门攻击检测和缓解系统。 技术：识别后门并且重建可能的触发点。通过输入过滤器、神经元剪枝和忘却学习来识别多种缓解技术。 （在安全领域，DNN被用于恶意软件分类、二进制逆...
竞争学习神经网络详解
Chenglin(Ben) Yu's Miracle
11-12 9790
竞争学习神经网络 竞争神经网络属于一类循环网络，而且基于无监督学习算法，比如说：竞争算法 在竞争学习中，The output neurons of a neural network compete among themselves to become active(to be fired). 然而在多层感知器中，可能多个神经元会同时兴奋。 There are 3 basic elements ne...
隐私保护技术概览
热门推荐
hbr365的博客
08-30 1万+
本内容涉及隐私保护技术大体上包含的方面和各领域的初步介绍。由于内容来源较为复杂，引用上仅包含了MPC的论文出处，如有需要添加更多来源信息请私信我。 论文： SoK: Training Machine Learning Models over Multiple Sources with Privacy Preservation 下载地址：https://arxiv.org/abs/2012.03386 概念 隐私保护计算（Privacy-Preserving Computation）
论文学习笔记 SIMC: ML Inference Secure Against Malicious Clients at Semi-Honest Cost
WINCJS的博客
04-13 4436
安全顶级会议USENIX2022年，恶意半诚实模型下安全神经网络推理协议。混淆电路、同态加密、认证分享、不经意传输。
论文学习笔记 MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples
WINCJS的博客
04-26 3080
论文学习笔记MemGuard: Defending against Black-Box Membership Inference Attacks via Adversarial Examples 背景 •文章：Membership Inference Attacks Against Machine Learning Models. IEEE Symposium on Security and...
论文学习笔记 MUSE: Secure Inference Resilient to Malicious Clients
WINCJS的博客
04-08 2315
该论文是2021年信息安全顶会USENIX上录用的文章之一。该文章首先针对现有半诚实安全神经网络推理进行了模型提取攻击，然后提出了在恶意用户模型下安全的神经网络推理协议MUSE。
论文学习笔记 POSEIDON: Privacy-Preserving Federated Neural Network Learning
WINCJS的博客
07-03 2147
论文学习笔记 POSEIDON: Privacy-Preserving Federated Neural Network Learning NDSS 2021录用文章 目录论文学习笔记 POSEIDON: Privacy-Preserving Federated Neural Network Learning一、机器学习1. 机器学习(ML)中的挑战2. 隐私保护机器学习(PPML)二、POSEIDON方案1. 系统和威胁模型2. 方案总览多方同态加密(MHE)联邦学习主要挑战和解决方法3. 方案CKKS
论文学习笔记 DELPHI: A Cryptographic Inference Service for Neural Networks
WINCJS的博客
07-29 1773
论文学习笔记 DELPHI: A Cryptographic Inference Service for Neural Networks背景介绍出发点系统概括预处理阶段在线阶段DELPHI 规划器 背景 许多公司为用户提供神经网络预测服务，比如说，家庭监控系统，使用专有的神经网络对客户家中的监控视频中的对象进行分类，例如停在用户家附近的汽车，或访客的人脸。但是，当前的预测系统损害了用户和公司中其中一方的隐私：要么用户必须将敏感输入发送给服务提供商进行分类，损害了用户的个人隐私。要么服务提供商必须将其专有的神
论文学习笔记 PrivateDrop: Practical Privacy-Preserving Authentication for Apple AirDrop
WINCJS的博客
10-06 1567
论文学习笔记 PrivateDrop: Practical Privacy-Preserving Authentication for Apple AirDrop背景一、AirDrop协议二、隐私问题发送方S联系人识别号泄漏接收方R联系人识别号泄漏三、PrivateDrop：基于PSI的双向认证协议设计选项和最终设计PSI协议选择基于PSI的PrivateDrop协议总结 背景  Apple AirDrop隔空投送的双向认证过程中存在隐私问题，即敌手会获得发送方或者接收方的联系人识别号(Contact.
论文学习笔记 Secure Two-party Threshold ECDSA from ECDSA Assumption
WINCJS的博客
01-15 1535
Secure Two-party Threshold ECDSA from ECDSA Assumptions 基于ECDSA假设的安全两方门限ECDSA1、问题引入2、问题改进The ECDSA AlgorithmTwo-party ECDSATwo-party Protocol2-of-n Protocol 论文引用：Doerner J , Kondi Y , Lee E , et al. S...
区块链联邦学习
最新发布
04-26
### 区块链与联邦学习的结合及其实现 #### 一、区块链与联邦学习的优势互补 区块链技术和联邦学习的结合可以有效弥补两者的不足之处。区块链以其去中心化、不可篡改和高信任度的特点，为联邦学习提供了更可靠的数据共享机制；而联邦学习则通过分布式训练的方式保护了数据隐私[^1]。这种结合不仅增强了系统的安全性，还构建了一个更加智能化的区块链框架。 #### 二、具体应用场景分析 在实际应用中，一种名为BBIT的系统被设计出来用于支持自动驾驶车辆（C AVs）的学习需求。该系统融合了区块链、IPFS 和联邦学习技术，旨在创建一个高度私密且抗攻击性强的机器学习平台。其中特别引入了一种称为“Proof of Federated Learning”(PoFL) 的新型共识算法，专门针对联邦学习场景优化，从而提高了对恶意节点攻击的防御能力[^2]。 #### 三、应对恶意节点威胁的方法论探讨 由于任何分布式的计算环境都可能存在潜在风险源——即所谓“恶意节点”，它们可能会试图破坏整个网络或者窃取敏感信息。因此，在实施过程中必须考虑如何检测并排除这类有害因素的影响。这通常涉及复杂的验证流程以及加密手段的应用来确保只有合法参与者才能参与到模型更新环节当中[^4]。 #### 四、强化学习助力提升性能表现 除了基本的功能外，还可以借助强化学习方法进一步改进此类混合型架构的表现水平。例如利用RL算法自动调整参数设置以适应不同规模下的工作负载变化情况; 或者探索最佳激励机制设计方案鼓励更多优质贡献等等[^3] 。 这些措施都有助于克服传统方案中存在的效率低下等问题, 推动技术创新与发展进程向前迈进一大步. ```python class BlockchainFederatedLearningSystem: def __init__(self): self.blockchain = [] self.federated_model = None def add_transaction(self, transaction_data): """Add a new transaction to the blockchain.""" pass def train_federated_model(self, client_updates): """Aggregate updates from clients and update global model.""" pass def validate_node_behavior(self, node_id): """Check if a given node behaves maliciously.""" pass ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值