Poisoning Web-Scale Training Datasets is Practical

最新推荐文章于 2025-11-24 15:27:14 发布
原创 最新推荐文章于 2025-11-24 15:27:14 发布 · 453 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #人工智能

本文是LLM系列文章，针对《Poisoning Web-Scale Training Datasets is Practical》的翻译。

中毒网络规模训练数据集是实用的

摘要

深度学习模型通常在从互联网抓取的分布式网络规模数据集上进行训练。在本文中，我们介绍了两种新的数据集中毒攻击，它们故意将恶意示例引入模型的性能。我们的攻击立即变得切实可行，今天可能会毒害10个流行的数据集。我们的第一个攻击是分裂视图中毒，它利用互联网内容的可变性来确保数据集注释器对数据集的初始视图与后续客户端下载的视图不同。通过利用特定的无效信任假设，我们展示了如何以60美元的价格毒害0.01%的LAION-400M或COYO-700M数据集。我们的第二次攻击是前端中毒，针对的是定期快照众包内容的网络规模数据集，如维基百科，攻击者只需要一个有时间限制的窗口来注入恶意示例。鉴于这两种攻击，我们通知了每个受影响数据集的维护人员，并推荐了几种低开销的防御措施。

1 引言

2 背景和相关工作

3 威胁模型和攻击场景

4 拆分视图数据中毒

</

最低0.47元/天 解锁文章
可信深度学习Trustworthy Deep Learning相关论文
weixin_39402231的博客
07-07 986
可信深度学习Trustworthy Deep Learning相关论文
对抗攻击与防御（2022年顶会顶刊AAAI、ACM、 ECCV、NIPS、ICLR、CVPR）adversarial attack and defense汇总
算法探索之路
03-19 6138
2022年 关于对抗攻击跟防御的全部顶会、顶刊论文
网络安全顶会——S&P '24 论文清单、摘要（中）
漏洞战争
04-03 8107
80、MQTTactic: Security Analysis and Verification for Logic Flaws in MQTT ImplementationsIoT消息传输协议对连接用户和物联网设备至关重要。在所有协议中，消息队列传输和遥测传输（MQTT）可以说是最广泛使用的。主流物联网平台利用MQTT代理，即MQTT的服务器端实现，来实现和调解用户设备通信（例如控制命令的传输）...
如何黑箱攻击影响大型语言模型的检索增强生成
步子哥的博客
07-22 1223
随着人工智能技术的飞速发展，大型语言模型（LLMs）在自然语言处理领域展示出了卓越的能力。然而，由于训练数据的限制，这些模型的知识范围有限，并且缺乏最新的信息，这可能导致在处理更复杂或时间敏感的任务时出现错误或幻觉。检索增强生成（RAG）结合了信息检索与大型语言模型的生成能力，提升了知识获取的时效性，有效缓解了这些模型的幻觉问题。然而，随着RAG应用范围的扩展，其安全性问题也逐渐凸显，特别是在面对恶意攻击时的表现。
AAAI-19录用论文清单
热门推荐
TomRen
01-28 1万+
AAAI-19于1月27日在夏威夷召开，今年是33届会议。 会议录用论文清单, workshop16个，tutorials24个。 标题的词云分析： 作者单位词云(按作者人数计算/一篇文章可能有多个作者)： picture from lonelyplanet.com 下面给出接收论文的列表： 第一个数字表示投稿的序号&amp;amp;内容可能有缺失 9: CircConv: A S...
推荐系统----2020会议文章集锦
weiwei935707936的博客
11-14 1万+
盘点 | AAAI2020中的四篇推荐系统好文 AAAI中推荐系统的文章并不多，目之所及处仅有四篇。内容上覆盖了评论推荐、多目标推荐以及图神经网络等话题。 本文基于AAAI中的这四篇推荐系统论文，展开瞅一瞅它们都讲了些什么。 第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互 Asymmetrical Hierarchical Networks with Attentive Interactions for Interpretable Review-Based Recommendation
对抗样本方向（Adversarial Examples）2018-2020年最新论文调研
huitailangyz的博客
06-15 1万+
调研范围 2018NIPS、2019NIPS、2018ECCV、2019ICCV、2019CVPR、2020CVPR、2019ICML、2019ICLR、2020ICLR 2018NIPS Contamination Attacks and Mitigation in Multi-Party Machine Learning（防御） 作者：Jamie Hayes(Univeristy College London) Olga Ohrimenko(Microsoft Research) 摘要：Machine
(上大)组会报告题目汇总（2020.9-2024.9）
qq_33509110的博客
07-05 5709
(上大)组会报告题目汇总(持续更新~) 2021.7.1 VERIFL: Communication-Efficient and Fast Verifiable Aggregation for Federated Learning(TIFS) 2021.6.24 Scalable and redactable blockchain with update and anonymity(InfoS) 2021.6.17 Decentralized Privacy-Preserving Fair Exchange
【2011-2016】 NIPS汇总 - Advances in Neural Information Processing Systems
Testing的博客
10-02 1万+
Advances in Neural Information Processing Systems 24 (NIPS 2011) The papers below appear in Advances in Neural Information Processing Systems 24 edited by J. Shawe-Taylor and R.S. Zemel and P.L.
基于学习的人工智能（3）机器学习基本框架
致力于大数据+AI 的应用创新。
11-24 585
机器学习通过算法从数据中获取经验，改进初始模型以更高效地完成任务。与基于知识的方法不同，机器学习不直接编程机器行为，而是设定目标让机器自主学习。其框架包含五个要素：目标（如分类、预测）、模型、算法、数据和知识。目标需转化为数学形式的损失函数（如分类错误率、预测误差），函数值越低表明性能越好。例如分类任务用错误比例作损失函数，预测任务用预测值与实际值的差距衡量准确性。
机器学习（ML）和人工智能（AI）技术在WAF安防中的应用
servepeople的博客
11-24 477
摘要： Web应用防火墙（WAF）中，AI/ML技术通过异常流量检测（如自编码器）、恶意Payload识别（CNN/LSTM）、攻击分类（XGBoost）等方案，有效应对未知威胁和变形攻击。结合用户行为分析（LSTM）与误报优化（主动学习），提升防御精准度。落地工具涵盖Scikit-learn、TensorFlow（模型训练）、Hugging Face（NLP处理）及TensorRT（部署加速），并依赖OWASP等安全数据集。技术核心在于通过语义/时序特征建模，突破传统规则引擎的局限性，实现低延迟、高并发的
基于机器学习框架的上周行情复盘：非农数据与美联储政策信号的AI驱动解析
11-24 527
本文通过机器学习算法对上周非农就业数据、美联储会议纪要及官员讲话进行语义情感分析，结合时间序列模型与政策预期量化框架，系统回顾黄金、美元及美股在政策不确定性下的波动逻辑，重点解析AI驱动的市场趋势预测与事件冲击响应机制。
人工智能、机器学习与深度学习：从概念到实践
已掌握java全栈，简单的java项目逻辑。目前正在学习鸿蒙开发，有兴趣的小伙伴可以一起学习！！！
11-21 1009
今天开始去探索ai的路程，带领大家实现从0到1的探索之路！！！ 在当今科技浪潮中，“人工智能”（Artificial Intelligence, AI）已成为家喻户晓的热词。然而，很多人对“AI”“机器学习”（Machine Learning, ML）和“深度学习”（Deep Learning, DL）之间的关系感到困惑。它们究竟是同一事物的不同叫法，还是层层递进的技术体系？本文将用通俗语言厘清三者的关系，并通过经典案例帮助你建立清晰的认知框架。
基于学习的人工智能（4）机器学习基本框架
最新发布
致力于大数据+AI 的应用创新。
11-24 150
例如，在识别红绿灯的神经网络中，算法用于调整神经元的连接权重，让它能更好地识别红绿灯；在预测股市涨跌的贝叶斯网络中，算法用于调整各个变量之间的概率关系，让它能更准确地反映不同因素对股市价格的影响。每种模型都有各自的优缺点，没有任何一种模型能够绝对优于另一种，这一结论被称为“没有免费的午餐（No Free Lunch）”定理。从一个随机位置开始，像下山一样，从一个随机位置开始，往更好的方向前进一小步，一步步更新。这个主体本质上是一个可以随着学习不断更新的数据结构，从而实现对学习结果的累积，通常称为“模型”。
JavaScript在机器学习中的库
2509_93943333的博客
11-21 314
浏览器端可以直接利用WebGL调用GPU加速，虽然性能比不上原生CUDA，但能实现隐私安全的本地推理，比如实时摄像头图像分类、姿势检测，用户体验直接拉满。如果你觉得TF.js有点重，就想快速试验个神经网络原型，那Brain.js绝对是你的菜。如果你熟悉p5.js，那ML5.js简直就是绝配。更重要的是它的预训练模型库，从图像分类的MobileNet、目标检测的Coco-SSD，到语音命令识别、身体分割，覆盖常见任务。Keras.js：早期探索者，现在已基本被TF.js融合，但它的设计思路影响了后来者。
人工智能与机器学习：赋能行业智能化转型的核心动力
2501_94188248的博客
11-21 885
每个训练数据都有一个已知的输出（标签），机器学习算法通过学习这些输入和输出之间的关系，来预测未知数据的输出。随着AI在社会各领域的广泛应用，如何制定合理的法规和道德规范，确保人工智能的公平性、透明性和合规性，是未来发展的关键问题。本文将探讨人工智能和机器学习的基本概念、技术原理，以及它们在各个领域的应用，分析它们如何推动智能决策和自动化进程，展望未来技术的前景与挑战。：AI通过深度学习分析来自传感器、摄像头等的实时数据，实现对道路状况、障碍物、行人等的精准识别和判断，帮助自动驾驶车辆做出决策。
Git机器学习
2509_93942738的博客
11-20 342
想象一下，你用了Git跟踪数据文件，但某个同事上传了新样本后，旧版本的模型突然指标暴跌——这是因为Git虽然能记录文件变化，但处理几百MB的CSV或图像文件夹时效率低下，而且二进制文件差异比较毫无意义。如果用Git来管理，每次实验前开个新分支，改完代码后提交并写清楚注释（例如“实验3：增加随机裁剪数据增强，学习率调整为0.001”），回头对比不同分支的评估结果就轻松多了。现在用Git钩子加上静态检查，类似问题再没出现过。毕竟，机器学习本身就是迭代试错的过程，没有可靠的版本追踪，再精彩的实验也可能沦为玄学。
【机器学习】深入解析线性回归模型
2302_80262940的博客
11-21 861
损失函数（或成本函数）用于度量模型预测值与实际值之间的差异。在线性回归中，常用的损失函数是最小二乘损失函数，它计算的是模型预测值与实际值之间的平方误差和。通过对线性回归模型的深入解析，我们全面了解了其原理、实现及应用。从初步了解概念开始，我们逐步深入探讨了线性回归模型的基本要素、寻找最佳参数的方法以及完整的工作流程。同时，我们也对线性回归模型的优缺点和适用场景进行了详细的分析和讨论。线性回归模型以其简洁、直观的特点，在数据分析与预测领域具有广泛的应用。
基于学习的人工智能（1）机器学习
致力于大数据+AI 的应用创新。
11-24 139
在人工智能早期，主流方法是将人类的知识和思维方式“灌输”给机器，从而让机器具备思考能力。这种基于知识的方法在定理证明和专家系统等任务中取得了巨大成功，但也存在明显缺点：首先，人类总结知识既繁琐又耗时；其次，机器只能在预设的知识框架内运行，永远难以超越人类的知识范围。尤其是进入 21 世纪后，随着数据量的爆发式增长和计算机性能的不断提高，机器能够从数据中学到的知识越来越丰富，能力也越来越强大，直接引发了新一轮人工智能浪潮。他发现，通过不断调整参数，机器仅用了 8-10 个小时便学会了超过他本人的棋艺。
File "D:\A-Software\Model-poisoning-attack-in-differential-privacy-based-federated-learning-main\main_fed_cifar_cnn.py", line 9, in <module> from torchvision import datasets, transforms处理问题
03-23
好的，我现在需要帮助用户解决从torchvision导入datasets和transforms时报错的问题，报错位置在main_fed_cifar_cnn.py的第9行。首先，我需要根据用户提供的引用信息和常见解决方案来思考可能的原因和解决办法。 ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值