mental的博客

虽然机器学习(ML)模型越来越被信任，可以在不同的领域做出决策，但使用这种模型的系统的安全性也越来越受到关注。特别是，ML模型通常使用来自潜在不可信来源的数据进行训练，为对手提供了通过将精心制作的样本插入训练集中来操纵它们的机会。最近的工作表明，这种类型的攻击被称为投毒攻击，允许对手在模型中插入后门或木马程序，在推断时使用简单的外部后门触发器，并且仅从模型本身的黑盒角度启用恶意行为。检测这种类型的攻击具有挑战性，因为只有当存在后门触发器时才会发生意外行为，而只有对手知道该触发器。

联邦学习（FL）允许多个客户在其私有数据上协作训练神经网络（NN）模型，而不会泄露数据。最近，针对FL的几起针对性中毒袭击事件已经出台。这些攻击为生成的模型注入了后门，使得对手控制的输入被错误分类。现有的反后门攻击的对策效率低下，通常只是为了将偏离模型排除在聚合之外。然而，这种方法还删除了具有偏差数据分布的客户机的良性模型，从而导致聚合模型对此类客户机的性能不佳。为了解决这个问题，我们提出了DeepSight，一种用于缓解后门攻击的新型模型过滤方法。

自己之前对于写论文一直没有一个清晰的了解，关于如何做研究也是一头雾水，随之而来的就是对未知事物的恐惧，害怕做研究和写论文，但是通过论文写作这门课程，对写论文有了一个初步的认识，知道了一些写作的技巧，之后就是去实践，将这些技巧发扬光大。1.如何做研究1.1 做研究的目的研究不是研发，研发是在现有的知识和技术的基础上，做一些研制和开发工作。研究的根本目的去创造新的知识，从而促进技术的进步。1.2 做研究的过程TPIC -> Paper writing ->SubmitT:Topic