【译】Three Security Trends Are Key to Decentralize Artificial Intelligence

分散式人工智能（AI）是AI领域最有前途的趋势之一。随着区块链技术的普及，最近围绕分散式人工智能的炒作有所增加。虽然从概念的角度来看，分散式人工智能系统的价值主张非常明确，但它们的实施充满挑战。可以说，实施分散式AI架构的最大挑战在于安全性和隐私性。

分散式人工智能系统的基础是数据提供者，数据科学家和消费者等不同方面合作创建，培训和执行AI模型而无需集中授权的环境。这种类型的基础设施不仅需要在各方之间建立公正的信任，还要解决一些安全挑战。让我们来看一个公司想要创建一系列AI模型以检测其销售数据中的模式的非常简单的场景。在分散模型中，该公司将向一组数据科学家发布一系列数据集，这些数据集将协作创建不同的机器学习模型。在此过程中，数据科学家将与将培训和规范模型的其他各方进行互动。

传统的加密技术（如对称或非对称加密）在分散的AI场景中非常有用，但它们不足以实现这些类型系统的许多关键要求。对于初学者来说，这些技术需要不同方之间的隐含信任来交换用于保护通信的密钥，这不是您在分散式AI架构中可以依赖的因素。此外，还有一个问题是任何一方都可以解密数据并访问敏感信息。为了缓解这些挑战，分散式人工智能系统已经开始采用学术研究中出现的一些最先进的加密技术，如果应用得当，感觉有点像魔术?具体来说，有三种安全方法在分散式AI中无所不在架构：

同态加密

同态加密可以被认为是过去十年中密码学领域最大的突破之一。让我们用一个简单的例子来说明同态加密。想象一下，您拥有一家珠宝设计商店，您可以使用贵金属制作新的珠宝。在这种环境中，您担心您的一些设计师可能会窃取他们用于工作的一些珍贵材料。为了避免依赖主观信任，你创造了一个小锁箱，设计师可以在其中操纵材料并创造新的珠宝，但他们无法将其取出。

在数学上，同态被定义为“将数学集（例如，组，环或向量空间）映射到另一个集合或其自身的映射，使得通过将操作应用于第一集合的元素而获得的结果被映射到通过将相应的操作应用于第二组中的它们各自的图像而获得的结果“。同态加密允许在密文上执行特定类型的计算，该密文产生也是密文的加密结果。具体来说，有两种类型的同态加密算法：

· 部分同态加密（PHE）：给定两个数据原语a和b的加密：E（a）和E（b），PHE可以在不知道a，b或者a的情况下计算E（a + b）OR E（ab）私钥。PHE是最常见的同态加密技术，因为它比完全同态加密模型便宜得多。有不同类型的PHE算法，包括不用护垫RSA，ElGamal公钥和Paillier

· 完全同态加密（FHE）：给定两个数据基元a和b的加密：E（a）和E（b），PHE可以计算E（a + b）和E（ab）。在IBM研究员Craig Gentry 在2009年发表他的博士论文之前，他认为FHE是不可能的，他展示了一种使用基于格的密码学构建FHE系统的方法。

在分散的AI环境中，同态加密允许各方在加密数据集上执行计算，而无需解密数据。不幸的是，大多数同态加密实现太昂贵而无法在主流解决方案中采用。昂贵的我不是指小时; 我指的是使用AWS EC2实例一年来运行同态加密数据的一些基本计算。

GAN密码学

对抗性神经密码术或GAN密码术是一种新兴的AI方法，它使用生成对抗神经网络（GAN）来保护不同方之间的通信。GAN密码术是谷歌在2016年的一篇研究论文中首创的，题为“学习保护通信与对抗性神经密码学” 。本文提出了一种方法，在该方法中，神经网络可以动态地发现新形式的加密和解密，以保护通信信道免受试图打破安全方案的攻击者的攻击。

GAN加密方案的设置涉及三方：Alice，Bob和Eve。通常，Alice和Bob希望安全地进行通信，Eve希望窃听他们的通信。因此，期望的安全属性是保密性（不是完整性），并且对手是可以拦截通信的“被动攻击者”，但是否则非常有限。

在上面描述的场景中，Alice希望向Bob发送单个机密消息P. 消息P是Alice的输入。当Alice处理此输入时，它产生输出C.（“P”代表“明文”而“C”代表“密文”。）Bob和Eve都接收C，处理它，并尝试恢复P.让我们代表分别由PBob和PEve进行的计算。Alice和Bob比Eve更有优势：他们共享一个秘密密钥K.秘密密钥[K]被用作Alice和Bob的附加输入。

非正式地，参与者的目标如下。Eve的目标很简单：准确地重建P（换句话说，最小化P和PEve之间的误差）。Alice和Bob希望清楚地沟通（以最小化P和PBob之间的错误），同时也隐藏他们与Eve的通信。

利用生成的对抗性网络技术，爱丽丝和鲍勃共同训练，成功沟通，同时学习击败夏娃。以下是踢球者，Alice和Bob没有预定义的密码算法概念，他们将用它来实现他们的目标，甚至不会使用技术。按照GAN原则，爱丽丝和鲍勃接受训练，以击败夏娃的最佳版本而不是固定的夏娃。

在分散式AI系统中，GAN加密技术可以允许不同的节点动态保护数据集和模型，从而可以抵御最复杂的攻击。

安全的多方计算

安全的多方计算（sMPC）是另一种安全技术，可以在不泄露数据集本身的情况下对数据集进行断言。sMPC是Enigma等新区块链协议的基础。sMPC于1986年由计算机科学家Andrew Yao首次引入，作为着名百万富翁问题的解决方案。

考虑到我们有三个派对Alice，Bob和Charlie，各自的输入x，y和z表示他们的工资。他们希望找出三个薪水中最高的一个，而不是彼此透露他们每个人赚多少钱。在数学上，这转化为它们计算：F（x，y，z）= max（x，y，z）

如果有一些值得信赖的外部聚会（比如，他们有共同的朋友Tony，他们知道可以保守秘密），他们每个人都可以告诉Tony他们的薪水，他可以计算最大值，并告诉他们所有人。MPC的目标是设计一个协议，其中，通过仅相互交换消息，Alice，Bob和Charlie仍然可以学习F（x，y，z），而不会泄露谁做什么而不必依赖Tony。他们不应该通过参与他们的协议来学习，而不是通过与不朽的，完全值得信赖的Tony互动而学习。