自主运作的代理人会形成“天网机器人”

世界上存在一些具有高度分布性的企业，其中的参与者各有好坏。Anonymous是一个分布式的、由志愿者 组成的紧密团体，它的成员包括公司破坏者、检举者以及监督者。通过区块链，Anonymous可以使用比特币进行众包并将这些资金放到一个钱包里。假设有 个由法国股东组成的小组希望采取措施以追踪和消灭那些对巴黎大屠杀负有责任而尚未落网的恐怖分子。他们需要几千个（密码）签名才能达成共识并释放资金。在 这种情况下，谁是这些资金的合法控制者？谁要为这个交易的结果负责？如果你贡献了一个投票中的万分之一份额，你在法律上有责任吗？⁵¹

如果自动售货机的程序是“订购利润最高的产品”，它们会找到一个非法商品或药物的供应商吗？（想一 下，糖果售卖机在卖非法药物！）法律应该如何处理无人汽车意外地导致人类死亡的情况？据《Wired》杂志报道，两个黑客展示了如何劫持一辆在高速公路上 的吉普·切诺基（Jeep Cherokee）汽车的控制系统。克莱斯勒公司对此做出了响应并召回140万辆汽车并对司机、生产商和政策制定者发出了警示。⁵² 恐怖分子能找到入侵智能设备的方法从而让它们执行有着灾难性后果的任务吗？

企 业的分布式模式面临着其他的挑战。社会应该如何实施对这些实体的管理？所有者如何保持终极的控制权？如何防止对无人运行业务的敌意控制？假设我们拥有一个 去中心化的网页托管公司，每一个服务器对公司管理都有发言权。一个人类黑客或恶意软件可以假装是100万台服务器并超过网络中的合法服务器的票数。当传统 公司发生这种并购的情况时，结果可能有很多种。而在分布式的自主运作企业里，这样的结果可能就是灾难性的。当这个恶意的实体控制了我们的分布式网页托管公 司，它可以把里面的资金都转走。或者，它可以把其他服务器的隐私数据都公布出去，或者劫持这些数据直到我们这些人类所有者支付赎金为止。

当 机器拥有了智能和学习的能力时，它们进化为自主运作的速度有多快？例如，军用无人机和机器人会决定对付平民吗？根据人工智能领域的研究人员的说法，我们离 这种武器的实现只有几年了（而不是几十年）。在2015年7月，一个由科学家和研究人员组成的大型组织，其成员包括斯蒂芬·霍金、埃隆·马斯克和史蒂夫· 沃兹尼亚克，发布了一份公开信，呼吁禁止发展任何超出人类控制范围的自主运作的进攻性武器。⁵³

“对我来说，一个噩梦般的新闻标题是《10万台电冰箱攻击了美国银行》。”文斯·瑟夫说道，他被广 泛地认为是互联网之父。“这不仅需要认真考虑基本的安全和隐私保护技术，还要考虑如何在大范围内配置和升级设备。”他补充道。他注意到没有人希望浪费整个 周末的时间为每一个家庭设备设置IP地址。⁵⁴

我们并不建议对分布式自主运作企业和物联网实施广泛的监管或监管审批的机制。我们会建议那些正在开 发应用程序的企业家识别任何对公共利益带来显著影响的因素（无论是好的，坏的，还是中性的），并修改源代码及其设计方案。我们认为他们应当咨询那些可能会 被这些发明所影响的人，以提前将风险最小化、寻找其他解决方案和构造支持体系。

来源：我是码农，转载请保留出处和链接！

本文链接：http://www.54manong.com/?id=242

'); (window.slotbydup = window.slotbydup || []).push({ id: "u3646208", container: s }); })();

'); (window.slotbydup = window.slotbydup || []).push({ id: "u3646147", container: s }); })();