12、算法伦理：挑战与应对

算法伦理：挑战与应对

1. 算法与虚假信息

算法，尤其是深度学习算法，即便没有偏差，也可能引发负面的社会问题，比如被用于传播虚假信息。虚假信息并非新鲜事物，其历史可追溯到数百年甚至数千年前。它并非单纯地让人们相信虚假内容，更多是为了制造不和谐与不确定性，使人们放弃追求真相。当人们接收到相互矛盾的信息时，就会觉得无法确定该信任谁或什么。

虚假信息往往包含部分真相或断章取义的半真半假内容。例如，前苏联情报官员Ladislav Bittman在其著作中提到，大多数虚假信息宣传活动是事实、半真半假内容、夸张表述和蓄意谎言的精心混合。

近年来，美国也深受虚假信息影响。FBI披露，在2016年大选期间，俄罗斯发起了大规模的虚假信息宣传活动。比如，该活动组织了两个虚假的“草根”抗议活动，针对同一问题的正反两方，让他们同时进行抗议。《休斯顿纪事报》报道了其中一个奇怪的事件：一个自称“德克萨斯之心”的组织在社交媒体上组织了一场反对德克萨斯“伊斯兰化”的抗议活动。在特拉维斯街一侧有大约10名抗议者，另一侧则有大约50名反抗议者，但却找不到活动组织者。后来发现，活动组织者当时远在俄罗斯圣彼得堡。“德克萨斯之心”是特别检察官罗伯特·穆勒起诉的试图干预美国总统大选的俄罗斯网络水军组织之一。

虚假信息通常涉及有组织的虚假行为活动。欺诈性账户可能会营造出很多人持有某种特定观点的假象。由于人类是社会性动物，容易受到周围人的影响，在线讨论能够影响我们的观点，改变我们认为可接受的观点范围。如今，网络环境中的激进主义现象日益增多，影响来自在线论坛和社交网络等虚拟空间。

深度学习极大地提升了自动生成文本的能力，通过自动生成文本传播虚假信息成为一个尤为严重的问题。有人提议开发某种数