19、人工智能的社会威胁、局限及应对策略

人工智能的社会威胁、局限及应对策略

1. 人工智能的社会威胁

1.1 技术民主化带来的问题

如今，学校和大学的教育普及，以及开源软件和库的广泛可用，使得使用人工智能系统变得既简单又低成本。这在一定程度上实现了人工智能技术的民主化，让其能在众多领域解决问题。然而，如同所有新技术的引入，它不仅带来了预期的优势，也伴随着潜在的破坏影响和滥用风险。

企业利用人工智能系统通过数据分析评估客户，这虽然有助于优化产品和服务，但也可能导致排除部分客户甚至进行歧视。奥地利的preis.wert和Primming研究项目已针对此问题展开研究，旨在开发相应的对策方法和工具。

更具威胁性的是，在媒体领域，人工智能使得公众舆论操纵问题有了新的含义。通过有针对性的个性化虚假信息宣传活动，公民的行为，包括投票行为，都可能受到影响和操纵。这引发了人们对新技术能否被控制，以及人工智能机器是否会对个人或整个社会造成损害的担忧。

1.2 媒体操纵

• 虚假新闻和深度伪造 ：互联网是人类历史上独特的新媒体基础设施，它让每个消费者都能成为生产者。大量的网站、博客和社交媒体渠道增加了信息传播途径，使媒体内容呈指数级增长。这使得互联网成为了高效的通信、信息交流和创新平台，Friedman（2007）所预言的全球“扁平世界”成为了现实。

但与此同时，互联网也成为了广泛传播虚假信息和不实内容的平台。尽管虚假新闻一直存在，但如今其传播范围和效率达到了新的高度。虚假新闻是为了政治或经济利益而传播虚假信息，通过操纵信息，如文本、图像、音频和视频，来欺骗和操纵媒体消费者。