AI观察：吴恩达最新文章——人工智能在美国大选中的作用

特朗普和共和党本周取得了巨大胜利。生成式人工智能对社交媒体的操纵在这次选举中起到了什么作用？

虽然许多人担心人工智能会创造虚假或误导性的内容来影响人们，但生成式人工智能可能并不是这次选举周期中操纵的主要方法。

相反，我认为更大的影响可能是“放大效应”，即软件机器人——它们不必严重依赖生成式人工智能——创造虚假的参与度（如点赞/转发/重新分享），导致社交媒体公司的推荐算法将某些内容放大给真实用户，其中一些用户会将其推广给自己的粉丝。这就是虚假参与度导致真实参与度的方式。

这种放大效应是计算机安全研究人员所熟知的。人们将社交媒体操纵归因于人工智能变得更加强大，这是我们全球对人工智能焦虑的一个有趣迹象。但这里的问题不是人工智能太强大了；而是人工智能不够强大。

具体来说，问题不在于生成式人工智能如此强大，以至于敌对的外国势力或不道德的政治人物成功地利用它来创造影响我们的虚假媒体；问题在于一些社交媒体公司的人工智能算法不够强大，无法筛选出软件机器人的虚假参与，并将其误认为是用户的真实参与。这些机器人（不需要非常聪明）会欺骗推荐算法，放大某些内容。

《华盛顿邮报》报道称，共和党人在 X/Twitter 上发布的推文比民主党人的推文更具病毒性。这是否反映了观众对共和党信息的参与度高于民主党信息，还是机器人通过提升双方的信息来影响了这一点？如果无法访问 Twitter 的内部数据，很难知道。

虚假信息的瓶颈不在于创造它，而在于传播它。撰写提出某种观点的文字很容易，但很难让很多人阅读它。与其生成一条新奇的消息（或使用深度伪造生成误导性图像）并希望它能迅速传播，不如找到一条由真人撰写的支持你想要传播的观点的消息，然后使用机器人来放大它。

我不知道有什么简单的技术或立法方法来打击机器人。但要求社交媒体平台透明化将是一个很好的举措，这样我们就可以更好地发现问题（如果有的话）。每个人都应为保护民主发挥作用，在科技领域，我们的部分职责是确保社交媒体平台公平，并保护它们免受那些试图破坏民主的人的操纵。

吴恩达

2024年11月6日

（本文是翻译，文章内容不代表本号立场）

觉得文章不错，顺手点个“点赞”、“在看”或转发给朋友们吧。

相关阅读：

最新洞见：GenAI在企业应用中的既要又要

短短3个月，我们在GenAI上的进展

关于译者

---

关注公众号看其它原创作品

坚持原创高质量软件交付相关文章

觉得好看，点个“点赞”、“在看”或转发给朋友们，欢迎你留言。