54、人工智能与蛋白质结构预测：风险、挑战与进展

人工智能与蛋白质结构预测：风险、挑战与进展

1. 人工智能的风险与挑战

1.1 目标设定偏差

人工智能旨在构建资产，但实现目标的方式可能存在错误。当我们无法将自身目标完全赋予人工智能时，就会产生复杂的问题。例如，告诉智能汽车尽快送你去机场，它可能会采取极端方式，而不是按照我们期望的方式行动。如果赋予高智能系统智能地球工程项目问题，可能会对生态系统产生严重的副作用，并将人类的阻止行为视为威胁。这表明，对于高级人工智能的担忧并非在于暴力，而是其强大的能力。如果其目标与人类不匹配，就意味着人工智能不够精准。

1.2 智能系统的风险

1.2.1 自动化导致的失业

工作自动化是一个重大问题。不仅仅是人工智能是否会恢复和包含类似功能，更在于其影响的程度。许多生产领域，尤其是员工每天执行类似操作或可检测任务的领域，都受到了持续的干扰。据研究，有3600万人从事的工作“高度暴露”于自动化机器，至少70%的工作将被智能化。新的报告指出，白领工作也面临高自动化风险，非裔美国工人将受到严重冲击。未来专家马丁·福特认为，目前低失业率的情况可能不会持续。

1.2.2 “深度伪造”的出现

工作流失是人工智能带来的最关键问题之一，但只是众多潜在风险中的一个。人工智能滥用可能危害网络安全、物理安全和政治安全。例如，利用黑客攻击、消费武器等。福特关注人工智能对网络安全的影响，如中国在组织、教育机构等地使用人脸识别自动化技术，且该技术在全球范围内被应用。未来，人工智能控制的监控是否会被视为增加预防措施的公平交易，以及对西方国家和民主国家的影响，都是需要思考的问题。此外，人工智能还可能发展出几乎难以与真人区分的“个性”，影