10、人工智能伦理准则：挑战与应对

人工智能伦理准则：挑战与应对

1. 人工智能伦理准则概述

人工智能的通用伦理准则需具备广泛的特异性，还需更详细的准则将通用原则转化为特定领域的可行行动。人工智能引发的问题不仅涉及伦理准则中的价值观，还触及伦理体系的基础，关乎人类的本质、在世界中的能动性，以及个人和社会所重视的活动。这意味着人工智能在典型应用中，有可能扰乱我们对自身、本性、能力以及在社会和世界中地位的认知，从而对伦理准则背后的伦理思维造成重大冲击。

与相对规范且有资质认证的传统职业相比，人工智能领域就像一个伦理监管的“狂野西部”，我们甚至不确定谁应承担起监管的责任。因此，我们需要谨慎思考如何推进，伦理准则应包含哪些内容，如何制定并将其融入机构，以及仅靠职业伦理准则是否足够。

2. 人工智能领域的专业权力与脆弱性梯度

2.1 专业权力与脆弱性问题

在人工智能领域，一个主要问题是专业人员可能相对脆弱。人工智能的复杂性、强大功能以及快速广泛的发展，引发了人们对专业人员失去对其劳动成果控制的担忧。这种担忧并非人工智能独有，例如生物技术“逃离”实验室的担忧也曾出现，但人工智能的相关担忧程度至少与其他技术相当，因其潜在应用范围广泛。

2.2 知识与理解层面的脆弱性

• 认知“黑箱”问题 ：机器学习的发展导致了认知“黑箱”脆弱性，其创造者可能对黑箱内部的运行情况知之甚少甚至一无所知。这会产生预测、解释和正当性证明方面的问题，而向相关方证明行动的正当性是伦理的关键要素。
• 与医学的对比 ：医生通常也不完全理解治疗方法的作用机制，对有害