5、AI治理：企业应用与挑战

AI治理：企业应用与挑战

1. AI引发的公众担忧与应对

人们对AI存在诸多担忧，其中之一是担心AI不仅与人类平等，甚至在知识和能力上远超人类，进而可能产生更多需求和行动。过去，像DeepMind曾宣称AlphaGo在比赛时具有直觉，但实际上AlphaGo只是大型狭义AI，并无真正理解能力。这类AI专家的营销言论引发了公众的焦虑。因此，AI专家和企业管理者在这类敏感话题上应谨慎、负责地进行沟通。

同时，人类增强也是一个重要的发展方向，它会深刻影响人类与AI能力的平衡。人类与AI的耦合越紧密，两者的协调性就越好，压力和冲突的可能性也就越小。对于哲学家而言，通用人工智能（GAI）和人工意识（AC）的出现将是继哥白尼、达尔文和弗洛伊德之后的第四次哥白尼式时刻。而对于政策制定者来说，理解AI的广泛范畴及其不同的进化路线，对于设计合适的企业社会责任 - AI（CSR - AI）准则至关重要。

2. AI生产力与复杂性悖论

CSR - AI认为AI的发展在一定程度上是可控的，但控制AI与控制普通机器截然不同。试图通过程序条款简单限制AI并严格控制其“思想”和行动的想法，会因经济悖论而失败。因为AI的生产力会随着其智能、行动能力、自由意志和可操作性的提高而增加，而这些又与它的感官 - 运动自由度密切相关。

早在20世纪90年代，人们就明白不能基于固定规则来设计AI，那样成本巨大且不经济，这也导致了第一次AI寒冬。AI必须通过开放学习来进化，尽管其学习速度比人类快得多。

我们面临一个问题：能否从技术上把AI限制在狭义AI（NAI）水平，从而避免处理更复杂的GAI转型问题。答案在于生活和社会的自然复杂性。我们知道GAI具有最高的生产力