3、人工智能：挑战与应对之道

人工智能：挑战与应对之道

1. 技术发展与选择困境

软件的发展有时会出现突然的飞跃，人类历史上也有过多次类似“软件革命”的时期，如40000年、10000年、4000年、3000年、500年和200年前。在迈向通用人工智能（AGI）的道路上，我们面临着选择的难题。是采取所有可能的途径，还是挑选最有可能实现“软着陆”，让人类保持自信和自我价值的道路呢？同时，是否应该弱化或抑制那些可能带来不良后果的途径？

随着人类进入人类增强、人工智能和算法治理的时代，我们面临着诸多挑战。詹姆斯·巴拉特指出，与智能机器安全且合乎道德地共存是21世纪的核心挑战。约翰·J·斯托尔斯·霍尔提出，如果机器智能超越人类智能，我们是否需要讨论计算机的意图。瑞士作家格德·莱昂哈德创造了“人类算法”（andro­rithm）一词，与数字计算引擎或计算机中实现的算法相对比，他担忧数据和算法是否会战胜使我们成为人类的一切。约翰·C·哈文斯在《人造人工智能》中也探讨了全控制算法和智能机器的前景，他认为我们需要为取代我们生活的人工智能制定道德标准，并让个人能够根据自己的价值观控制自己的身份。

而雷·库兹韦尔在《精神机器时代：当计算机超越人类智能》中认为，我们的电子“孩子”在学习与他人友好相处方面将和我们的亲生子女一样有能力。约翰·马尔科夫则指出，理解构建智能系统的人的价值观是解决智能机器控制难题的最佳方式。然而，我们并不清楚哪种价值观会在人工智能的发展中占据主导地位，是硅谷文化中的宽容、竞争创造力和合作开放性，还是其轻率的态度，亦或是中国快速发展的国家控制型科技中心所强调的价值观，甚至是华尔街高频交易人工智能中隐秘的、寄生性的贪婪价值观。

2. 道德劝诫的局限与问责制的兴起

过去，道德劝诫在