30、AI时代的风险与挑战-优快云博客

AI时代的风险与挑战

1. AI对医药行业的冲击

AI在医药、生物和医疗器械行业的应用日益广泛。它能够利用大量数据集对化学反应或基因改变进行建模，从而极大地加速基础生化和基因研究的进程。例如，它可以探索所有可能与人体相互作用的大小分子、自然发生的人类基因变异以及人为设计的基因改变所产生的健康影响。

不过，AI也可能会彻底打破目前脆弱的医药研发“重磅炸弹”模式，使药物、生物技术和医疗器械行业从生命科学根源转向科技领域。这就需要新的监管模式来解决AI带来的知识产权、隐私和责任等相关问题。

同时，也引发了一系列疑问：AI会在发现新药方面发挥作用，还是仅仅作为人类研发新药的工具？在AI主导的社会中，AI会决定药物的研发吗？一个完全由AI主导、没有人类干预的社会难以想象，人类在这样机械运行的世界中又将如何存在？AI会为人类服务，还是人类会成为AI技术的奴隶？

2. 未受监管的人工智能

AI在金融市场拥有巨大的影响力，大部分股票交易由AI完成，软件能在几毫秒内自动接收、处理和执行数千个决策。然而，关于金融机构使用AI的监管依据却十分有限。2020年，国际清算银行（BIS）对31个司法管辖区进行了调查，发现目前尚无针对金融机构使用AI的具体监管要求，尽管新加坡、荷兰和中国香港等司法管辖区发布了非约束性原则，敦促金融机构道德和负责任地使用AI。