中国人工智能学会通讯——构建强健的人工智能:原因及方式 总结

总结

上面这张图，列举了现有的可以帮助我们构建强健计算机系统和AI 系统的各种方法。

首先，针对已知的未知，也就是当我们有一个模型，但是想要检测里面的错误时，要怎么办？正如我刚才所讲，我们可以在概率模型上使用“Risk Sensative Decision Making”的方法，或者可以利用对抗式的方法来进行优化。

接着，我谈到了“robustness to unmodeled phenomena”，这里针对的是未知的未知。刚刚我提到，我们有一系列的办法可以探测模型是否不完整，以及为什么有时会失效。但是，有时我们能做的只有向人类寻求帮助。可以大胆猜测，大部分的AI 模型都还太小、太简单。未来，我们需要比现在大得多的知识库，这样才能使用更大的模型。

此外，我还介绍了因果模型，这些模型类似于迁移学习，一个模型可以适用于不同的场景。最后，我提到了组合模型的方法。

今天，新一代的AI 系统正被用于各种令人激动的领域，值得注意的是，其中很多应用都涉及到与人身安全相关的高风险决策，因此，我们需要构建强健的AI 系统来解决这些问题。

AI 系统不可能对所有情况建模，因此这些系统需要在建模不完全或者包含某些错误情况时也能正常运行。

除了上述提到的这些思路，我们还需要更多的想法，希望未来在座的各位也能有所贡献。

（本报告根据速记整理）