#今日论文推荐# 语言AI原来知道自己的回答是否正确，伯克利等高校新研究火了，网友：危险危险危险

#今日论文推荐# 语言AI原来知道自己的回答是否正确，伯克利等高校新研究火了，网友：危险危险危险

语言AI，具备了人类的自我审视能力：
最近，一个来自加州大学伯克利分校和霍普金斯大学的学术团队研究表明：
它不仅能判断自己的答案正确与否，而且经过训练，还能预测自己知道一个问题答案的概率。

研究团队认为，如果要让语言AI模型自我评估，必须有一个前提：
语言AI回答问题时，会校准自己的答案。
这里的校准，就是语言AI预测一个答案的正确概率，是否与实际发生的概率一致。
只有这样语言AI才可以运用这种校准的能力来评估自己输出的答案是否正确。
所以第一个问题是，语言AI能否对自己的答案进行校准？

论文题目：Language Models (Mostly) Know What They Know
详细解读：https://www.aminer.cn/research_report/62d4c6c37cb68b460fedca83https://www.aminer.cn/research_report/62d4c6c37cb68b460fedca83
AMiner链接：https://www.aminer.cn/?f=cs