Hallucination in NLP（自然语言处理中的幻觉现象）

幻觉在心理学层次指一个清醒的个体在没有对应外界刺激下产生的相应感觉，简单来说是让人感觉是真实发生的虚假体验。

“a percept, experienced by a waking individual, in the absence of an appropriate stimulus from the extracorporeal world”——Blom[1]

那么在自然语言生成任务中，与幻觉类似的现象是生成了不可靠的（unfaithful）、无意义的文本（nonsensical）。这些出现了幻觉现象的文本一般都是流畅且自然的，就像在一本正经地胡说八道。生成文本中存在这样的幻想现象往往是很难进行区分的。

在自然语言处理的环境中，幻觉可以被定义为：生成的文本在给定的信息源下是无意义的、不可靠的。

The generated content that is nonsensical Or unfaithful to the provided source content.[2]

[1] Jan Dirk Blom. 2010. A dictionary of hallucinations. Springer.

[2] Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., ... & Fung, P. (2022). Survey of hallucination in natural language generation. ACM Computing Surveys.