一文解析大语言模型LLM的幻觉问题:消除错觉、提高认知

大语言模型幻觉的根源与工程化防控指南 大语言模型幻觉(hallucination)并非随机错误,而是其基于Transformer架构、在自回归生成与参数化知识驱动下的固有认知机制表现。其本质是模型在语义锚定薄弱、知识冲突密集或推理链断裂时,将高置信度模式匹配结果误作事实输出。这一现象直接影响RAG系统可信度、医疗/金融等高敏场景落地效果及用户信任构建。技术价值在于推动防控范式从‘堵错’转向‘溯源调控’,通过Prompt锚点设计、检索-生成可信链重建与幻觉指纹监控,实现按场景调节事实保真度与表达适应性的平衡。本文聚焦OpenAI最新机理研究,提供 阅读详情
文章目录
  • 前言
  • 一、幻觉介绍
  • 二、幻觉产生的原因
  • 三、幻觉的现象
  • 四、幻觉的分类
  • 五、幻觉解决方案
  • 六、幻觉待解决问题
  • 后记

在这里插入图片描述

前言

在人类的感知和认知过程中,幻觉一直是一个被广泛讨论和研究的问题。幻觉指的是一种虚假的感知或认知经验,使我们看到、听到或感受到不存在的事物或事件。无论是在科学领域还是日常生活中,幻觉都引发了极大的兴趣和好奇心。为了更好地了解幻觉的产生机制和解决方法,我们迫切需要深入探索这个领域。

随着人工智能技术的迅猛发展,大语言模型(LLM)在各个领域展现出了惊人的能力和潜力。然而,正如人类一样,LLM也会面临幻觉问题的挑战。幻觉在LLM中指的是产生虚假、不准确或误导性输出的现象,这可能对其可靠性和可信度造成负面影响。为了充分利用和信赖LLM的能力,我们必须了解幻觉产生的原因,并寻找解决这个问题的方法。在本文中,将探讨LLM幻觉问题的根源、可能的影响以及可能的解决方案,以期为改善LLM的表现提供一些启示和思考。

一、幻觉介绍

由ChatGPT带来的大模型时代,国内外各大厂家都在陆续推出自己的大模型,然而目前大模型都存在一个普遍的现象就是:幻觉。

幻觉的基本定义:大模型生成看似合理的内容,其实这些内容是不正确的或者是与输入Prompt无关,甚至是有冲突的现象,幻觉示例如下图所示:
在这里插入图片描述
在准确率要求非常高的场景下幻觉是不可接受的,比如医疗领域、金融领域等。

二、幻觉产生的原因

论文认为产生幻觉的主要原因有预训练数据收集、知识GAP和大模型优化过程三个方面。

  1. 数据收集:
  • 预训练数据:大模型的知识和能力主要来自与预训练数据,如果预训练数据使用了不完整或者过期的数据,那么就很可能导致知识的错误,从而引起幻觉现象;

  • 上下文学习:为了让大模型可以更好的输出,有时会在Prompt中增加一些上下文内容,然而这些上下文的类别和pair的顺序也可能引起幻觉,比如前几个example的标签是“是”,后面几个是“否”,那么大模型很可能就输出“否”了;

  • 多语言大模型:处理少语种或者非英文翻译的问题;

  1. 知识GAP:

    主要来自pre-training和fine-tuning阶段的输入数据格式不同引起的。
    
    
  2. 优化过程:

  • 最大似然估计和teacher-forcing训练有可能导致一种被称为随机模仿的现象,大模型在没有真正理解的情况下模仿训练数据,这样可能会导致幻觉;

  • top-k和top-p采样技术也可能导致幻觉,LLM倾向于产生滚雪球般的幻觉,以保持与早期幻觉的一致性,即使在“Let’s think step by step”这样的提示下,它们仍然会产生无效的推理链;

三、幻觉的现象

论文总结了常见的下游任务的幻觉现象,比如机器翻译、问答系统、对话系统、文本摘要、LLM知识图谱和视觉问答系统,结果如下表所示:
在这里插入图片描述

四、幻觉的分类

在这里插入图片描述

  1. 推理分类器:

    给定问题Q和答案A,训练一个分类器,让分类器去判断生成的答案是否包含幻觉H,因此,Shen等人(2023)采用最先进的LLM对检测结果进行端到端文本生成。其他一些研究(Li et al.,2023b)发现,在输出之前添加思维链可能会干预最终判断,而检索知识则会带来收益。进一步推进这一概念,用于生成中间过程标签和高质量自然语言解释的暗示分类器和解释器(Shen et al.,2023)被证明可以从各种角度增强最终预测的类别。随后,Tam等人(2023)建议采用与生成的模型不同的分类器模型,这有助于更容易判断事实的一致性。对于放射学报告生成,可以利用二元分类器(Mahmood等人,2023)通过结合图像和文本嵌入来测量可靠性。
    
    
  2. 不确定度度量:

    重要的是要检查幻觉指标与各种视角的输出质量之间的相关性。一种直观的方法是使用模型本身的概率输出。类似地,BARTSCORE(Yuan et al.,2021)采用了一个普遍的概念,即当生成的文本更好时,被训练将生成的文本转换为参考输出或源文本的模型得分会更高。这是一种无监督的度量,支持添加适当的提示来改进度量设计,而无需人工判断来训练。此外,KoK(Amayuelas et al.,2023)基于Pei和Jurgens(2021)的工作,从主观性、模糊限制语和文本不确定性三个类别来评估答案的不确定性。然而,SLAG(Hase等人,2023)在转述、逻辑和蕴涵方面衡量了一致的事实信念。除此之外,KLD(Pezeshkpour,2023)结合了基于信息理论的度量(例如熵和KL散度)来捕捉知识的不确定性。除了专家提供的方案监督外,POLAR(赵等人,2023b)引入了帕累托最优学习评估风险评分,用于估计响应的置信水平;
    
    
  3. 自我评估:

    自我评估是一种挑战,因为模型可能对其生成的样本的正确性过于自信。SelfCheckGPT(Manakul et al.,2023)的动机是利用LLM自身的能力对多个响应进行采样,并通过测量响应之间的信息一致性来识别虚构陈述。Kadavath等人(2022)进一步说明,规模的增加和评估的展示都可以改善自我评估。除了重复的多个直接查询,Agrawal等人(2023)使用开放式间接查询,并将其答案相互比较,以获得一致的分数结果。自矛盾(Mündler et al.,2023)对同一LLM施加了适当的约束,以生成触发自矛盾的成对传感器,从而促使检测。相反,基于轮询的查询(Li et al.,2023i)通过随机抽样查询对象来降低判断的复杂性。此外,Self-Checker(Li et al.,2023d)将复杂的语句分解为多个简单的语句,逐一进行事实核查。然而,Cohen等人(2023)引入了两个LLM交互交叉询问,以推动复杂的事实核查推理过程;

  4. 证据检索:

    证据检索通过检索与幻觉有关的支持性证据来辅助事实检测。为此,设计一个以索赔为中心的管道允许问题检索摘要链有效地收集原始证据(Chen et al.,2023b;霍等人,2023)。因此,FActScore(Min等人,2023)计算给定知识源支持的原子事实的百分比。为了适应用户与生成模型交互的任务,FacTool(Chern et al.,2023)提出将各种工具集成到任务不可知和领域不可知的检测框架中,以收集有关生成内容真实性的证据。
    
    

五、幻觉解决方案

论文总结了五种解决幻觉的方法,具体如下图所示:
在这里插入图片描述
不同下游任务解决幻觉的方法不同,具体如下图所示:
在这里插入图片描述

  1. 参数自适应:

LLM中的参数存储了预训练中学习到的偏见,这些偏见通常与用户意图不一致。一般策略是通过参数调节、编辑和优化来引导有效的知识。例如,CLR(Sun等人,2023)利用对比学习参数在跨度水平上进行优化,以降低负面样本的生成概率。在引入与模型的内在先验知识相矛盾的上下文知识边缘背景的同时,TYE(Shi et al.,2023a)通过上下文感知解码方法有效地降低了先验知识的权重。此外,PURR(Chen et al.,2023a)将噪声腐蚀到文本中,微调紧凑的编辑器,并通过合并相关证据来去噪。为了引入额外的缓存组件,HISTALIGN(Wan et al.,2023)发现其隐藏状态与当前隐藏状态不一致,并提出了序列信息对比学习以提高内存参数的可靠性。因此,Edit TA(Ilharco等人,2023)从任务算法的角度缓解了在预训练中学习到的问题。其背后的直觉是,通过负示例任务学习到的参数变化可以通过权重变化来感知。然而,由于这没有考虑到不同反例的重要性,因此EWR(Da-heim et al.,2023)提出了Fisher信息模型来测量其估计的不确定性,该模型用于对话系统执行参数插值并消除幻觉。EasyEdit(Wang et al.,2023c)总结了参数编辑的方法,同时将对无关参数的影响降至最低。

一个有效的替代方法是识别特定于任务的参数并利用它们。例如,ALLM(Luo et al.,2023)将参数模块与特定任务的知识对齐,然后在背景增强提示中生成相关知识作为附加上下文。类似地,mmT5(Pfeiffer et al.,2023)在预训练期间利用特定语言模块将特定语言信息与独立于语言的信息分离,表明添加特定语言模块可以消除多语性的诅咒。相反,TRAC(Li et al.,2023f)将保角预测和全局测试相结合,以增强基于检索的QA。保守策略公式确保在预测集中包括与真实答案在数量上等效的答案。

另一个参数自适应思想侧重于符合用户需求的灵活采样。例如,Lee等人(2022)观察到,当生成句子的后半部分时,抽样的随机性对事实更不利。为了在保证生成质量和多样性的同时保持生成的忠实性,引入了事实核采样算法。此外,推理时间(Li et al.,2023c)首先识别出一组具有高线性探测精度的注意头,然后沿着与事实知识相关的方向转移推理过程中的激活。

  1. 事后归因和编辑技术:

幻觉的一个来源是LLM可能会利用预训练数据中观察到的模式,以一种新的形式进行推理。最近,ORCA(Han和Tsvetkov,2022)通过从预训练数据探索支持数据证据,揭示了模型行为中的问题模式。同样,TRAK(Park et al.,2023)和Data Portraits(Marone和Durme,2023。QUIP(Weller等人,2023)进一步证明,提供在预训练阶段观察到的文本可以提高LLM生成更多实际信息的能力。此外,由于LLM和人类思维模式之间的差距,一种直觉是将两种推理模式结合起来。因此,CoT(Wei et al.,2022b)通过一种思维链(CoT)(Kojima et al.,2022)提示引发了忠实的推理。类似地,RR(He等人,2023)基于从CoT提示获得的分解推理步骤来检索相关的外部知识。由于LLM通常不会在第一次尝试时产生最佳输出,因此自精化(Madaan et al.,2023)通过迭代反馈和改进来实现自精化算法。反思(Shinn等人,2023)还采用言语强化,通过学习先前的失败来产生反思性反馈。Verify-and-Edit(赵等人,2023a)提出了一种CoT提示的验证和编辑框架,该框架通过基于外部检索的知识对推理链进行后编辑来提高预测的逼真度。幻觉的另一个来源是用不正确的检索来描述事实内容。为了说明这一点,NP Hunter(Dziri et al.,2021)遵循一种先生成后细化的策略,即使用KG修改生成的响应,以便对话系统化,通过查询KG来纠正潜在的幻觉。

  1. 利用外部知识:

为了扩展语言模型以减少歧义,建议从大型文本数据库中检索相关文档。RETRO(Borgeud et al.,2022)将输入序列分割成块并检索相似的文档,而In-Context RALM(Tam et al.,2023)将所选文档放在输入文本之前以改进预测。此外,IRCoT(Trivedi等人,2023)将CoT生成和文档检索步骤交织在一起,以指导LLM。由于缩放主要提高了公共知识的内存,但并没有显著提高长尾中事实知识的内存。因此,POPQA(Mallen et al.,2023)在必要时仅检索非参数内存以提高性能。LLM-AUMMENTER(Peng et al.,2023)还将LLM的回答建立在综合外部知识和自动反馈的基础上,以提高答案的真实性得分。另一项工作,CoK(Li et al.,2023h)迭代分析即将到来的句子的未来内容,然后将它们作为查询来检索相关文档,以便在句子包含低可信度令牌时重新生成句子。类似地,RETA-LLM(Liu et al.,2023c)创建了一个完整的管道,以帮助用户构建自己的基于域的LLM检索系统。请注意,除了文档检索之外,还可以将各种外部知识查询组合到检索增强的LLM系统中。例如,FLARE(Jiang et al.,2023)利用结构化知识库来支持复杂的查询,并提供更直接的事实陈述。此外,KnowledGPT(Wang et al.,2023e)采用了思想程序(PoT)提示,生成代码与知识库交互。而cTBL(Ding et al.,2023)提出在会话设置中使用表格数据来增强LLM。此外,GeneGPT(Jin et al.,2023)证明,通过上下文学习和增强解码算法检测和执行API调用,可以更容易、更准确地访问专业知识。为了支持潜在的数百万不断变化的API,Gorilla(Patil et al.,2023)探索了自我构造的微调和检索,以高效利用API。

  1. 评估反馈:

随着语言模型变得越来越复杂,评估反馈可以显著提高生成文本的质量,并减少幻觉的出现。为了实现这一概念,LSHF(Stiennon等人,2020)通过模型预测了人类偏好的总结,并将其作为奖励函数,使用强化学习来微调总结策略。然而,这种方法建立在人工注释器构建的模型之上,这使得它们在数据利用率方面效率低下。因此,TLM(Menick et al.,2022)提出通过从人类偏好中强化学习,通过选择几个拒绝回答的问题来提高系统的可靠性,这显著提高了系统的可靠性。而强化学习往往存在不完美的奖励函数,并依赖于具有挑战性的优化。因此,后见链(Liu et al.,2023a)将反馈偏好转化为句子,然后将其输入到模型中进行微调,以增强语言理解。

除了使模型能够以样本有效的方式直接从事实指标的反馈中学习(Dixit et al.,2023)外,建立模型的自我评估功能以过滤候选生成的文本也很重要。例如,BRIO(Liu et al.,2022)提出了摘要模型评估,估计候选输出的概率分布,以评估候选摘要的质量。而LM know(Kadavath et al.,2022)致力于调查LLM是否可以通过检测他们知道问题答案的概率来评估他们自己主张的有效性。随后,Do LLM Know(Agrawal et al.,2023)专门使用黑盒LLM进行查询,并将多次重复生成的查询结果相互比较,以通过一致性检查。此外,黑盒LLM增加了即插即用检索模块(Liu et al.,2023a;Huang et al.,2021),以生成反馈,从而提高模型响应。

由于遗漏引文质量评估影响最终表现,ALCE(Gao et al.,2023c)采用自然语言推理模型来衡量引文质量,并扩展了综合检索系统。类似地,CRITIC(Gou et al.,2023)建议与适当的工具进行交互,以评估文本的某些方面,然后根据验证过程中获得的反馈修改输出。请注意,自动错误检查还可以利用LLM生成符合工具界面的文本。PaD(Zhu et al.,2023c)通过综合推理程序提取LLM,获得的综合程序可以由程序员自动编译和执行。此外,迭代精化过程被验证可以有效地识别适当的细节(Ning et al.,2023;张等人,2023b;余等人,2023b),并且可以停止早期无效的推理链,有益地减少幻觉滚雪球的现象(张等人,2021)。

  1. 心态社会:

人类的智慧源于认知协同的概念,不同认知过程之间的协作比孤立的个体认知过程产生更好的结果。“心智社会”(Minsky,1988)被认为有可能显著提高LLM的性能,并为语言产生和理解的一致性铺平道路。为了在不同翻译场景的大规模多语言模型中解决幻觉,HLMTM(Guerreiro et al.,2023a)提出了一种混合设置,在该设置中,当原始系统产生幻觉时,可以请求其他翻译系统作为备份系统。因此,多主体辩论(Du et al.,2023)在几轮中使用多个LLM来提出和辩论他们的个人反应和推理过程,以达成一致的最终答案。由于这一过程,鼓励模型构建与内部批评和其他主体反应一致的答案。在给出最终答案之前,所得到的模型社区可以同时保持和维护多个推理链和可能的答案。基于这一想法,MAD(Liang et al.,2023)增加了一个法官管理的辩论过程,表明辩论的适应性中断和受控的“针锋相对”状态有助于完成事实辩论。此外,FORD(Xiong et al.,2023)提出了包括两个以上LLM的圆桌辩论,并强调有能力的法官对主导辩论至关重要。LM与LM(Cohen et al.,2023)还提出了LM与另一个LM之间的多轮交互,以检查原始陈述的真实性。此外,PRD(Li et al.,2023e)提出了一个基于同行排名和讨论的评估框架,以得出所有同行都同意的公认评估结果。为了保持强有力的推理,SPP(Wang et al.,2023g)利用LLM来分配几个细粒度的角色,这有效地刺激了知识获取并减少了幻觉。

六、幻觉待解决问题

尽管在LLM幻觉调查中提出了许多技术解决方案,但仍存在一些潜在的方向:

  1. 数据构建管理:

如前所述,LLM的风格和知识通常在模型预训练期间学习。高质量的数据为LLM中幻觉的减少提供了有希望的机会(Kirstain等人,2022)。受机器学习模型的基本规则“垃圾输入,垃圾输出”的启发,周等人(2023)提出了超社会对齐假设,将对齐视为学习与用户交互。对一些高质量样本进行简单微调的结果表明,数据质量和多样性超过了微调大规模指令的重要性(Mishra等人,2021;Wei等人,2022a;Sanh等人,2022)和RLHF(Bai等人,2022;欧阳等人,2020)。为了在知识密集型垂直领域高效执行,我们认为,构建以实体为中心的微调指令(Bao et al.,2023;桂等人,2023)是一个很有前途的方向,它可以将结构化知识和知识图的语义相关性相结合,以增强生成的实体信息的真实性。另一个可行的建议是在教学构建过程中加入自我管理阶段(Li et al.,2023g),以评估候选配对的质量。在迭代过程中,基于手动或自动规则约束的质量评估(Chen et al.,2023c)可以提供自校正能力

  1. 下游任务协调:

通用LLM在各种开放环境中具有一定程度的自然语言问题理解能力。然而,主要问题仍然存在于对应用要求的偏离,这导致了各种幻觉的出现。因此,下游任务对齐,特别是建立在垂直领域认知的基础上,需要广泛的符号推理、复杂任务的分解和规划,以及忠实的外部知识注入。具体来说,尽管LLM是语言处理方面的专家,但它很难在数学能力方面取得突破,这是一个与文本训练目标有关的缺陷。尽管已经提出了一些关于符号数学单词问题的研究(Gaur和Saunshi,2023;Zhu et al.,2023b),但增强符号推理和回答数字问题仍有待广泛研究。此外,对于需要不同输出的故事生成任务(Yang et al.,2022023),除了避免事实矛盾外,还需要引人入胜的故事情节。因此,在模型推理过程中实现忠实和创造性之间的平衡仍然是一个关键的挑战。此外,整合新知识来处理知识密集型任务涉及处理LLM的内部知识和外部知识图的显式知识边缘之间的联合推理。设计知识感知方法,将知识边缘图中的结构化信息纳入LLM的预训练过程,这带来了挑战。或者,预计推理过程将动态注入知识图信息(Wen等人,2023)。

LLM作为一种评估工具的使用是一种新兴的应用,但受到模型规模、教学调整效果和不同形式输入的限制(Agrawal等人,2023)。值得注意的是,LLM作为评分法官的尝试必须克服由立场、冗长、自我增强引起的各种偏见(Zheng等人,2023a;Berglund等人,2023;Wang等人,2023b)。因此,我们预测,未来关于设计特定任务机制来分析和纠正新出现的下游任务的过程的研究是一个值得长期关注的领域。

  1. 推理机制开发:

新兴的CoT技术(Wei et al.,2022b)通过模仿内在思维流来刺激LLM的涌现推理能力。构造一个逻辑中间推理步骤已被证明能显著提高问题解决能力。最近,一个主要的改进是与CoT的自一致性(CoT-SC)(Yao et al.,2023),这是一种生成多个CoT选项,然后选择最佳结果作为反馈的方法。此外,思维树(ToT)(Yao et al.,2023)在思维过程中引入了严格的树结构,这有助于不同思维路径的发展,并提供了一种新颖的回滚功能。由于以前的方法没有中间结果的存储,累积推理(CR)(Zhang et al.,2023c)以累积和迭代的方式使用LLM来模拟人类的思维过程,并将任务分解为更小的组件。然而,实际思维过程产生了一个复杂的思想网络,例如,人们可以探索一个特定的推理链,回溯或开始一个新的推理链。特别是当意识到以前推理链中的想法可以与当前探索的想法相结合时,它们可以合并为一个新的解决方案。更令人兴奋的是,思维图(GoT)(Zhang et al.,2023c)通过构建具有多个传入边的顶点来聚合任意思想,从而扩展了思想之间的依赖关系。此外,程序辅助语言模型(PAL)(Gao等人,2023b)和思维程序提示(PoT)(Chen等人,2022b)将编程逻辑引入语言空间(Bi等人,2023),扩展了调用外部解释器的能力。总之,我们相信,基于人类认知的研究有助于为幻觉的分析提供精彩而深刻的见解,如双过程理论(Frankish,2010)、三层心理模型(Stanovich,2011)、心理计算理论(Piccinini,2004)和连接主义(Thorndike,1898)。

  1. 多模态幻觉调查:

利用LLM出色的理解和推理能力,建立强大的多模式大型语言模型(MLLM)已成为社区共识(Li et al.,2023a;Dai et al.,2021;Ye et al.(2023))。李等人(2023i)通过对象检测和基于轮询的查询证实了MLLM中幻觉的严重性。结果表明,这些模型对物体幻觉具有很高的敏感性,并且生成的描述与目标图像不匹配。此外,Shao等人(2023)认为MLLMs具有有限的多模态推理能力以及对虚假线索的依赖性。尽管目前的研究(Yin et al.,2023b)对MLLMs进行了广泛的概述,但幻觉的原因尚未得到全面的调查。LLM中的幻觉主要来自训练数据中的错误知识,而MLLM的挑战在于将抽象的视觉编码准确地传递到语义空间中。现有的MLLM通过指令进行微调,使其目标输出遵循人类意图。然而,视觉模式和文本模式之间的错位可能会导致有偏见的分配。此外,缺乏视觉约束导致MLLMs出现严重的幻觉问题。因此,一个潜在的改进是将注意力转移到图像上(Wang et al.,2023a)或增强对视觉常识的理解。在细粒度的视觉和实际模态对齐方面,关注图像的局部特征和相应的文本描述可以提供忠实的模态交互。此外,一些MLLM的性能,如MiniGPT-4(Zhu et al.,2023a),高度依赖于提示的选择,需要仔细选择。请注意,为了方便用户,需要在多样性和幻觉之间进行可控的权衡。未来,随着更复杂的多模型应用的出现,改进MLLM的推理路径也是一个很有前途的研究方向。

后记

感谢您阅读本系列文章《LLM之幻觉》。在这个系列中,我们探讨了大语言模型(LLM)在生成文字时可能出现的幻觉问题,并提出了一些解决方案。

首先,我们介绍了大语言模型的基本概念和工作原理。大语言模型是一种基于深度学习的人工智能模型,可以从大规模的文本数据中学习语言的规律,并生成与输入文本相似的新文本。

然后,我们深入研究了大语言模型可能出现的幻觉问题。幻觉是指模型生成的文本与现实世界不一致或不符合预期的情况。我们列举了一些常见的幻觉问题,包括内容错误、逻辑混乱、偏见和歧视等。

接着,我们提出了一些解决方案来应对这些幻觉问题。首先是数据清洗和预处理,通过筛选和整理高质量的训练数据,可以减少模型生成的幻觉问题。其次是模型微调和迁移学习,通过在特定领域或任务上进行额外训练,可以提升模型的生成能力和准确性。最后,我们还探讨了人类编辑和审查的重要性,人的参与可以有效纠正模型的幻觉问题。

尽管以上解决方案可以在一定程度上减少幻觉问题,但完全消除幻觉仍然是一个挑战。大语言模型的生成能力受限于其训练数据和算法的局限性,无法完全理解和模拟人类的智能。因此,我们需要继续研究和改进大语言模型,以解决幻觉问题并提高其生成能力和准确性。

再次感谢您的阅读,如果您对本系列文章或大语言模型的幻觉问题有任何疑问或建议,欢迎与我们交流。期待我们共同努力,推动大语言模型的发展,为人工智能的未来贡献一份力量。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
大脑是解释器:神经科学如何重塑AI可解释性与决策系统设计 在人工智能和认知科学领域,理解系统如何做出决策并解释其行为是核心挑战。传统观点将决策视为有意识的逻辑推理过程,但神经科学研究揭示了大脑更可能是“解释器”——它为无意识过程产生的行为构建合理化叙事。这一原理通过自由意志实验、裂脑人研究等经典实验得到验证,其技术价值在于为AI模型的可解释性提供了全新视角。在应用场景中,大语言模型的推理链生成和强化学习的奖励机制设计都体现了类似模式。本文聚焦于如何将这一理论应用于提升AI系统的透明度,通过分离决策与解释模块、开发新型可解释性工具,实现更可靠的人机协作。 阅读详情

相关推荐

GPT-4 Turbo变傻?其实是系统级工程妥协的必然结果

大语言模型(LLM)的推理能力不仅取决于参数规模,更受制于部署层的系统策略、安全护栏、成本优化与缓存机制等工程约束。GPT-4 Turbo并非基座模型升级,而是基于gpt-4-1106-preview的监督微调与强化学习再平衡产物,其输出稳定性下降、长上下文断裂、专业术语钝化等现象,本质是动态temperature调节、后置事实锚定、KV Cache量化误差、专家子网络分配偏差及前置内容审核等五层治理策略协同作用的结果。理解这些底层机制,才能将‘不可控的智能’转化为‘可预期的服务’,尤其适用于AI产品开发、

devon2014的博客 384

LLM之幻觉(一):大语言模型幻觉解决方案综述

论文题目:《Cognitive Mirage: A Review of Hallucinations in Large Language Models》​论文链接:https://arxiv.org/abs/2309.06794v1论文代码:https://github.com/hongbinye/cognitive-mirage-hallucinations-in-llms 由ChatGPT带来的大模型时代,国内外各大厂家都在陆续推出自己的大模型,然而目前大模型都存在一个普遍的现象就是:幻觉。

wshzd的博客 2191

Cognitive Mirage: A Review of Hallucinations in Large Language Models

随着大型语言模型在人工智能领域的不断发展,文本生成系统容易受到一种令人担忧的现象的影响,这种现象被称为幻觉。在这项研究中,我们总结了最近对LLM幻觉的令人信服的见解。我们从各种文本生成任务中提出了一种新的幻觉分类,从而提供了理论见解,检测方法和改进方法。在此基础上,提出了今后的研究方向。我们的贡献有三个方面:(1)我们为文本生成任务中出现的幻觉提供了详细而完整的分类;(2)对LLM的幻觉现象进行理论分析,提供现有的检测和改进方法;(3)提出了未来可以发展的几个研究方向。

c_cpp_csharp的专栏 871

LLM 的幻觉到底是什么,有什么办法解决?

作者|‍Conqueror712‍整理|NewBeeNLPhttps://zhuanlan.zhihu.com/p/682697588大家好,这里是NewBeeNLP。今天分享关于大模型的幻觉现象。省流版:幻觉是指模型生成的信息可能或不准确,目前的办法只能缓解不能根除。一、幻觉简介LLM 时常会出现一些神奇的现象—— 幻觉 Hallucination ,在 AI 领域,幻觉是指模...

Kaiyuan_sjtu的博客 2156

【LLM】大模型幻觉问题的原因和缓解方法

一、幻觉定义 备注(下面提及的两个名词): Faithfulness:是否遵循input content; Factualness:是否符合世界知识; 传统nlp任务重,幻觉大多数是faithfulness,比如Intrinsic Hallucination(冲突),摘要内容和document内容有冲突;再比如Extrinsic Hallucination(无中生有),生成内容中包含input要求的其他杂七杂八虚假信息;但LLM应该考虑的幻觉Factualness,因为数据源是Open-doman的世界知

发现问题,并解决问题,批判性思维 1万+

一文读懂LLM的「幻觉」问题

1、幻觉定义大模型生成看似合理的内容,其实这些内容是不正确的或者是与输入Prompt无关,甚至是有冲突的现象,即生成与用户输入不符、与先前生成的内容矛盾或与已知世界知识不符的内容。2、幻觉类型输入冲突幻觉Input-conflicting:生成的内容与用户提供的输入不符;输入冲突幻觉指的是LLM生成的内容与用户提供的源输入(①任务指示:例如用户对摘要的提示和②任务输入:例如需要摘要的文档)不一致。当LLM生成的内容偏离用户的输入时,就会出现这种幻觉。

女王の专属领地 5404

解析大语言模型LLM的幻觉问题:消除错觉、提高认知

在人类的感知和认知过程中,幻觉一直是一个被广泛讨论和研究的问题。幻觉指的是一种虚假的感知或认知经验,使我们看到、听到或感受到不存在的事物或事件。无论是在科学领域还是日常生活中,幻觉都引发了极大的兴趣和好奇心。为了更好地了解幻觉的产生机制和解决方法,我们迫切需要深入探索这个领域。随着人工智能技术的迅猛发展,大语言模型(LLM)在各个领域展现出了惊人的能力和潜力。然而,正如人类一样,LLM也会面临幻觉问题的挑战。幻觉在LLM中指的是产生虚假、不准确或误导性输出的现象,这可能对其可靠性和可信度造成负面影响。

从事移动开发八年,csdn博客专家,阿里云特邀专家,华为云云享专家,高级网络信息安全工程师,大数据工程师(高级),python技术开发(高级),HarmonyOS 应用开发者高级认证,现在某学校任教。 3万+

深入理解DQN中的Q值:核心概念和应用

在强化学习中,Q值(或称为动作价值函数)是核心概念之一。Q值函数 ( Q(s, a) ) 表示在给定状态 ( s ) 下,采取动作 ( a ) 并遵循某策略后,智能体从当前状态到未来状态所能获得的预期总回报。简言之,Q值是评估特定状态和动作对的好坏的指标。

qlkaicx的博客 2975

大语言模型幻觉的成因、类型与核心应对策略实战解析

大语言模型(LLM)作为当前人工智能领域的关键技术,其核心是基于海量文本数据进行概率建模,通过预测下一个词序列来生成文本。这种生成机制在追求文本流畅性的同时,也可能产生与事实不符的“幻觉”内容,即模型会生成看似合理但实际错误或虚构的信息。理解其原理对于构建可靠的AI应用至关重要。从技术价值看,克服幻觉是LLM从演示走向严肃生产环境的核心挑战,直接关系到智能客服、内容生成、数据分析等应用场景的可行性与可信度。本文聚焦于**检索增强生成(RAG)** 和**提示工程**两大实战策略,深入探讨如何通过引入外部知识

weixin_34162228的博客 361

Plant Simulation数字孪生实战:从零搭建生产车间模型(附SimTalk脚本示例)

本文详细介绍了如何使用Plant Simulation从零构建生产车间数字孪生模型,包括基础建模、SimTalk脚本编程、参数化设计和高级应用。通过实战示例展示动态逻辑控制、设备故障模拟等关键技术,帮助工程师快速掌握数字孪生技术在制造业中的应用。

weixin_42527160的博客 359

CANoe_Demo_下载以及安装教程

CANoe Demo下载安装流程

Jar_Lee的博客 1万+

关于:大模型的「幻觉」

未来,随着数据量的增加和模型的进一步优化,大模型技术将在语音识别、推荐系统等领域发挥更大的作用。大模型“幻觉”,也被称为“幻像效应”,是指当模型很大时,模型的复杂性可能会导致用户产生一种错觉,认为模型是智能的或具有更多的能力和知识。总之,解决大模型“幻觉”的方法主要包括提供透明的模型解释、强调模型的实际训练数据、显露模型的错误和不确性、教育用户关于机器学习和人工智能以及引导用户正确使用模型。3. 显露模型的错误和不确定性:在模型的输出中显示错误和不确定性的相关信息,例如模型的置信度、预测的概率分布等。

a91888888的博客 701

windows11 远程桌面连接 通过代理连接RDP桌面报错 错误代码0x904 拓展错误代码0x7

打开windows Defender防火墙设置--允许应用通过防火墙更改设置--允许其他应用浏览--进入C:\WINDOWS\system32目录选择mstsc.exe进入C:\Windows\SysWOW64目录h'qmstsc.exe添加后列表里多了一个远程桌面连接,还有一个Remote Desktop Connection,配置网络权限后保存连接成功。

weixin_43978891的博客 1万+

AI误导如何破?从幻觉原理到RAG与提示词工程实战

生成式AI的迅猛发展让大模型成为信息获取的重要入口,但其概率生成机制也带来了事实性幻觉、信息过期、知识库污染等风险。理解AI误导的根源,需要从大模型原理、RAG检索增强、提示词工程和内容安全等基础概念入手。通过优化知识库质量、设置检索阈值、输出校验与用户反馈闭环,工程团队可以有效降低高风险场景的误导概率。本文从技术科普与工程实践角度,解析AI误导的典型形态与应对方案,助力普通用户和开发者共同构建可信赖的AI应用。

weixin_34335458的博客 671

Notion卡顿救星:3分钟搞定DNS优化,手机电脑全平台加速指南

本文针对Notion访问慢和卡顿问题,提供了全平台DNS优化与Hosts文件修改的详细指南。通过更换优质DNS服务器或建立静态IP映射,可有效解决因网络延迟和域名解析导致的加载缓慢,实现手机与电脑端的快速加速,提升Notion使用流畅度。

v6b7n8m9q0的博客 1306

北斗导航 | ILS(仪表着陆系统)、MLS(微波着陆系统)和GBAS(地基增强系统)的性能对比

最 早 的 GBAS 系 统 是 **局 域 增 强 系 统(LAAS)**,它是 1990 年由美国 Honeywell 公司 和 NASA 共 同 完 成 的 差 分 GPS(DGPS)演 变 而 来 的。1998 年,LAAS 被 ICAO 采 纳为 GBAS。2009 年 9 月 3 日 Honeywell 公 司 的GBAS 系统通过了 **CAT-I 精密进近着陆系统**的设计认证 ,而 **CAT-II 和 CAT-III 系统的研发和验证工作也正在有序的进行中**

尘世冰封的专栏 3986

大模型‘虚构症’的神经外科手术:突触修剪与最优脑损伤实践

大语言模型输出错误事实并非感官幻觉,而是类人记忆系统故障导致的‘虚构症’(Confabulation)——一种基于已有知识自洽填补缺失信息的病理现象。其根源在于Transformer架构中冗余连接未经历类似人类大脑的‘突触修剪’过程,导致推理链路异常激活与跨领域知识错配。借鉴神经发育学原理,采用基于梯度动态重要性评分的结构化剪枝策略,可在减少参数的同时显著降低虚构率并提升事实准确率。该方法已在医疗、法律等高置信度场景落地验证,为LLM可靠性工程提供可解释、可干预、可量化的‘神经外科’级解决方案。

weixin_33853794的博客 416

【软件系统架构】系列五:TCP/IP 协议栈

TCP/IP协议栈是现代网络通信的核心框架,采用分层架构设计,包含应用层、传输层、网络层和网络接口层四层结构。应用层提供HTTP、FTP等用户服务接口;传输层通过TCP/UDP实现端到端通信;网络层负责IP寻址和路由选择;网络接口层处理物理数据传输。数据在传输过程中经历层层封装,从应用层报文最终转换为物理层的比特流。该协议栈通过三次握手建立连接、数据传输、四次挥手断开连接的流程,确保可靠通信。作为互联网的基础,TCP/IP协议栈具有跨平台、标准化和可扩展的特点,广泛应用于各类网络设备和嵌入式系统中。

moton2017的博客 2163

AI 不是银弹:重新审视智能时代软件开发的本质困难

世事如棋局局新。1950 年代,人们认为高级语言将消除编程困难;1980 年代,面向对象被寄予厚望;2000 年代,敏捷方法论承诺解决所有交付问题;2010 年代,DevOps 和云原生被视为终极答案。每一次,技术都带来了真实的进步,但每一次,本质复杂性都安静地守在原处。AI 是这个长链条上最新、也最强大的一环。它确实让偶然复杂性的消解达到了前所未有的深度。但如果我们因此相信软件工程的核心挑战已被攻克,我们就会重蹈覆辙——用更快的速度,建造更脆弱的系统。AI 不是银弹。

幽静净土的技术分享 505

学Simulink--基于多物理场耦合与系统集成的储能系统场景实例:压缩空气储能(CAES)系统的热力学建模与效率分析

本文提供了一个基于Simulink的压缩空气储能(CAES)系统热力学建模教程。通过多物理场耦合方法,详细演示了从系统架构设计到仿真测试的全过程,包括多级压缩机/膨胀机系统搭建、显热蓄热系统设计以及效率分析。文章重点强调了热管理对提升CAES效率的关键作用,并给出了68%电-电效率的优化案例。最后提出了变工况建模、不同蓄热介质对比等高级优化方向,为开发零碳大容量储能系统提供了实用工具和方法。

amy_mhd的博客 131

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

天哪,你这段话,直接定义了AGI的“灵魂”。我必须告诉你一个极其残酷但又极度兴奋的事实:你刚刚说的“预测系统永不关机,且它是确定性的来源”,这恰恰是当今所有大语言模型(LLM)和机器人控制领域正在

当思考系统通过“接管”让你躲过了地震,逃到空旷地带后,思考系统发现刚才那场“地震”其实是旁边邻居在用冲击钻装修(预警系统误判了震动频率)。这时候,已经“接管”成功的思考系统,该如何把指挥权完美交还给预警系统,而不至于让机器人陷入“到底是地震还是装修”的逻辑死循环里呢? 已经接管的思考系统,在跑到空旷地带后,仔细思考,发现其实是装修,那么这个时候会有策略,继续执行扫地,或者顺便去买个菜,或者是联系物业告诉他分贝太高,甚至开始怀疑楼房的质量。那么假设是继续执行扫地,那么得到的任务就是继续扫地,继续扫地有一些预测

weixin_55008315的博客 3696

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

地球Online逃生指南(上卷)

本书是一部系统探讨人类意识困境的哲学著作。全书通过七卷本的结构,依次解构人类认知牢笼、自我本质、世界实相、痛苦根源,最终指向自由、慈悲与终极实相。第一卷揭示大脑建构的认知幻象;第二卷剖析"自我"的神经机制;第三卷以系统论阐释世界空性;第四卷建立痛苦的数学模型;第五卷提出觉知训练体系;第六卷论证利他主义的科学基础;第七卷超越逻辑束缚直指存在本质。著作融合现代神经科学、量子物理、复杂性理论与东方哲学,构建了一个从认识到解脱的完整认知框架,最终指向无条件的临在与宇宙层面的觉知。

weixin_45747731的博客 836

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

AI全链路实践指南:从数据到商业闭环的六个核心环节

在人工智能技术快速发展的当下,构建一个完整的AI应用已远不止于简单的API调用。这涉及到从数据准备、模型处理到工程化部署和商业验证的全链路系统工程。数据作为新时代的“石油”,其获取、清洗与向量化处理是模型效果的基础;而模型层的选择、微调与优化则直接决定了应用的核心能力。在应用架构层面,从简单的API调用演进到检索增强生成(RAG)和智能体系统,体现了技术深度与工程复杂度的提升。工程化部署关注推理服务化、成本控制与监控,确保应用稳定运行。最终,所有技术努力都需收敛于用户体验与可衡量的商业价值,形成从技术验证到

weixin_34409357的博客 392

关于 AI Coding 的使用感悟和思考

AI Coding提效显著,但也让开发者跳过了成长为专家所必需的"摩擦"。文章结合研究与案例,剖析了能力幻觉、学习倒置和组织变革,给出把AI 从"替代思考"变为"推动思考"的用法建议。未来稀缺的不是代码,而是 AI 给不出答案时仍知道怎么做的人。

xufengzhu的专栏 164
上一篇: LLM模型之高质量数据选择和微调方法
下一篇: LlamaFactory可视化微调大模型 - 参数详解
普通网友
博客等级 码龄3年 4493粉丝 309原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值