使用AI大模型的正确姿势!接入知识库、微调,5种方法(非常详细)零基础入门到精通,收藏这一篇就够了

计算机考研常见面试题 写在前面 本人参加20考研,由于复试没有具体要求会问哪几门课,所以我就找了网上一些常见的计算机专业的面试题,整理如下 主要结构: 数据库 软件工程 操作系统 计算机组成原理 计算机网络 数据结构 C++ Java 数据库 1、数据:数据库中存储的基本对象。 数据库:长期存储在计算机内的、有组织的、可共享的数据集合。 数据库管理系统:专门用于建立和管理数据库的一套软件。对外部程序提供访问数据库的方法,对内进行数据管理。 数据库系统:与和数据库相关的整个系统,一般由数据库、数据库管理系统、应用程序、数 阅读详情
AI摘要

本文介绍通过提示工程、RAG、微调、模型替换和多模态大模型等方法,优化预训练大模型性能,以满足特定场景需求。

设想一下,你现在可以使用Kimi、智谱清言、Stable Diffusion、ChatGPT等大模型或者AI工具,甚至将大模型的API嵌入到你的项目中。

然而,预训练的大模型虽然强大,但不是万能的。

比如你问大模型你写的文章信息,因没有文章语料,它就无法回答。你想让大模型回答医学问题,它可能泛泛而谈。

大模型依赖于大量互联网数据进行训练,虽然覆盖面广,但在特定情境下往往无法提供精准的答案。

为此,你需要对大模型进行改造,让它更好地满足你的需求。

用于优化和增强大模型能力的方法有:提示工程、RAG、微调、更换大模型、使用多模态大模型。

简单来说,一种方法是不改变模型本身,那就优化提示词,使用外部知识库(技术是:RAG)。一种方法是改变大模型参数(技术是:微调)。

另一种方法是,换一个大模型,或者使用多模态大模型。

下面我们一一讲解。如果你想学习如何用搭建个人知识库,微调大模型,自动化工作流程等技能,可以关注我们的AI线下工作坊,扫描文末二维码,加入福利群,月中会在群里发福利券。

1. 优化提示词

当大模型的输出内容不满足你的期望时,你可以选择优化提示词,直到优化到不能优化。

使用提示词生成答案(图来源:myscale)

依据大模型的能力、特点和局限,选择合适的提示词,能够让大模型生成更符合你特定要求的输出。

例如,你想用AI批量生成小红书文案,你可以在提示词中,详细说明目标受众、语气、文章结构,引导大模型生成小红书风格的文案。

你可以设计一系列提示词模版,这样每次都可以调用。

如何优化提示词大更多内容,可以点击下面链接查看:

2. 使用外部知识库

通过检索增强生成(RAG),大模型会首先从外部知识库(比如你写的文章)中查找并收集相关信息,然后使用检索到的信息和预先存在的知识,更准确的回答问题。

RAG工作流程(图来源:Monigatti)

RAG让模型具备特定领域的知识,从而表现得更好。

外部知识库可以是公司产品说明、教程或用户指南;客服回答的问题、聊天记录;公司政策文件、标准操作程序;你写过的文章等等。

使用何种外部知识库,取决于你的目标。

使用外部知识库,最直接的方式是在AI机器人聊天页面上传文档,开启对话。比如下图是我使用kimi解读一篇论文。(官网:kimi.moonshot.cn)。你也可以尝试扣子(官网:coze.cn)

上传某本书/文章 让kimi解读

但是这种做法也有局限。如果你不想文档泄漏,或者公司里面有成千上万个文档,你就需要借助新的工具或者运用,甚至开发专用的运用。

下图是一些常用的RAG工具,这些工具在Github上Star较多。

常见RAG工具/运用(整理:mscreate)

案例:某科技公司将RAG应用于其客户支持系统,大模型通过检索公司内部的技术文档和历史支持记录,能够在几秒钟内为客户提供精准的解决方案,大大提高了客户满意度和支持效率。

3. 微调大模型

微调是指在预训练大模型的基础上,进一步在较小的、特定领域的数据集上进行训练。

微调示意(图来源:myscale)

微调有助于让大模型更满足特定需求。

例如,你想让大模型翻译地方方言更准确,那可以使用地方方言数据集微调大模型。

与RAG不同,RAG是使用外部信息增强模型的知识,而微调则是更新模型的参数,使其更好地适应你的领域或任务。

当你拥有某个领域特定的数据时,微调特别有用。

案例:如果你想构建一个法律大模型,可以用法律文件、法律案例和合同等数据微调模型。使其在法律文件分析和合同审查中表现出色,能够快速识别潜在风险和异常条款,帮助律师更高效地完成工作。

4. 换一个大模型

除了上面的方法外,你还可以换一个模型,并非一定要拘泥于使用一个模型。

模型和模型之间能力有所差别。有些模型更擅长写出流畅的中文,有的则更擅长数据分析或者长文本处理、写代码。

不同大模型公司对大模型能力的描述

成本也有所差别。当然还有其他差别。

定价页面

深度求索:https://platform.deepseek.com/api-docs/zh-cn/pricing/

百度:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/hlrk4akp7

MinMax:https://platform.minimaxi.com/document/price?id=6433f32294878d408fc8293e

阿里:https://help.aliyun.com/zh/model-studio/product-overview/billing-for-alibaba-cloud-model-studio?spm=5176.28515448.J_aHwmq4rbOGdcDUYyNQ3GJ.1.1ce338b1MNKJ19&scm=20140722.X_data-14ce560b9a2a78db69e3._.V_1

智谱AI:https://maas.aminer.cn/pricing

月之暗面:https://platform.moonshot.cn/docs/price/chat#%E4%BA%A7%E5%93%81%E5%AE%9A%E4%BB%B7

OpenAI:https://openai.com/api/pricing/

Anthropic:https://www.anthropic.com/pricing#anthropic-api

你可以尝试不同模型,综合效果和成本等,找到最适合的模型。

选择模型时,需要想清楚希望AI执行哪些任务?需要达到怎样的准确性、响应速度或者成本?

一旦你有了候选模型,就可以开始测试它们。

输入样本数据,评估输出结果,并将其与预设的指标进行比较。尽量尝试不同的设置、参数或微调技术,看看每个模型的反应。

例如,一家电商公司在构建推荐系统时,通过测试不同的大模型,最终选择了一个既能提供高精准推荐,又能实时响应的模型,极大地提升了用户购物体验和销售转化率。

5. 使用多模态大模型

模型不仅仅只能处理文本,还可以处理图像、音频、视频等。多模态大模型可以同时处理文本、图像等。

很多应用场景需要多模态技术支持才能实现。比如,借助多模态技术,让视力受损的人能轻松浏览网络,甚至在真实世界中充当导航。

GPT-4V展示的多模态使用例子

假设你在开发一个内容创作平台,帮助博主和营销人员制作引人入胜的文章。有了多模态大模型,用户输入提示词,AI会生成一篇精美、用吸引力的文章,还会附带相关的图片。

目前多模态大模型正在快速发展中。

最后,综合运用多种方法

真正的魔力在于结合这些方法:提示词、RAG、微调、切换模型和使用多模态大模型。

利用每种方法的优势,并将其应用于文本和图像数据,以此用大模型提升你的生产力。

AI大模型学习福利

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

2024最新版优快云大礼包:《AGI大模型学习资源包》免费分享

一、全套AGI大模型学习路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

2024最新版优快云大礼包:《AGI大模型学习资源包》免费分享

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

2024最新版优快云大礼包:《AGI大模型学习资源包》免费分享

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img
因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

2024最新版优快云大礼包:《AGI大模型学习资源包》免费分享

四、AI大模型商业化落地方案

img

因篇幅有限,仅展示部分资料,需要点击下方链接即可前往获取

2024最新版优快云大礼包:《AGI大模型学习资源包》免费分享

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

从零开始:用LabVIEW和ModbusTCP协议,像搭积木一样连接Delta PLC 本文详细介绍了如何利用LabVIEW的图形化编程环境和ModbusTCP工业协议,快速连接Delta PLC实现数据通信。通过模块化配置和实战案例,指导读者无需编写复杂代码即可完成寄存器读取、多数据类型处理及系统监控,显著提升工业自动化项目的开发效率与部署速度。 阅读详情

相关推荐

论文理解【LLM-OR】——【OptMATH】A Scalable Bidirectional Data Synthesis Framework for Optimization Modeling

本文提出 LLM-OR 领域的双向数据合成框架 OptMATH,从已有 MF/PD 出发反向生成 NL,再使用 AutoFormulator 进行正向建模,通过最优值匹配 rejection sampling 确保语义一致性。实现了难度可控的语义一致数据合成

佚失的诗篇 499

大家都在说的AI大模型微调到底是什么?最易懂的AI知识科普!一篇为你解决对“微调”所有的疑问

当我们谈论AI,谈论人工智能领域时,经常会提到“模型微调”。这个词儿听起来可能有些专业,但它的的确确是解锁AI强大潜力,让AI更加精准地服务于我们的需求,推动人工智能落地的关键。 那么,究竟什么是模型微调?我们为什么需要对模型进行微调?它的作用表现在哪些方面?目前又有哪些主流的微调的方法呢? 今天,我们就用最白话的方式,带大家了解下这个“微调”,到底是在说什么?

bugyinyin的博客 1688

【论文复现】HiDDeN:Hiding Data With Deep Networks

(标签)是 float 类型,但代码中传入的是 long 类型(整数标签)。函数参数解析方式变化,导致无法正确保存生成的图像结果。这是因为新版torchvision的。使用预训练模型进行隐写和提取测试。HiDDeN支持多种噪声层组合。打印变量的类型,分别是。

qq_69146676的博客 971

AI大模型微调实操完整指南

文本摘要需要生成文本的简明版本,同时保留最重要的信息。为了微调文本摘要的 GPT,我们在包含文本及其相应摘要的数据集上对其进行训练。例如,谷歌开发了T5,这是一种基于GPT的模型,针对文本摘要任务进行了优化。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频,免费分享!

老皮的博客 2019

【机器学习】图神经网络(NRI)模型原理和运动轨迹预测代码实现

NRI模型利用VAE和GNN从观测数据中学习系统动态和交互图,展现出在无监督学习、图结构建模、多步预测和连续松弛方面的强大能力。未来工作可探索动态图结构学习、应用于更复杂系统、提高模型泛化能力和计算效率,以及与其他模型的结合。NRI作为新兴的图神经网络方法,在理解和预测相互作用系统方面潜力巨大,有望在各领域发挥重要作用。

MUKAMO的博客 2778

YOLOv12涨点改进 | 全网独家首发Conv改进篇 | Arxiv 2025 | 引入一种新的WConv加权卷积改进YOLOv12,显著提升其特征提取能力和目标检测精度

本文提出了一种新型加权卷积(WConv)模块,通过引入最优密度函数动态调整邻域像素权重,显著提升了YOLOv12目标检测性能。WConv在保持参数数量不变的情况下,提高了模型精度(VGG准确率提升10%)、增强了小目标检测能力,并改善了多尺度特征提取。文中详细介绍了模块原理、网络结构改进方法,并提供了核心代码实现和yaml配置文件。实验表明,该方法在图像任务中最高可降低53%的损失,虽然会带来11%的时间开销,但具有优异的鲁棒性。该技术可广泛应用于2D/3D图像处理领域。

Ai缝合怪、助力小伙伴高效发论文 215

提升大模型准确性的三种方法对比:提示词工程、知识库、微调

方法优点缺点适用场景提示词工程快速、低成本、灵活,能够快速调整模型输出仅限于任务表层优化,无法深层次改变模型行为文本生成、对话系统、信息检索等任务知识库扩展知识面,弥补模型知识缺口,可动态更新需要构建和维护,知识库不完整时可能导致错误输出问答系统、专业领域应用(如医疗、法律等)微调深度定制,能够针对特定任务或领域提高模型性能需要大量标注数据和计算资源,可能会引发灾难性遗忘问题分类、命名实体识别、专业领域问题处理等提示词工程。

q704013673的博客 3036

12、信号采样与Z变换的全面解析

本文全面解析了信号采样和Z变换的核心概念与应用。内容涵盖采样基础、采样频率与奈奎斯特率的关系、离散时间处理模拟信号的方法、采样率转换技术,以及Z变换的定义、性质、常见变换对和逆变换计算。通过实例分析和流程图展示,帮助读者深入理解数字信号处理的关键步骤,为相关领域的学习与应用打下坚实基础。

Jerry的专栏 118

大家都在说的AI大模型微调到底是什么?最易懂的AI知识科普!为你解决对“微调”所有的疑问

chatgpt说:模型微调(Model Fine-tuning)是指在已经训练好的模型基础上,针对特定任务或数据集进行调整,以获得更好的性能。通常情况下,模型微调是在预训练模型的基础上完成的,它可以提高模型在新任务或新数据集上的表现。举个例子,如下图,一个与训练出来的什么都会的小羊驼(大语言模型),又通过FineTuning微调,学习了到专业的知识和背景(领域知识),于是它变成了一个领域专家(行业大语言模型)微调,翻译自Fine tuning,简称FT,也被很多人称为“精调”。

python1234_的博客 2796

全面解析智能座舱芯片参数:高通 (SA8295)vs 联发科,真实案例一行行讲给你听!

使用场景推荐芯片中低端车型 + 1屏导航语音SA8155P / MT8628(性价比高)中控+副驾+仪表+全景影像SA8255P / MT8678(性能强)高阶自动驾驶+域控融合SA8295P(顶级安全+算力)

weixin_43199439的博客 2078

【重识云原生】第四章云网络4.7.5节vDPA方案——virtio的半硬件虚拟化实现

vDPA(vhost Data Path Acceleration)即是让virtio数据平面不需主机干预的解决方案。该框架由Redhat提出,实现了virtio数据平面的硬件卸载。控制平面仍然采用原来的控制平面协议,当控制信息被传递到硬件中,硬件完成数据平面的配置之后,数据通信过程由硬件设备(智能网卡)完成,虚拟机与网卡之间直通。中断信息也由网卡直接发送至虚拟机不需要主机的干预。......

junbaozi的专栏 2188

AI模型进行微调

【代码】AI模型进行微调。

qq_30796747的博客 786

最新Python爬虫实战(入门爬虫篇)——案例1:某瓣网站Top250图片数据采集(附上完整爬虫代码)

本次案例通过Python爬虫技术实现了某瓣Top250电影封面的批量下载。代码采用模块化设计,函数实现cookies的自动解析,简化了配置流程,涵盖请求、解析、存储的完整流程。学习重点包括:抓包工具定位数据源、正则表达式匹配图片链接、模拟请求头绕过反爬机制、以及自动化文件管理。需要注意控制请求频率并遵守网站使用规范,适用于入门爬虫实践。

努力让自己发光,对的人才能迎着光而来 16万+

使用AI大模型的正确姿势!接入知识库、微调,5种方法,总有一种适合你

真正的魔力在于结合这些方法:提示词、RAG、微调、切换模型和使用多模态大模型。利用每种方法的优势,并将其应用于文本和图像数据,以此用大模型提升你的生产力。

yXIAOyu_的博客 4673

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

AI大模型入门基础教程(非常详细),AI大模型入门到精通,收藏这一篇就够了!

AI大模型是指使用大规模数据和强大的计算能力训练出来的人工智能模型。这些模型通常具有高度的准确性和泛化能力,可以应用于各种领域,如自然语言处理、图像识别、语音识别等。

weixin_58753619的博客 6169

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

大模型微调的7种方法,零基础入门大模型(非常详细)看一篇就够了!

大模型微调的7种方法,零基础入门大模型(非常详细)看一篇就够了!

Java癫疯的博客 8651

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

大模型微调方法(非常详细),收藏这一篇就够了!

大模型微调方法(非常详细),收藏这一篇就够了!

Python单行客的博客 8276

大模型微调方法总结(非常详细)零基础入门到精通,收藏这一篇就够了

本文介绍了大模型微调的一些高效方法,国内大部分公司都是走的微调的路子。预训练难度也很大,这两年应届生有预训练经验的人凤毛棱角。但微调门槛低很多,单张卡就能微调13B的模型。有微调的经验面试应该还是比较加分的,甚至可以自己尝试微调一个LLaMA2 7B。如果简历里项目经历不够,这都可以包装成一份项目经历了。Anyway,希望读完本文各位对大模型微调方法有所了解。

h1453586413的博客 2477

大模型入门教程:从零基础到精通,非常详细收藏我这一篇就够了

掌握大模型技术,可应对复杂的数据分析任务,提升研究与工作的解决能力。学习大模型具备处理复杂性、具有泛化能力与灵活性,对求职者有显著提升。本教程从基础概念出发,包括大模型的优势与应用、基础知识学习建议、入门基础教程,以及分布式训练、有监督微调与AGI学习包等内容。通过推荐的学习资源与实战项目资料,引导读者深入学习并实践大模型技术,开启AI大模型之旅。

m0_63171455的博客 3545

【大模型微调】一文掌握7种大模型微调的方法, 零基础入门到精通,收藏这一篇就够了

本篇文章深入分析了大型模型微调的基本理念和多样化技术,细致介绍了LoRA、适配器调整(Adapter Tuning)、前缀调整(Prefix Tuning)等多个微调方法。详细讨论了每一种策略的基本原则、主要优点以及适宜应用场景,使得读者可以依据特定的应用要求和计算资源限制,挑选最适合的微调方案。大型语言模型(LLM)的训练过程通常分为两大阶段:阶段一:预训练阶段在这个阶段,大型模型会在大规模的无标签数据集上接受训练,目标是使模型掌握语言的统计特征和基础知识。

heaven522的博客 4034

零基础入门大模型微调,非常详细收藏我这一篇就够了!

本文为零基础用户提供了大模型微调的入门指南,重点介绍了LoRA(低秩适配)微调技术。文章首先解释了全参数微调和参数高效微调(PEFT)的区别,并详细说明了LoRA的原理、优势及适用场景。接着,文章通过SecGPT大模型的实例,逐步展示了如何准备算力资源、配置微调环境、定制数据集、进行训练与推理,并评估微调效果。文章还提供了完整的LoRA微调代码,帮助读者在实战中理解微调技术。最后,文章总结了微调过程中可能遇到的问题及评估模型效果的方法,帮助读者更好地掌握大模型微调技术。

2401_84204207的博客 1525

大模型零基础教程(非常详细),大模型入门到精通,收藏这一篇就够了!

大模型,是指在人工智能领域,特别实在自然语言处理和机器学习中,拥有大量参数的深度学习模型。这些模型通过在大规模数据集上进行训练,能够学到丰富的数据表示和模式,从而在各种任务上表现出色,如文本生成,语言理解,图像识别等。大模型是具有大量参数和复杂结构的模型,这些模型通常具数十亿甚至数万亿个参数,能够处理大规模的数据和复杂的任务。通常使用深度学习技术,如深度神经网络,可以从数据中学习并提取特征来执行各种任务。

h1453586413的博客 3886

大模型微调: SFT 经验分享(非常详细),零基础入门到精通,看这一篇就够了

大模型微调: SFT 经验分享(非常详细),零基础入门到精通,看这一篇就够了

Python单行客的博客 1万+
上一篇: 零基础想转行做程序员可行吗?
下一篇: 如何学习语言大模型(非常详细)零基础入门到精通,收藏这一篇就够了
程序员_大白
博客等级 码龄5年 1万+粉丝 4001原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值