一文读懂通用大模型、生成大模型与推理大模型的关系及区别详解

Open UI5 源代码解析之584:Engine.js 摘要(149字): Engine.js是OpenUI5个性化框架的核心协调器,位于sap.m.p13n命名空间。它作为运行时内核,统一管理状态变更、UI交互和持久化流程,而非直接实现具体业务逻辑。该模块采用单例模式,通过WeakMap维护控件实例状态,确保内存安全。核心能力包括:1)驱动个性化弹层交互;2)状态变更事件分发;3)差异计算与队列化处理;4)内外键映射解耦;5)环境自适应持久化策略。其设计实现了业务控件与个性化能力的低耦合集成,为表格、列表等组件提供一致的个性化体验,同时支持调试追踪和RTA设计 阅读详情

在人工智能技术飞速发展的浪潮中,通用大模型、生成大模型和推理大模型成为备受瞩目的焦点。这三类模型在 AI 领域各有专攻,既存在千丝万缕的联系,又有着清晰可辨的差异。深入探究它们之间的关系与区别,能帮助我们更好地驾驭 AI 技术,让其在实际应用中发挥更大价值。

图片

一、通用大模型(General Large Models, GLMs)

1、定义与特点

通用大模型是一种具备广泛任务适应能力的模型,通常通过大规模预训练和微调实现多任务处理。其核心特点包括:

  1. 大规模参数:参数量从数十亿到数万亿不等,借助海量数据的训练,获得了强大的泛化能力。像 GPT-3,拥有 1750 亿个参数,如此庞大的参数规模让它能学习到丰富的知识和语言模式,在多种自然语言处理任务中都有出色表现。比如在文本分类、情感分析等任务中,它能快速适应并给出准确结果。

  2. 多模态支持:部分通用大模型能够处理文本、图像、音频等多种数据形式,GPT-4o 就是典型代表。这种多模态处理能力让模型能更全面地理解和处理信息,为用户提供多样化服务。例如,它可以结合文本描述和图像内容,生成符合情境的解读或创作。

  3. 预训练 - 微调范式:先在大规模未标注数据上进行预训练,掌握通用的知识和模式,再通过微调,利用少量有标注的特定任务数据进行调整,以适配具体任务。在医疗领域,先使用通用大模型预训练,再用医疗专业数据微调,就能让它准确处理医疗文本、辅助诊断疾病等。

2、与其他模型的关系

通用大模型是生成大模型和推理大模型的基础框架。许多生成和推理大模型都是在其基础上发展而来,通过调整训练目标或架构,来侧重生成或推理能力。以 GPT 系列为例,它本身是通用大模型,当侧重生成能力时,能创作出高质量的文章、故事、对话等;侧重推理能力时,则可解决复杂逻辑问题、进行数学推理等。

二、生成大模型(Generative Models)

1、定义与特点

生成大模型的核心在于学习数据的联合概率分布,进而生成新的样本,在文本生成、图像创作等领域有典型应用,GPT 系列、GAN(生成对抗网络)、VAE(变分自编码器)等都是其代表模型。

  1. 核心机制:通过学习数据的联合概率分布来生成新数据,而非直接进行分类或预测,ChatGPT 的文本生成就是如此。它基于 Transformer 架构,在大量文本数据中学习语言的概率分布规律,从而能根据输入提示生成连贯、合理的文本。比如给它一个 “写一篇关于春天的散文” 的提示,它能生成优美流畅的散文。

  2. 与通用大模型的从属关系:多数生成大模型属于通用大模型的子集。像 ChatGPT 作为通用大模型,生成能力是其核心功能之一;但也有一些专用生成模型,如 GAN,它主要用于图像生成领域,由生成器和判别器组成,二者相互对抗、不断优化,生成高质量图像,不过它不强调多任务通用性。

三、推理大模型(Reasoning Models)

1、定义与特点

推理大模型着重于逻辑推理和复杂问题解决能力,在数学、排序、决策等任务中追求准确性和效率,DeepSeek R1、Grok3 等模型在逻辑测试中表现突出。

  1. 技术优化:通过指令微调、增强训练数据等方式提升推理能力,混合思维链技术就是常用方法。该技术能让模型在处理问题时,生成一系列推理步骤,更好地理解问题并找到解决方案。例如解决数学难题时,模型会逐步分析问题、选择公式、进行计算,最终得出正确答案。

  2. 应用场景:广泛应用于数学解题、代码生成、工业决策支持等领域。在数学解题中,能理解题意并运用知识推导答案;在代码生成方面,可根据需求描述生成符合要求的代码;在工业决策支持中,能分析各类数据和条件,为企业提供合理决策建议。

2、与通用大模型的交叉

推理能力是通用大模型的重要分支。许多通用大模型通过改进架构和训练方法,在推理任务中表现良好。GPT-4 通过架构改进,在多步推理任务中更出色;而专用推理模型如 HiGPT,通过异质图指令微调,将领域知识融入训练和推理过程,强化了特定领域的推理能力,在该领域的推理任务中专业性和准确性更强。

图片

四、三者的核心关系

1、 功能层级
  1. 通用大模型是基础框架:它拥有强大的知识储备和多任务处理能力,为生成大模型和推理大模型提供支撑,如同一个全能的 “智慧引擎”,能为不同应用场景赋能。

  2. 生成和推理大模型是通用大模型的优化分支:生成大模型专注于生成新数据样本,满足内容创作、创意设计等需求;推理大模型侧重逻辑推理和复杂问题解决,为决策支持、科学研究等领域助力。比如 ChatGPT,既可以生成文本,经过微调增强推理能力后,又能解决复杂逻辑问题。

2、技术路径差异
  1. 生成大模型:依赖联合概率分布生成新数据,需要大量语料训练。文心一言在中文生成方面表现优秀,就是因为在大量中文文本数据上训练,准确把握了中文的语言特点和表达习惯,能生成符合中文语境的文本。

  2. 推理大模型:需要结合逻辑规则或知识图谱,还通过数据增强解决数据稀疏问题。HiGPT 构建异质图结构,将领域内实体和关系整合,让模型更好地利用领域知识推理,同时通过增加推理步骤示例等数据增强技术,提高推理能力。

3、应用场景互补
  1. 生成大模型:适用于内容创作、对话交互等场景。在内容创作上,能生成各类文本,为创作者提供灵感;在对话交互中,能与用户自然交流,解答问题、进行情感沟通等。

  2. 推理大模型:适用于决策支持、复杂计算等场景。在决策支持方面,分析各类数据为企业决策提供依据;在复杂计算中,运用逻辑和数学知识解决科学、工程等领域的计算问题。

  3. 通用大模型:通过多模态和微调实现生成与推理能力的融合。GPT-4o 能同时处理文本、图像等数据,在生成文本时结合图像信息进行推理创作,为用户提供丰富全面的服务。通过微调,它能根据具体场景灵活调整能力,实现功能融合。

五、未来发展趋势

  1. 融合化:通用大模型将整合生成与推理能力,借助多模态输入增强复杂问题解决能力。未来的通用大模型不再局限于单一功能,能同时具备强大的生成和推理能力,通过接收文本、图像、音频等多模态信息,更全面地理解问题,提供精准丰富的解决方案。

  2. 垂直化:行业大模型如焱宇,将通过领域知识库优化生成和推理精度,解决通用模型的 “幻觉” 问题。通用模型在特定领域可能会生成或推理出不符合实际的结果,而行业大模型深入学习领域知识,能提高精度,更好地满足行业需求。

  3. 效率优化:推理成本的降低,如第四范式的 SageOne IA 一体机的应用,以及模型压缩技术的发展,将推动这三类模型大规模落地。推理成本高曾限制推理大模型的应用,而相关技术的出现和发展,能提高模型运行效率,让它们在更多领域发挥作用。

六、总结

通用大模型是人工智能的 “全能平台”,生成和推理大模型则是其在不同任务中的专业化延伸。未来,三者将进一步融合,通过垂直领域优化、算力提升等技术突破,推动 AI 向更高效、更智能的方向迈进。在实际应用中,我们要根据具体任务需求和场景,选择合适的模型,充分发挥它们的优势,为各领域发展带来新机遇。

七、如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

https://img-blog.csdnimg.cn/img_convert/05840567e2912bcdcdda7b15cba33d93.jpeg

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

https://img-blog.csdnimg.cn/img_convert/05840567e2912bcdcdda7b15cba33d93.jpeg

langchain入门学习笔记 langchain快速入门 阅读详情

相关推荐

Pywinauto与Inspect.exe完美搭配:解决Windows应用UI自动化中的元素定位难题

本文详细介绍了如何将Pywinauto与Inspect.exe结合,以解决Windows应用UI自动化中的核心难题——元素定位。通过实战指南,阐述了如何利用Inspect.exe在UIA模式下精准侦察控件属性,并将这些信息转化为Pywinauto的稳健定位策略,从而高效自动化WPF、WinForms等现代框架构建的复杂桌面应用。

weixin_29297127的博客 520

通用大模型与垂直大模型

通用大模型(General-purpose Large Models)是指那些设计用来处理多种任务和数据类型的大型人工智能模型。通常在大量文本、图像、声音等多模态数据上进行训练,以便能够理解和生成多种格式的内容。通用大模型的核心特点是它们的灵活性和广泛适用性,可以不需要或者只需很少的适配和定制就能应用于多个不同的领域和应用场景。垂直大模型(Vertical Large Models)是指针对特定行业或领域定制的大型人工智能模型。

与时俱进,一专多能。 7005

python爬虫豆瓣读书top250+数据清洗+数据库+Java后端开发+Echarts数据可视化(二)

之前的博客已经写了python爬取豆瓣读书top250的相关信息,接下来继续看如何清洗数据。 如果有没看懂的或是不了解上一部分说的是什么内容的,请看https://blog.youkuaiyun.com/qq_45804925/article/details/112848887 现在开始具体内容的复习: 1. 豆瓣读书top250信息预处理 #数据清洗 import pandas as pd import re import time # 先读取数据文件 data = pd.read_csv('E:/Class/商.

qq_45804925的博客 4442

中国AI新势力——22个通用大模型全盘点!

近年来,随着人工智能技术的飞速发展,中国在大模型领域崭露头角,涌现出了一批具有国际竞争力的通用大模型。这些模型不仅在中文自然语言处理方面展现出色,也在多模态理解、图像处理、对话系统等多个领域表现优异。今天,我为大家盘点了22个代表中国AI实力的通用大模型,让我们一起来看看这些AI腾讯混元大模型(Hunyuan)是腾讯公司推出的一款先进的通用大模型平台,旨在为企业和开发者提供强大的自然语言处理(NLP)和人工智能(AI)能力。

2401_85375186的博客 4660

旋转矩阵推导

推导前提: 坐标使用右手坐标系,角度逆时针旋转为正。 绕X轴旋转角度为 俯仰角 即Pitch 绕Y轴旋转角度为 偏航角 即Yaw(Head) 绕Z轴旋转角度为 翻滚角 即Roll 一、平面二维坐标点的旋转 如右图所示,根据三角函数关系,可以列出向量OP与OP’的坐标表示形式: x = |OP|•cosα x′ = |OP|•cos(α+β) y = |OP|•sinα y′ = |OP|•sin(α+β) 将P′(x′,y′)表达式展开: x′ =

suixinger_lmh的随笔 1384

【福建dem】原始高程数据tif格式

DEM(Digital Elevation Model,数字高程模型)是一种地理信息系统中的关键数据集,它提供了地表地形的三维信息,通常用于分析地貌特征、模拟水文过程、规划建设、灾害预警等多个领域。这种数据对于地理分析非常有价值,例如,它可以用于计算坡度、坡向、地形粗糙度等地形特征,或者进行洪水模拟、地质灾害评估、太阳能辐射分析等。“福建dem原始高程数据tif格式”是研究和理解福建省地形地貌的重要资源,结合GIS工具,可以揭示丰富的地理信息,为科研、工程和决策提供有力支持。

鸿业远图科技 943

通用大模型与垂直大模型:双轨并进的人工智能未来

通用大模型和垂直大模型的分析比较

卓越之识论道,平常之识论事,狭隘之识论人 2311

【硬核指南/MI50 32G/Ubuntu】从零部署大模型:MI50显卡Ubuntu系统驱动安装与避坑全记录

本文详细记录了在Ubuntu系统上为AMD MI50显卡安装驱动并部署大模型的完整流程,包括硬件兼容性检查、BIOS关键设置、系统安装优化、ROCm驱动安装及常见问题解决方案。特别针对MI50显卡在X99平台上的特殊配置需求提供了实用技巧,帮助用户避免常见陷阱,提升大模型训练效率。

weixin_42520909的博客 806

推理大模型 VS 通用大模型:一文读懂两者之间的区别!

随着人工智能技术的飞速发展,大模型已成为推动行业变革的重要力量。在众多大模型中,推理大模型和通用大模型备受关注,它们在不同领域发挥着关键作用。这两类模型有何区别,在实际应用中又该如何选择?接下来,让我们一文读懂。

ytt0523_com的博客 2704

数字IC后端PPA优化实战:Timing一致性策略与Module Region布局技巧

本文深入探讨了数字IC后端设计中的PPA优化实战,重点解析了Timing一致性问题及其解决方案。通过调整Clock Uncertainty、Timing Derate和RC Scale Factor等关键参数,使Innovus等PR工具的分析结果更接近PrimeTime签核结果。同时,文章详细介绍了Module Region布局技巧,通过为关键模块划定物理区域,优化单元摆放,有效减少线延迟,从而协同提升时序收敛效率与设计可预测性。

weixin_29218963的博客 203

手把手式介绍 ADNI 影像数据下载

1.搜索 1.1登录 打开ADNI的官网:http://adni.loni.usc.edu/,进入下面的界面。 点击 DATA&SMPLES 下的 ACCESS DATA AND SAMPLES,如下图。 页面跳转以后点击中间的“LOGIN”,这时会跳出一个新的界面,然后在右上角输入自己的帐号、密码即可。如果没有权限可以跳转到第2部分看看如何申请权限。 登录以后选择DOWNLOAD下的 Image Collections就是搜索下载影像数据,其他还有一些学习测试数据和遗传数据。 1.2 sea

永远想不起来更新的博客 1万+

【大模型技术】一文读懂!推理大模型与非推理大模型的区别

推理大模型和非推理大模型并非孤立存在,它们在很多场景下可以相互补充。在智能教育领域,推理大模型可以帮助学生进行数学、物理等学科的逻辑推理学习,非推理大模型则可以辅助学生进行语文、英语等学科的语言学习和创意写作。随着技术的不断发展,未来或许会出现融合二者优势的新型大模型,为我们带来更多的惊喜和变革。无论是追求逻辑严谨的专业领域,还是充满创意的内容创作领域,大模型都将持续为我们的生活和工作带来更多便利与可能。

1762

回声消除AEC初探

那段保留即可——在播放期间把麦克风关闭(软件层面的 mute),同样能根除回声,只是会失去“一句话期间仍能捕获背景噪声”的能力。如果还有更细节的需求(比如多语言 TTS、实时流式 ASR),欢迎继续交流。的完整示例,可直接拷贝、改造、集成到你现有的 LLM‑TTS 对话系统中。实际效果取决于用户设备的硬件与驱动,若仍有回声,可让用户佩戴。把扬声器信号(把播放音频拷贝给 AEC)从麦克风流中减去。:TTS 播放的声音被同一个麦克风再次捕获,导致声学回声。三种实现示例,帮助你快速落地。,几乎可以消除所有回声。

NLP与推荐算法 571

一文读懂【机器学习】与【大模型】的关系与区别

本文通俗解析了机器学习与大模型的关系及区别。机器学习是让计算机从数据中自动学习规律的技术,发展历经理论奠基、概念诞生、统计学习繁荣和深度学习崛起四个阶段。大模型属于机器学习的子集,是深度学习在"大数据、大参数、大算力"下的高阶形态。二者核心区别在于:传统机器学习擅长专用场景(如金融风控、推荐系统),具有高效、可解释、低成本优势;大模型则擅长通用任务(如自然语言处理、内容生成),具备强大理解和生成能力。二者并非替代关系,而是互补共存,未来将协同推动AI技术发展。

春风化雨 1583

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

【收藏必备】一文读懂基础模型与通用大模型的区别:程序员必学的大模型核心技术指南

厘清“基础模型”与“通用大模型”的关系,首要前提是明确:二者并非非此即彼的对立概念,而是源于不同观察维度的描述。“基础模型”是典型的学术技术概念,核心指向模型的底层能力与技术定位;“通用大模型”则更偏向产品商业概念,聚焦模型的实际应用价值与用户使用体验。

weixin_72959097的博客 1217

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

推理模型和普通大模型老混淆?一文读懂二者区别!【建议收藏】

本文将深入探讨推理大模型与普通大模型的差异,帮助读者更好地理解和应用这两种强大的技术。

weixin_59191169的博客 1404

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

一文读懂大模型RAG:检索、增强与生成的技术详解

摘要: RAG(检索增强生成)技术通过结合大模型的生成能力与实时信息检索,有效缓解了通用大模型的“幻觉”问题(如事实错误、知识局限等)。其核心流程包括:1)从外部知识库检索相关文档;2)将检索结果与大模型提示词结合;3)生成更准确的专业回答。相比微调方案,RAG成本更低且能动态更新知识,适用于金融、医疗等需高准确性的场景。本文通过手机产品对比案例,展示了RAG如何通过外部知识补充提升回答可靠性,并详细解析了其技术架构与工作流程。(149字)

m0_59485658的博客 861

一文读懂!大模型训练、微调、推理,GPU 选卡核心要点

近期,社群中不少小伙伴提出了想多了解一点大模型训练、微调、推理的相关知识,以及各个环节如何选择GPU,本文尝试对相关问题进行深度解析,本文介绍了大模型训练、微调、推理的基本原理及相关概念,以及它们之前的关系,大致介绍了训练、微调、推理的过程,以及主流大小GPU的相关参数,提出训练、微调、推理所采用的GPU的区别。只是后训练通常由模型提供商负责,会在出厂前进行预训练和后训练,以便把模型打造成可交付的状态,而微调这种后训练,一般由模型使用者(甲方自己的技术团队或技术厂商)进行,以便实现领域垂直大模型。

weixin_46880696的博客 2640

一文读懂推理大模型与普通大模型的区别:从架构到应用场景全方位解析!

本文详细对比了推理大模型与普通大模型的核心区别。推理大模型会展示思考过程,基于Transformer架构优化并引入链式推理结构,通过高质量结构化数据训练,擅长处理复杂逻辑问题;普通大模型直接输出答案,采用预训练和微调策略,适用于客服、翻译等任务。推理大模型虽有优势但也存在"过度思考"导致的幻觉风险,未来两者融合可能成为趋势。

weixin_55154866的博客 736

一文读懂:大模型训练、微调、推理的 GPU 选卡核心要点

一文读懂:大模型训练、微调、推理的 GPU 选卡核心要点

优快云_224022的博客 1959

一文读懂大模型RAG:检索、增强与生成的技术详解,非常详细收藏我这一篇!

RAG(Retrieval-Augmented Generation,检索增强生成)」是一种结合了检索和生成技术的自然语言处理(NLP)模型。该模型由Facebook AI提出,旨在提升生成式模型在处理开放域问答、对话生成等任务中的性能。RAG模型通过引入外部知识库,利用检索模块(Retriever)从大量文档中提取相关信息,并将这些信息传递给生成模块(Generator),从而生成更加准确和有用的回答或文本。

2401_84204413的博客 1472

【深度收藏】一文读懂大模型与大语言模型的关系与区别

当我们谈论大型语言模型时,我们指的是一种能够以类似人类语言的方式“说话”的软件。这些模型非常惊人——它们能够获取上下文并生成不仅连贯而且感觉像是来自真实人类的回复。这些语言模型通过分析大量的文本数据并学习语言使用的模式来工作。它们利用这些模式生成的文本几乎无法与人类所说或写的内容区分开来。如果您曾与虚拟助手进行聊天或与人工智能客户服务代理进行互动,您可能会在不知不觉中与大型语言模型互动过!这些模型有广泛的应用,从聊天机器人到语言翻译到内容创作等。一些最令人印象深刻的大型语言模型由 OpenAI 开发。

AI大模型的博客 666

一文读懂大模型RAG:检索、增强与生成的技术详解,收藏这一篇就够了!!

大模型(Large Language Model,LLM)的浪潮已经席卷了几乎各行业,但当涉及到专业场景或行业细分领域时,通用大模型往往面临专业知识不足的问题。相对于成本昂贵的“Post-Training”或“Supervised Fine-Tuning”(监督微调,SFT),基于RAG的技术方案成为了一种更优选择。

2401_85325557的博客 988
上一篇: 传统产品经理 VS AI 产品经理:超全解析,一篇收藏搞定所有对比
下一篇: 【大模型面试】50道大型语言模型(LLM)面试问题汇总,看完少走99%弯路!
冻感糕人~
博客等级 码龄3年 8926粉丝 2384原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值