李宏毅生成式 AI 导论:最好的 LLM 大模型教程!

【研0深度学习】李宏毅2024春《生成式人工智能导论》持续更新... 生成式人工智慧的目的不是进行做有结果的分类,而是使机器生成复杂有结构的物件。今天的生成式人工智慧多以深度学习构成。以现如今流通最广泛的ChatGPT为例,GPT可以看作一个函数,输入图片、语音或者文字等,“创造性”地输出结果。这里的“创造性”的实现是将问题拆解成一连串的文字进行接龙,转化为分类问题。对于每个结果都有概率,在这个概率的基础上掷骰子,进行输出。如下图所示有百分之五十的概率输出“学”字。那么问题来了,如果每次输出概率最大的不行吗? 阅读详情

李宏毅教授的《生成式AI导论2024》是2024年春季在台湾大学开设的一门系统性课程,重点围绕生成式人工智能(Generative AI)的基础理论、技术演进及实践应用展开。

图片

一、课程概况

课程定位:面向生成式AI的入门到进阶学习者,涵盖生成式模型的基础原理、大型语言模型(LLM)的演化、微调技术(Fine-tuning)、提示工程(Prompt Engineering)等核心内容。

图片

课程总共包含18节,10次作业,还有14个扩展视频。

授课形式:课程以视频为主,配套PPT、作业及代码实践,部分资源通过课程主页及GitHub开源共享。

课程主页:

https://speech.ee.ntu.edu.tw/~hylee/genai/2024-spring.php

二、课程内容与结构

课程共分为多讲,核心主题包括:

1. 生成式AI基础:定义生成式AI与分类问题的区别,探讨其挑战(如从海量可能性中生成合理结果)。

2. 大型语言模型(LLM)发展史:从预训练(Pre-training)到指令微调(Instruction Fine-tuning),分析ChatGPT和LLaMA等模型的演化。

3. 技术细节:

生成策略:文本、图像、语音的生成方式差异(如逐字生成 vs. 一次性生成)。

模型优化:LoRA、Adapter等参数高效微调方法,思维链(Chain-of-Thought)对模型性能的提升。

4. 实践应用:通过作业实现LLM微调(如让模型生成唐诗)、Prompt工程开发应用等。

三、课程亮点

教学风格:李宏毅以通俗易懂的讲解著称,常结合动漫案例(如精灵宝可梦)阐释复杂技术,降低学习门槛。

实践导向:强调从理论到代码的完整链路,例如通过微调模型实现特定任务,并分析模型参数与显存的关系。

前沿覆盖:涉及GPT-4o、Diffusion模型、伦理问题等最新议题。

四、学习路径

1. 观看视频并配合PPT理解理论;

2. 完成作业巩固实践;

3. 参考社区笔记及开源代码深化理解。

五、资源获取

中文课程入口:

【李宏毅大模型】2025李宏毅教授AI全栈系统课程,一口气把最新生成式AI教程讲清楚,入门到实战,通俗易懂,一套全解决!_哔哩哔哩_bilibili

图片

 如何系统的去学习大模型LLM ?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

事实上,抢你饭碗的不是AI,而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后,很多中小企业也陆续进场!超高年薪,挖掘AI大模型人才! 如今大厂老板们,也更倾向于会AI的人,普通程序员,还有应对的机会吗?

与其焦虑……

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高。

基于此,我用做产品的心态来打磨这份大模型教程,深挖痛点并持续修改了近70次后,终于把整个AI大模型的学习门槛,降到了最低!

在这个版本当中:

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲,跟着我做即可,为了让学习的道路变得更简单,这份大模型教程已经给大家整理并打包,现在将这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点,那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集,涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程(LLaLA/Meta/chatglm/chatgpt)

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1:AI大模型时代的基础理解

  • 目标:了解AI大模型的基本概念、发展历程和核心原理。

  • 内容:

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2:AI大模型API应用开发工程

  • 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。

  • 内容:

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3:AI大模型应用架构实践

  • 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。

  • 内容:

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4:AI大模型私有化部署

  • 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。

  • 内容:

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码领取🆓↓↓↓

​

李宏毅【生成式AI导论 2024】第6讲 大型语言模型修炼_第一阶段_ 自我学习累积实力 背景知识:机器怎么学会做文字接龙 详见:https://blog.youkuaiyun.com/qq_26557761/article/details/136986922?spm=1001.2014.3001.5501 在语言模型的修炼中,我们需要训练资料来找出数十亿个未知参数,这个过程叫做训练或学习。找到参数后,我们可以使用函数来进行文字接龙,拿这组参数来使用叫做测试或者是叫做推论。 语言模型学习的三个阶段虽然训练资料不同,但都是在学习文字接龙,所有阶段做的事情是一样的。 机器学习中找参数的挑战 在机器学习中,寻找 阅读详情

相关推荐

李宏毅【生成式AI导论 2024】第1讲:生成式AI是什么?

人工智慧可以说是一个目标,是一个我们想要达到的目标。它不是一个单一的技术,并没有哪一个技术叫做人工智慧,人工智慧是一个目标。

拥抱变化,探索AI,了解AI,使用AI~ 1518

台湾大学李宏毅机器学习课程

李宏毅((Hung-yi Lee)目前任台湾大学电机工程学系和电机资讯学院的助理教授,他曾于2012年获得台湾大学博士学位,并于2013年赴麻省理工学院(MIT)计算机科学和人工智能实验室做访问学者。他的研究方向主要是语义理解、语音识别、机器学习和深度学习)老师的机器学习课程以机器学习和深度学习的基础知识为主,包含了AI领域的各种最新知识和技术点。课程深入简出,通俗易懂,颇受欢迎,非常适合对AI感兴趣的学习者。本课程已经获得李宏毅老师授权。

李宏毅2025春季生成式AI与Agent课程学习笔记精粹

本文精粹了李宏毅2025春季生成式AI与Agent课程的核心内容,涵盖从传统机器学习到生成式AI的全面转向、大模型原理的认知脚手架、Agent开发的实战方法论等。课程通过生动的案例和工业级代码示例,帮助学习者深入理解生成式AI技术及其应用,特别适合机器学习爱好者和AI开发者。

weixin_29070861的博客 433

李宏毅学习笔记——2024春《GENERATIVE AI》篇(已完结)

李宏毅学习笔记——2024春《GENERATIVE AI》篇

a131529的博客 1万+

汇川AM系列PLC玩转CNC:手把手教你用File模式读取G代码文件(附避坑指南)

本文详细介绍了如何使用汇川AM系列PLC的File模式读取G代码文件,涵盖从CAD设计到PLC配置的全流程。特别针对路径格式、文件类型等常见问题提供避坑指南,帮助工程师快速实现CNC加工的自动化控制。

weixin_33582311的博客 408

山东专升本计算机网络基础知识点 --- 计算机网络基础

计算机网络是指将一群具有独立\textcolor{WildStrawberry}{独立}独立功能的计算机通过通信设备及传输媒体等互联起来,在通信软件的支持下,实现计算机间资源共享、信息交换或协同工作\textcolor{WildStrawberry}{资源共享、信息交换或协同工作}资源共享、信息交换或协同工作的系统。计算机网络是计算机技术和通信技术紧密结合的产物\textcolor{WildStrawberry}{计算机网络是计算机技术和通信技术紧密结合的产物}

z339521的博客 2815

李宏毅 生成式人工智能导论 学习总结

第1-6讲:基础与核心概念生成式AI是啥?学习数据分布 P(X)P(X) 的模型,用于生成内容。LLM是其重要分支,核心是“文字接龙”。LLM的进化:从“工具”到“工具人”。它不仅能理解、归纳,还能推理、创作,甚至“使用工具”(如调用搜索引擎、计算器等)。面对LLM,我们的策略Prompt Engineering(提示工程)不会编程也能用,通过精心设计输入提示(Prompt)来引导模型输出 desired 的结果。这是“训练你自己”去适应模型。Fine-tuning(微调):让预训练好的大模型。

m0_52981838的博客 1723

麦当劳app之sign逆向分析

摘要:本文分析了麦当劳APP请求参数sign的逆向过程。通过抓包发现32位sign参数疑似MD5加密,使用frida-trace工具跟踪CC_MD5函数验证其为标准MD5算法。加密参数包含时间戳、token、版本号等固定和动态字段,拼接后经MD5加密生成sign。文章提供了JS和Python两种实现方案,包含完整的请求头参数和加密逻辑,最终成功获取API响应数据。该研究仅用于逆向技术学习,展示了移动应用常见加密参数的逆向分析方法。

佛系更新... 2444

【李宏毅-生成式AI导论2024】公认最好的LLM大模型教程!

李宏毅教授的《生成式AI导论2024》是2024年春季在台湾大学开设的一门系统性课程,重点围绕生成式人工智能(Generative AI)的基础理论、技术演进及实践应用展开。

红色石头的专栏 1283

RocketMQ 为什么要自己做一个 NameServer ?RocketMQ 5.x 版本中的 proxy、controller 和 container 分别有什么用 ?

1.独立运行的分散结构 2.简化实现,容忍部分数据不一致 Proxy:多语言支持、简化开发 Controller: 提高 Broker 的性能 Container:提高资源利用率,平衡负载

xaiobit_hl的博客 1490

一文讲透什么是ADC/DAC中的DDC、DUC、采样率以及数据率等概念

摘要:ADC/DAC中的采样率与数据率概念不同,采样率是转换器的时钟速率,而数据率是数字输出的实际速率。抽取通过滤波降低数据速率,提升信噪比但牺牲带宽;内插则通过插零和滤波提高采样率,将镜像信号移远但增加延迟和功耗。JESD204B标准的高速转换器需平衡通道数与串行速率,内插/抽取技术是关键。文章还解析了DDC、DUC的应用及优缺点,为高速数据转换设计提供参考。(150字)

weixin_49761275的博客 4273

LLM导论(李宏毅课程笔记)

1.生成式人工智能: 能产生复杂有结构,较难穷举的事物。分类不是生成式人工智能2.机器学习:从数据中学习得一个函数(范式),即自己找出函数的参数。深度学习算机器学习的一部分(文中所有图源:李宏毅LLM课)对于大语言模型,要产生训练时没有看过的答案。chatGPT:(生成式预训练transformer)序列生成文字,对于下一个文字采用掷骰子的方法预测,而非直接选概率最大的。token:开发者设计的GPT:空有资料储备,只经过预训练(自监督学习),回答问题能力不强。

m0_74134473的博客 1467

阿里云天池大数据长期赛:金融风控-贷款违约预测(含代码)

本次比赛让自己在大数据的处理流程上有了更明确的认知,从数据清洗、特征工程、数据建模,每一个过程都能学到很多经验和知识,值得去历练。

weixin_46685991的博客 1万+

LLM大模型-李宏毅

大模型基础知识

一去不复返的通信er 1916

OpenOCD入门到精通:第28章 综合实战:RISC-V 调试

RISC-V调试实战摘要 本文介绍了RISC-V调试规范及其在OpenOCD中的实现。主要内容包括: RISC-V Debug规范的两个版本(0.11和0.13)及其差异,OpenOCD通过自动检测DTMCS寄存器版本号选择对应驱动实现。 RISC-V调试架构的分层设计,包含DTM、Debug Module、Program Buffer等核心组件,以及三种内存访问方式(progbuf、sysbus、abstract)。 以GD32VF103为例的实战调试配置,包括硬件连接、OpenOCD配置文件编写和GDB

从事嵌入式linux android驱动开发,拥有全栈能力 285

【自适应调制】自适应调制解调通信链路误码率matlab仿真与分析

BPSK中的B是“Binary”的意思,也就是有两个变化状态,比如说相位上的“+90°(代表1)、-90°(代表0)”,一个状态代表的就是一个比特。QPSK的“Q”是“Quadrature”的意思,有四个变化状态,如相位上的“+45°(代表00)、-45°(代表11)、+135°(代表10)、-135°(代表01)”,那么一个状态就代表两个比特的信息,如图2所示。同理8PSK的一个状态代表三个比特。但是功率资源并不是无限的,基站总的发射功率是一定的,为了充分利用所有的功率,采用的就是AMC技术。

FPGA/MATLAB学习教程/源码/项目合作开发 1834

学 AI,推荐你看这两门课(吴恩达&李宏毅)

了解AI的第一步,个人观点是系统性的学习,不要碎片化的输入。所以一开始,就去系统的看几本书,听几门好课。

2301_81888214的博客 1740

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

学 AI大模型,必须推荐你看这两门课(吴恩达&李宏毅)

如果你打算学AI,却是只靠刷短视频来学,虽然可以知道一些信息,但也只是看个热闹图个乐呵。

2301_81888214的博客 1247

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

生成式AI时代zui值得听的中文课!--李宏毅大佬

同时课程详细介绍了。

HJS123456780的博客 830

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

李宏毅《生成式人工智能导论》 | 第9讲 AI Agent 原理 - 让AI村民组成虚拟村庄会发生什么

本文探讨了AI Agent(人工智能代理)的发展趋势与应用前景。AI Agent指能够执行多步骤复杂任务、制定和调整计划的智能系统,如语言模型操控机器人或自动驾驶等。理想的AI Agent应具备感知环境、制定计划、执行行动、学习经验并调整策略的能力,形成"感知-计划-行动-反思"的闭环。文章还介绍了ChatGPT的持久记忆功能,通过摘要存储关键信息实现跨对话记忆,以及RAG(检索增强生成)技术如何结合外部知识提升回答准确性。这些进展展示了大型语言模型在构建复杂AI Agent方面的潜力。

好好学习天天向上 573

AI-Guide-and-Demos-zh_CN与李宏毅课程同步学习指南:生成式AI导论作业全解析

AI-Guide-and-Demos-zh_CN是一份全面的AI/LLM大模型入门指南,包含丰富教程和演示代码,特别提供了与李宏毅2024生成式人工智能导论课程同步的中文镜像作业,让学习者从API调用到本地模型部署和微调逐步深入,即使没有显卡也能通过Kaggle或Colab在线版本进行实践学习。 ## 课程与项目完美结合:为什么选择AI-Guide-and-Demos-zh_CN? 李宏毅老师

gitblog_00513的博客 352

李宏毅【LLM大模型】教程核心内容总结

【李宏毅】2024年公认最好的【LLM大模型】教程!大模型入门到进阶,一套全解决!2024生成式人工智慧-附带课件代码_哔哩哔哩_bilibili【李宏毅】2024年公认最好的【LLM大模型】教程!大模型入门到进阶,一套全解决!2024生成式人工智慧-附带课件代码共计41条视频,包括:1.第0讲:课程说明、2.第1讲:生成式AI是什么、3.(延申)80分钟快速了解大型语言模型等,UP主更多精彩视频,请关注UP账号。

akiakiapple的博客 1422

李宏毅LLM大模型——自学笔记(第1讲)

中文常用字的个数是有限的,我们只要在文字库中找到合适的文字,再将这个文字放在原本问题后面,找到下一个合适的单词,循环下去,直至机器觉得没什么好输出了,就输出结束的符号。再输入一个没见过的x给函式,函式推测出y的值,这叫做测试。找到参数后,把参数代入到函式中,就知道函数长什么样,再输入一张新的图片给函式,看函式推测出什么,这叫做。通过不断输入猫和狗的图片,同时输入图片的标注,机器学习就可以把上万个参数找出来。原本在做生成式AI时,认为是一个很难的问题,因为一段100字的句子是无法穷尽的。

qq_61251579的博客 914

李宏毅大模型教程:从Transformer到生成式AI实践

Transformer架构作为现代大语言模型的核心基础,通过自注意力机制实现了对长序列数据的高效建模。其关键技术包括多头注意力计算、位置编码和残差连接等模块,这些设计使得模型能够捕捉输入数据中的复杂依赖关系。在工程实践中,分布式训练、混合精度计算和内存优化等技术大幅降低了训练大模型的硬件门槛。生成式AI基于这些技术突破,在自然语言处理、代码生成等场景展现出强大能力。李宏毅的教程从PyTorch实现出发,结合LoRA微调等实战技巧,为开发者提供了快速掌握大模型开发的有效路径。

weixin_30411239的博客 320

这是一个中文的 AI/LLM 大模型入门项目 李宏毅2024春《生成式人工智能导论》HW3

在此任务中,你需要将你的聊天机器人变为一个摘要器。它的工作是当用户输入一篇文章时,能够为用户总结该文章的内容。你需要完成以下步骤:设计一个用于生成摘要的提示词,并填写在中。点击运行按钮, 这将弹出一个可交互的界面。你可以找到一篇文章或使用当前的示例文章:《从百草园到三味书屋》,并将其填写在标记为“文章”的输入框中。点击“发送”按钮生成文章的摘要。(你可以使用“温度”滑块来控制输出的创造性,温度越高,输出越具创造性)。如果你想更改提示词,可以停止单元格,返回到TODO部分进行更改,然后再次运行。

qq_42589506的博客 1318

LLM大模型零基础全套入门-台大李宏毅《生成式人工智能导论》

chatgpt用的模型就是transformer。

qq_17777705的博客 232
上一篇: 什么是RAG与我们为什么要用RAG?
下一篇: 使用Ray + vLLM,手把手教你如何集群部署DeepSeek-R1-Distill-Llama-70B大模型
Llama-Turbo
博客等级 码龄4年 9901粉丝 2024原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值