先到先得!字节内传380页《从零开始大模型开发与微调基于PyTorch与ChatGLM》学习笔记

7.7 数据分析助手:用AI洞察业务数据价值 摘要:AI数据分析助手构建指南 本文介绍了如何构建AI数据分析助手,帮助企业从业务数据中提取价值。系统包含四大核心模块:自然语言理解模块解析用户查询意图,查询规划模块转换为SQL语句,数据可视化模块生成图表,以及洞察生成模块提供深度分析。文章通过销售数据分析助手案例,展示了从数据库准备到自然语言处理的完整实现流程,包括示例代码和系统架构图。该解决方案可降低数据分析门槛,让业务人员直接参与数据探索,提升决策效率。 阅读详情

大模型是深度学习自然语言处理皇冠上的一颗明珠,也是当前AI和NLP研究与产业中最重要的方向之一。本书使用PyTorch 2.0作为学习大模型的基本框架,以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术,为读者揭示大模型开发技术。

实战案例丰富

  • 基于PyTorch卷积层的MNIST分类实战
  • PyTorch数据处理与模型展示
  • ResNet实战
  • 有趣的词嵌入
  • 基于PyTorch循环神经网络的中文情感分类实战
  • 自然语言处理的编码器
  • 预训练模型BERT
  • 自然语言处理的解码器
  • 强化学习实战
  • 只具有解码器的GPT2模型
  • 实战训练自己的ChatGPT
  • 开源大模型ChatGLM使用详解ChatGLM高级定制化应用实战
  • 对ChatGLM进行高级微调

在这里插入图片描述

这本大模型书籍我已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

目录

第1章 新时代的曙光——人工智能与大模型

  • 人工智能:思维与实践的融合.

    • 人工智能的历史与未来
    • 深度学习与人工智能
    • 选择PyTorch 2.0 实战框架
  • 大模型开启人工智能的新时代

    • 大模型带来的变革
    • 最强的中文大模型–清华大学 Cha1GLM介绍
    • 近在咫尺的未来–大模型的应用前景
  • 本章小结

图片

第2章 PyTorh2.0深度学习环境建

  • 环境搭建1:安装 python

    • Minioondn的下载与安装
    • PyCharm 的下载与安装
    • Python 代码小练习:计算Sofimax函数
  • 环境搭建2:安装 PyTorch 2.0

    • Nvidin 10120/30/40 系列显卡选择的 GPU版本
    • PyTorch2.0GPUNvidia运行库的安装
    • PyTorch2.0小练习:Hello PyTorch
  • 生成式模型实战:古诗词的生成

  • 图像降噪:手把手实战第一个深度学习模型

    • MNIST 数据集的准备
    • MNIST数据集的特征和标签介绍
    • 模型的准备和介绍
    • 对目标的远近–模型的损失画数与优化函数
    • 基于深度学习的模型训练
  • 本章小结
    在这里插入图片描述

第3章 从零开始学习PyTorch2.0

  • 实战MNIST 手写体识别

    • 数据图像的获取与标签的说明
    • 实战基于 PyTorch2.0的手写体识别模型
    • 基于Nctron 库的 PyTorch 2.0 模型可视化
  • 自定义经网络框架的基本设计

    • 神经网络框架的抽象实現
    • 自定又神经网络福架的具体实现
  • 本章小结
    图片

第4章 一学就会的深度学习基础算法详解

  • 反向传播神经网络的前身历史

  • 反向传指神经网络两个基础算法详解

    • 最小二泉法详解
    • 梯度下降算法
    • 最小二来法的梯度下降算法及其 Python 实现
  • 反馈抻经网络反向传播算法介绍

    • 深度学习基础
    • 链式求导法则
    • 反馈神经网络的原理与公式推导
    • 反馈神经网络原理的激活函数
    • 反馈神经网络原理的Pyihon 实现
  • 本章小结

图片

第5章 基于PyTOrch卷积层的MNIST分类实战

  • 卷积运算的基本概念

    • 基本卷积运算示例
    • PyTorch 中的卷积函数实现详解
    • 池化运算
    • Sofmmax 激活函数
    • 卷积神经网络的原理
  • 实战:基于卷积的 MNIST手写体分类

    • 数据的准备
    • 模型的设计
    • 基子卷积的 MNIST 分类模型
  • PyTorch 的深度可分离膨胀卷积详解

    • 深度可分离卷积的定义
    • 深度的定义以及不同计算层特训练参数的比较
    • 膨胀卷积详解
    • 实战:基于深度可分离膨胀卷积的 MNIST手写体识别
  • 本章小结
    在这里插入图片描述

第6章 可视化的PyTorch数据处理与模型展示

  • 用于自定文数据集的 torch.urils,data 工具使用详解

    • 使用 torch.utils,datn Dataset对装自定义数据集
    • 改变数据类型的 Dataset 类中的 translonmm 的使用
    • 批量输出数据的 DataLosder 英详解
  • 实战:基于tensorboardx的训练可视化展示

    • 可视化组件 tensorboanix 的简介与安装
    • tensorboindx可视化组件的使用
    • tensorboardx对模型训炼过程的展示
  • 本章小结

图片

第7童 ResNet实战
第8章 有趣的词嵌入
第9章 基于循环神经网络的中文情感分类实战
第10章 从零开始学习自然语言处理的编码器
第11章 站在巨人膀上的预训练模型BERT
第12章 从1开始自然语言处理的解码器
第13章 基于PyTorch2.0的强化学习实战
第14章 ChatGPT前身–只具有解码器的 GPT-2模型
第15章 实战训练自己的ChatGPT
第16章 开源大型ChaGLM使用详解
第17章 开源大模型 ChalGLM 高级定制化应用实战
第18章 对训练成本上亿美元的ChatGLM进行高级微调

这本大模型书籍我已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】
VMware16虚拟机:下载和安装教程 VMware16 虚拟机 下载和安装教程 阅读详情

相关推荐

【全解析 | PTA】浙大版《Python 程序设计》题目集-第一章

Python浙大版PTA题解

wzhh_的博客 5530

【图书介绍】《从零开始大模型开发与微调 :基于PyTorch与ChatGLM》

他们的主要工作就是利用获得的数据集设计不同的人工神经模型,利用人工神经网络强大的学习能力提取和挖掘数据集中包含的潜在信息,编写相应的PyTorch程序对数据进行处理,对其价值进行进一步开发,为商业机会的获取、管理模式的创新、决策的制定提供相应的支持。第2章介绍PyTorch 2.0的安装和常用的类库。第1章介绍人工智能的基本内容,初步介绍深度学习应用与大模型的发展方向,介绍最强的人工智能大模型—清华大学ChatGLM的应用前景,旨在说明使用深度学习和人工智能实现大模型是未来科技的发展方向,也是必然趋势。

夏天又到了的专栏 1692

Codex接入MATLAB MCP服务器:从配置到实战的全流程记录

模型上下文协议(MCP)为AI编程工具提供了连接外部软件的标准接口,就像给AI装上万能USB,使其能直接操控本地的复杂应用。在MATLAB这类闭源重型工具中,AI编程因许可证、工作区隔离而难以形成闭环,而通过官方MCP服务器,Codex能够调用MATLAB引擎执行代码、读取变量并返回图表结果,将代码生成与运行验证真正打通。这一方案在神经网络拟合、控制系统阶跃响应、图像处理以及hprof文件分析等工程场景中,能显著提升自动化效率。文章围绕Codex桌面版接入MATLAB MCP的全流程,涵盖环境准备、配置命令

weixin_33585822的博客 154

新书速览|从零开始大模型开发与微调:基于PyTorch与ChatGLM

PyTorch 2.0深度学习环境搭建、从零开始学习PyTorch 2.0、深度学习基础算法详解、基于PyTorch卷积层的MNIST分类实战、PyTorch数据处理与模型展示、ResNet实战、有趣的词嵌入、基于PyTorch循环神经网络的中文情感分类实战、自然语言处理的编码器、预训练模型BERT、自然语言处理的解码器、强化学习实战、只具有解码器的GPT-2模型、实战训练自己的ChatGPT、开源大模型ChatGLM使用详解、ChatGLM高级定制化应用实战、对ChatGLM进行高级微调。

quanzhankaifaqua的博客 2551

排水模型1:CAD格式的管网数据处理

本文介绍了将CAD排水管网数据转换为GIS格式的技术方法。首先明确了CAD中管段绘制的6项规范要求,包括图层管理、流向表示和节点标识等。其次提出了利用CAD现有属性字段(如图层名、线型比例等)存储管网断面尺寸、上下游标高等关键信息的具体方案。最后详细说明了将CAD数据导入ArcGIS数据库的操作流程,包括创建个人数据库、设置坐标系、筛选导入管段数据等步骤。该方法为排水管网建模提供了标准化的数据预处理方案,为后续节点自动生成等操作奠定了基础。

jinxi1978的博客 587

Linux | Ubuntu18.04安装WIFI6 AX201驱动完整教程

本节介绍了如何在Ubuntu18下安装AX201驱动的教程。

九七的博客 8886

【笔记】从零开始大模型开发与微调:基于PyTorch与ChatGLM

由清华大学自主研发,基于 General Language Model (GLM) 架构的一种最新型、最为强大的深度学习大模型。1、经过约 1T 标识符的中英双语训练,辅以监督微调、对比学习、人类反馈强化学习等技术的加持2、针对中文问答和对话进行了优化3、开源的ChatGLM-6B 具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)

dsbss的博客 645

SOC、SOH、OCV

1)放电实验法的测量SOH结果最为准确,但是深度放电会对影响电池的寿命;2)电阻折算法仅将电阻作为评价SOH的依据,但电池老化时电阻的变化范围较小,因此该方法的误差较大;3)电阻折算法需要对电池进行大量的实验,绘制成Map图,但是该方法有一定的局限性,针对不同的电池需要绘制不同的Map图;4)阻抗分析法是目前最为前沿的方法,可以根据阻抗谱较为直观的分析SOH的变化,但是该方法需要的成本较高,每台设备约为5万美元。

m0_61973119的博客 2万+

先到先得!字节内传380页《从零开始大模型开发与微调基于PyTorch与ChatGLM》学习笔记/PDF版

大模型是深度学习自然语言处理皇冠上的一颗明珠,也是当前AI和NLP研究与产业中最重要的方向之一。本书使用PyTorch 2.0作为学习大模型的基本框架,以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术,为读者揭示大模型开发技术。

xxue345678的博客 838

RK3588 DDR5 方案

RK3588 DDR5方案支持多种LPDDR5/LPDDR5X内存型号,包括美光、三星、海力士、江波龙和佰维等品牌。文档详细列出了已验证的DDR5内存规格,涵盖2GB-16GB容量范围,提供组织形式、封装类型和测试状态等信息。其中美光型号最全面,支持12GB/16GB大容量方案。部分型号处于测试验证阶段(T/A),需量产进一步确认性能。该方案为RK3588平台开发提供可靠的内存选型参考。

501846585_QQAndroid_java 1088

SAP Group Reporting入门指南(1)--开篇及系统环境搭建

文章介绍了SAP GR的发展历程、与BPC的对比优势,数据收集的多种方式(实时同步、外部导入等)以及合并整体流程,并推出《SAP Group Reporting入门指南》专栏。

bflyfish的博客 285

重磅发布!字节内传380页《从零开始大模型开发与微调基于PyTorch与ChatGLM》学习笔记_《从零开始大模型开发与微调:基于pytorch与chatglm》pdf

大模型是深度学习自然语言处理皇冠上的一颗明珠,也是当前AI和NLP研究与产业中最重要的方向之一。本书使用PyTorch 2.0作为学习大模型的基本框架,以ChatGLM为例详细讲解大模型的基本理论、算法、程序实现、应用实战以及微调技术,为读者揭示大模型开发技术。

AI大模型的博客 865

YOLOv12创新改进 | 全网独家创新篇、小目标检测改进 | AAAI 2025 | 引入HS-FPN中的HFP和SDP创新点,从频域增强小目标特征,淘汰FPN进行升级,助力YOLOv12有效涨点

本文提出了HS-FPN(高频和空间感知特征金字塔网络),通过HFP(高频感知)模块增强小目标特征,SDP(空间依赖感知)模块捕获像素间空间依赖关系。实验在AI-TOD等小目标数据集上验证了该方法的有效性,相比FPN显著提升检测性能。文章详细介绍了HS-FPN的网络结构、核心代码实现及在YOLOv12中的应用方法,并提供多种改进版本的yaml配置文件,为小目标检测任务提供了有效的解决方案。

Ai缝合怪、助力小伙伴高效发论文 341

Scikit-Learn 1.8引入Array,支持 PyTorch 与 CuPy 张量的原生 GPU 加速

Scikit-Learn 1.8.0 更新引入了实验性的 Array API 支持。这意味着 CuPy 数组或 PyTorch 张量现在可以直接在 Scikit-

2601_96798737的博客 214

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

姿态估计(Pose Estimation)深度解析:从人体关键点检测到主流算法与 PyTorch 实战

姿态估计(Pose Estimation)是计算机视觉领域的一项重要技术,主要任务是从图像或视频中识别人体、动物或物体的关键点,并根据关键点之间的空间关系推断目标的姿态结构。简单来说,姿态估计就是让计算机理解一个人的身体姿势。例如,当我们输入一张包含人体的图片时,姿态估计算法可以自动识别:头部、鼻子、眼睛等面部关键点。左右肩膀、肘部和手腕。左右髋部、膝盖和脚踝。身体各个关节之间的连接关系。最终,模型会将这些关键点连接起来,形成一张人体骨架图。

2503_90237586的博客 355

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

【深度学习项目实战·33】自定义数据集:把自己的图片接入PyTorch

本文聚焦自定义数据集的构建与验证,解决“图片如何对应标签”的核心问题。通过构建包含路径、标签、ID与分组信息的标注表,实现样本可追溯;设计ManifestDataset类,统一图像读取、变换与张量输出格式;强调数据检查、固定类别映射与数据契约的重要性,确保训练前数据闭环可靠。后续将进入数据增强与划分环节。

银尘博客 216

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Google 与 Meta 联合推出 TorchTPU,PyTorch 原生支持 TPU 硬件

Google 和 Meta 合作开源 TorchTPU 项目,让 PyTorch 工作负载可以原生运行在 TPU 上。

wfly blog 82

【AI 开发从入门到进阶 · 04】PyTorch 第一课:Tensor、自动求导与那套万能的「五步训练循环」

本文系统介绍PyTorch入门核心内容:为何选择PyTorch(动态图、生态优势)、Tensor的自动求导机制、构建神经网络的四大组件(nn.Module、Loss、Optimizer、DataLoader),并通过MNIST手写数字识别实战演示“五步训练循环”——前向传播、计算损失、反向传播、清零梯度、参数更新。强调zero_grad()、no_grad()、CrossEntropyLoss不加Softmax等关键细节,附可视化分析与排错清单。下篇将深入CNN卷积网络,提升图像分类性能。

信息安全领域优质创作者|操作系统领域专家 169

PyTorch强化学习实战(35)——多智能体强化学习

在本节中,我们将介绍多智能体强化学习 (MARL),这是强化学习 (Reinforcement Learning, RL) 和深度强化学习的一个相对较新的方向,涉及多个智能体在环境中进行交互的情况。在现实生活中,这类问题出现在宽带通信网络、物联网等场景中。在本节中,我们将简要介绍 MARL,并在简单环境中进行一些实验。在实验中,我们将采用一种简单的方法,让智能体共享我们正在优化的策略,但观察将从每个智能体的视角出发,并包含其他智能体位置的信息。

盼小辉丶的博客 241

深入理解 PyTorch FlexAttention:从 Score Mod 到 Mask Mod 的稀疏加速之道

score_mod:对分数做数值变换# 这里演示一个简单的"按 query 位置缩放"的变换# score: 当前 (b, h, q_idx, kv_idx) 位置的分数标量# 返回变换后的分数return score * 1.0 # 恒等变换,实际可替换为任意数值操作# mask_mod:返回布尔值,True 表示该位置参与计算score_mod和mask_mod的签名都是,区别在于score_mod额外接收当前分数score并返回新分数,而mask_mod只返回布尔值。

Maxwell_Newton的博客 511

基于深度学习的塑料类型图像分类研究(Python+PyTorch+Django完整实现)

本课题围绕塑料回收分拣场景,完成基于深度学习的塑料类型图像分类研究。项目使用公开塑料识别数据集,覆盖六类常见塑料,先以ResNet18预训练特征做错标检测,自动隔离可疑样本并复测清洗效果,再按类别分层划分数据集;模型选用ResNet50进行迁移学习,训练中引入标签平滑与EMA应对标签噪声,以宏平均F1,各类别召回和混淆矩阵作为主要评估指标;训练完成的模型导出为ONNX格式,由Django后端加载推理,Vue前端实现图片上传与结果展示,形成从数据,训练到应用的完整闭环,可作为深度学习方向毕业设计的实现参考。

WEIXIN_JSJBSZDS的博客 176

PyTorch中Tensor是什么? 与NumPy数组有什么区别?

简单来说,Tensor 是 PyTorch 中最核心的数据结构,是一个支持 GPU 加速和自动微分的多维数组。在 PyTorch 中,Tensor 可以理解为任意维度的数组容器 —— 0 维是标量,1 维是向量,2 维是矩阵,3 维及以上就是高维张量。这是训练神经网络的关键。特别地,CPU 上的 Tensor 与 NumPy 数组共享内存,一个变化会影响另一个,非常高效。掌握 Tensor 是 PyTorch 入门的第一步,理解它和 NumPy 的关系与区别,能帮你更快地上手深度学习。

teach2004的博客 180

Pytorch【8】模型保存与加载(断点续训、GPU/CPU兼容踩坑)

前面我们已经掌握:张量、自动求导、网络搭建、损失优化、Dataset+DataLoader数据流水线。模型训练好之后,我们需要把成果存下来;训练中途中断,也需要从上次位置继续训练。只保存权重✅【工业界推荐,体积小、灵活】直接保存整个模型❌【简单但不推荐,兼容性差】state_dict是一个字典,key是参数名,value是权重张量,只存参数,不存代码结构。

Beforthing的博客 218

Pytorch【10】卷积神经网络CNN实战|卷积、池化、padding、stride,CNN训练MNIST

上一篇我们用全连接层完成MNIST分类。把28×28二维图像直接Flatten成一维向量,丢失像素之间空间位置关系参数数量巨大,容易过拟合卷积层Conv、池化层Pool、激活函数卷积:滑动卷积核提取局部特征;池化:降采样、压缩特征图,减少计算量。局部感受野:卷积核只看一小块区域,符合图像特征局部相关性权值共享:一张图共用同一套卷积核,大幅减少参数量平移不变性:同一个特征,在图里左右移动依然可以被识别。

Beforthing的博客 168

PyTorch

→\to→→\to→。

runningshark的博客 90
上一篇: 【RAG】LongRAG:利用长上下文LLMs增强检索增强生成
下一篇: LLaMA-Factory:高效微调 100+ 大语言模型的解决方案
冻感糕人~
博客等级 码龄3年 8926粉丝 2399原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值