【图书推荐】《深入探索Mamba模型架构与应用》

本书重点

本书旨在为读者提供一本全面、深入的Mamba深度学习架构实战指南。作者精心组织了全书的内容，从基础理论到实战应用，循序渐进地引导读者掌握Mamba架构的核心技术与应用实战技巧。

本书详细剖析了Mamba的核心组件和工作原理，让读者能够清晰把握其与传统深度学习架构的区别与优势。同时，还结合丰富的案例和实战经验，展示了Mamba在文本生成、图像分类、天气预测、图像生成、知识图谱、语音唤醒、多模态视觉问答等多个领域的应用场景。

内容简介

Mamba是一种新型的深度学习架构，它在保持对序列长度近似线性扩展性的同时，提供了与Transformers相当的建模能力。本书帮助读者探索Mamba在不同领域实现卓越性能的潜力，并深入理解和应用这一新兴的模型架构。本书配套示例源码、PPT课件与读者微信交流群服务。

本书共分16章，内容包括Mamba概述、Mamba架构详解、Mamba组件详解、基于PyTorch的弹簧振子动力学Mamba实战、Mamba文本情感分类实战、Mamba的文本转换实战、VisionMamba图像分类实战、多方案的Mamba文本生成实战、让Mamba更强的模块、循环神经网络详解与切片时间序列预测、基于Jamba的天气预测实战、统一了注意力与Mamba架构的Mamba2模型、Mamba结合Diffusion的图像生成实战、知识图谱的构建与展示实战、基于特征词的语音唤醒实战、多模态视觉问答实战。

实战案例

弹簧振子动力学Mamba实战
Mamba文本情感分类
Mamba拼音汉字转换
VisionMamba图像分类
多方案的Mamba文本生成与微调
结合KAN的Mamba文本生成
基于xLSTM的文本生成
基于时间序列的温度预测
基于Jamba的天气预测
基于Mamba2的文本生成
基于注意力的可控Diffusion图像生成
基于Mamba的可控Diffusion图像生成
基于Mamba的知识图谱
知识图谱的构建与展示
基于特征词的语音唤醒
多模态视觉问答

适合读者

• Mamba架构初学者与研究者
• 人工智能深度学习方向的从业人员
• 深度学习研究者与开发人员
• 数据科学家和机器学习工程师
• 高等院校或高职高专院校人工智能大模型课程的学生

作者简介

王晓华，高校计算机专业讲师，研究方向为云计算、大数据与人工智能。其著作包括《DeepSeek大模型高性能核心技术与多模态融合开发》《深入探索Mamba模型架构与应用》《PyTorch深度学习与计算机视觉实践》《PyTorch语音识别实战》《ChatGLM3大模型本地化部署、应用开发与微调》《从零开始大模型开发与微调：基于PyTorch与ChatGLM》《PyTorch 2.0深度学习从零开始学》。

前言

在科技的浩瀚星海中，人工智能已经成为引领时代前行的璀璨明星。而深度学习作为人工智能领域的重要分支，更是推动了无数科技创新与突破。在这个波澜壮阔的历史进程中，我们有幸见证并参与了Mamba这一新兴深度学习架构的诞生与发展。今天，我们将这份宝贵的经验与知识凝结成书，希望能够助力更多有志之士在深度学习的道路上探索与前行。

本书构思

本书旨在为读者提供一本全面、深入的Mamba深度学习架构实战指南。我们精心组织了全书的内容，从基础理论到实战应用，循序渐进地引导读者掌握Mamba架构的核心技术与实战技巧。无论你是深度学习的初学者，还是希望进一步提升技能的专业人士，相信本书都能为你提供宝贵的帮助。

在撰写本书的过程中，我们始终秉持着严谨、务实的态度。书中的每一章都经过了反复的打磨与验证，确保内容的准确性与实用性。同时，我们也注重理论与实践的结合，通过大量的实战案例，帮助读者将所学知识转换为实际应用能力。

本书通过系统而全面的介绍，带领读者从Mamba架构的基础理论出发，逐步深入到各种实战应用的开发与实现。我们详细剖析了Mamba的核心组件和工作原理，让读者能够清晰把握其与传统深度学习架构的区别与优势。同时，我们还结合丰富的案例和实战经验，展示了Mamba在序列生成、图像识别、自然语言处理等多个领域的应用场景和前景。

本书以实战项目为出发点，结合PyTorch 2.0深度学习框架进行深入浅出的讲解和演示。作者以多角度、多方面的方式手把手地教读者编写代码，同时结合实际案例深入剖析其中的设计模式和模型架构。

总的来说，本书的撰写，旨在帮助读者深入理解和掌握Mamba这一新兴深度学习架构，并将其应用于实际场景中。我们希望通过本书的传播，能够推动深度学习技术的进一步普及和发展，为人工智能时代的进步贡献一份力量。

本书特点

本书致力于引领读者掌握最新深度学习架构Mamba在多领域的应用，不仅关注理论，更注重实践，提供一站式的实战指南。本书的突出特点体现在以下几个方面。

• 知识体系全面且深入：本书从深度学习的前世今生讲起，逐步深入Mamba架构的详细解析，再扩展到多领域的应用实战。这种由浅入深、循序渐进的讲述方式，有助于读者系统地掌握Mamba架构的核心原理与实践技巧。
• 注重实战与可操作性：与众多理论繁重的深度学习书籍不同，本书特别强调实战的重要性。通过丰富的案例分析与代码实现，读者可以亲自动手实践，从而更深刻地理解Mamba架构在解决实际问题中的应用。无论是文本生成、图像识别还是时间序列预测，本书都提供了详尽的步骤与指导。
• 融合最新研究成果：本书不仅介绍了Mamba架构的基础理论，还融入了最新的研究成果和技术动态。例如，书中讲解了Mamba2模型、与Diffusion模型的结合等前沿内容，使读者能够紧跟深度学习领域的发展步伐。
• 跨模态与多领域应用：本书展示了Mamba架构在跨模态信息处理中的卓越能力，包括自然语言处理、视觉问答等多领域应用。这种跨领域的综合性应用示例，有助于读者拓展视野，激发创新思维。
• 作者实战经验丰富：本书的作者具备深厚的学术背景和丰富的实战经验，能够确保书中内容的准确性与实用性。作者以实际项目中遇到的问题为导向，将复杂问题简化并映射到Mamba架构中进行解决，为读者提供了宝贵的经验借鉴。

配套资源下载

本书配套实例源码、PPT课件与读者微信交流群服务，读者使用微信扫描下面的二维码即可获取。如果在阅读过程中发现问题或有任何建议，请联系下载资源中提供的相关电子邮箱或微信。

适合的读者

本书既适合Mamba架构初学者，以及人工智能、深度学习方向的从业人员，也适合高等院校或者高职高专院校相关专业的学生。

本书作者

本书作者王晓华为高校计算机专业教师，担负数据挖掘、人工智能、数据结构等多项本科及研究生课程，研究方向为数据仓库与数据挖掘、人工智能、机器学习，在研和参研多项科研项目。

作者

2025年1月

目录

第1章  横空出世的Mamba	1
1.1  深度学习的前世今生	1
1.1.1  深度学习的发展历程	2
1.1.2  深度学习与人工智能	3
1.2  深度学习中的主要模型	4
1.2.1  深度学习中的代表性模型和应用	4
1.2.2  CNN、RNN与Transformer	5
1.2.3  剑指王者的Mamba带来了新的突破	7
1.3  本章小结	8
第2章  挑战Attention地位的Mamba架构详解	9
2.1  Mamba的优势	10
2.1.1  Transformer模型存在的不足	10
2.1.2  循环神经网络	12
2.1.3  结合Transformer与RNN优点的SSM	14
2.2  第一次使用Mamba	15
2.2.1  Hello Mamba：使用预训练Mamba模型生成实战	15
2.2.2  了解Mamba：构建Mamba的三大模块说明	16
2.3  本章小结	17
第3章  Mamba组件详解	19
3.1  Mamba组件1：状态空间模型	19
3.1.1  经典状态空间详解	20
3.1.2  什么是状态空间	22
3.1.3  状态空间模型影响模型的学习过程与Python实现	24
3.2  Mamba组件2：连续信号转换成离散信号的方法	29
3.2.1  将连续信号转换成离散信号详解与Python实现	29
3.2.2  离散状态空间的Python实现	32
3.2.3  离散状态空间的循环计算（类似于RNN的计算方法）	35
3.3  Mamba组件3：HiPPO算法初始化的状态转移矩阵	37
3.3.1  SSM中的状态转移矩阵	
	38
3.3.2  HiPPO算法的Python实现与可视化讲解	40
3.4  本章小结	42
第4章  基于PyTorch的弹簧振子动力学Mamba实战	43
4.1  从状态空间模型SSM到结构化状态空间模型S4	43
4.1.1  从状态空间模型SSM开始（PyTorch具体实现）	44
4.1.2  连续信号转换为离散信号的PyTorch实现	45
4.1.3  离散信号循环计算的PyTorch实现	46
4.1.4  状态空间模型SSM的PyTorch实现	46
4.1.5  HiPPO算法初始化状态矩阵	48
4.1.6  基于S4架构的Mamba模型	49
4.2  基于状态空间模型模拟弹簧振子动力学	50
4.2.1  加速度的求解：详细讲解的经典弹簧-阻尼系统公式	50
4.2.2  弹簧-阻尼微分方程的SSM分解与PyTorch实现	52
4.2.3  使用空间状态方程模拟弹簧-阻尼方程	54
4.2.4  阻尼微分方程参数的物理解释（选学）	55
4.3  基于SSM的模拟弹簧振子输出的神经网络实战	56
4.3.1  数据的准备	57
4.3.2  对数空间中切分步数的准备	58
4.3.3  基于SSM的模型构建	59
4.3.4  SSM模型的训练实战	64
4.3.5  使用HiPPO算法初始化状态转移矩阵	65
4.4  本章小结	69
第5章  Mamba文本情感分类实战	71
5.1  有趣的词嵌入	71
5.1.1  什么是词嵌入	72
5.1.2  PyTorch中词嵌入处理函数详解	73
5.2  基于进阶SSM架构的情感分类Mamba实战	74
5.2.1  数据的准备	75
5.2.2  SSM进阶的S6架构的设计与手把手实现	75
5.2.3  Mamba堆叠Block的设计与完整实现	79
5.2.4  完整Mamba的实现	81
5.2.5  基于Mamba的情感分类实战	85
5.3  本章小结	89
第6章  Mamba文本转换实战	90
6.1  基于Mamba的拼音汉字转换模型	90
6.1.1  拼音汉字数据集详解与实战处理方法	90
6.1.2  Mamba模型的设计详解	92
6.1.3  模型的训练与预测	93
6.2  PyTorch对数据集的封装与可视化训练步骤	96
6.2.1  使用torch.utils.data. Dataset封装自定义数据集	97
6.2.2  批量输出数据的DataLoader类详解	99
6.3  本章小结	102
第7章  含有位置表示的双向VisionMamba模型图像分类实战	103
7.1  使用PyTorch自带的图像管理工具与图像增强技术	103
7.1.1  PyTorch自带的图像管理工具	104
7.1.2  图片数据增强	106
7.2  基于双向VisionMamba的模块讲解	109
7.2.1  数据的准备	110
7.2.2  将图像转换为Mamba可用的Embedding处理方法	111
7.2.3  能够双向计算的VisionMamba模型	114
7.2.4  初始旋转位置编码RoPE	117
7.3  VisionMamba图像分类实战	120
7.3.1  VisionMamba模型的构建	120
7.3.2  VisionMamba图像分类实战	122
7.4  本章小结	123
第8章  多方案的Mamba文本生成实战	124
8.1  Mamba的经典文本生成实战	124
8.1.1  数据的准备与错位输入方法	125
8.1.2  基于经典Mamba的文本生成模型	127
8.1.3  基于Mamba的文本生成模型的训练与推断	129
8.1.4  生成函数中的注意事项：temperature与“模型尺寸”	131
8.2  微调：在原有Mamba模型上进行重新训练	133
8.2.1  什么是微调	133
8.2.2  预训练的Mamba生成模型	135
8.2.3  对预训练模型进行微调	135
8.2.4  使用微调的预训练模型进行预测	137
8.3  低硬件资源微调预训练Mamba模型的方法	138
8.3.1  使用冻结模型参数的微调方法	138
8.3.2  通过替换制定层的方式完成微调	142
8.3.3  对模型参数进行部分保存和载入的方法	144
8.4  本章小结	145
第9章  能够让Mamba更强的模块	146
9.1  What Kan I Do	146
9.1.1  从多层感知机的数学原理开始	147
9.1.2  KAN中的样条函数	148
9.1.3  KAN的数学原理	150
9.1.4  KAN的PyTorch实现	154
9.1.5  结合KAN的Mamba文本生成实战	159
9.2  xLSTM让老架构再现生机	160
9.2.1  LSTM背景介绍	160
9.2.2  LSTM实战演示	161
9.2.3  xLSTM简介	166
9.2.4  xLSTM的PyTorch实现	168
9.2.5  基于xLSTM的文本生成实战	179
9.3  本章小结	183
第10章  循环神经网络详解与切片时间序列预测	184
10.1  基于时间序列的温度预测实战	184
10.1.1  时间序列一维数据的准备与切片	185
10.1.2  基于GRU的时间序列模型设计	188
10.1.3  时间序列模型的训练与预测	189
10.1.4  时间序列常用的损失函数详解	191
10.2  循环神经网络理论讲解	192
10.2.1  什么是GRU	192
10.2.2  单向不行，那就双向	194
10.3  融合Mamba与KAN架构的时间序列预测模型实战	195
10.3.1  适配2D时间序列的MambaBlock模型设计	195
10.3.2  Mamba架构的时间序列模型训练与预测	197
10.4  本章小结	197
第11章  明天下雨吗：基于Jamba的天气预测实战	198
11.1  注意力机制与模型详解	199
11.1.1  注意力机制详解	199
11.1.2  自注意力机制	201
11.1.3  ticks和Layer Normalization	207
11.1.4  多头自注意力	208
11.2  注意力机制的应用实践：编码器Encoder	211
11.2.1  编码器的总体架构	211
11.2.2  回到输入层：初始词向量层和位置编码器层	212
11.2.3  前馈层的实现	215
11.2.4  将多层模块融合的TransformerBlock层	217
11.2.5  编码器的实现	218
11.3  给注意力添加相对位置编码RoPE	224
11.3.1  给注意力添加相对位置编码RoPE	224
11.3.2  添加旋转位置编码的注意力机制	226
11.3.3  基于现有库包的旋转位置编码RoPE的使用	227
11.4  明天下雨吗：基于Jamba的天气预测实战	228
11.4.1  Jamba模型的基本架构	228
11.4.2  Jamba架构的实现1：修正后的Transformer模块	229
11.4.3  Jamba架构的实现2：Mamba模块	233
11.4.4  Jamba架构的实现3：Jamba模型的实现	236
11.4.5  基于Jamba的天气预测实战	237
11.4.6  基于时间序列的天气预报任务	244
11.5  本章小结	245
第12章  统一了注意力与Mamba架构的Mamba2模型	246
12.1  Mamba2模型的实现	247
12.1.1  Mamba2核心组件SSD详解	247
12.1.2  基于SSD的Mamba2模型	250
12.2  基于Mamba2的文本生成实战	254
12.2.1  文本生成Mamba2模型的完整实现	254
12.2.2  基于Mamba2的文本生成	255
12.3  本章小结	256
第13章  Mamba结合Diffusion的图像生成实战	257
13.1  Diffusion原理精讲以及经典实现	258
13.1.1  Diffusion Model的传播流程	258
13.1.2  直接运行的经典DDPM的模型训练实战	260
13.1.3  DDPM模型的基本模块说明	263
13.1.4  DDPM加噪与去噪详解：结合成功运行的Diffusion Model代码	266
13.1.5  DDPM的损失函数：结合成功运行的Diffusion Model代码	272
13.2  基于注意力的可控Diffusion实现	272
13.2.1  Diffusion Model可控生成的基础：特征融合	273
13.2.2  DiT中的可控特征融合	273
13.2.3  DiT模型的设计	276
13.2.4  图像的加噪与模型训练	280
13.2.5  基于DiT模型的可控图像生成	284
13.3  基于Mamba的可控Diffusion实现	286
13.3.1  基于Mamba架构的模块生成	287
13.3.2  基于Mamba的Dim模型的设计	290
13.4  本章小结	294
第14章  Mamba实战1：知识图谱的构建与展示	296
14.1  什么是知识图谱	296
14.1.1  知识图谱的应用	297
14.1.2  知识图谱中的三元组	298
14.2  知识图谱的可视化展示	299
14.2.1  数据的准备与处理	299
14.2.2  知识图谱的可视化展示	300
14.3  分词与数据的编码与解码	303
14.3.1  分词器Tokenizer的构建与使用	303
14.3.2  数据的编码处理	306
14.3.3  数据的解码处理	309
14.4  基于Mamba的知识图谱模型构建	311
14.4.1  基于Mamba的知识图谱模型构建	312
14.4.2  基于Mamba的知识图谱模型训练与预测	313
14.4.3  命名实体识别在预测时的补充说明	316
14.5  本章小结	317
第15章  Mamba实战2：基于特征词的语音唤醒	318
15.1  音频特征工具Librosa包的基础使用	318
15.1.1  基于Librosa的音频信号读取	319
15.1.2  基于Librosa的音频多特征提取	322
15.2  Mamba实战：基于特征词的语音唤醒	324
15.2.1  数据的准备	324
15.2.2  数据的处理	325
15.2.3  模型的设计	328
15.2.4  模型的数据输入方法	329
15.2.5  模型训练	329
15.2.6  模型结果展示	331
15.3  本章小结	331
第16章  Mamba实战3：多模态视觉问答	332
16.1  视觉问答数据集的准备	332
16.1.1  VQA数据集介绍	333
16.1.2  VQA数据集的下载与预处理	333
16.1.3  VQA数据集的准备	337
16.2  Mamba架构的多模态视觉问答模型的训练与推断	339
16.2.1  Mamba架构的多模态视觉问答模型的设计	339
16.2.2  多模态视觉问答模型的训练与推断	342
16.3  本章小结	344

正版购买

等待上架

深入探索Mamba模型架构与应用 - 商品搜索 - 京东