缘友一世的博客

初学Transformer架构和注意力机制

Seq2Seq模型是一种端到端的深度学习框架，专门设计用于将一个序列(如句子)转换为另一个序列。它的核心思想是接受可变长度的输入序列，并生成可变长度的输出序列，这两个序列的长度可以不同。

Word2Vec模型学习和Word2Vec提取相似文本体验

PyTorch图像识别模型和图像分割模型体验

Triton介绍和各平台支持情况分析：Triton 是一个开源的 高性能 GPU 编程语言和编译器框架，由 OpenAI 开发并开源。它旨在简化在 NVIDIA GPU 上编写高性能计算内核的过程。

PyTorch图像建模(图像识别、分割和分类案例)

本文系统研究了现代音频处理技术及其应用，重点探讨了梅尔频率倒谱系数(MFCC)的特征提取方法和快速傅里叶变换(FFT)在音频分析中的关键作用。研究内容包括音频信号处理的基础技术，如离散余弦变换、能量谱处理和Mu-Law编码等波形变换方法，并通过两个实践案例验证了理论方法的有效性。第一个案例展示了音频建模的全流程，包括数据加载、波形变换和频谱图绘制；第二个案例实现了音频相似度分析，提供了完整的实现代码和结果分析。

本博客价绍模型评估方法和模型调优方法，并给出一个交叉验证的示例代码

本博客旨在全面介绍数据建模的基本概念与方法，涵盖回归分析、聚类分析和主成分分析（PCA）。文章将深入探讨回归分析的理论基础及其在住房价格预测中的应用，聚类分析的基本原理及植物花卉特征的分类方法，以及主成分分析在地区竞争力指标降维中的重要性。通过实例和模型构建，读者将在理论与实践中加深对数据建模的理解与应用。

介绍独热编码，实际使用分析：对对象类型使用独热编码。

PyTorch LSTM练习案例：股票成交量趋势预测

PyTorch循环神经网络（Pytotch）

PyTorch深度神经网络（前馈、卷积神经网络）

深度学习之优化器【从梯度下降到自适应学习率算法】（pytorch版）

Pytorch张量和损失函数

pytorch 数据预处理和常用工具

Pytorch常用统计和矩阵运算

在深度学习和科学计算中，控制随机性是保证实验结果可复现的关键。PyTorch 提供了多种随机数管理工具，但如何正确使用它们仍是许多开发者容易混淆的问题。本文全面解析 PyTorch 的随机数控制机制，从基础的 torch.seed() 和 torch.manual_seed()，到更底层的 get_rng_state() 和 set_rng_state()，详细说明其作用、使用场景及注意事项。同时，我们也会探讨 CPU 和 GPU（CUDA）的随机状态管理，并提供完整的代码示例，帮助你彻底掌握 PyTorc

这篇文章主要介绍了卷积神经网络（CNN）的设计原理及其在手写字体识别中的应用。文章首先阐述了网络层间的排列规律和CNN各层（输入层、卷积层、池化层、全连接层）的参数设计规范。随后以MNIST手写字体数据库为例，详细讲解了LeNet-5模型的关键特点和PyTorch实现方式，包括项目结构、模型定义、训练过程和单图测试方法。通过可视化分析，展示了网络如何提取手写数字特征，为读者提供了从理论到实践的完整指南。源码地址可供读者参考实现。

卷积神经网络是计算机视觉天梯的基石。卷积神经网络可以利用多层网络结构自动学习输入数据的深层特征，不同层次的网络可以学习到不同层次的特征。浅层网络层感知区域较小，可以学习到输入数据的局部域特征（如图像物体的颜色、集合形状）；深层网络层具有较大的感知域，能够学习输入数据的抽象特征（如图像物体属性、轮廓特点、位置信息）。深层次抽象特征对图像中物体的大小位置和方向等局部域特征敏感度较低，提高了物体的识别率。所以，卷积神经网络常用于图像处理领域。卷积神经网络的三个核心思想是局部感知、权值共享、下采样技术。

本文主要介绍深度学习中的常用技巧和知识：数据集准备、拓展、处理&网络初始化&过拟合处理方法&训练技巧

深度学习基础（激活函数&损失函数&超参数）

深度学习系统学习系列【4】之反向传播（BP)四个基本公式推导

通过构建一个3 层的人工神经网络ANN模型对收集到的数据进行训练，得到该医疗数据的分类模型，最后利用新的医疗数据，预测其所属病理分类。

人工神经网络(Artifical Neural Network, ANN ）是深度学习的基础。人工神经网络是深度神经网络中最经典，也是最基础的网络模型人工神经网络以其独特的网络结构和处理信息的方法，在自动控制领域、组合优化问题、模式识别、图像处理、自然语言处理等诸多领域，己经取得了辉煌的成绩。

逻辑回归是一种概率分类模型，输出0到1之间的概率值。使用sigmoid函数将线性输出映射到概率空间。通过交叉熵损失函数衡量预测与真实值的差异。使用梯度下降法优化模型参数。可以加入正则化项防止过拟合。在实践中，可以使用scikit-learn等库方便地实现逻辑回归。

随着 GPU 的发展， GPU 开始主要为显示图像做优化，在计算上超越通用的 CPU。GPU 作为硬件加速器之一， 通过大量图形处理单元与 CPU协同工作，对深度学习、数据分析，以及大量计算的工程应用进行加速。GPU 的并行架构非常合适深度学习需要高效的矩阵操作和大量的卷积操作。神经网络的特点：具有更多的神经元；的寄存器上存储大量的数据，反复使用卷积操作和矩阵乘法操作，而不用担心运算应度慢的问题。深度神经网络其实是深度学习的基础，深度学习的应用和技术绝大部分都是基于深度神经网络框架。的速度与一个三通道的。

Anaconda环境中conda与pip命令的区别

anaconda Jupyter配置多内核和pycharm配置Jupyter

同一个虚拟环境中conda和pip安装的文件存储位置解析

在当今的深度学习和数据科学领域，Python、CUDA、cuDNN、PyTorch 和 Anaconda 是不可或缺的工具。

GDDR6与HBM2显存深度解析及深度学习入门显卡选购指南

NVLink是NVIDIA开发的一种高速GPU互连技术，旨在替代或补充传统的PCIe连接方式。超高带宽：单链路带宽远超PCIe（NVLink 3.0单通道可达50GB/s）低延迟：直接GPU-GPU通信，减少CPU干预可扩展性：支持多GPU全互联拓扑（如NVIDIA DGX系统的NVSwitch）

Seq2Seq，全称为Sequence-to-Sequence模型，通常用于处理序列数据，如文本或时间序列。编码器（Encoder）和解码器（Decoder）。编码器：通常是一个循环神经网络(RNN)或其变体如长短时记忆网络(LSTM)或门控递归单元(GRU)。编码器的目的是将输入序列（如文本句子中的单词序列）转换成一个固定大小的上下文向量（context vector），该向量是输入序列的一个内部表示，捕捉其含义的核心要素。解码器：解码器也是一个RNN，它的职责是将编码器生成的上下文向量转换成输出序列。

*当真实值为10，预测值为5时，误差为5，预测值为8时，误差为2。深度学习：深度学习的概念源于人工神经网络的研究，是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。，根据每个样本的值/特征预测该样本的具体数值，例如房价预测，股票预测等，相当于学习这组数据背后的分布，能够根据数据的输入预测该数据的取值。不论是机器学习还是深度学习，都是通过对大量数据的学习，掌握数据背后的分布规律，进而对符合该分布的其他数据进行准确预测。