- 博客(40)
- 收藏
- 关注
RSS订阅原创 FastText 从入门到实战：文本分类与词向量迁移
FastText 从入门到实战：文本分类与词向量迁移 摘要：本文介绍 Facebook 开源的 FastText 工具，它通过子词机制和 n-gram 特征实现高效文本处理。核心优势包括训练速度快、支持未登录词和多语言预训练模型。文章提供两个实战案例：1）基于 Cooking 数据集的多标签分类，展示数据格式、训练和优化方法；2）使用预训练中文词向量进行语义分析和迁移学习。还包含模型调优指南（学习率、n-gram 设置等）和部署建议。完整代码适合 NLP 初学者快速实现文本分类和词向量应用。（149字）
2025-10-23 21:40:41
966
原创 从零开始读懂Transformer：架构解析与PyTorch实现
本文深入解析了Transformer架构及其PyTorch实现，主要内容包括： 背景介绍：Transformer作为现代NLP基础架构，彻底改变了序列建模方式，成为BERT、GPT等大模型的核心 架构总览：详细图解了Transformer的四大组成部分： 输入部分（词嵌入+位置编码） 编码器（多头注意力+前馈网络） 解码器（自注意力+编码器-解码器注意力） 输出部分（线性层+softmax） 关键实现： 词嵌入层将离散token转为连续向量 位置编码通过正弦/余弦函数显式加入顺序信息 提供了PyTorch代
2025-10-15 18:23:37
1346
原创 深入浅出注意力机制：从人类视觉到Transformer的核心灵魂
注意力机制的灵感源于人类视觉的选择性注意能力，其核心价值在于克服了传统RNN/LSTM模型在长序列建模中存在的信息遗忘与无法并行计算的瓶颈。它的工作机制可以通过生动的“档案室找文件”类比来理解：以Query（查询请求） 去匹配Key（标签索引），计算出注意力权重，再以此对Value（具体内容） 进行加权求和，最终输出一个融合了关键信息的新向量。这一机制带来了两大关键技术演进：在Seq2Seq任务中，它使解码器能够动态“回头看”编码器的不同部分，显著提升长句处理能力；而自注意力机制则让序列内部元素直接交互，成
2025-10-09 11:44:47
1286
原创 深入理解RNN及其变体：从传统RNN到LSTM、GRU（附PyTorch实战）
深入理解RNN及其变体：从传统RNN到LSTM、GRU（附PyTorch实战） 本文系统介绍了循环神经网络(RNN)及其改进模型LSTM和GRU的原理与应用。RNN通过循环结构处理序列数据，但存在梯度消失问题。LSTM引入细胞状态和三个门控机制（遗忘门、输入门、输出门）有效缓解了这一问题。GRU作为简化版LSTM，仅用更新门和重置门就实现了相近性能。文章结合PyTorch代码演示了RNN、LSTM和GRU的实现细节，并分析了各模型的优缺点。这些模型在NLP、语音识别等序列任务中有广泛应用，其中LSTM尤其擅
2025-10-08 21:26:51
1016
原创 【NLP 入门必看】文本预处理全流程详解：从分词到词向量，一篇打通任督二脉！
本文系统介绍了NLP文本预处理的六大核心模块：1）文本处理基本方法（分词、命名实体识别、词性标注）；2）文本张量表示（one-hot、Word2Vec、Word Embedding）；3）文本数据分析（标签分布、句子长度、词云）；4）文本特征处理（n-gram、长度规范）；5）数据增强方法（回译）；6）实战代码与可视化。重点讲解了中文分词工具jieba的使用、词向量训练方法对比（Word2Vec vs Word Embedding），以及文本数据分析的关键指标，为NLP初学者提供了从原始文本到模型输入的完整
2025-09-29 21:14:24
1347
原创 深度学习入门：一文搞懂循环神经网络（RNN）原理与实战
深度学习入门：循环神经网络（RNN）原理与应用 摘要：本文介绍了循环神经网络（RNN）在处理序列数据中的核心作用，包括自然语言处理（NLP）基础、词嵌入技术、RNN原理及改进方案（LSTM/GRU）。文章首先解释了RNN在文本预测、机器翻译等任务中的必要性，然后详细讲解了词嵌入层如何将文字转化为向量表示。重点剖析了RNN的记忆机制和计算过程，指出其局限性并介绍了LSTM和GRU的改进方案。最后通过PyTorch实现周杰伦歌词生成案例，展示了RNN的实际应用。全文兼顾理论与实践，帮助读者深入理解RNN的核心思
2025-09-27 10:49:48
1367
原创 深度学习入门：一文搞懂卷积神经网络（CNN）原理与实战
深度学习入门：卷积神经网络（CNN）原理与实战 本文系统介绍了卷积神经网络（CNN）的核心原理与应用。主要内容包括： 图像基础：解析图像在计算机中的三维数组表示（高度×宽度×通道） CNN结构：详述卷积层（特征提取）、池化层（降维）和全连接层的工作原理 关键计算：提供特征图尺寸计算公式，说明padding和stride的作用 PyTorch实现：演示如何用代码构建CNN模型进行图像处理 应用场景：解释CNN在计算机视觉领域的优势（局部连接、参数共享等特性） 文章采用理论结合实践的方式，帮助读者从底层理解CN
2025-09-26 20:56:34
1682
原创 深度学习入门：从神经网络基础到模型训练优化
本文系统介绍了深度学习中的神经网络基础概念和关键技术。首先解释了生物神经元如何启发人工神经网络设计，详细阐述了神经网络的三大结构层次（输入层、隐藏层、输出层）及其连接方式。重点讲解了前向传播的计算过程，包括加权求和和激活函数变换。文章对比分析了Sigmoid、Tanh、ReLU和Softmax等常见激活函数的特性和适用场景，并强调激活函数在引入非线性因素方面的重要性。此外，文章深入探讨了参数初始化的必要性，介绍了几种主流初始化方法及其适用情况。最后通过PyTorch代码示例，展示了如何构建一个完整的三层神经
2025-09-25 21:28:27
1010
原创 深度学习入门：从理论到PyTorch实践
在当今人工智能迅猛发展的时代，深度学习已成为推动技术进步的核心动力。无论是图像识别、自然语言处理，还是推荐系统，深度学习都在其中扮演着至关重要的角色。本文将带你从深度学习的基本概念出发，逐步深入到PyTorch框架的使用，并通过一个线性回归案例，完成一次完整的深度学习实践之旅。
2025-09-17 15:52:00
641
原创 聚类算法详解
在无监督学习中，**聚类（Clustering）** 是一种重要的数据分析方法。它通过发现数据内在的结构和模式，将相似的数据样本自动划分到不同的组别中。本文将全面介绍聚类的基本概念、常见算法、KMeans实现流程以及模型评估方法。
2025-09-17 09:23:44
1303
原创 机器学习——线性回归（详解：附基础数学知识点补充）
本文系统详细介绍了线性回归的核心原理。首先阐述了线性回归的数学模型，即通过线性关系预测目标变量，并定义了均方误差（MSE）作为损失函数。针对优化问题，详细讲解了梯度下降法和正规方程法两种求解方式，比较了它们的优缺点。接着介绍了模型评估指标（MAE、MSE、RMSE、R²），并列举了线性回归的六大前提假设。此外，文中讨论了过拟合/欠拟合问题及解决方法，重点介绍了L1/L2正则化技术。最后通过加州房价预测案例，展示了完整的建模流程，包括数据加载、预处理、模型训练与评估。该文为理解线性回归及后续复杂模型奠定了坚
2025-09-08 11:32:57
700
原创 集成学习：从理论到实践的全面解析
集成学习是一种通过组合多个弱学习器来构建强学习器的机器学习方法，主要分为Bagging和Boosting两大流派。Bagging（如随机森林）通过并行训练多个独立模型并投票表决，而Boosting（如AdaBoost、GBDT）则串行训练模型，逐步修正前序模型的错误。随机森林通过样本和特征的双重随机性增强泛化能力，而AdaBoost通过动态调整样本权重和模型权重提升性能。GBDT则通过拟合残差或损失函数的负梯度实现优化。这些方法在分类和回归任务中表现优异，实际应用中需根据数据特点选择合适的算法。
2025-09-08 09:53:18
1237
原创 决策树算法详解：从原理到实战
决策树是一种树形结构根节点（Root Node）：代表整个数据集，是决策的起点。内部节点（Internal Node）：表示一个特征上的判断条件（如“年龄 > 30”）。分支（Branch）：表示某个判断条件的结果（如“是”或“否”）。叶子节点（Leaf Node）：代表最终的分类结果或预测值（如“同意贷款”）。名称提出时间分裂标准特点ID31975信息增益仅支持离散特征；偏好取值多的特征C4.51993信息增益率支持连续特征与缺失值；计算较复杂CART1984。
2025-09-04 21:16:15
1462
原创 逻辑回归：从原理到实战的完整指南
逻辑回归是一种简单高效的二分类模型，广泛应用于医疗诊断、金融风控等场景。本文从数学原理到实战应用，系统讲解了逻辑回归的核心知识： 数学基础：Sigmoid函数将线性输出映射为概率，极大似然估计用于参数学习 模型原理：通过负对数似然（交叉熵）损失函数优化参数 代码实现：使用Scikit-learn的LogisticRegression类 实战案例：乳腺癌分类任务完整流程（数据清洗、特征标准化、模型评估） 逻辑回归兼具解释性和预测能力，是分类问题的经典入门算法。
2025-09-03 21:24:15
1507
原创 机器学习中的线性回归：从原理到实战
本文系统介绍了线性回归的核心原理与应用。首先阐述了线性回归的数学模型，即通过线性关系预测目标变量，并定义了均方误差（MSE）作为损失函数。针对优化问题，详细讲解了梯度下降法和正规方程法两种求解方式，比较了它们的优缺点。接着介绍了模型评估指标（MAE、MSE、RMSE、R²），并列举了线性回归的六大前提假设。此外，文中讨论了过拟合/欠拟合问题及解决方法，重点介绍了L1/L2正则化技术。最后通过加州房价预测案例，展示了完整的建模流程，包括数据加载、预处理、模型训练与评估。该文为理解线性回归及后续复杂模型奠定了坚
2025-09-02 10:45:53
875
原创 KNN算法详解：从原理到实战（鸢尾花分类 & 手写数字识别）
摘要：KNN算法是一种基于"物以类聚"思想的有监督学习算法，通过计算样本与邻居的距离进行分类或回归。本文详细解析了KNN的核心原理、K值选择策略、分类/回归流程及常用距离度量方法（欧氏、曼哈顿等），强调特征标准化的重要性。通过鸢尾花分类和手写数字识别两个实战案例，展示KNN的具体应用，并介绍交叉验证与网格搜索相结合的调参方法，帮助读者全面掌握KNN算法的原理与实现。
2025-08-29 21:12:46
1395
原创 机器学习概述
机器学习基础概述 本文系统介绍了机器学习的核心概念、发展历程和应用领域。主要内容包括： 人工智能、机器学习和深度学习的关系：ML是实现AI的路径，DL是ML的子集 机器学习两种方式对比：规则编程与数据驱动学习 应用领域广泛：从图像识别到自然语言处理等多个行业 发展简史：三次AI浪潮，从符号主义到深度学习 三大基石：数据、算法和算力支撑ML发展 重要术语解析：样本、特征、标签等核心概念 算法分类：监督/无监督/半监督/强化学习 建模流程：数据收集→特征工程→模型训练→评估部署 特征工程的重要性：决定模型上限的
2025-08-28 20:19:01
1374
原创 pandas扩展：apply自定义函数、分组进阶（五大核心）、透视表
Pandas中的apply()函数和向量化操作是数据分析的核心工具。apply()允许对DataFrame/Series应用自定义函数，适用于复杂逻辑处理，如条件判断、多列计算等，提供灵活性和代码复用性。向量化操作则通过内置函数一次性处理整个数组，显著提升性能（比循环快10-100倍），适用于数学运算、统计计算和字符串处理。实际应用中应优先使用向量化方法，仅在需要复杂逻辑时使用apply()。两者结合可高效解决大多数数据处理需求，但需注意apply()在大数据时的性能局限。
2025-08-21 20:41:11
1441
2
原创 数据组合与合并：Pandas 数据整合全指南 +缺失值处理
本文介绍了Pandas中数据整合的三种主要方法：连接(concat)、合并(merge)和连接(join)。concat适合拼接结构相似的数据，支持行/列方向合并；merge基于键值关联两个数据集，提供内/外/左/右四种连接方式；join则基于索引快速合并多个表。作者强调遵循"整洁数据"原则，建议优先使用concat和merge，并提供了避免常见错误的实践建议。文章通过代码示例对比了三种方法的特点和适用场景，为数据清洗和整合提供了完整指南。
2025-08-19 20:41:33
1977
原创 Pandas数据结构+分组聚合和基础绘图
Pandas数据分析工具基础教程 本文介绍了Python中Pandas库的基本使用方法，重点讲解了Series和DataFrame两种核心数据结构。主要内容包括： 数据结构： Series：一维数组结构，可通过列表、元组、字典创建 DataFrame：二维表格结构，由多个Series组成 常用操作： 创建方法（列表、字典、数组等） 基本属性（shape、size、values等） 常用方法（head、tail、describe等） 数据筛选（布尔索引、条件筛选） 数学运算（数值运算、Series间运算） 实
2025-08-18 19:49:08
1141
原创 Pandas 核心数据结构详解（精简版）
Pandas是一个基于NumPy的开源数据分析库，其核心数据结构为Series（一维带标签数组）和DataFrame（二维表格）。Series支持多种创建方式（列表、字典、标量等），提供丰富的属性和方法（统计计算、缺失值处理、排序等），以及灵活的索引选择（标签/位置）和向量化运算。DataFrame可通过字典、列表、数组等方式创建，适合处理结构化数据。两种数据结构均支持布尔索引和高效的数据操作，是数据分析和处理的强大工具。
2025-08-18 19:25:18
1028
原创 数据处理分析环境搭建+Numpy使用教程
本文介绍了Python数据分析常用开源库(Numpy、Pandas、Matplotlib等)的安装和环境搭建方法，重点讲解了Numpy库的基本概念和使用。主要内容包括：1) 通过Anaconda安装数据分析工具链；2) Numpy的核心功能（多维数组运算、矩阵计算等）；3) ndarray对象的属性和创建方法（array()、zeros()、arange()等）；4) 使用虚拟环境管理不同项目依赖。文章为Python数据分析初学者提供了完整的开发环境配置指南和Numpy入门教程。
2025-08-15 20:26:15
1095
原创 mysql扩展与final可视化
本文系统梳理了MySQL核心知识体系和FineBI商业智能工具。MySQL部分深入解析了存储引擎特性（InnoDB/MyISAM等）、事务ACID特性、隔离级别、索引设计与优化策略，以及数据库设计范式。FineBI部分介绍了其B/S架构优势、数据准备流程、维度/指标概念分析、可视化组件类型及仪表板制作规范。文章强调合理选择存储引擎、优化索引设计、遵循数据库范式等MySQL最佳实践，以及FineBI中数据更新维护、可视化设计等关键操作要点，为数据库管理与商业智能分析提供了实用指导。
2025-08-12 09:35:34
862
原创 MySQL 数据库系统学习手册
本文介绍了数据库基础概念与MySQL操作，主要内容包括：数据库分类（关系型与非关系型）、MySQL特点与连接方式；SQL语言分类（DDL、DML、DQL、DCL）；数据定义语言（DDL）的数据库和表操作；数据约束（主键、非空等）；数据操作语言（DML）的增删改操作；数据查询语言（DQL）的基本查询、条件筛选、排序、分组聚合和分页；以及SQL语句的实际执行顺序，帮助理解查询逻辑。
2025-08-12 09:16:18
1154
原创 数据结构与算法核心知识总结
本文总结了数据结构与算法的核心知识，主要内容包括： 存储单位与数据类型：介绍了从YB到B的存储单位换算，以及C/Python中常见数据类型的存储差异。 数据结构分类：分为线性结构（数组、链表等）和非线性结构（树、图等），分析各自特点。 线性结构实现：重点比较顺序表和链表，包括存储方式、增删查改的时间复杂度，以及各自的适用场景。 树结构：系统梳理二叉树的基本术语、性质、遍历方式（先序/中序/后序/层序）和存储实现，特别强调二叉搜索树的中序有序性。 排序算法：简要提及排序稳定性的概念。 全文通过表格对比、代码示
2025-08-11 16:03:46
1239
原创 python数据结构与算法
数据结构概述与线性结构存储 数据结构分为线性结构（栈、队列等）和非线性结构（树、图等）。线性结构采用顺序表或链表存储，非线性结构通过多指针实现复杂关系。 顺序表通过连续存储实现快速访问（O(1)），分为一体式（同类型数据）和分离式（混合类型）存储。其扩容策略包括线性增长（节省空间但频繁操作）和倍增扩容（空间换时间）。元素操作效率取决于位置：尾部操作为O(1)，中间插入/删除需移动元素（O(n)）。 链表通过非连续存储的节点（数据域+指针域）实现动态扩展，无需预先分配空间。单链表操作包括：头部插入O(1)、遍
2025-08-11 15:46:43
1469
原创 python数据结构与算法（基础）
本文系统介绍了数据结构与算法的基础概念，重点解析了时间复杂度和空间复杂度两大核心评估指标。数据结构由逻辑结构、存储结构和操作集合三要素构成，算法则是解决问题的有限步骤序列，两者共同构成程序设计的基石。文章详细讲解了时间复杂度的计算规则、大O表示法以及不同算法的渐进增长率对比，并探讨了空间复杂度的分析方法和时空权衡策略。最后强调实际应用中应根据数据规模、性能需求和资源限制选择合适算法，提供了常见操作的复杂度速查表作为参考。学习算法应着重理解其设计思想而非具体实现代码。
2025-08-07 21:15:32
904
原创 Python迭代器和生成器
本文系统讲解Python中的迭代器（Iterator）和生成器（Generator）。迭代器通过实现__iter__和__next__方法，支持惰性计算，适用于大数据处理；生成器则是迭代器的特例，通过yield关键字或生成器表达式创建，自动实现迭代器协议，代码更简洁。文章对比了两者的特点：生成器内存效率更高、支持双向通信（send/close/throw），而迭代器适合需要精细控制迭代逻辑的场景。此外，还介绍了itertools模块的高级迭代操作，以及生成器在大文件处理、无限序列等实际应用中的优势。
2025-08-07 19:58:19
1008
原创 迭代器与生成器：Python 中的高效数据遍历机制
本文系统介绍了Python中迭代器和生成器的核心概念与应用。迭代器通过__iter__和__next__方法实现元素的逐个访问，具有单向遍历、状态保持等特点。生成器作为特殊迭代器，使用yield关键字简化创建过程，支持惰性计算和状态保存。二者在内存效率、使用场景等方面各有优势：迭代器适合复杂状态管理，生成器则更简洁高效。文章还详细对比了二者的区别，展示了实际应用场景（如大数据处理、无限序列等），并提供了性能优化建议和常见错误解决方案。最后简要提及生成器的进阶功能（send/throw/close方法），为深
2025-08-07 19:46:31
911
原创 正则表达式完整指南
正则表达式是强大的文本处理工具，由普通字符和特殊元字符组成，用于字符串匹配、验证、提取和替换。核心组件包括字符匹配（普通字符/预定义字符类）、量词（*、+、?等）、分组捕获和边界匹配。高级技巧涉及贪婪/非贪婪匹配、零宽断言和回溯引用。优化策略包括避免过度捕获、预编译和锚点应用。各语言实现略有差异（Python的re模块、JavaScript的RegExp等）。适用场景涵盖数据验证、日志分析和代码解析，但对嵌套结构处理有限，复杂场景需结合解析器或专用DSL。使用时需权衡性能与可读性，并借助Regex101等工
2025-08-06 16:41:30
1513
原创 正则表达式
文章摘要 正则表达式是一种用于字符串匹配的强大工具，广泛应用于数据验证、检索、过滤等场景。本文介绍了正则表达式的基本概念和Python中的re模块使用方法，包括匹配单个字符（如\d、\w）、多个字符（如*、+）、开头结尾（^、$）以及分组数据（|、(ab)）等核心语法。通过示例代码演示了re.match()、re.search()等常用函数的应用，帮助读者掌握正则表达式的基本编写技巧和匹配模式。文中还对比了match和search两种匹配方式的区别，为实际开发中的字符串处理提供了实用指导。
2025-08-06 16:32:42
542
原创 多任务与并发编程详解：进程 vs 线程
多任务与并发编程：进程 vs 线程对比 本文系统解析多任务编程的核心概念，对比Python中多进程与多线程的实现方式。多任务分为并发（交替执行）和并行（同时执行），前者适用于单核/多核，后者需多核支持。 进程是资源分配的最小单位，各进程内存独立，适合CPU密集型任务，通过multiprocessing模块实现；线程是CPU调度的最小单位，共享进程内存，适合I/O密集型任务，通过threading模块实现。 关键区别：进程稳定性高但开销大，线程轻量但需处理共享变量竞争问题（如使用锁机制）。主进程/线程默认等待
2025-08-06 09:31:25
1105
原创 Python网络编程技术
本文系统介绍了Python网络编程的核心知识，涵盖网络基础概念、协议原理、Socket编程、并发处理和安全优化等关键内容。主要内容包括：1.网络编程基础（IP/端口、C/S模型）；2.常用协议解析（TCP/UDP/HTTP/WebSocket）；3.Python网络编程实践（socket模块、requests库）；4.高级技术（多线程/异步IO/Web应用开发）；5.安全与性能优化建议。文章提供了从基础到进阶的学习路径，包含多个实战项目建议（聊天服务器、下载管理器等）和学习资源推荐，帮助开发者掌握构建网络应
2025-08-05 21:14:08
1040
原创 进程与线程
本文介绍了多任务编程的两种实现方式：多进程和多线程。多任务包括并发和并行两种形式，能充分利用CPU资源。多进程通过multiprocessing模块实现，进程是资源分配的最小单位，进程间不共享全局变量；多线程通过threading模块实现，线程是CPU调度的基本单位，线程间执行顺序无序。两者都遵循主线程/进程等待子线程/进程结束的原则，但可通过设置守护进程或终止子进程来改变。文中提供了详细的代码示例说明如何创建进程、线程及获取进程编号，并分析了它们的注意事项和区别。
2025-08-05 21:12:16
1056
原创 python网络编程
Python网络编程基础与TCP开发流程 本文介绍了Python网络编程的核心概念和TCP协议开发流程。主要内容包括： 网络编程三要素： IP地址（设备标识） 端口号（程序标识） 协议（通信规则） TCP协议特点： 面向连接、可靠传输 通过三次握手建立连接 通过四次挥手断开连接 Socket编程基础： Socket是网络通信的端点 使用socket模块创建TCP套接字 数据需在字符串和二进制格式间转换 TCP开发流程： 服务端：创建→绑定→监听→接受连接→数据收发 客户端：创建→连接→数据收发 实用技巧：
2025-08-05 08:26:35
1106
原创 闭包装饰器与深浅拷贝
本文系统介绍了Python中的闭包、装饰器和拷贝机制三大核心概念。闭包通过嵌套函数和变量引用实现状态持久化，是装饰器的基础；装饰器利用闭包特性在不修改原函数的前提下扩展功能，支持多装饰器和参数化使用；拷贝机制部分详细解析了赋值、浅拷贝和深拷贝的区别，强调根据数据结构选择合适拷贝方式以平衡数据隔离与性能。文章还总结了常见应用场景与陷阱，如装饰器元信息丢失问题和循环引用风险，并提供了最佳实践建议。这些概念共同构成了Python元编程和高效数据处理的重要基础。
2025-08-04 12:01:55
648
原创 面向对象编程（OOP）全面指南（Python 版）
本文系统介绍了Python中面向对象编程(OOP)的核心概念与实践。主要内容包括：1)面向对象与面向过程的对比，突出OOP从"谁来做"的角度组织代码的优势；2)类与对象的基本概念，包括属性管理、__init__构造函数和三种方法类型(实例/类/静态方法)；3)OOP三大特性：封装(通过私有属性和property实现)、继承(单继承与多继承)和多态(基于鸭子类型)；4)特殊方法与运算符重载；5)设计模式与最佳实践建议。文章还提供了银行账户、电商系统等实战练习建议，帮助读者掌握Python面
2025-08-01 21:14:14
803
原创 python进阶--面向对象
本人第一篇博客，可能内容有些乱，看不下去可以选择看另外一篇整理过的“面向对象编程（OOP）全面指南（Python 版）”
2025-08-01 21:14:07
1067
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人