This blog is a space to document my professional learnings, personal reflections, and everything in between.

本文系统拆解自然语言处理基石模型，打通从理论推导到项目实践的完整链路。以线性回归为起点，剖析其在不同学科视角下的数学本质。针对二元分类难题，详解逻辑回归如何通过sigmoid函数实现概率映射，深入探讨Probit回归与Softmax函数的多分类扩展。结合梯度下降算法，与反向传播实现，揭示MLP模型训练中梯度消失/爆炸的成因及解决方法。从手写autograd构建计算图，到MNIST分类任务中对MLP/CNN进行性能调优，包括激活函数对比、归一化层效果验证，以及分布式训练部署方案。

本文系统拆解自然语言处理基石模型，打通从理论推导到项目实践的完整链路。以线性回归为起点，剖析其在不同学科视角下的数学本质。针对二元分类难题，详解逻辑回归如何通过sigmoid函数实现概率映射，深入探讨Probit回归与Softmax函数的多分类扩展。结合梯度下降算法，与反向传播实现，揭示MLP模型训练中梯度消失/爆炸的成因及解决方法。从手写autograd构建计算图，到MNIST分类任务中对MLP/CNN进行性能调优，包括激活函数对比、归一化层效果验证，以及分布式训练部署方案。

探究了情感结构化特征数据在LSTM股票预测模型中的影响。利用Pandas对所给数据进行预处理（数据载入、清洗与准备、规整、时间序列处理、数据聚合等）。[1] 借助NLTK和LM金融词库，对非结构化文本信息进行情感分析，并将所得结构化数据融入纯技术指标的股票数据中。分析各股票指标的相关性，实现数据降维。基于Keras的以MSE为误差评价方法的LSTM模型，实现对股票收盘价Close的预测。最终得出当训练样本充足时，融入了情感特征数据，使得预测精度适当增加的结论。

k-平均（k-Means），也被称为k-均值，是一种得到最广泛使用的聚类算法[1]. k-Means算法以k为参数，把n个对象分为k个簇，使得簇内具有较高的相似度。

C4.5决策树生成算法完整版(Python),连续属性的离散化, 缺失样本的添加权重处理, 算法缺陷的修正, 代码等。

BP神经网络分类实战项目（深度学习笔记）原创！基础篇。包括：PCA降维、反向传播公式、梯度下降、标准化、倾斜样本处理、独热编码、Adam优化算法、权值初始化、F1-Score、ROC、模型可视化等

SVM支持向量机-手写笔记（超详细：拉格朗日乘数法、KKT条件、对偶性质、最优化、合页损失、核函数...）

机器学习：简单的随机梯度下降求解回归问题和用逻辑回归解决分类问题。回归问题: 用随机梯度下降法实现；分类问题: 用梯度下降实现逻辑回归，可以用批量梯度也可以用随机梯度实现。