weixin_43290523的博客

梯度下降（二）：自适应学习率（AdaGrad）、均方根传递（RMSProp）、自适应增量（AdaDelta）、自适应性矩估计(Adam）Nesterov自适应性矩估计（Nadam）前言自适应梯度（AdaGrad / Adaptive Gradient）均方根传递（RMSProp / Root Mean Square Propagation）自适应增量（AdaDelta）自适应矩估计（Adam /...

单层感知机（Single Layer Perceptron）原理及Matlab实现前言单层感知机学习策略损失函数的构造损失函数的最优化求解matlab实现动态可视化过程前言本文参考李航老师的《统计学习方法》，使用matlab实现简单的单层感知机（single layer perceptron）模型。单层感知机单层感知机作为一种简单的线性二分类模型，是神经网络（Neural Network）...

梯度下降、随机梯度下降、小批量梯度下降、动量梯度下降、Nesterov加速梯度下降法前言梯度下降法（Gradient Descent / GD）单变量线性回归模型（Univariate Linear Regression）批梯度下降法（Batch Gradient Descent）随机梯度下降法（Stochastic Gradient Descent / SGD）小批量梯度下降（Mini-batc...

GMM / MoG 聚类 Matlab 可视化 实现我们知道，常规的正态分布或高斯函数只具有单峰形式，对于复杂的数据(如双峰或多峰)建模来说，很难实现较好的拟合效果。我们不妨设想，如果给予多个正态分布不同的权重h, 并将它们线性叠加起来，是不是就可以来通过叠加后的分布来拟合比较复杂的数据了呢？高斯混合模型 [ GMM(Gaussian Mixture Model), MoG(Mixture o...

PCA(主成分分析)降维可视化Matlab实现实现一个动态展示二维到一维的动态实例，可以用于ppt教学演示。下面这幅图使用含有噪声圆的降维，可用于讲解kernel PCA做铺垫，通过使用Kernel PCA,解决非线性问题。下面是Matlab代码:% Writen by: Weichen GU % Date : 2020/2/16clc;clf;clear;% Generat...

机器学习算法之：DBSCAN聚类 Matlab可视化实现DBSCAN介绍DBSCAN（ Density-Based Spatial Clustering of Applications with Noise ) 是一种比较有代表性的基于密度的聚类(Density-based clustering)模型，即通过样本分布的紧密程度来对样本进行分类。一些术语簇: 在DBSCAN中，将簇描述为...

Adaboost Matlab 实现Adaboost Matlab 实现Matlab 代码实现结果展示Adaboost Matlab 实现Adaboost (Adaptive boosting) 是由Yoav Freund和Robert Schapire在1995年在 "A Short Introduction to Boosting"论文中提出。论文链接.Matlab 代码实