车手只需要车和手，压力来自轮胎

主要讲述深度学习相关的基础知识，其中包括深度学习的发展历程、深度学习神经网络的部件、深度学习神经网络不同的类型以及深度学习工程中常见的问题。

简单分享elm库相关的内容～

深度学习？感知机？TensorFlow？Pytorch？Keras？别疑惑🤔了，赶紧进来一起学习吧～

深度学习？感知机？TensorFlow？Pytorch？Keras？别疑惑🤔了，赶紧进来一起学习吧～

愿之称为全网最全的开源极限学习机（ELM）及其变种的开源代码分享~

总结了GAN网络及其各种变体模型，并附录上模型的论文出处及代码，结合最原始的论文和代码实现，可以加深对模型原理的理解。

暑假也要每天坚持学习哟！～

机器学习之ELM极限学习机，开源Python代码！

你一定要知道的预测评价指标MSE、RMSE、MAE、MAPE、SMAPE！！！

最近研究二次判别分析（Quadratic Discriminant Analysis，QDA），发现运用到了交替方向乘数法（ADMM），就很迷。（关键是太菜）很多博主都是直接翻译或者搬运的，搜罗且了解了很多相关知识，那就来个大总结及其一些自己的想法吧！（内力有限，仅供学习交流）确实很难，理论性很强，没有虚的，阅读完内容需要有“勇气”！ ADMM背景咱们先来了解了解，ADMM到底是个什么东西？交替方向乘数法（Alternating Direction Method

⚡终于！！！⚡终于又有时间学习Deep Learning了⚡！30天ML计划，一起加油！！！https://blog.youkuaiyun.com/weixin_44333889/category_11271153.html《专栏》在训练NN的时候，有哪些Optimizers可以优化更快的找到global Minima？下面我们来看下有哪些方法可以优化求解。Background在训练神经网路的时候，最开始我们是用的Gradient Descent（梯度下降法，GD）来求解，但是会出现很多问题，面临大量.

❤九月❤份了，车神哥又回归了校园❉冬天❉还会远吗♪推荐一首最近很⚡喜欢⚡的歌♪❀No Fear In My Heart -朴树❀ 由于最近在写一篇相关的论文，就说说其中遇到的一些问题吧~Minisom之前做过一个对minisom的第三方开源库的介绍，可以点击看这里。对相应的代码添加了注释：导入各种库吧# 导入库from sklearn.model_selection import train_test_splitfrom s.

事情是这样的，就是某天在本菜日常"飙车"回宿舍的途中，想着曾经有个项目在对数据进行预处理的时候，用过一个操作，本来就已经对数据进行了标准化处理，然而在甲方（注意这里是万恶之源）对我算法代码的阅读时提出了，没有进行归一化处理的疑惑，顿时间，我想了想，好像是这么一回事哈，一个转身像超人一样消失在甲方面前，回去加了两行代码（归一化处理），跑完发现，咦~~好像真的效果提高了不少诶。故引发了我对下面的内容的思考，并想多说两句，望各位看官批评指点！！！（上面不算，不能计时哈o(╥﹏╥)o）其实有很多博主已经做了对标

在故障诊断中，我们常常会面对大量的且维数很高的数组，通过我们需要先对数据集进行划分及预处理，而预处理阶段极为重要的一步就是对数据进行降维特征提取，通过某种数学变换将原始高维空间转变成一个低维的子空间。然鹅，我们常用到的基本就只有两个，一个是主成分分析（PCA），另一个则是今天所要介绍的Fisher判别分析（Fisher Discriminant Analysis，FDA）。主成分分析的基本思想：设法将原来众多具有一定相关性（比如P个指标，即主成分），重新组合成一组新的互相无关的综合指标来代替原来的指标

❤坚持读Paper，坚持做笔记，坚持学习❤！！！To Be No.1哈哈哈哈创作不易，过路能❤关注、收藏、点个赞❤三连就最好不过了最近学习机器学习，项目也有用到分类，用到了Softmax函数。相信很多小伙伴都会用到。简单说来，Softmax⟶\longrightarrow⟶归一化指数函数。为什么说是指数函数呢？下面来看一下当我们在做回归的时候 左边是我们的估计值和输出，右边使我们的回归模型 当我们需要做分类的时候，左边的估计值.

通过Matlab示例来解释偏最小二乘的原理此示例显示如何在matlab中应用偏最小二乘回归（PLSR）和主成分回归（PCR），并讨论这两种方法的有效性。当存在大量预测变量时，PLSR和PCR都是对因变量建模的方法，并且这些预测变量高度相关或甚至共线性。两种方法都将新的预测变量（称为成分）构建为原始预测变量的线性组合，但它们以不同的方式构造这些成分。PCR创建成分来解释预测变量中观察到的变异性，而根本不考虑因变量。另一方面，PLSR确实将因变量考虑在内，因此通常会导致模型能够使用更少的成分来适应因变量。

Distance ClassificationDistance欧氏距离(Euclidean Distance)闵可夫斯基距离（Minkowski distance）曼哈顿距离(Manhattan distance)切比雪夫距离 ( Chebyshev distance )标准化欧氏距离(Standardized Euclidean distance )马氏距离(Mahalanobis Distance)ReferenceDistance由于最近在做故障诊断相关研究，不断学习各种算法，发现在很多算法里面都

Learning Rate机器学习尝试Train的第一个数据集Mnist，大部分都会从此入手。当你的Loss在逐渐减小的时候，Gradient却不一定减小怎样做才能将gradient descent（下面用gd代替）做的更好？需要一个更好版本的gd？在之前做gd的时候，所有的参数都是设同样的Lr，这肯定是不够的。Lr应该为每一个参数客制化客制化的Lr（Learning Rate）Learning Rate（以下用Lr代替）将决定Update参数时的步伐有多大。Lr设置的太大，显然步伐很

Elman神经网络近期开题，阅读到了一篇文章关于故障诊断的，其中用到了Elman神经网络，具体是结合EMD、PCA-SOM的Elman的性能评估/预测故障诊断，对Elman神经网络有点陌生，网上资源也讲的特别杂，来做个汇总Introduction吧！介绍Elman神经网络 是 J. L. Elman于1990年首先针对语音处理问题而提出来的，是一种典型的局部回归网络( global feed forward local recurrent)。Elman网络可以看作是一个具有局部记忆单元和局部反馈连接的

基于经验模式分解的特征提取近期看的算法就是EMD的，发现很多Paper用的地方还挺多的，在特征提取方面，来做个以轴承振动信号的故障诊断EMD特征提取的学习总结。建议可以先看文章后半部分基础归类在看前半部分特征提取。EMD方法是从一个简单的假设发展而来，即任何信号都是由不同的简单固有振型组成的。每个线性或非线性模式都有相同数目的极值和过零。在连续的零交点之间只有一个极值。每个模式都应该独立于其他模式。这样，每个信号就可以分解为若干个IMF（intrinsic mode functions，固有模态函数）

Gradient Descent(梯度下降) + Momentum(动量)上次 这里 介绍了Gradient Descent寻找最优解的过程学习到发现还有一个算法就是加上Momentum(动量，就是上一次Gradient Descent后的步长值)来作为下一次更新位置的参数，这样来寻找局部最优解Local Minima的话，会比单独使用梯度下降法来求解效果更好。Movement：最后一步的移动目前是最小的梯度...

Gradient Descent最近在搞Deep Leaning，数学不好的我学的头大啊。边学习边做笔记简单粗暴，图文并茂First从初始参数起始点 θ0θ_0θ0​开始Second计算一下Gradient g0g^0g0然后，向着Gradient的反方向去Update（更新）参数其中，θ1=θ0−ηg0\boldsymbol{\theta}^{\mathbf{1}}=\boldsymbol{\theta}^{\mathbf{0}}-\eta \boldsymbol{

典型相关性分析(CCA)最近研究CCA相关的算法，从头原理入手推荐以下两位大佬的Blog，希望对你有所帮助。刘建平Pinard网名为JerryLead的大佬第一位大佬的Blog：第二位大佬的Blog：ღ( ´･ᴗ･` )❤『小楼一夜听春雨，深巷明朝卖杏花。』...

安装Pytorch最近在搞 Deep Learning，学的很机车，头大！不说了，先安装 Pytorch 吧o(╥﹏╥)o我是用的Anaconda的环境，Pycharm的Terminal安装的，目前安装很顺畅~简单粗暴上 pip，才是最快速的方法！！！pip install torchpip install torchvisionღ( ´･ᴗ･` )比心❤『人类的悲欢并不相通，我只是觉得他们吵闹。』...

Pytorch OSX 构建不幸的是，Pytorch 团队没有发布支持 CUDA 的 Mac OS 二进制包。该项目提供现成的二进制包。Both Python 2.7 and 3.7 are supported now!很不幸，Pytorch 团队不发布 Mac OS CUDA 版本。本项目提供 Mac OS 上编译好、可直接安装的 Pytorch CUDA 版本。本项目同时支持Python 2.7 和 3.7 了！性能警告【2020.02.18】我在 Mac OS X 10.13.6 和 Ubun

音频和语音预训练模型什么是预训练模型？预训练模型是由其他人创建的用于解决类似问题的模型。我们可以使用在其他问题上训练的模型作为起点，而不是从头开始构建模型来解决类似的问题。预训练模型在您的应用程序中可能不是 100% 准确。Github地址：https://github.com/balavenkatesh3322/audio-pretrained-model...

NLP 预训练模型自然语言处理标志什么是预训练模型？预训练模型是由其他人创建的用于解决类似问题的模型。我们可以使用在其他问题上训练的模型作为起点，而不是从头开始构建模型来解决类似的问题。预训练模型在您的应用程序中可能不是 100% 准确。TensorflowKerasPytorchGithub地址：https://github.com/balavenkatesh3322/NLP-pretrained-model...

Pre-Trained Model包括了在Tensorflow，Pytorch等多个平台上的预处理模型TensorflowKerasPytorchgithub地址：https://github.com/balavenkatesh3322/CV-pretrained-model「每个人神圣的核心就是拥有共情和热爱他人的能力。」...

超简单Python画Heatmap热力图 -库plotly在画热力图之前需要安装一个 Plotly 的第三方库pip install plotly推荐一下其他 画图工具 -> 点击 这里数据解释导入的数据格式为两个.csv的表格，由于懒惰没有再处理原始数据集了，具体传值赋值 pandas 均能实现。其中的 T2_All_Value 代表多列 z轴 ，x_y_axis 代表对应z轴的 x、y坐标。T2_All_Valuex_y_axis上代码import panda

minisom分类功能web：https://github.com/JustGlowing/minisom/blob/master/examples/Classification.ipynbThis examples show how to use MiniSom to solve a classification problem. The classification mechanism will be implemented with MiniSom and the evaluation will

聚类功能In this example we will see how to use MiniSom to cluster the iris dataset.First, let’s load the data and train our SOM:from minisom import MiniSomimport numpy as npimport pandas as pddata = pd.read_csv('https://archive.ics.uci.edu/ml/machine-le

源代码实现web：https://github.com/JustGlowing/minisom/blob/master/minisom.py直接附上代码：from math import sqrtfrom numpy import (array, unravel_index, nditer, linalg, random, subtract, max, power, exp, pi, zeros, ones, arange, outer, meshgrid,

minisom代码示例：https://github.com/JustGlowing/minisom/tree/master/examples很丰富。

转载于：https://github.com/JustGlowing/minisom最近在做SOM神经网络模型的项目，之前一直在用Matlab的工具箱，一直想转成Python的代码来实现，就到处找，结果还真有SOM相关的库。直接上教程自组织地图MiniSom 是自组织映射 (SOM) 的简约和基于 Numpy 的实现。SOM 是一种人工神经网络，能够将高维数据项之间复杂的非线性统计关系转换为低维显示器上的简单几何关系。Minisom 旨在让研究人员能够轻松地在其基础上进行构建，并让学生能够快速掌握其