ljs_a的博客

转载自: https://zhuanlan.zhihu.com/p/27783097 https://www.jianshu.com/p/5d5d3957f684 ReLu 函数求导示例：# -*- coding:utf8 -*-import torchfrom torch.autograd import Variableclass MyReLU(torch.autogra...

作者：Anonymous 链接：https://www.zhihu.com/question/27239198/answer/89853077 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。以求e=(a+b)*(b+1)的偏导为例： 在图中，引入了中间变量c,d。为了求出a=2, b=1时，e的梯度，我们可以先利用偏导数的定义求出不同层之间相邻...

这几天学了AdaBoost算法，自己其实也没有很理解，但还是要总结一下！ 资料： 西瓜书—机器学习（内容偏少） 统计学习方法—李航（内容详细，还有例题，更加容易理解） 机器学习实战 博客： https://blog.youkuaiyun.com/guyuealian/article/details/70995333 （例子详细，一步一步计算的，看完了就懂了吧） https://blog.csd...

我的是python3.6 第一处：def binSplitDataSet(dataSet, feature, value): mat0 = dataSet[np.nonzero(dataSet[:,feature] > value)[0],:][0] mat1 = dataSet[np.nonzero(dataSet[:,feature] <= value)[0]...

K-Means聚类算法属于无监督学习算法 python实现（机器学习实战）import numpy as npimport matplotlib.pyplot as pltdef loadDataSet(filename): dataMat=[] fr=open(filename) for line in fr.readlines(): cur...

scikit-learn 官方文档中文教程：https://sklearn.apachecn.org/对应的github地址：https://github.com/scikit-learn/scikit-learn在这个教程想学习一下如何处理文本数据，有些东西没找到，在github马上就找到了，给大家分享一下。...

第一步：安装 Anaconda3 ; 第二步：安装pycharm,选取python环境，我是3.6的 （我之所以安装这两个，是因为我最后用的是pycharm环境，而Anaconda3主要是准备好python环境） 我的版本如下: 接下来安装pytorch; 打开Anaconda3下的Anaconda prompt 输入以下命令：pip install http://downlo...

PCA(主成分分析,Principal components analysis)降维在很多技术上都有运用，从表面意思上看，他能够减少某个数据集的维度，特别是在相关的数据中或者含有冗余信息的数据中很有用，比如图像，我们往往通过降维的方式来提取关键信息或者减少计算量。PCA在生活中的例子也有很多，但是我想把PCA和我们之前学的线性代数联系起来，线性代数中我们讲的就是矩阵，包括矩阵求秩，一个向量组的极大

我们知道，线性回归预测的是一个连续值或者任意实数，接下来，我们要解决的是一种0-1问题，也就是一种二分类问题。 逻辑回归在本质上和线性回归是一样的，只是它在特征到结果的映射加入了一层非线性映射，如下所示： 其中g(z)函数被称之为sigmoid函数，也可以叫做logistic函数，它的图形如下： 我们可以看到，sigmoid函数的范围是0~1，这是不是很像我们学习过的概率呢

下面主要提供逻辑回归的代码。 数据下载：数据下载 这是老师布置的作业，现把完整代码附上。 代码如下（python 3.6）：# -*- encoding: utf-8 -*-from __future__ import print_functionimport numpy as npimport scipy.optimize as opimport matplotlib.pyplot as

奇异值分解在矩阵理论中非常重要，也有很多实际运用，比如推荐系统，利用满秩分解还能节约存储空间。 在介绍原理之前，先说一下一些概念： 1 酉（you,三声，我都不知道这个字怎么读，哈哈）矩阵。 如果n阶复矩阵A满足： 则称之为酉矩阵，是不是和正交矩阵的定义很相似，AHA^{H}指的是A的共轭对称，如果A是实矩阵，则就是转置，其实我们基本遇到的就是实矩阵。 2 定义：设A

当我们在用python处理机器学习的问题时，往往需要先读取数据，这些数据通常都是文件，我今天遇到的是CSV文件，是在kaggle竞赛数据集下载的（比如手写数字识别，以及我在博客中用到的泰坦尼克数据都是CSV文件）。 数据下载地址：数据下载 接下来，我介绍两种方法读取文件数据。 第一种：直接用open函数打开文件。程序如下：import csvimport numpy as npwith o

最近在看的论文中，包括人脸识别，以及模型压缩等论文中，都会有low-rank(低秩),低秩稀疏分解等解决方法，感觉关于low-rank的研究还挺火的，这个问题和robust PCA问题很像，都需要解决一下问题： 在此之前，我需要先把一些资料的链接放出来，这些资料很有用。 Robust PCA 原理：原理1 原理2 Robust PCA matlab code:code 原理里讲了很多范

首先，如果大家想安装python，不如安装Anaconda（百度进入官网，下载和电脑环境相匹配的安装包），Anaconda可以说很方便，里面有好几种python编程环境，而且常见的包都安装好了。 接下来介绍在python环境里安装opencv.(我就介绍Anaconda环境吧），安装好Anaconda之后，里面有个类似于windows的cmd命令行界面： 安装opencv包，需要先安装好nu

Python数据处理手册关键词： PythonPython数据处理手册1引言2Numpy基础数组和矢量计算1 一种多维数组对象ndarray2 运算函数3 利用数组进行数据处理4 数组的文件输入输出5 线性代数6 随机数生成pandas1 Series2 DataFrame3 索引对象4 重新索引5 丢弃指定轴上的项6 索引选取和过滤7 算术运算和数据对齐8 Dat

示例：使用KNN改进约会网站配对效果(学习这一节把自己需要注意的和理解的记录下来)第零步：实现KNN算法： 需注意：classCount[voteIlabel] = classCount.get(voteIlabel,0)+1#Python 字典(Dictionary) get() 函数返回指定键的值，如果值不在字典中返回默认值。参考：http://www.runoob.com/p...

原博客地址：https://blog.youkuaiyun.com/Dark_Scope/article/details/14103983 一.引入         对于Adaboost，可以说是久闻大名，据说在Deep Learning出来之前，SVM和Adaboost是效果最好的 ...

原博文地址：https://blog.youkuaiyun.com/amds123/article/details/70173402#commentsedit带你搞懂朴素贝叶斯分类算贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。而朴素朴素贝叶斯分类是贝叶斯分类中最简单，也是常见的一种分类方法。这篇文章我尽可能用直白的话语总结一下我们学习会上讲到的朴素贝...

第一步：下载setuptools并安装；链接：https://pypi.python.org/pypi/setuptools 参考博客：https://blog.youkuaiyun.com/DongGeGe214/article/details/52199439 第二步：下载feedparser并安装；链接：https://pypi.python.org/pypi/feedparser 参考博客：h...

本文主要记录我在学习机器学习实战Logistic回归这一章遇到的问题。之前也学习过逻辑回归，逻辑回归一般解决分类问题，之前结合了吴恩达教授的机器学习课程和周志华教授的西瓜书，现在又用机器学习实战这本书籍来学习，这两种方法在实现过程中存在一些差异。吴恩达机器学习课程和周志华教授的做法如下： 上面来自吴恩达教授的笔记，详细讲述了损失函数推到过程。在机器学习实战中： 参数更新方式...

初学机器学习，作为一个入门的新手，且第一次写博客，因为时间比较多同时也为了理解地更加深刻，就把自己的想法写出来，将来如果需要用到的话，也方便找到，理解地可能不是很准确，望大家理解。重点内容 对机器学习的理解，所谓机器学习，就是机器从数据中学习，机器从数据中学出规律，然后运用到新的数据中，在机器学习中，前者称为训练集，后者称为测试集。 学机器学习，我们第一个