xfzero的博客

机器学习实战笔记(二)标签（空格分隔）： 机器学习局部加权线性回归平方误差∑mi=1(yi−xTiw)2\sum_{i=1}^m (y_i - x_i^T w)^2=(y−Xw)T(y−Xw)=(y-Xw)^T(y-Xw)求导令其为０得到如下ω̂=(XTX)−1XTy\hat{\omega } = (X^TX)^{-1} X^Ty ω̂=(XTＷX)−1XTＷy\hat{\omega }

二阶随机优化算法标签（空格分隔）： L-BFGS NewSample Lissa最近看了几篇二阶优化算法，现在总结一下，以便日后查阅二阶算法 二阶优化算法又称为牛顿法，牛顿法是微积分学中， 通过迭代以求解可微函数f的零点的一种算法，而在最优化中，牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x， 同时也是f的驻点。 因此从另一个角度而言，应用于最优化中的牛顿法...

梯度下降一类算法小结标签（空格分隔）： 梯度下降以下内容为*An overview of gradient descent optimization algorithms*读后笔记梯度下降算法变种算法概览最经典的梯度下降算法有:1.梯度下降(Batch gradient descent) 2. 随机梯度下降(Batch gradient descent) 3. m...

实现对图片进行SVD之前在学习截断式SVD的时候, 不知道为什么截断式SVD后能够近似原矩阵? 或者说奇异值究竟有什么含义? 看了以下知乎的答案后, 有了很形象的理解 奇异值的物理意义是什么？ - 郑宁的回答 - 知乎这里参考基于Python查看SVD压缩图片的效果这篇博客后实现了截断式SVDfrom PIL import Imageimport numpy as npim...

Pandas 数据整合标签（空格分隔）： python pandas合并数数据集 pandas.merge可以根据一个或者多个键将不同DataFrame合并起来 pandas.contact 可以沿着一个轴将多个对象叠到一起 combine_first可以将数据编接到一起,用一个对象中的值填充另一个值数据库风格DataFrame合并pd.mer...

Python 时间的处理标签（空格分隔）： python 数据分析日期以及时间数据类型日期 data, 时间 time datatime是包含data以及time 的数据类型 timedelta两个datatime之间的差值字符串和datatime的转化datetime转换成字符串stamp = datetime(2011, 1, 3)str(st...

数据挖掘 笔记标签（空格分隔）： 特征提取实习期间参加了CCF大数据比赛,总结期间用到的一些数据提取想法数据提取方法One-hot EncodingAlter变更有11种类型，将变更类型进行One-hot Encoding编码，再统计每个类型的总量。时间窗口特征统计时间区间内行为累积, 比如统计某个企业 [2， 5， 8， 13， 21， 35]个月内的变更...

Pandas 读取文本数据标签（空格分隔）： python pandasPandas 读取文本数据pandas解析函数 如果原始数据是有标题的 read_csv调用 read_table 这里可以指定seq=’\s+’等正则表达式来当分割符 如果列名比数据行数量少1,read_table会推断第一列是DataFrame的索引 指定列名 如果没有标题,那...

Python 数据分析画图&one-hot编码标签（空格分隔）： python Matplotlib画图fig, axes = plt.subplots(2, 2) #axes是一个数组fig = plt.figure()fig.set(alpha=0.2) #把图分为2行3列，当前在(0,0)位置画图plt.subplot2grid((2, 3),...

机器学习实战笔记标签（空格分隔）： python切片A[:2]和A[::2]有区别 假设A = [1, 2, 3, 4, 5] :一个是[1, 2] ::一个是[1, 3, 5]A[1:4]和A[1::4]是有区别的 A[1:4] => A[1:4:1]是1到4之间间隔为1,a:b:c表示a到b,间隔c A[1::4] 表示从1开始间隔4nonzer...