<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[xfzero的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/xfzero</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; xfzero]]></copyright><item><title><![CDATA[python 多进程执行任务]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/93613260</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/93613260</guid><author>xfzero</author><pubDate>Tue, 25 Jun 2019 13:10:06 +0800</pubDate><description><![CDATA[python 多进程执行任务
最近在写分布式优化, 想要实现简单的并行程序, 实现Parameter Server结构的一类sgd算法
看他们收敛性. 并行可以充分利用CPU/GPU资源, 加快训练. 对于一些简单的任务却有多个baseline, 我们就可以并行跑, 调试贼爽.
这里主要用到python中的Pipe来进行通讯
代码实现
from multiprocessing import *
f...]]></description><category></category></item><item><title><![CDATA[梯度下降算法小结]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79598839</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79598839</guid><author>xfzero</author><pubDate>Sat, 07 Jul 2018 18:48:32 +0800</pubDate><description><![CDATA[梯度下降一类算法小结

标签（空格分隔）： 梯度下降



以下内容为*An overview of gradient descent optimization 
algorithms*读后笔记



梯度下降算法变种



算法概览

最经典的梯度下降算法有:1.梯度下降(Batch gradient descent) 2. 随机梯度下降(Batch gradient descent) 3. m...]]></description><category></category></item><item><title><![CDATA[SVRG&Lissa&NewSamp实现]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79810182</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79810182</guid><author>xfzero</author><pubDate>Sat, 07 Jul 2018 18:48:18 +0800</pubDate><description><![CDATA[SVRG, NewSamp &amp;amp;amp;amp;amp; Lissa 实现



具体实现参见Github,算法分析可以参我的一篇二阶算法博客

SVRG, NewSamp &amp;amp;amp;amp;amp; Lissa

这是基于python实现的SVRG, NewSamp, Lissa的baseline

数据集采用的是Mnist49(手写数据集中的4和9)



SVRG



算法分析

SVRG（Stochastic Varia...]]></description><category></category></item><item><title><![CDATA[二阶随机优化算法小结]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79591640</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79591640</guid><author>xfzero</author><pubDate>Sat, 07 Jul 2018 18:48:10 +0800</pubDate><description><![CDATA[二阶随机优化算法

标签（空格分隔）： L-BFGS NewSample Lissa



最近看了几篇二阶优化算法，现在总结一下，以便日后查阅

二阶算法


  二阶优化算法又称为牛顿法，牛顿法是微积分学中， 通过迭代以求解可微函数f的零点的一种算法，而在最优化中，牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x， 同时也是f的驻点。 因此从另一个角度而言，应用于最优化中的牛顿法...]]></description><category></category></item><item><title><![CDATA[牛顿法及拟牛顿法笔记]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79945979</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79945979</guid><author>xfzero</author><pubDate>Sat, 07 Jul 2018 18:47:58 +0800</pubDate><description><![CDATA[牛顿法


  二阶优化算法又称为牛顿法，牛顿法是微积分学中， 通过迭代以求解可微函数f的零点的一种算法，而在最优化中，牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x， 同时也是f的驻点。 因此从另一个角度而言，应用于最优化中的牛顿法是求解函数 f(x)的最小值或最大值的一种算法。


考虑无约束最优化问题

minx∈Rnf(x)minx∈Rnf(x) min _{x \in R...]]></description><category></category></item><item><title><![CDATA[矩阵微分]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/80336043</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/80336043</guid><author>xfzero</author><pubDate>Sat, 07 Jul 2018 18:47:44 +0800</pubDate><description><![CDATA[矩阵微分

标签（空格分隔）： 矩阵微分



在学习机器学习算法时,发现对矩阵求导很不熟悉,去看了张贤达的矩阵分析,发现标量对矩阵求导的问题说的很清楚 
重要的事情说三遍 
损失函数是标量函数!!! 
损失函数是标量函数!!! 
损失函数是标量函数!!!

主要介绍实值函数相对于实向量变量或者矩阵变量的偏导.这里首先对变元和函数符号做统一的规定以便后面介绍. 
xx=[x1,...,xm]T∈R...]]></description><category></category></item><item><title><![CDATA[基于python 实现对图片进行SVD]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/80385354</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/80385354</guid><author>xfzero</author><pubDate>Sun, 20 May 2018 20:31:36 +0800</pubDate><description><![CDATA[实现对图片进行SVD

之前在学习截断式SVD的时候, 不知道为什么截断式SVD后能够近似原矩阵? 或者说奇异值究竟有什么含义? 
看了以下知乎的答案后, 有了很形象的理解 
奇异值的物理意义是什么？ - 郑宁的回答 - 知乎

这里参考基于Python查看SVD压缩图片的效果这篇博客后实现了截断式SVD



from PIL import Image
import numpy as np
im...]]></description><category></category></item><item><title><![CDATA[Markdown中显示矩阵运算过程]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/80369575</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/80369575</guid><author>xfzero</author><pubDate>Fri, 18 May 2018 21:20:28 +0800</pubDate><description><![CDATA[发现这个神奇的用法，以后写博客就可以很好的演示矩阵乘法了 
原文知乎

jupyter 显示矩阵

标签（空格分隔）： 未分类






from IPython.display import display,Latex,Math
%matplotlib inline
import numpy as np
from IPython.core.interactiveshell import Int...]]></description><category></category></item><item><title><![CDATA[线性收敛的随机L-BFGS算法]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/80112876</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/80112876</guid><author>xfzero</author><pubDate>Fri, 27 Apr 2018 21:28:38 +0800</pubDate><description><![CDATA[线性收敛的随机L-BFGS算法

以下皆为翻译A Linearly-Convergent Stochastic L-BFGS Algorithm 原文链接 
六级没过,莫怪



概要

我们提出了一个新的随机L-BFGS算法,并证明其对强凸连续函数可以达到线性收敛.我们的算法很大程度上基于最近在Byrd(2014)提出的L-BFGS算法的随机变种,以及Johnson和Zhang最近所提出的对于随...]]></description><category></category></item><item><title><![CDATA[Webbench学习]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962543</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962543</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:34:56 +0800</pubDate><description><![CDATA[开源代码学习

标签（空格分隔）： linux 开源



无聊至极,学习一下一些简单的开源项目



Webbench


  Webbench是一个在linux下使用的非常简单的网站压测工具。它使用fork()模拟多个客户端同时访问我们设定的URL，测试网站在压力下工作的性能，最多可以模拟3万个并发连接去测试网站的负载能力。Webbench使用C语言编写, 代码实在太简洁，源码加起来不到600...]]></description><category></category></item><item><title><![CDATA[Pandas 数据整合]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962319</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962319</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:25:00 +0800</pubDate><description><![CDATA[Pandas 数据整合

标签（空格分隔）： python pandas





合并数数据集


  pandas.merge可以根据一个或者多个键将不同DataFrame合并起来 
  pandas.contact 可以沿着一个轴将多个对象叠到一起 
  combine_first可以将数据编接到一起,用一个对象中的值填充另一个值




数据库风格DataFrame合并



pd.mer...]]></description><category></category></item><item><title><![CDATA[Python 时间的处理]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962288</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962288</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:23:35 +0800</pubDate><description><![CDATA[Python 时间的处理

标签（空格分隔）： python 数据分析





日期以及时间数据类型

日期 data, 时间 time 
datatime是包含data以及time 的数据类型 
timedelta两个datatime之间的差值



字符串和datatime的转化



datetime转换成字符串



stamp = datetime(2011, 1, 3)
str(st...]]></description><category></category></item><item><title><![CDATA[数据挖掘笔记]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962253</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962253</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:21:04 +0800</pubDate><description><![CDATA[数据挖掘 笔记

标签（空格分隔）： 特征提取



实习期间参加了CCF大数据比赛,总结期间用到的一些数据提取想法



数据提取方法



One-hot Encoding

Alter变更有11种类型，将变更类型进行One-hot Encoding编码，再统计每个类型的总量。

时间窗口特征

统计时间区间内行为累积, 比如统计某个企业 [2， 5， 8， 13， 21， 35]个月内的变更...]]></description><category></category></item><item><title><![CDATA[Pandas 读取文本数据]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962145</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962145</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:15:23 +0800</pubDate><description><![CDATA[Pandas 读取文本数据

标签（空格分隔）： python pandas



Pandas 读取文本数据

pandas解析函数 


如果原始数据是有标题的 
 
read_csv调用 
 
read_table 
这里可以指定seq=’\s+’等正则表达式来当分割符 
如果列名比数据行数量少1,read_table会推断第一列是DataFrame的索引 


指定列名 
如果没有标题,那...]]></description><category></category></item><item><title><![CDATA[Python 数据分析画图]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962113</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962113</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:14:02 +0800</pubDate><description><![CDATA[Python 数据分析画图&amp;amp;one-hot编码

标签（空格分隔）： python 





Matplotlib画图



fig, axes = plt.subplots(2, 2) #axes是一个数组



fig = plt.figure()
fig.set(alpha=0.2) 

#把图分为2行3列，当前在(0,0)位置画图
plt.subplot2grid((2, 3),...]]></description><category></category></item><item><title><![CDATA[C语言学习笔记]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79962009</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79962009</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:09:17 +0800</pubDate><description><![CDATA[C 语言学习 小记

标签（空格分隔）： c语言



在github上面看到别人一个很不错的学习笔记，记录一下其中的知识点 
笔记by qyuhen


  记录一下学习c语言遇到的一些知识点




数据类型



字符串

字符常量默认是⼀个 int 整数，但编译器可以⾃⾏决定将其解释为 char 或 int。 
size('a') = 4



浮点数


float: 32 位 4 字节...]]></description><category></category></item><item><title><![CDATA[大小尾端&转换]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79961976</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79961976</guid><author>xfzero</author><pubDate>Mon, 16 Apr 2018 16:07:40 +0800</pubDate><description><![CDATA[大小尾端

标签（空格分隔）： 计算机基础



大小尾端

提到体系结构时，经常遇到大小尾端的概念，这里做个总结。 
    big endian：大尾端，也称大端（高位）优先存储。 
    little endian：小尾端，也称小端（低位）优先存储。 
   如下00000000 00000000 00000000 00000001的存储



大尾端： 00000000 00000000...]]></description><category></category></item><item><title><![CDATA[Java对象转换成JSON String格式]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79154388</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79154388</guid><author>xfzero</author><pubDate>Wed, 24 Jan 2018 18:58:14 +0800</pubDate><description><![CDATA[JSON 格式转换成Java对象

标签（空格分隔）： Java jsckson



源代码 
添加依赖到pom.xml


dependency>
    groupId>com.fasterxml.jackson.coregroupId>
    artifactId>jackson-databindartifactId>
    version>2.6.3version>
dependen]]></description><category></category></item><item><title><![CDATA[单元测试与Spring框架]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79154364</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79154364</guid><author>xfzero</author><pubDate>Wed, 24 Jan 2018 18:55:59 +0800</pubDate><description><![CDATA[单元测试与Spring框架

参考博客 
源代码

当进行单元测试的时候,需要给对象的依赖一个mock对象 
但是对于Spring项目对象的私有成员,我们无法访问给他一个mock对象.这个时候我们就需要ReflectionTestUtils,他能够像Spring一样注入filed,通过手动给私有成员一个mock对象

public class ObjectA {
    private Strin]]></description><category></category></item><item><title><![CDATA[Java 模拟58登录(二) 实现]]></title><link>https://blog.youkuaiyun.com/xfzero/article/details/79099009</link><guid>https://blog.youkuaiyun.com/xfzero/article/details/79099009</guid><author>xfzero</author><pubDate>Thu, 18 Jan 2018 17:44:54 +0800</pubDate><description><![CDATA[Java 模拟58登录(二) 实现

标签（空格分隔）： Java




  实习期间需要做一个模拟58登录然后爬取简历，之前已经写了一篇分析，现在具体实现过程


有关过程的分析,可以参考我的另一篇博客 Java 模拟58登录(一) 分析

实现



流程

根据之前的分析可以得出58登录的大致流程如下


  
  发送Get请求（data？）， 获取 token
  发送Get请求（ge...]]></description><category></category></item></channel></rss>