I AM BACK

我最近写文章都在知乎上面写了，感觉写的东西更多人来看和讨论。贴一个地址： https://zhuanlan.zhihu.com/c_156056199

LeNet-5AlexNetVGGNetGoogLeNetResNetDenseNetCapsulesNetSummary转载请注明出处： http://blog.youkuaiyun.com/c602273091/article/details/79119303对于LeNet-5和AlexNet的论文我都有认真看过，对于另外的结构略看了paper。这篇博客主要还是以总结为主，对各

gradient descentNewtons MethodMomentumAdagradRMSPropAdam转载请注明出处： http://blog.youkuaiyun.com/c602273091/article/details/79111771机器学习或者是深度学习中涉及了不少优化理论，那么问题来了，在机器学习中，它优化的目标是什么？它是如何进行优化的？为什么进行这种优化？这

graphReconstruct ItineraryCut Off Trees for Golf EventNumber of IslandsFriend CirclesWord LadderRedundant ConnectionEmployee ImportanceCourse ScheduleCourse Schedule IINetwork Delay Time

HeapTop K Frequent WordsFind Median from Data StreamGreedyCreate Maximum NumberCut Off Trees for Golf EventTask SchedulerLongest PalindromeValid Triangle NumberAssign CookiesMaximum Pr

原理篇实现篇nnReinforceCategoricalnnReinforce强化学习已经成为大家关注的点，至少据我了解世界顶级名校CV的实验室都在做这方面的工作。最近也在做相关的Research，正好遇到了在Torch中的RL实现，发现没有什么可以参考的中文资料，只能试着来解释一下Torch中的RL实现。原理篇在Torch中的RL【2】实现参考的是论文【1】

介绍基于模型的RL整体框架基于仿真的搜索Exploration and Exploitation介绍越看到后面，我越发觉得RL更像是一种思想，Policy，State都需要自己进行定义，计算value function的过程也有公式，但是不如深度学习那么直接。之前的章节是说到如何从经验中得到policy和value function，这一节是如何从经验中获取模型。然后使用模型加经验来更新po

Anyone Who Can Drive Safely While Kissing Is Simply Not Giving the Kiss the Attention It Deserves[1]. ——Albert Einstein当你在吻一个女孩的时候还能安全驾驶，说明你吻得不专心。据说这句话有可能是爱因斯坦说的[1]。其实我觉得这句话更说明你是一个老司机。在这本书里面介绍了人的注意力曲线U

Lua变量和控制流函数表示哈希表像类一样的table和继承模块化TorchTensorLua最猛的版本还是在【2】里面，15 Min搞定Lua，因为Lua是一种脚本语言，用标准C语言编写并以源代码形式开放， 其设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能。所以会Perl，Python，Shell的话应该很快上手。变量和控制流注释： 单行： – 多行：--[[-

linear regressiongraph assemble训练模型examplelogistic regressionloss functionHuber Loss在这一篇中，将会介绍如何使用TensorFlow进行linear regression以及logistic regression，以及loss function的定义。之后的篇章将会进入如何使用TF构建RNN，LSTM网络。上

introductionBasic Operation可视化graph常量operation数据类型变量loading lazy实例线性回归神经网络识别数字introductionTensorFlow是由Google Brain Team弄的一个深度学习框架，使用的是data flow graph的模型进行计算。相比于Torch，Theano，Caffe，CNTK，Disbelief

introduction and installexampleintroduction and installKeras是一种high level的神经网路的Python API，它可以在TensorFlow, CNTK, or Theano上运行，兼容Python Python 2.7~3.6，所以非常方便。可以在CPU和GPU上运行，适用于快速验证想法。**模块化：**neural layer

introductionincremental methods增量法state value function with prediction approximationaction value function with control approximationbatch methods批处理introduction上一节讲到使用采样的方法进行，状态和action space都比较小的情况，

弗洛伊德更加看重因果关系，把这种关系作为心理学的基本定律，认为儿童时期的心理发展会对其一生产生决定性影响。阿德勒却觉得影响人做决定不仅仅是过去的经验，更重要的是对未来的期望。这种目标虽然是虚假的，但是人们会按照这种期待进行种种行为。阿德勒称之为“自我的理想”，可以从中获得优越感，并维护自己的尊严。既然过去已经无法改变，那么我更加同意阿德勒的想法，用理想去重塑自己的意识壁，为理想而奋斗。

On-policy Monte-Carlo ControlOn-Policy Temporal-Difference LearningOff-Policy Learning使用Monte-Carlo对off-policy进行更新使用TD对off-policy进行更新使用Q-learning进行off-policy的更新上一节讲到的是对未知MDP的value function进行估计，这一节是

Monte-Carlo learningFirst-Visit MC Policy EvaluationEvery-Visit MC Policy EvaluationTemporal-Difference LearningTDlambdaMDP: Monte-Carlo learning蒙特卡洛学习。是通过样本来判断整体的情况，没有MDP中的P和R，直接从episodes（需要有termin

Policy EvaluationIterative Policy EvaluationPolicy IterationValue IterationAsynchronous DPIn-place DPPrioritised SweepingReal-time DPFull-Width BackupsSample BackupsSample Backups动规是一般是把问题分解成

Reinforcement Learning ConceptrewardSequential decision makingRL Agentcategorizing RL agentMDPMarkov ProcessMarkov Reward ProcessMarkov Decision ProcessExtension of MDPPOMDPs转载请注明出处： http://b

分布式文件系统简介普通的存储方法分布式存储方法NFSGFS分布式文件系统简介文件系统是在物理存储和文件操作之间的抽象层，使得文件管理，存储管理更加方便。分布式文件系统，使得文件系统容易扩容，方便配置，方便共享和管理。当然具体解释就是文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连，也就是集群文件系统，可以支持大数量的节点以及PB级的数据存储。常见的专有的分布式

Q AQ & A1、如果一些商业用户有很多的小文件在分布式文件系统上，这些文件只被用户自己使用，从用户的桌面登录，需要对文件进行频繁地读和写。哪一种文件系统会需要更多的沟通？NFSv3 或者是 AFS2？An: AFS2。理由为如果在客户端有缓存并且有效的话，那么就不会和文件系统进行沟通。NFS3就会调用RPC给服务器确认cache是否有改变。并且在写文件的时候，NFS3会每次写回都调用一次RPC

RAID 相关的可靠性计算BigTable含义MapReduceRAID 相关的可靠性计算传统的RAID进行修复的时候，需要大量的IO带宽，内存带宽以及CPU时间。它的表现如下图所示： 这个时候，还有没有使用的带宽，这是一种浪费。将磁盘进行划分，可以变成： 当然，可以再进一步对空闲的磁盘进行划分。 这种操作可以将负载分配到不同的读写器上，这种decluster的操作在GFS中也有。BigT

Google File System GFSCommodity Clusters 社区集群模仿者Hadoop FS HDFSBigTable针对大数据的统计分析工具模仿者noSQLMapReduce并行处理数据模型模仿者HadoopGoogle File System GFS参考文档： Ghemawat03: S. Ghemawat, H. Gobioff, S-T. Leung, S

数据保护的意义备份 backup磁带备份 tape backup目前的备份系统备份系统的工作逻辑地址空间 vs 物理地址空间备份快照 snapshot增量 incremental vs 全 full 备份数据复制 data replication数据保护的意义备份 backup磁带备份 tape backup目前的备份系统备份系统的工作逻辑地址空间 vs 物理地址空间备份快照 snaps

storage stackHPC I O StackCloud Storage StackStorage System Models本地文件系统并行分布式文件系统NASSAN对象存储并行文件系统GPFSPVFSPanFSLustre文件系统MPI-IOstorage stack关于存储栈的基础：存储栈包含了完整的服务器、网络部分和服务器虚拟化部分。 http://searchst

Storage System快要期末考了，要准备复习一下，这门课Prof Greig讲得很迷，需要好好整理一下。分布式文件系统大概：基本的客户端/服务器模型客户端服务器模型的运用分配服务器设计中需要考虑的问题基本的客户端/服务器模型文件系统的顶层功能包括：《name，offset》与《partition，sector》之间的转换（地址空间管理，FTL这一类的东西）；文件缓存和永久保存；对于某

这个学期，我在CMU选了15-746： Storage System，11-642 Search Engine、10-601 Machine Learning三门课程。和国内水课不同，这些课程讲得很深入，同时要求实现更深层次的东西。讲课和作业更像两条线，讲课更多是广度，作业是深度的挖掘，要到代码层次，而且这里做作业可不像国内做作业可以到处“参考”。每一次做作业都感觉像是涅槃重生，整个人被反复折磨，在

Fuse self-defined operation:http://libfuse.github.io/doxygen/structfuse__operations.html#a0ad1f7c4105ee062528c767da88060f0Fuse good example in high level:http://libfuse.github.io/doxygen/passthrough__f

这次的ss的pro使用aws s3和Fuse实现用户空间的cloud file system，我又是用win 10，所以需要进行频繁的文件传输。登录aws上的虚拟机：ssh -i xxx-perm student@ec2-xxxxxx.compute-xxx.amazonaws.com传文件：还是整个文件夹传 scp -i xxx-student.pem -r src student@ec2-xxx

在Windows上使用Pearl可以用StrawPearl，非常好用。#! /usr/bin/perlprint "hello,world\n";use LWP::Simple;my $fileIn = 'HW3-exp1-ranked-and.teIn';my $url = 'http://boston.lti.cs.cmu.edu/classes/11-642/HW/HTS/tes.cgi';

下载opensshd搞定这个问题，在下载的文件里的doc里说明了如果使用，要在cmd命令行下执行。http://sshwindows.sourceforge.net/scp命令使用如下： scp handout.tar.gz id@shark.ics.cs.cmu.edu:~/private/18-746/

遇到这个问题，先看一下你的gcc，g++的版本，使用gcc –version，g++ –version，你发现版本可以使用c++11，https://gcc.gnu.org/projects/cxx-status.html#cxx11但是你不能保证你所用的正是这个版本，所以你需要看一下你都有哪些gcc，g++编译器。whereis gcc，你就会发现你还有老版本的gcc，是不是使用了这个老版本呢？修

时间是不可以管理的，我们能够管理的只有我们自己。时间在流逝，我们无法放慢时间，我们只能管理自己，改变对时间的态度。不以物喜，不以己悲。慢慢治疗自己的时间恐惧症。解决时间恐惧症的办法就是靠积累！

是时候要装点一下个人GitHub了，要有拿得出手的GitHub才算一个好的算法工程师。算法加速篇LeNet-5的OpenMP加速LeNet-5的CUDA加速算法加速篇LeNet-5的OpenMP加速该项目使用OpenMP对LeNet-5的识别数字进行加速，可以达到11x的训练和测试加速。项目链接地址：LeNet-5的CUDA加速该项目使用CUDA对LeNet-5的识别数字进行加速，可以达到3x的

题目描述解题思路近似估计频率估计法转载请注明出处：http://blog.youkuaiyun.com/c602273091题目描述做NLP的小伙伴告诉我，他投阿里的时候做的题目就是以下：题目：方程(x2+y2−1)3−x2y3=0(x^2+y^2−1)^3−x^2y^3=0能画出一个爱心，现给定一个点(X,Y),其中X∼N(μ1,σ21μ_1,σ_{21}),Y∼N(μ2,σ22μ_2,σ_{22})

SLAM is short for simutaneous localization and mapping, which plays an important part in perception of robotics like autonomous driving or VR/AR.(In robotics, there are three component. Perception, con

EKF-SLAM First step to SLAM......