chensonglu的博客

本文简单介绍数据集介绍、weka的使用、weka与LIBSVM、matlab与LIBSVM以及分类的若干细节问题。

本文不是介绍如何使用matlab对数据集进行归一化，而是通过matlab来介绍一下数据归一化的概念。  以下内容是自己的血泪史，因为归一化的错误，自己的实验过程至少走了两个星期的弯路。由此可见机器学习中一些基础知识和概念还是应该扎实掌握。

去年在Ubuntu上成功安装了Caffe，但是没有训练MNIST，今天在Mac上极简安装了Caffe并且顺利地跑通了MNIST。网络上的教程很多都比较复杂，这篇博客仅关注安装和训练过程，不涉及深度学习的理论。希望看到这篇博客的朋友不要去关注GPU、cuCNN、CUDA、cmake、Python、Matlab、LeNet、libstdc++、OpenBLAS、MKL等名词，这些只会让人觉得混淆。

之前的博客，我们介绍了如何在Mac下安装Caffe并训练MNIST，但是在Mac下有很多不方便的地方，今天介绍一下如何在Ubuntu下安装Caffe并且训练MNIST。

声明一下，以下是我个人在配置过程中遇到的一些问题，每个人可能因为不同的操作系统、不同的参数等有一些不同的问题，仅供参考。首先希望读者可以看一下我之前写的博客-Mac极简安装Caffe并训练MNIST，这篇博客基于此。另外这篇博客可以说是一个问题集锦，而不是配置Python接口的整体流程。

目前自己刚刚开始接触深度学习，深度学习里面的原理可谓是基本不懂，但是这并不影响我用开源CNN框架训练自己的模型，但总是这样感觉内心没底，于是最近开始从底层开始了解深度学习的原理。首先要了解神经网络的相关内容，之前在Coursera上学过Andrew Ng的《机器学习》，但是神经网络部分没弄明白，这次是重刷这门课程，在神经网络这两周花了大量时间，对里面的每个公式都进行了深入的推导，相关的链接都在最后。

持续更新 1.损失函数中对权重进行L2或者L1 Norm，也就是常说的weight decay 2.Dropout 3.BatchNorm和LRNNorm 4.1*3或者3*1这样的卷积 5.GoogLenet中间引出的损失函数