dlphay的博客

模型：LeNet-5核心思想：局部感受野，权值共享，时间和空间的亚采样

Visualizing and Understanding Convolutional Networks总结Contents反卷积结构选取遮挡敏感性图片内特征相关性分析实验本文为20141024周报。在所有深度网络中，卷积神经网和图像处理最为密切相关，卷积网络在很多图片分类竞赛中都取得了很好的效果，但卷积网调参过程很不直观，很多时候都

从后向前逐层更新网络的参数集合。 求解优化问题： 其中： BP的改进：可以通过改进连接方式、改进训练样本、改进损失函数、改进学习速率进行优化。 改进连接方式：稀疏局部连接策略和权重共享策略。 改进训练样本：规范化训练样本、适当扰动训练样本。 改进损失函数：改进前馈网络整体损失函数 改进学习速率：增加动量项和陡度因子和可变学习速率的策略。算法缺点： 1 训练过程中容易过拟合，不可避免

Deep Q Nework 方法：DeepQ Network算法的详细解释：需要明白两个概念，一个是Q网络，一个是targrtQ网络，Q网络是我们预测网络，targrt Q网络可以认为是我们的训练网络，训练的目标是找到目标Q值：，这里目标Q值的定义依据时间差分算法（n-step TD，一般采用单步时差更新，步数越长，参考的奖励值数量也越多，网络的远见能力越强，），认为目

本文主要讲解一些参数初始化技巧和超参数的设置技巧，模型的理解和设计技巧，如何去指导我们对模型进行调优设计，如何从高（层数深）胖（卷积核庞大）的模型到高瘦或者矮（层数浅）瘦（卷积核较少）的模型去演变，同时性能得到优化或者保持！训练的过程和阶段可以分为3个阶段：欠拟合：模型没有很好地捕捉到数据特征（训练集和验证集的loss都大于0.3）。刚刚好：模型已经完成了我们的任务，满足要求（

先占个坑，详细内容后续添加！！！直接解或者间接解结构的构造： 利用神经网络中神经元（卷积核）参数对某一状态稀疏编码（激活）出一个很抽象的感受（神经网络最大的创新），这个感受可以直接端到端地降维计算出一个具体的我们想要的解结构的关键部分。训练就是学习和改变神经元参数，去使得解结构的关键部分朝着目标（）的梯度去更新。 卷积：特征收集器如何调参数可以说计算出动作的价值

Logistic 分类器与 softmax分类器首先说明啊：logistic分类器是以Bernoulli（伯努利） 分布为模型建模的，它可以用来分两种类别；而softmax分类器以多项式分布（Multinomial Distribution）为模型建模的，它可以分多种互斥的类别。补充：什么是伯努利分布？伯努利分布[2] 是一种离散分布,有两种可能的结果。1表示成功，

参考文章：封装yolo-windows为动态链接库这篇文章主要cuda和opencv的安装做一些记录：配置：win10_x64+GTX970CUDACUDA 依次选择【Windows】-【x86_64】-【win10】-【exe[local]】cuda7.5 : cuda_7.5.18_win10cuda8.0 : cuda_8.0.44_win10第一点：

YOLO开源链接：https://pjreddie.com/darknet/yolo/yolo应用于实时目标检测yolo的优势：1 在硬件支持的前提下，实时视频处理延迟小于：25ms（基于YOLO：45fps  基于TINY_YOLO：150fps）                   2 全范围的图像预测                   3 网络层学习归纳能力比较强，稳定

神经网络+增强学习神经网络+增强学习AI实现方式探索 ——神经网络+增强学习儿时我们都曾有过一个经典游戏的体验，就是马里奥（顶蘑菇^v^），这次里约奥运会闭幕式，日本作为2020年东京奥运会的东道主，安倍最后也已经典的马里奥形象出现。平时我们都是人来玩马里奥游戏，能否可以让马里奥智能的自己闯关个呢？OK，利用人工智能的相关算法来进行自动化通关一直是一个热门的话题，最近最火的

csdn公式编辑器不好用，就直接从word里面截图发上来一些理论公式：长期规划问题迷宫：复杂决策的情景----我们只有把基于搜索的和基于增强学习的算法结合，才能有效解决这类问题。围棋：确定性的环境，长期奖励----基于搜索的和基于增强学习的算法结合自动驾驶：环境非确定--转移函数未知自动驾驶简介感知、决策和控制决策：（对安全和可靠性有着严格要求）

准备：L4T 27.1 an Ubuntu 16.04 64-bit variant (aarch64)CUDA 8.0cuDNN 5.1.10TensorFlow安装需要用到CUDA和cuDNN安装的版本为：TensorFlow v1.0.1安装：//下载脚本：$ mkdir ~/dl$ cd ~/dl$ git clone https://

NVIDIA(深度学习DLI)西安站培训总结计算行业正在从只使用CPU的“中央处理”向CPU与GPU并用的“协同处理”发展的趋势进行。编程GPUs的3种方式：1 Libraries (Easily Accelerate Applications)2 OpenACC Directives (Easily Accelerate Applications)3 Programming

强化学习是需要建立一个存在大量表征学习参数的世界模拟器（World Simulator），模拟真实世界的逻辑和原理，它的目的和作用是：让机器（Agent）能够了解并且预测世界的规律，通过预测和规划，具备理性的逻辑分析能力。Actor-Critic算法思想：对于一个系统，从状态输入到决策输出之间，我们可以联合Policy-based和Value-based两种决策方式去改进成为新的决策方式。

• 建立dl目录，下载安装脚本：mkdir dlcd dlgit clone https://github.com/ncnynl/installCaffeJTX2.gitcd installCaffeJTX2• 设置CPU and GPU clocks为最大,这个文件位于用户根目录：$ sudo ~/jetson_clocks.sh• 安装Caffe脚本：$ ./installC

增强学习的理论有规范的解释，使基于心理学和动物行为感知的神经系统科学，解决Agent在环境中如何优化控制。为了把增强学习成功应用在接近复杂的真实世界的情形下，Agent将会面临棘手的任务：对来自环境中的高维感知输入进行有效的模型表示，可以学习过去的经验来应对未知的情形和环境。显然地，人类和其他动物可以通过增强学习和分层感知处理系统的协调组合来解决问题，前者已经通过大量的神经数据得到证明，其中时间差

传统的目标检测任务主要通过人工提取特征模型建立，常用的特征包括：HOG、SIFT、Haar等，特征提取模型之后进行支持向量机或者Adaboost的分类任务，进而得到我们所关注的目标结果。由于特征模型的局限性，我们引入卷积特征，也就是经过卷积神经网络得到的特征信息，包括浅层信息和深层信息，浅层信息指的是：前级的卷积层得到的特征图，感受野更加关注的是图像细节纹理等特征。深层信息包括：后级的卷积层卷积得到的特征图信息，在语义语境方面更加抽象的高层信息。人工神经网络是根据大脑神经突触联接的结构进行信息处理的数学模型

本文来源：http://blog.youkuaiyun.com/heyongluoyao8/article/details/52478715   该文翻译自An overview of gradient descent optimization algorithms。　　   总所周知，梯度下降算法是机器学习中使用非常广泛的优化算法，也是众多机器学习算法中最常用的优化方法。几乎当前每一个先进的

感谢作者的翻译与总结http://blog.youkuaiyun.com/songrotek/article/details/50581011来源：NIPS 2013作者：DeepMind理解基础：增强学习基本知识深度学习 特别是卷积神经网络的基本知识创新点：第一个将深度学习模型与增强学习结合在一起从而成功地直接从高维的输入学习控制策略