<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[东泰山的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/u010936286</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; u010936286]]></copyright><item><title><![CDATA[Paper Reading-2-Focal Loss for Dense Object Detection 及tensorflow实现]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/86547339</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/86547339</guid><author>u010936286</author><pubDate>Sat, 19 Jan 2019 11:54:00 +0800</pubDate><description><![CDATA[论文链接: https://arxiv.org/pdf/1708.02002.pdf

1. 问题

在阅读这篇论文之前，我们先考虑一个问题。

我们现在打算用神经网络训练一个二分类模型，但是在训练的过程中往往会遇到这样的情况：

（1）正样本和反样本的样本数不相同，甚至相差悬殊（实际上往往正样本数远远小于反样本数），如何解决样本不均衡的问题？

（2）在选择反样本（正样本）的过程中，很多样本都是...]]></description><category></category></item><item><title><![CDATA[Paper Reading-1-Recurrent neural network based language model]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/81435969</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/81435969</guid><author>u010936286</author><pubDate>Sun, 12 Aug 2018 22:07:59 +0800</pubDate><description><![CDATA[目录

说明

引用文献

摘要

绪论

模型描述

优化

WSJ实验

NIST RT05实验

Recurrent neural network based language model

说明

这篇文章引自Mikolov 等人2010年经典论文，主要介绍了基于语言模型的RNN模型，详细描述了模型的训练及优化过程，并在WSJ和NIST RT05测试集上进行了论证，得到了较好的效果。本人在...]]></description><category></category></item><item><title><![CDATA[基于KRAKEN模型画传播损失]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80737299</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80737299</guid><author>u010936286</author><pubDate>Sat, 07 Jul 2018 20:35:17 +0800</pubDate><description><![CDATA[之前写过ActupV2.2L关于BELLHOP使用说明书，绘制了基于BELLHOP的单位冲激响应、传播损失图、本征声线以及任意信号经该信道的输出信号。请参考博文：ActupV2.2L关于BELLHOP使用说明书BELLHOP单位冲激响应的绘制BELLHOP任意信号的输入与信道响应以及相应的程序代码及使用说明书地址：...]]></description><category></category></item><item><title><![CDATA[TensorFlow实现简单的CNN]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80728708</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80728708</guid><author>u010936286</author><pubDate>Tue, 19 Jun 2018 10:09:11 +0800</pubDate><description><![CDATA[这里，我们将采用Tensor Flow内建函数实现简单的CNN，并用MNIST数据集进行测试第1步：加载相应的库并创建计算图会话import numpy as np
import tensorflow as tf
from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets
import matplo...]]></description><category></category></item><item><title><![CDATA[TensorFlow实现卷积层和池化层]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80723613</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80723613</guid><author>u010936286</author><pubDate>Mon, 18 Jun 2018 13:27:13 +0800</pubDate><description><![CDATA[这里我们将介绍如何实现常见的卷积层和池化层这里我们以二维数据为例进行介绍第1步：引入相应的库并创建计算图会话import tensorflow as tf
import numpy as np

#创建计算图会话
sess = tf.Session()第2步：创建数据并初始化占位符，这里输入数据shape = [10,10]#准备数据
data_size = [10,10]
data_2d = n...]]></description><category></category></item><item><title><![CDATA[TensorFlow实现神经网络]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80714112</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80714112</guid><author>u010936286</author><pubDate>Sat, 16 Jun 2018 17:45:42 +0800</pubDate><description><![CDATA[这里，我们将实现一个单层神经网络，并在IRIS数据集上进行模型训练输入数据：IRIS数据集的前三个特征输出数据：IRIS数据集的第四个特征即花萼长度神经网络大小：输入为batch_size*3，隐层为5个神经元,激活函数采用ReLU激活函数,一共需要训练(3*5+5+5+1)=26个变量代码如下：第1步：导入库以及相应的数据集，并对数据集按列（特征）进行归一化处理import tensorflow...]]></description><category></category></item><item><title><![CDATA[TensorFlow通过Cholesky矩阵分解实现线性回归]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80713784</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80713784</guid><author>u010936286</author><pubDate>Sat, 16 Jun 2018 17:01:08 +0800</pubDate><description><![CDATA[这里将用TensorFlow实现矩阵分解，对于一般的线性回归算法，求解Ax=b,则x=(A'A)^(-1)A'b,然而该方法在大部分情况下是低效率的，特别是当矩阵非常大时效率更低。另一种方式则是通过矩阵分解来提高效率。这里采用TensorFlow内建的Cholesky矩阵分解法实现线性回归。Cholesky可以将一个矩阵分解为上三角矩阵和下三角矩阵，即A = LL'这里，要求解Ax=b ==&amp;gt...]]></description><category></category></item><item><title><![CDATA[TensorFlow进阶--实现分类器]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80713542</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80713542</guid><author>u010936286</author><pubDate>Sat, 16 Jun 2018 16:38:32 +0800</pubDate><description><![CDATA[本节我们采用IRIS数据集实现一个简单的二值分类器来预测一朵花是否为山鸢尾。数据输入：花瓣长度、花瓣宽度数据输出：山鸢尾标记为1，其他物种标记为0模型：y=sigmoid(x1-(a*x2+b))损失函数:sigmoid交叉熵损失函数代码如下：首先导入库并创建计算图会话import tensorflow as tf
import numpy as np
import matplotlib.pypl...]]></description><category></category></item><item><title><![CDATA[TensorFlow进阶--实现学习率随迭代次数下降]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80709487</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80709487</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 20:46:17 +0800</pubDate><description><![CDATA[我们直到学习率对于机器学习来说，大的学习率虽然往往能够使得损失函数快速下降，但是导致不收敛或者振荡现象的发生，而小的学习率虽然收敛，但是学习速率太慢，损失函数下降缓慢，需要等待长时间的训练，同时也会容易陷入局部最优。因此，一种解决方法是令学习率随迭代次数的增加而下降。下面是python示例。该例子可以参考TensorFlow进阶--实现反向传播博文这里的关键在于tf.train.exponenti...]]></description><category></category></item><item><title><![CDATA[TensorFlow进阶--实现随机与批量训练]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80709304</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80709304</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 20:20:33 +0800</pubDate><description><![CDATA[首先，谈谈随机训练与批量训练随机训练其随机性可以达到一定脱离局部最小的效果，然而一般需要迭代多次才能够收敛批量训练能够快速得到最小损失，然而如果批量训练样本数较大，对于计算资源的消耗也会增加同时由于批量训练具有平滑的效果，因此其训练误差曲线较为平滑下面给出示例首先导入库并创建计算图会话import numpy as np
import tensorflow as tf
import matplot...]]></description><category></category></item><item><title><![CDATA[TensorFlow进阶--实现反向传播]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80709210</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80709210</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 19:48:59 +0800</pubDate><description><![CDATA[使用TensorFlow的一个优势是，它可以维护操作状态和基于反向传播自动地更新模型变量。下面我们介绍两个例子，来实现反向传播示例一：输入数据为：x满足均值为1，方差为0.1的正态分布输出y为10模型为：y=a×x损失函数为L2正则损失函数理论结果a应为10首先我们导入计算模块，并创建计算图会话，然后生成数据、创建占位符和变量A#创建计算图会话
sess = tf.Session()


#生成数...]]></description><category></category></item><item><title><![CDATA[TensorFlow进阶--实现多层Layer]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80709098</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80709098</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 19:32:23 +0800</pubDate><description><![CDATA[TensorFlow单层Layer示例请参考我的博客--Tensorboard计算图问题汇总下面我们尝试构建多层Layer首先引入tensorflow库并创建计算图会话import tensorflow as tf
import numpy as np

sess = tf.Session()接下来，通过numpy创建2D图像，并将其数据改变为4维，分别是:图片数量、高度、宽度、颜色通道创建占位符...]]></description><category></category></item><item><title><![CDATA[TensorFlow基础--实现激励函数]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80703363</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80703363</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 12:05:34 +0800</pubDate><description><![CDATA[激励函数是实现机器学习特别是神经网络算法的必备神器。激励函数的目的是为了调节权重和误差。在TensorFlow中，激励函数是作用于张量上的非线性操作。下面我们给出常用的几种激励函数首先引入TensorFlow包并创建计算图import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt
sess = tf.Sess...]]></description><category></category></item><item><title><![CDATA[Tensorflow基础--创建张量、变量及占位符]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80702811</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80702811</guid><author>u010936286</author><pubDate>Fri, 15 Jun 2018 11:38:16 +0800</pubDate><description><![CDATA[Tensorflow介绍Google的Tensorflow引擎提供了一种解决机器学习问题的高效方法。机器学习在各个行业应用广泛，特别是计算机视觉、语音识别、语言翻译和健康医疗等领域。创建张量首先引入tensorflowimport  tensorflow as tf创建指定维度的零张量print('零张量'.center(50,'-'))
zero_tsr = tf.zeros([3,3])创建指...]]></description><category></category></item><item><title><![CDATA[Tensorboard计算图问题汇总]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80696674</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80696674</guid><author>u010936286</author><pubDate>Thu, 14 Jun 2018 19:06:40 +0800</pubDate><description><![CDATA[TensorBoard是TensorFlow下的一个可视化的工具，能在训练大规模神经网络时将复杂的运算过程可视化。TensorBoard能展示你训练过程中绘制的图像、网络结构等。首先给出一个Tensorboard计算图的例子，后面给出常遇问题及解决方案。下面是Tensorflow生成计算图的代码示例,即可在'./log'路径下得到计算图文件import tensorflow as tf
impor...]]></description><category></category></item><item><title><![CDATA[Matlab读取MNIST数据]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80667138</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80667138</guid><author>u010936286</author><pubDate>Tue, 12 Jun 2018 16:39:43 +0800</pubDate><description><![CDATA[mnist database（手写字符识别） 的数据集下载地：http://yann.lecun.com/exdb/mnist/。准备数据MNIST是在机器学习领域中的一个经典问题。该问题解决的是把28x28像素的灰度手写数字图片识别为相应的数字，其中数字的范围从0到9.共有四个文件需要下载：train-images-idx3-ubyte.gz，训练集，共 60,000 幅（28*28）的图像数据...]]></description><category></category></item><item><title><![CDATA[冈萨雷斯数字图像处理-数字图像基础（Matlab）-图像的频域滤波]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80299959</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80299959</guid><author>u010936286</author><pubDate>Sun, 13 May 2018 20:39:33 +0800</pubDate><description><![CDATA[前面的章节我们介绍了图像的灰度变换以及空间域滤波，本章我们介绍图像的频域滤波。什么是频率？频率我们可以直观的理解为空间或者时间的变化率。对于图像来说，傅里叶变换中的频率与图像中的亮度变化直接联系。傅里叶变换的原点表示直流分量或者说是图像的平均灰度。例如，房间中的墙和地板，没有云朵的蔚蓝的天空等等，这些场景中图像变化缓慢，或者几乎不变，这里就对应着傅里叶变换的原点分量或者低频分量。而对于各种纹理、物...]]></description><category></category></item><item><title><![CDATA[冈萨雷斯数字图像处理-数字图像基础（Matlab）-图像的空间滤波]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80190721</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80190721</guid><author>u010936286</author><pubDate>Fri, 04 May 2018 16:04:39 +0800</pubDate><description><![CDATA[本小节，我们主要介绍图像的空间滤波及其应用，并用Matlab对其进行实现。空间滤波的机理空间滤波是指在某个像素的邻域中对该像素进行预定义操作的过程。如果该操作是线性的，我们称该滤波器为线性空间滤波器，否则为非线性空间滤波器。首先我们重点关注线性滤波器，一般而言，对于一个M×N的图像采用大小为m×n的滤波器进行空间滤波，可以表示为：其中x,y表示图像中的某个像素，一般而言这里的m和n均为奇数，这里令...]]></description><category></category></item><item><title><![CDATA[冈萨雷斯数字图像处理-数字图像基础（Matlab）-图像的直方图处理]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80060226</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80060226</guid><author>u010936286</author><pubDate>Tue, 24 Apr 2018 11:40:18 +0800</pubDate><description><![CDATA[图像的直方图图像的直方图处理是从概率统计的角度出发，对图像灰度级的概率分布进行变换，从而达到使图像细节丰富、动态范围较大、便于观测和理解的目的。直方图处理是多种空间域处理技术的基础，可以直接用于图像的增强以及图像的压缩和分割。在灰度级范围为[0,L-1]的数字图像的直方图可以表示为：其中rk是第k级灰度值，nk是图像中灰度为rk的像素的个数，M和N分别是图像的行和列数。我们首先对下列图像进行观测。...]]></description><category></category></item><item><title><![CDATA[冈萨雷斯数字图像处理-数字图像基础（Matlab）-图像的灰度变换]]></title><link>https://blog.youkuaiyun.com/u010936286/article/details/80051033</link><guid>https://blog.youkuaiyun.com/u010936286/article/details/80051033</guid><author>u010936286</author><pubDate>Mon, 23 Apr 2018 16:31:31 +0800</pubDate><description><![CDATA[前面两节介绍了图像的空间操作，包括图像的缩放旋转，图像的加减乘除及其应用。这里主要介绍图像的灰度变换。图像的灰度变换是在图像的单个像素上操作，主要是以对比度和阈值处理为目的。因此，这里的灰度变换是在空间域中进行的。图像反转图像反转通过反转图像的灰度值，得到照片底片，以使得当黑色面积占主导地位时，通过该操作来增强图像中的白色或灰色细节。其可以通过下面的公式表示。其中r为原图像灰度值，L为图片的灰度级...]]></description><category></category></item></channel></rss>