青梅煮酒BX-优快云博客

原创关于动态TensorArray

Offcial website: https://www.tensorflow.org/versions/r1.15/api_docs/python/tf/TensorArray# - To add a vector at each iteration, forms a matrix finally:a = tf.TensorArray(dtype=tf.float32, size=0, dynamic_size=True)def cond_while(i, a): ret

2021-11-02 04:30:51 181

原创 Tensorflow显示某一tensor的数值

with tf.Session() as sess: sess.run(tf.initialize_all_variables()) sess.run(kernel) print(kernel.eval())

2021-08-17 19:44:08 403

转载 MATLAB pca函数使用指南

转自：https://blog.youkuaiyun.com/qq_25800311/article/details/83385029matlab 自带函数pca的用法因为pca在各个学科都有使用,每个学科对于名词的叫法都不太一样,使用的目的都不太一样,我就是单纯的想使用降维,发现matlab函数的pca函数的输入参数除了数据集X还有10个....弄了一段时间才明白....这里分享一下.有错误和不清楚的还请大家指正数据集X(每行为一个样本,行数为样本数)- coeff =pca(X)- coe...

2020-05-24 20:44:03 4451 1

转载基于MATLAB的可视化支持向量机

例子load fisheririsX = meas(:,1:2);y = ones(size(X,1),1);rng(1);SVMModel = fitcsvm(X,y,'KernelScale','auto','Standardize',true,'OutlierFraction',0.05);svInd = SVMModel.IsSupportVector;h = 0.02;...

2020-04-19 01:21:59 2838 1

转载贝叶斯公式 - 对似然函数的理解

定理定义贝叶斯公式（发表于1763年）为：这就是著名的“贝叶斯定理”，一些文献中把P(B[1])、P(B[2])称为基础概率，P(A│B[1])为击中率，P(A│B[2])为误报率。应用例子吸毒者检测贝叶斯定理在检测吸毒者时很有用。假设一个常规的检测结果的敏感度与可靠度均为99%，也就是说，当被检者吸毒时，每次检测呈阳性（+）的概率为99%。而被检者不吸毒时，每次检测呈阴性...

2020-04-14 21:39:27 3366

转载有效集法介绍（Active Set Method）

单纯性法（Simplex Method）是“线性规划之父”George Dantzig 最著名的成果，也是求解线性规划最有力的算法之一。而这一算法在求解二次规划（Quadratic Programming, QP）时的升级版就是有效集法（Active Set Method, ASM）。这两种算法的特点都是迭代点会循着约束边界前进，直到达到问题的最优点。本文对用于求解 QP 命题的 Primal A...

2018-10-29 12:11:30 8431

转载浅显易懂——泰勒展开式

第一次见到泰勒展开式的时候，我是崩溃的。泰勒公式长这样：好奇泰勒是怎么想出来的，我想，得尽量还原公式发明的过程才能很好的理解它。首先得问一个问题：泰勒当年为什么要发明这条公式？因为当时数学界对简单函数的研究和应用已经趋于成熟，而复杂函数，比如：这种一看就头疼的函数，还有那种根本就找不到表达式的曲线。除了代入一个x可以得到它的y，就啥事都很难干了。所以泰勒同学就迎难而上！决定让这些式子统...

2018-10-26 14:48:48 2058

转载 DeepMind推出分布式深度强化学习架构IMPALA，让一个Agent学会多种技能

目前，深度增强学习（DeepRL）技术在多种任务中都大获成功，无论是机器人的持续控制问题，还是掌握围棋和雅达利的电子游戏。不过，这些方面的进展仅限于孤立任务。完成每一项任务都要单独调试、训练agent。在最近的工作中，我们研究了如何训练单一agent去执行多种任务。今天，我们发布了DMLab-30。这是一组新任务，包含了在统一视觉环境、通用动作空间（action space）中的多种类型挑...

2018-07-28 15:32:13 982

转载 DeepMind提出多任务强化学习新方法Distral

选自arXiv机器之心编译参与：蒋思源、黄小天深度强化学习因为复杂的环境而很难进行有效的训练，通常我们会简化环境或使用共享神经网络参数的方法进行多任务学习，但采用这种方法的学习并不稳定。因此 DeepMind 近日发表了一篇论文，并提出了一种用于多任务的联合训练的新方法—Distral（提取&迁移学习）。论文链接：https://arxiv.org/pdf/1...

2018-07-28 13:54:50 2880

转载图像三维重建方法综述

文章转自：http://blog.youkuaiyun.com/zhubaohua_bupt/article/details/74172831 利用相机进行三维重建已经不是一个新鲜的话题，重建的三维环境用途很广泛，比如检测识别目标，作为深度学习的输入，视觉SLAM。目前，比较流行的是单、双目的重建。根据重建的稀疏程度不同，可以分为以下以下几类：稀疏重建：通常是重建一些图像特征点的深度，...

2018-07-27 14:15:20 5171

转载 Confusion Matrix (混淆矩阵)

转自：https://blog.youkuaiyun.com/java1573/article/details/78881284一个完美的分类模型就是，如果一个客户实际上(Actual)属于类别good，也预测成(Predicted)good，处于类别bad，也就预测成bad。但从上面我们看到，一些实际上是good的客户，根据我们的模型，却预测他为bad，对一些原本是bad的客户，却预测他为good。我们需要...

2018-06-20 13:03:08 474

转载遗传算法中常用的选择策略

简述　　遗传算法(GA)是一种模拟生物进化自然选择过程的非确定性搜索方法，源于达尔文的进化论和孟德尔的遗传定律，由美国 Michigan 大学的 Holland教授在 20 世纪 70 年代首先提出。生物理论指出，生物个体的各种生命表征是由许多基因共同决定的。同一种群的不同生物个体通常拥有不同的基因，因此对外在环境的适应能力也是不同的。在自然选择的作用下，一部分环境适应能力较差的个体会死亡被淘...

2018-03-06 15:23:57 19306

转载遗传算法概述

一、绪论 1、遗传算法（Genetic Algorithm）是受生物进化学说和遗传学说的启发发展起来的，生物在进化的过程中：1、不断繁殖 2、生存竞争 3、适者生存 4、遗传和变异。2、{遗传算法不是直接把解求出来，得到的解是不是最优解还不敢肯定，他只是一步一步逼近最优解，他是这样一种寻优的技术} 3、遗传算法的研究对象：研究各种非线性、多变量、多目标、复杂的自适应系统问题...

2018-02-18 12:00:14 3778

转载前沿 | 利用遗传算法优化神经网络：Uber提出深度学习训练新方式

在深度学习领域，对于具有上百万个连接的多层深度神经网络（DNN），现在往往通过随机梯度下降（SGD）算法进行常规训练。许多人认为，SGD 算法有效计算梯度的能力对于这种训练能力而言至关重要。但是，Uber 近日发布的五篇论文表明，神经进化（neuroevolution）这种利用遗传算法的神经网络优化策略，也是训练深度神经网络解决强化学习（RL）问题的有效方法。Uber 涉及领域广泛，其中许多领域都...

2018-02-17 10:54:09 3301

转载遗传算法---实数编码方式

文章转自：http://blog.youkuaiyun.com/u012319493/article/details/50502527问题：求f(x)=x+10*sin(5x)+7*cos(4x)最大值， 0<=x<=9新建输入文件gadata.txt，内容为： 0, 9 表示变量x的下界和上界。新建日志文件galog.txt，用于记录计算过程及输出结果。// GA.cpp : Defines ...

2018-02-08 13:22:21 20653 2

转载遗传算法原理及例题

作者：sjyan链接：https://www.zhihu.com/question/23293449/answer/120220974来源：知乎著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。求解函数 f(x) = x + 10*sin(5*x) + 7*cos(4*x) 在区间[0,9]的最大值。这个函数大概长这样：<i

2018-02-06 09:17:45 12799

转载通俗讲解遗传算法：内存中的进化

这是个真实的故事。从前在海岸边有一群扇贝在悠哉游哉地生活繁衍着。它们自然是衣食不愁，连房子也有了着落。它们担忧的只有一件事：每隔一段时间，总有一个人来挖走它们之中的一部分。当然啦，挖回去干什么这大家都知道。但扇贝们不知道的是，这人的家族图腾是Firefox的图标，所以他总是选择那些贝壳花纹长得比较不像Firefox图标的扇贝。这种状况持续了好几十万代。大家应该也猜到扇贝们身上发生什

2018-02-05 14:14:45 442

转载 OpenCV3.1.0的下载、安装和配置

1.任务描述准备配置的环境电脑系统：Windows 10 专业版 OpenCV版本：3.1.0Visual Studio版本：2015在配置OpenCV3之前，需要先把VS2015安装好。本文默认已经安装了VS2015。如果没有安装VS2015，请参考我的博客中的关于VS2015的下载和安装的内容：http://xinbolai.bl

2018-01-26 10:44:04 9786

转载一篇文章搞懂Python中self的含义

文章转自：http://python.jobbole.com/81921/刚开始学习Python的类写法的时候觉得很是麻烦，为什么定义时需要而调用时又不需要，为什么不能内部简化从而减少我们敲击键盘的次数？你看完这篇文章后就会明白所有的疑问。self代表类的实例，而非类。实例来说明

2018-01-14 13:14:44 342

转载 Python 2.7.x 和 3.x 版本的重要区别

许多Python初学者都会问：我应该学习哪个版本的Python。对于这个问题，我的回答通常是“先选择一个最适合你的Python教程，教程中使用哪个版本的Python，你就用那个版本。等学得差不多了，再来研究不同版本之间的差别”。但如果想要用Python开发一个新项目，那么该如何选择Python版本呢？我可以负责任的说，大部分Python库都同时支持Python 2.7.x和3.x版本的，所以不

2017-12-05 19:27:30 237

转载十个生成模型(GANs)的最佳案例和原理

生成对抗网络（GANs）是一种能“教会”计算机胜任人类工作的有趣方法。一个好的对手能让你成长更快，而GANs背后就是“从竞争中学习”的思路。GANs最先是由蒙特利尔大学的Ian Goodfellow提出，已在图像生成和风格迁移等领域获得了巨大的成功，充分展示了“无监督学习”技术的潜力。GANs是如何工作的？△GAN结构示意图一个GAN中包含两个相互竞争的神经

2017-12-02 12:23:31 20182

转载决策树的剪枝理论

剪枝理论，决策树的剪枝在上一节中没有仔细讲，趁这个机会学习了剪枝的基础理论，这里会详细学习。决策树为什么(WHY)要剪枝？原因是避免决策树过拟合(Overfitting)样本。前面的算法生成的决策树非常详细并且庞大，每个属性都被详细地加以考虑，决策树的树叶节点所覆盖的训练样本都是“纯”的。因此用这个决策树来对训练样本进行分类的话，你会发现对于训练样本而言，这个树表现完好，误差率极低且能够正

2017-11-29 16:24:36 583

转载令人拍案叫绝的Wasserstein GAN

在GAN的相关研究如火如荼甚至可以说是泛滥的今天，一篇新鲜出炉的arXiv论文《Wasserstein GAN》却在Reddit的Machine Learning频道火了，连Goodfellow都在帖子里和大家热烈讨论，这篇论文究竟有什么了不得的地方呢？要知道自从2014年Ian Goodfellow提出以来，GAN就存在着训练困难、生成器和判别器的loss无法指示训练进程、生成

2017-11-22 13:35:07 419

转载斯坦福大学机器学习——交叉验证（Cross Validation）

假设我们需要从某些候选模型中选择最适合某个学习问题的模型，我们该如何选择？以多元回归模型为例：，应该如何确定k的大小，使得该模型对解决相应的分类问题最为有效？如何在偏倚（bias）和方差（variance）之间寻求最佳的平衡点？更进一步，我们同样需要知道如何在加权回归模型中选择适当的波长参数，或者在基于范式的SVM模型中选择适当的参数C？我们假设模型集合为有限集，我们的目的就是从这d个模型

2017-11-20 09:20:21 1703

转载相对熵（KL散度）

信息熵反应了一个系统的有序化程度，一个系统越是有序，那么它的信息熵就越低，反之就越高。下面是熵的定义如果一个随机变量的可能取值为，对应的概率为，则随机变量的熵定义为有了信息熵的定义，接下来开始学习相对熵。 1. 相对熵的认识相对熵又称互熵，交叉熵，鉴别信息，Kullback熵，K

2017-11-20 08:58:36 3932

转载条条大路通罗马LS-GAN：把GAN建立在Lipschitz密度上

最近很多关心深度学习最新进展，特别是生成对抗网络的朋友可能注意到了一种新的GAN-- Wasserstein GAN。其实在WGAN推出的同时，一种新的LS-GAN (Loss Sensitive GAN，损失敏感GAN)也发表在预印本 [1701.06264] Loss-Sensitive Generative Adversarial Networks on Lipschitz Densit

2017-11-19 09:01:06 960

转载 SVM多分类问题 libsvm在matlab中的应用

对于支持向量机，其是一个二类分类器，但是对于多分类，SVM也可以实现。主要方法就是训练多个二类分类器。一、多分类方式 1、一对所有（One-Versus-All OVA）给定m个类，需要训练m个二类分类器。其中的分类器 i 是将 i 类数据设置为类1（正类），其它所有m-1个i类以外的类共同设置为类2（负类），这样，针对每一个类都需要训练一个二类分类器，最后，我们一共有 m 个分类

2017-11-17 22:23:23 22231 17

转载受限玻尔兹曼机(Restricted Boltzmann Machine, RBM) 简介

受限玻尔兹曼机(Restricted Boltzmann Machine,简称RBM)是由Hinton和Sejnowski于1986年提出的一种生成式随机神经网络(generative stochastic neural network)，该网络由一些可见单元(visible unit，对应可见变量，亦即数据样本)和一些隐藏单元(hidden unit，对应隐藏变量)构成，可见变量和隐藏变量都是二

2017-11-04 16:18:26 754

转载 GAN应用情况

今天我们来聊一个轻松一些的话题——GAN的应用。在此之前呢，先推荐大家去读一下一篇新的文章LS-GAN（Loss-sensitive GAN）[1]。这个文章比WGAN出现的时间要早几天，它在真实分布满足Lipschitz条件的假设下，提出了LS-GAN，并证明了它的纳什均衡解存在。它也能解决generator梯度消失的问题，实验发现不存在mode coll

2017-11-03 19:19:31 699

转载 Deep Q Network (DQN)

1. 强化学习和深度学习结合机器学习=目标+表示+优化。目标层面的工作关心应该学习到什么样的模型，强化学习应该学习到使得激励函数最大的模型。表示方面的工作关心数据表示成什么样有利于学习，深度学习是最近几年兴起的表示方法，在图像和语音的表示方面有很好的效果。深度强化学习则是两者结合在一起，深度学习负责表示马尔科夫决策过程的状态，强化学习负责把控学习方向。深度强

2017-10-27 15:55:32 1606

转载深度强化学习(DQN)实现CartPole

1 前言终于到了DQN系列真正的实战了。今天我们将一步一步的告诉大家如何用最短的代码实现基本的DQN算法，并且完成基本的RL任务。这恐怕也将是你在网上能找到的最详尽的DQN实战教程，当然了，代码也会是最短的。在本次实战中，我们不选择Atari游戏，而使用OpenAI Gym中的传统增强学习任务之一CartPole作为练手的任务。之所以不选择Atari游戏，有两点原因：一个是训练At

2017-10-19 09:51:46 9976 2

转载 Deep Reinforcement Learning 基础知识（DQN方面）

文章转自：http://blog.youkuaiyun.com/songrotek/article/details/50580904Introduction深度增强学习Deep Reinforcement Learning是将深度学习与增强学习结合起来从而实现从Perception感知到Action动作的端对端学习的一种全新的算法。简单的说，就是和人类一样，输入感知信息比如视觉，然后通过深度神

2017-10-18 15:34:06 399

转载自然语言处理的十个发展趋势

本文转自：http://www.sohu.com/a/163571379_633698近日，由中国人工智能学会、阿里巴巴集团 & 蚂蚁金服主办，优快云、中国科学院自动化研究所承办的第三届中国人工智能大会（CCAI 2017）在杭州国际会议中心盛大开幕。本次大会的第一场分论坛讨论是关于语言智能领域的八大问题。讨论期间，哈尔滨工业大学刘挺教授对自然语言处理的发展趋势做

2017-10-09 14:35:03 1631

青梅煮酒