bytes9的专栏

RBM 是基于能量函数的无向图模型。将图节点分为可见层节点v和隐藏层节点h，其联合概率分布p(h,v)可表示为 其中，能量函数。 利用RBM计算p(h|v)的概率，即在可见层已知时，计算隐藏层h的概率。要根据v推断h,可求argmax p(h|v)。先得通过训练样本来估计模型参数。 采用极大似然估计，梯度上升算法。由于训练数据只有可见节点，对数似然函数为： N是样本数。 ...

要从p(x)中采样，找到一个状态转移概率,满足细致平稳条件：，来构造一个平稳分布为p(x)的马尔科夫链。metropolis-hastings算法的状态转移概率构造方式如下： 可以证明上述T能够满足细致平稳条件。 当满足细致平稳分布时，的分布的分布相同。证明如下： 1)马尔科夫性有： 2）因满足细致平稳条件，上式右边等于 3）因为 4）所以右边等于左边，等式成立。 ...

空间，指的是元素的集合，且元素间满足某种关系。 线性空间：元素满足乘加运算，即空间中的两个元素相加，得到的元素在集合内。空间中的任一元素和实数相乘，得到的元素仍在集合内。 距离空间：用距离表示两个元素的关系，两点间关系满足：非负性，对称性，直递性，即为距离。欧氏空间：以欧氏距离表示两元素间的关系。 赋范空间：该空间中的每个点可以定义长度，这个长度称为该点的范数，范数可以视为欧式空间中向量长度概念的推广。 巴拿赫(Banach)空间：完备的赋范线性空间。完备性，通俗理解，即没空洞。集合中的任意两元素之

1.为什么要正则化? 防止过拟合. 2.什么是过拟合? 指训练的模型在训练集的损失很小,但是在测试集上表现不佳. 3.为什么会过拟合? 一般来说,数据中会有噪声,为了拟合包含噪声的训练集的数据,模型会变得很复杂.而这个模型只是适合这个包含了噪声的训练集,和实际的模型有较大偏差,在测试集数据上往往表现不回. 4.什么是正则化,其思想是什么? 正则化的思想是,模型应当是趋于简单的.根据奥...

Google Colab是一个notebook环境，可看成是一台带有GPU的Ubuntu虚拟机，只不过我们只能用命令行的方式操作它。你可以选择执行系统命令，亦或是直接编写运行python代码。 每次访问Google Colab，会重新分配一个虚拟机，以前的代码和数据会丢失。如果要保存数据和代码，可以将其保存到Google Drive（谷歌云端硬盘)。 挂载完Google Drive，会在虚拟机...

目录 基本过程 定义模型 训练模型 预测 采用tensorflow不同接口的实现方法 使用Keras 使用 Estimator 构建模型 tensorflow低阶api 使用Keras 定义模型 1.继承 tf.keras.Model，定义网络每一层。 import tensorflow as tf class MyModel(tf.keras...

使用 Estimator 构建模型 定义模型 classifier = tf.estimator.Estimator( model_fn=my_model, params={ 'feature_columns': my_feature_columns, # Two hidden layers of 10 nodes each. ...

" The Estimators API is used for training models for distributed environments. This targets industry use cases such as distributed training on large datasets that can export a model for production." ...

tensorflow是一个机器学习库. tensorflow 从名字翻译过来是'张量流'.计算(操作)是一个加工过程,输入张量,经过加工后得到另一个输出张量.复杂的计算可以看作是一系列加工流,即输入数据,经过一系列加工流后输出结果张量. 每一个操作(加工)相互连接,构成一个有向图. A Tensor is a symbolic handle to one of the outputs of ...

tensorflow中的variable令人迷糊。它与python的变量是何关系？请看文档的定义。 A variable maintains state in the graph across calls to run(). You add a variable to the graph by constructing an instance of the class Variable. 在g...