wchzh2015的博客

logistic_regression

离散型随机变量及其分布 （0-1）分布 设随机变量X只可能取0和1的两个值，他的分布律是,则称 X 服从以p为参数的（0-1）分布或者两点分布。分布律：X 0 1 Pk 1-p p 伯努利（Bernoulli）实验、二项分布设实验 E 只有两个可能结果：A和，则称 E 为伯努利实验。设P(A) = p (0<p&lt...

总结simpler model structure regularization data augmentation dropout Bootstrap/Bagging ensemble early stopping utilize invariance Bayesian定义过拟合（overfitting）是指在模型参数拟合过程中的问题，由于训练数据包含抽样误差，...

待更新

这里添加的是我学习中看到的博客，后期有空整理知识点，你也可以点开链接看看。学习博客：深度学习优化函数详解

这里添加的是我学习中看到的博客，后期有空整理知识点，你也可以点开链接看看。学习博客：一文搞懂交叉熵在机器学习中的使用，透彻理解交叉熵背后的直觉...

学习博客：逻辑回归的常见面试点总结

待更新：

这段程序是使用keras进行深度学习分类问题。比较简单，将每个类别单独保存在一个文件夹中，然后包含所有类别的文件夹在放在同一个文件夹下面。比如下面所示：train/ cat/ dag/下面的代码写的是9分类的问题，代码：from keras.applications.inception_v3 import InceptionV3from ...

现在很多网络结构都是一个命名+数字，比如（ResNet18），数字代表的是网络的深度，也就是说ResNet18 网络就是18层的吗？其实这里的18指定的是带有权重的 18层，包括卷积层和全连接层，不包括池化层和BN层。下面先贴出ResNet论文中给出的结构列表。对 Pytorch 中ResNet18网络的源码分析（这里），我画出了大致的网络结构图。可以看出，数字 18 = 17 个...

博客出于待完善阶段，Boosting 算法是一种加法模型（additive training）

博客出于待整理状态GBDT的原理在参考文献的第一篇博客中，我就不再详述它的原理了。图1-3主要是参考文献第二篇文章中的。为了学习了解相关概念。图1图2图3图4图5优点，缺点与XGboost的不同。（实际上GBDT泛指所有梯度提升树算法，包括XGBoost，它也是GBDT的 一种变种，这里为了区分它们，...

linear_regression

学习机器学习TensorFlow的入门简单的基本操作。

nearest neighbor algorithm

编排得好一点的脚本或者程序里面都有这段if name == ‘main’:1、这段代码的功能，第一是直接作为脚本执行，第二是import到其他的python脚本中被调用（模块重用）执行。在if __name__ == 'main': 下的代码只有在第一种情况下（即文件作为脚本直接执行）才会被执行，而import到其他脚本中是不会被执行的。举个例子，下面在test.py中写入如下代码： pri

看到一篇不错的神经网络损失函数的讲解，感谢博主的睿智。http://blog.youkuaiyun.com/zr459927180/article/details/50750736

Convolutional Neural Networks: Step by StepWelcome to Course 4’s first assignment! In this assignment, you will implement convolutional (CONV) and pooling (POOL) layers in numpy, including both forward

博客出于待完善学习状态熵的概念信息增益信息增益比基尼指数ID3C4.5CART（Classification And Regression Tree）如何剪枝，如何处理缺失值如何处理连续值？还有进一步的集成模型里选取的决策树，比如随机森林里用的哪种决策树，GBDT利用的哪种决策树？如果考虑特征相关性问题，有没有这样的决策树算法处理这方面的问题。...

本博客出于不断学习和完善更新中，会有错误之处，还请指出更正。 机器学习 逻辑回归 决策树 XGboost 随机森林 梯度提升树，GBDT LightGBM Boosting 算法 贝叶斯网络 EM HMM 随机变量及其分布？ 深度学习 神经网络解决过拟合的方法 深度学习优化函数详解 交叉熵损失函数 深度学习常用损失函数...

stack（）：沿着指定的轴加入一系列数组。 vstack（）：堆栈数组垂直方向 hstack（）：堆栈数组水平方向 dstack（）：堆栈数组按顺序深入（沿第三维）。import numpy as np a= np.array([1,2,3]).reshape((3,1))print(a.shape)b = np.array([4,5,6]).reshape((3,1))...