fb_help的专栏

深度学习笔记

传统方法VS深度学习方法传统方法与深度学习方法各自提升的方式传统方法：1.找到一个大体上符合问题的模型，得到参数与目标的函数关键，并优化求解。2. 改进：各自带有人类先验认知的小优化改进到上述模型中。因此，传统方法的核心在人类对目标问题的认知和建模，以及提出一种solver解决该模型。深度学习方法：首先确定我的问题和目标是否存在必然的关系，不需要建模问题到目标的模型，而是要建立问题到目标的合适的神经网络结构（该结构常常参考传统方法）。更加关注如何使用一些优化策略来使自己构建的网络收敛，俗称

最大似然估计目的对于一个概率问题，假设已知了发生一次独立事件属于那种概率分布。这时，怎么估计次概率分布的参数，就要使用最大似然估计。似然函数 与 概率函数我们描述一个事件发生的概率使用公式：P（x|θ）x 为某事件θ为概率分布的参数P（x|θ）为在θ的条件下，x发生的概率。事件发生的概率其实受两个因素决定：在参数θ确定的情况下，什么时间发生的概率 此时为概率函数在事件确定的情况下，不同的参数的概率 此时为似然函数这里如果理解不了，看https://zhuanlan.zhihu.

卷积运算和相关运算的区别https://www.zhihu.com/question/32067344

过拟合与欠拟合过拟合典型loss图：过拟合指的是训练集loss低但测试集loss高可能的原因是训练数据不足重复的数据可一直参与训练，但容易过拟合数据量少也容易参数过拟合欠拟合典型loss图：欠拟合是训练误差很大，测试误差也很大欠拟合的可能原因：模型本身不够复杂或者说不正确loss函数设置的不正确...

softmax回归softmax回归相较与线性回归softmax回归的输出有多个，适用于多分类问题。softmax的估计值线性回归的估计值是y_hat，只有一个一维值（这个值的范围有时归一到0~1，线性函数的输出不一定是0 ~ 1），而softmax回归的输出有多维，那么它的估计值应该也是一个同维数向量，仿照线性回归，我们可以将这个向量每个值先进行exp（x）运算，再归一化：这样就将一...

深度学习网络构建步骤输入数据Load数据到tensor可视化样本构建网络 网络结构与代价函数可视化结果训练网络 反复调参

anaconda安装pytorch cpu版搜索包anaconda search -t conda jiebaanaconda show pytorch/pytorch-cpu安装包到指定环境conda install -n root --channel https://conda.anaconda.org/pytorch pytorch-cpu删除包conda remove ...

Pytorch问题posix_memalign(&data, gAlignment, nbytes) == 0. 12 vs 0 pytorch原因是内存不足