qq_31375855的博客

人工智能（AI / CV / NLP）顶会 IJCAI22 Accepted Papers

Pytorch训练时正常，测试时显存一直上升导致爆显存同样的 batch size，模型在训练时显存正常，验证、测试时每个batch显存逐步增长直到爆满解决方法：在测试的时候让模型不要保存梯度：with torch.no_grad(): test()......

conda install 或者 create 出现 ERROR REPORTconda 安装python库时或者创建环境时出现错误如下报告：Traceback (most recent call last): File "/home/ylq/anaconda2/lib/python2.7/site-packages/conda/exceptions.py", line 1062, in __call__ return func(*args, **kwargs)

报错 module ‘skimage’ has no attribute ‘io’ 解决办法1. 检查skimage是否安装正确，若没有安装或安装了错误的包，使用pip或conda安装：pip install scikit-image或conda install scikit-image2. 若已经正确安装，则原因应该是io是子模块，应该：from skimage import io...

训练用PyTorch编写的LSTM或RNN时，在loss.backward()上报错：RuntimeError: Trying to backward through the graph a second time, but the buffers have already been freed. Specify retain_graph=True when calling backward the first time.千万别改成loss.backward(retain_graph=True)，会导致

过拟合主要包括数据量小，网络复杂learning rate 比较高，又没有设置任何防止过拟合的机制解决方法主要包括利用现有深度学习手段增加数据（翻转，平移，随机裁剪，imgaug）利用 dropout层（一般dropout=0.5）利用正则化，例如图片需要把RGB值除以255。L1正则化通过让原目标函数加上了所有特征系数绝对值的和来实现正则化，而L2正则化通过让原目标函数加上了所有特征系数的平方和来实现正则化。在分验证集之前打乱数据因为validation_sp

Jordan network和Elman network都是很久以前的奠基性工作了，所以都是基于最浅的三层网络结构定义的。简单循环网络（simple recurrent networks，简称SRN）又称为Elman network，是由Jeff Elman在1990年提出来的。Elman在Jordan network（1986）的基础上进行了创新，并且简化了它的结构，最终提出了Elman network。Jordan network和Elman network的网络结构如下图所示。Elman net

大多问题都可以建模成一种最优化模型进行求解，比如我们现在学习的机器学习算法，大部分的机器学习算法的本质都是建立优化模型，通过最优化方法对目标函数（或损失函数）进行优化，从而训练出最好的模型。常见的最优化方法有梯度下降法、牛顿法和拟牛顿法、共轭梯度法等等。1. 梯度下降法（Gradient Descent）梯度下降法是最常用的一种优化算法。其核心思想是：在当前位置寻找梯度下降最快的方向，来逐渐逼...

keras报CUDA_ERROR_OUT_OF_MEMOR内存不足错误释放Ubuntu缓存watch -n 1 free -m