
深度学习
文章平均质量分 73
牛哥123
这个作者很懒,什么都没留下…
展开
-
使用Visdom监控PyTorch训练进程
最近用上了Facebook开发的远程可视化神器Visdom,特此记录一下。安装pip install visdom -i https://pypi.douban.com/simple使用scatter函数import visdomviz = visdom.Visdom()win = viz.scatter(X=np.asarray([[0,0]]))passfor epoch ...原创 2018-12-26 16:36:06 · 3360 阅读 · 1 评论 -
Pytorch详解BCELoss和BCEWithLogitsLoss
BCELoss在图片多标签分类时,如果3张图片分3类,会输出一个3*3的矩阵。先用Sigmoid给这些值都搞到0~1之间:假设Target是:BCELoss是−1n∑(yn×lnxn+(1−yn)×ln(1−xn))-\frac 1 n\sum(y_n \times \ln x_n+(1-y_n) \times \ln(1-x_n))−n1∑(yn×lnxn+(1−yn)...原创 2018-12-23 13:34:27 · 198784 阅读 · 69 评论 -
使用pandas划分训练集和验证集
最近下载了一个很大的数据集,用csv文件保存的标签,如何优雅地把这个数据集划分成训练集和验证集呢?我用一个5行的DataFrame举个例子:哦对了上次有同学说我图有点大,这次我给它搞小点。如图data1是一个大小为5的数据集,我想把它分成3条训练集和2条验证集。使用DataFrame.sample函数:DataFrame.sample(n=None, frac=None, replac...原创 2018-12-24 10:40:35 · 17737 阅读 · 14 评论 -
Pytorch详解NLLLoss和CrossEntropyLoss
pytorch的官方文档写的也太简陋了吧…害我看了这么久…NLLLoss在图片单标签分类时,输入m张图片,输出一个m*N的Tensor,其中N是分类个数。比如输入3张图片,分三类,最后的输出是一个3*3的Tensor,举个例子:第123行分别是第123张图片的结果,假设第123列分别是猫、狗和猪的分类得分。可以看出模型认为第123张都更可能是猫。然后对每一行使用Softmax,这样可以...原创 2018-12-24 10:46:12 · 139156 阅读 · 71 评论 -
到底什么是L2 Norm
最近复现论文有这么一个结构:池化之后有一个l2-norm。norm是normalization的缩写。ok,看看这是啥标准化?正规化?归一化?…正确答案L2归一化:将一组数变成0-1之间。pytorch调用的函数是F.normalization。文档是这样写的:对于L2来说,p=2,分母就是(x12+x22+...+xn2)\sqrt{( x_1^2 + x_2^2 + ... +...原创 2019-01-18 19:31:36 · 51648 阅读 · 7 评论 -
工作环境迁移指南
首先借一下sudo账号,登陆这台新机器。登陆之后给自己建立一个新账号:useradd zihao_wang给自己改个新密码:passwd zihao_wang给自己加上sudo权限:改/etc/sudoers文件,在root ALL=(ALL:ALL) ALL下面加上一行zihao_wang ALL=(ALL:ALL) NOPASSWD:ALL然后给自己建一个主目录:mkdir ...原创 2019-01-16 20:48:09 · 546 阅读 · 4 评论