maum61的专栏

跟风，听说最近Transformer很热，那肯定有其过人之处，今天大概看了一下最基础版的Transformer，简单说说体会和理解吧，不一定对，希望路过的大神指点。要说是革命性的变革，那显然不是，Transformer和CNN以及RNN等都是机器学习的范畴，要说一点没变，那也不是，Transformer最大的特点，个人理解，是其Self-Attention机制，至于说这个机制是从哪儿得到的启发，暂不多说，搞过CNN的都知道。搞CNN的都习惯一个图片矩阵，那接下来的见解，我就以二维矩阵来说。还是原文的

默认前提是，已经安装好了ubuntu18.04，另外通过无线网卡已经联网了。1、安装搜狗输入法新版本直接就上百度，搜索sogou for linux，选择对应版本的，一般新机器都是64bit的了，然后直接点击下载，安装，跟windows一样。然后重启电脑，右上角出现键盘的标志，点进去，然后configure，然后左下角的+加号，居然卡在了这里，死活找不到刚装的sogou，其实是没设置好，把...

记录自己学习的心得，仅作为新手入门的例子，如有表述错误，望不吝赐教！

除了pycharm过期的问题，另外一个就是换源，这两个问题在我上一篇博客写过。现在又出现了无法安装pip库的问题了。试了很多方法，以为很大的问题，结果就是路径没添加导致的。使用anaconda可以很方便的使用其中的各种自带的库，而对于没有添加进去的，则需要从添加。当下载时就会遇到各种retry,,,各种ssl not available。其中一条提示是：pip is confi...

直接pip install tensorflow，安装到的是tensorflow-gpu 1.14.0，对应的CUDA版本是10.0，我为啥知道？本以为对应的是最新的CUDA10.1结果安好就悲剧了，还好软件提示：无法找到cudart64_100,请下载CUDA10.0，不过后面给的连接比较坑爹，给的是cuda9.0的，老实的我又中招了，下载了cuda9.0还是用不了。。。后来在下面找到了10.0...

CPU版本的tensorflow代码改到GPU版运行时，会出现很多提示：上面的提示可以通过加入下面的设置来屏蔽：import osos.environ['TF_CPP_MIN_LOG_LEVEL']='3'最后的提示可以通过修改tensorflow import时的名字来消除：import tensorflow.compat.v1 as tf此时运行就是纯净的结果...

与数据生成有关的.sh有以下两个：caffe/data/VOC0712/create_list.shcaffe/data/VOC0712/create_data.sh按照github上作者的提示，顺序执行即可。下面来详细研究一下源码，因为笔者没学过shell语言，python也是刚入门，顶多就会个C++.#!/bin/bashroot_dir=$HOME/data/VOC...