
深度学习
ferb2015
北京邮电大学
wechat:dengdengkakaxi
展开
-
注意力机制(Attention Mechanism)学习笔记
参考自:https://blog.youkuaiyun.com/qq_40027052/article/details/78421155 对内容进行抽取的少许补充。还有 https://spaces.ac.cn/archives/4765/comment-page-3。在后面加入了此文的内容。原理是一个encoder、decoder框架:输入句子Source,目标句子target。source=<...原创 2018-12-01 22:33:21 · 4500 阅读 · 0 评论 -
win10下 tensorflow gpu版本安装
刚买了带有GPU版本的电脑,其实想直接在ubuntu下安装,因为有服务器,就不想麻烦了,在windows下装看看。感觉版本不兼容挺烦的,网上博客不是很靠谱,每个人版本都不一样,最靠谱的还是官网说明。这三张图我也不是看的官网,来自博客地址:https://blog.youkuaiyun.com/yeler082/article/details/80943040。下次直接看官网就好了。。看要求,以为...原创 2018-12-09 11:12:04 · 236 阅读 · 0 评论 -
tensorflow入门笔记
Session 会话控制with tf.Session as sess这样就不用sess.close()了。前期定义的那些参数变量,还没有激活,sess.run(参数名)相当于有了一个指针指向某个参数,使之执行那条语句(激活)(才能输出变量值)。# method 1sess = tf.Session()result = sess.run(product)print(result)se...原创 2019-04-20 18:51:30 · 326 阅读 · 0 评论 -
机器学习数据挖掘面试
欠拟合:模型太简单了,特征是否过少过拟合:增加样本量,减少特征数,降低模型复杂度等L1正则化其实就是讲权值的绝对值和加入损失函数,使得权值中0值比重增大,因此得到的权值较为稀疏。L2正则化则是将权重的平方和加入损失函数,使得权值分布更加平均,所以权值较为平滑。ROC曲线的AUC值是比较重要的内容,要能知道具体ROC曲线是怎么画出来的。回归的话比如MSE,RMSE或和业务相关的加权计算公式等。...原创 2019-04-29 11:58:20 · 539 阅读 · 2 评论 -
CNN基础小记
CNN利用空间关系减少需要学习的参数数目以提高一般前向BP算法的训练性能。卷积神经网络是一个多层的神经网络,每层由多个二维平面组成,而每个平面由多个独立神经元组成。卷积网络的核心思想是将:局部感受野、权值共享(或者权值复制)以及时间或空间亚采样这三种结构思想结合起来获得了某种程度的位移、尺度、形变不变性。我们训练一个神经网络,就是要训练得出这些卷积核,而这些卷积核就相当于我们学单层感知器的时...原创 2019-04-29 12:04:22 · 482 阅读 · 0 评论 -
YOLOv3 笔记
shortcut层。shortcut层是跳过连接主要看《yolov3_presentation.pdf》框住目标,需4个点(回归问题,预测点坐标)分类问题:判断类别 person/dog/cat…YOLOv3 vs YOLOv2:小目标判别更准确,识别速度慢一些,能识别到person,甚至person里的tie领带。训练数据集:COCO网络结构residual block:回忆R...原创 2019-04-29 12:05:32 · 579 阅读 · 0 评论 -
keras 基础小记
model.addmodel = Sequential()model.add(Dense(output_dim=1, input_dim=1))每次model.add就是添加一层,不用写入权重这些参数。W, b = model.layers[0].get_weights()是第一层的参数。特征标准化不同特征所占比重不同,把特征们的所占比重都设置为差不多,都在(0,1)之间keras...原创 2019-04-29 12:06:11 · 1151 阅读 · 0 评论