qq_30232405的博客

1.前言最近重新阅读了BERT和ALBERT文章，所以写下自己的一些感悟。这两篇文章都是Google发出来的。其中BERT是2018年，在Transformer的基础上进行扩展；而ALBERT发表在2020年ICLR上，它是基础BERT来进行改进。 BERT论文 ALBERT论文2. BERTBERT全称是Bidirectional Encoder Representations f...

文章目录1. 前言2.矩阵分析2.2 奇异值分解（SVD）2.2.1 SVD定理2.2.2 从结论反推的证明过程2.2.3 从条件正推的证明过程2.3 特征分解和奇异值分解的关系1. 前言最近几天一直在学习矩阵的知识，恶补了特征分解和SVD算法，发现网上很多资料都是不全的，所以想记录一下这里面的特征分解推导过程+奇异值分解（SVD）推导过程要看懂下面的方法，可以提前看矩阵的一些基础知识：h...

1. 前言在之前已经简单阐述了“线性回归”模型，具体的介绍地址为：https://blog.youkuaiyun.com/qq_30232405/article/details/104153928这种简单的线性回归在拟合复杂模型的时候，会出现拟合能力不足的情况。例如下图已经存在的数据：横坐标表示：tumor size（肿瘤大小），用xxx表示。横坐标：malignant（恶行肿瘤），可以用如下公...

1.前言最近在利用transformer自动化生成弹幕。在transformer的实现中，用到了一个标准BLEU标准。这个标准全称为bilingual evaluation understudy。同时参考了一些文章的介绍：机器翻译评测——BLEU算法详解：http://www.cnblogs.com/by-dream/p/7679284.html最后根据自己的理解解释一下这个算法的含义。...

空瓶换酒-python实现最近学习学习到一种空瓶换酒的算法，其题目描述为：假设一瓶啤酒2元钱，商家为了促销，规定：可以用2个空瓶子换一瓶啤酒，或者用4个盖子换一瓶啤酒。现在你身上有10元钱，可以买多少瓶啤酒。1.算法分析1.1 通常情况首先假设最后可以用空瓶子换到XXX个啤酒,可以用盖子换到YYY个啤酒，同时我们可以用N元钱一开始就买到M个啤酒，就可以得到下面的不等式：X≤M+X+Y2&...