xiaotiig的博客

这里写目录标题1 transformer2 BERT2.1 自然语言处理nlp的基本流程2.2 自注意力机制参考资料 1 transformer 2 BERT 2.1 自然语言处理nlp的基本流程 个人猜想的理解： （1）把word转换为向量，word2vec 秒懂词向量https://zhuanlan.zhihu.com/p/26306795 （2）Seq2Seq:向量经过解码器和编码器得到另一个序列 （3）最重要的是中间的编码器和解码器 之前都是RNN实现，传统的RNN无法做并行运算 2.2 自注意力

GAN6 COGAN(耦合生成对抗网络，1个模型2个用途)7 LSGAN（最小二乘GAN，均方差替换交叉熵）7.1 训练思路8 CycleGAN（风格转换）8.1 训练思路 6 COGAN(耦合生成对抗网络，1个模型2个用途) COGAN是一种耦合生成式对抗网络，其内部具有一定的耦合，可以对同一个输入有不同的输出。 其具体实现方式就是： 1、建立两个生成模型，两个判别模型。 2、两个生成模型的特征提取部分有一定的重合，在最后生成图片的部分分开，以生成不同类型的图片。 3、两个判别模型的特征提取部分有一定的重

生成对抗网络1 简介参考资料 1 简介 生成对抗网络分为两部分，一个是生成网络，一个是判别网络，生成网络用于生成一个数据，判别网络来判别这个数据，就是左右互博。 一个是伪造假画的犯罪分子，一个是专家，伪造假画的犯罪分子要不断提高自己伪造的画的真实度，专家要不断去提高自己鉴别假画的能力，两个人一直博弈，不断去提高自身能力，通过训练使得它们各占50%的胜率。 参考资料 【1】Keras 搭建自己的GAN生成对抗网络平台（Bubbliiiing 深度学习 教程）_哔哩哔哩_bilibili https://ww