- 博客(3)
- 收藏
- 关注
RSS订阅原创 T5的相对位置编码
作用位置：T5模型的相对位置编码作用在第一层编码器和解码器的自注意力模块中（具体为T5LayerSelfAttention 的T5Attention模块）。为注意力分数；为查询向量矩阵，为键向量矩阵，它们具有相同为维度；为相对位置偏差矩阵，每一个相对位置对应一个可训练的位置偏差。注：相比与常见的注意力分数计算方法，T5模型在计算时省去了标准化缩放假设query与key的长度均为150,则初始relative_position（相对位置）形式如下图所示。
2025-01-21 21:08:55
1405
原创 KMP算法（含优化）的c++实现
1.next数组 vector<int> next(string target) { int i=0,j=-1; vector<int> nxt(target.length(),0); nxt[0]=-1; while(i<(target.length()-1)) { if((j==-1)||(target[i]==target[j]))
2021-12-23 22:06:35
596
原创 C#mvc连接 Sqlite数据库
1选择Sqlite数据库的原因首先在vs2019中自带SQLServer数据库，数据库创建的位置默认在 “C:\Users\”目录下，如果修改位置将会无法连接到数据库（当然应该也有办法），为了将数据库放置在与工程同文件夹内并且便于打包，同时考虑到Sqlite数据库，方便建立和使用的优点，因此选择Sqlite数据库。本文主要讲解如何建立sqlite数据库，连接以及“播种”（向数据库添加初始数据）的流程（注：以下流程同样适用于连接vs自带的SQL Server）2建立mvc项目并建立实体类2..
2021-12-15 10:49:39
2281
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人