
笔记
Ashley1101
希望能学到很多知识
展开
-
阅读text2sql论文《RAT-SQL: Relation-Aware Schema Encoding and Linking for Text-to-SQL Parsers》
本人为研一菜鸡,如果博客中有任何错误或疏漏,欢迎路过的大佬们批评指正,也希望能够和同样是这个方向的小伙伴一起交流学习~本文收录于ACL 2020,至今在Spider的leaderboard前列还能看到RAT-SQL的各类变种,可见这个模型确实有不少可取之处。在读本文之前,我还先阅读了文中提到的《Global Reasoning over Database Structures for Text-to-SQL Parsing》(Bogin et al., 2019b) ,有空也会整理出来,便于对比学习。原创 2022-10-09 10:40:03 · 1329 阅读 · 3 评论 -
关于自注意力机制和数据清洗的疑问
求助大神????????????关于自注意力机制(self-attention)最近在做毕设,要求基于注意力机制生成数据清洗的规则。我的个人理解是,可能为了捕捉属性列之间的函数依赖关系,需要先通过注意力机制计算出每个特征和其他特征的关联程度,然后据此可以采用一定的规则制定算法。但是目前对于自注意力机制,我还是有一些疑问:(1)自注意力机制如果能够基于一组数据本身(没有传统的样本标签)给出数据之间的联系(2)对于非文本数据(如普通的数据库表)如何能处理为注意力机制能接受的形式如果有路过大佬能够解答,我原创 2021-03-29 14:02:32 · 215 阅读 · 2 评论