gengmeng_的博客

人类在传递信息时，一直离不开语言和文字。如今，人们获取网络信息的方式越来越多样化，文字、图片、语音、视频等。单调的文字信息已经不能满足人们日益增长的需求。如何有效地从文本中提取用户想要理解的内容，具有极高的研究价值。为了让计算机理解自然语言并执行与人类交互的语言任务，出现了自然语言处理 (NLP)。NLP领域有很多核心任务，包括搜索引擎、问答系统、文档分类和聚类以及文档重复检查。它们都有助于通过对文本语义的理解，从海量信息中满足用户的需求和兴趣。

在本论文中，我们介绍了Sentence-BERT(SBERT)，它是使用孪生网络和三元组网络对BERT网络进行的修改，能够导出具有语义意义的句子嵌入。这使得BERT可以用于某些新任务，而这些任务迄今为止不适用于BERT。这些任务包括大规模语义相似性比较、聚类和通过语义搜索进行信息检索。BERT在各种句子分类和句子对回归任务上设置了新的最先进的性能。BERT使用交叉编码器：将两个句子传递到transformer网络并预测目标值。但是，由于可能的组合太多，此设置不适用于各种对回归任务。