<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[Jeaksun的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/Jeaksun</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; Jeaksun]]></copyright><item><title><![CDATA[量子计算基础知识—Part1]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/133158754</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/133158754</guid><author>Jeaksun</author><pubDate>Fri, 22 Sep 2023 09:56:51 +0800</pubDate><description><![CDATA[一个量子系统指的是由量子力学规则描述和控制的物理系统。在量子力学中，物理系统的状态不再是经典物理中的确定性值，而是由一个称为波函数的数学对象描述的概率分布（粒子的状态不是确定的，而是以概率的形式存在。波函数可以用来计算量子系统在不同状态下的概率和测量结果。波函数告诉我们在不同状态下发现粒子的概率，例如它在某个位置的概率或具有某个能量的概率。一个量子系统可以处于多个态的叠加状态，这与经典物理中的叠加不同。量子叠加的概念意味着在观测之前，系统可以同时处于多个可能的状态，并且这些状态之间会发生干涉。]]></description><category></category></item><item><title><![CDATA[CCG超级标记]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/133069415</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/133069415</guid><author>Jeaksun</author><pubDate>Wed, 20 Sep 2023 10:50:41 +0800</pubDate><description><![CDATA[合范畴语法（Combinatory Categorial Grammar，CCG）是一种用于自然语言语法分析的语言学理论和计算模型。它是一种形式文法，旨在描述句子的结构和语法规则（通过简练的描述形式表现出句子中各成分的句法语义关系）。]]></description><category></category></item><item><title><![CDATA[融合领域知识的基于深度学习的光伏发电预测]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/132925793</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/132925793</guid><author>Jeaksun</author><pubDate>Sat, 16 Sep 2023 21:58:54 +0800</pubDate><description><![CDATA[这篇论文提出了一种基于深度学习的光伏发电预测模型，旨在克服现有机器学习模型仅基于大量数据而不考虑领域知识和物理定律的局限性。该模型称为物理约束 LSTM（PC-LSTM），并在光伏发电预测任务中进行了评估。]]></description><category></category></item><item><title><![CDATA[BERT gated multi-window attention network for relation extraction 用于关系抽取的BERT门控多窗口注意力网络]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126615538</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126615538</guid><author>Jeaksun</author><pubDate>Wed, 31 Aug 2022 00:33:15 +0800</pubDate><description><![CDATA[实体关系抽取旨在识别句子中实体对之间的语义关系，是问答系统、语义搜索等后续任务的重要技术支持。现有的关系抽取模型主要依靠神经网络来提取句子的语义信息，忽略了重要短语信息在关系抽取中的关键作用。针对这一问题，提出了一种基于BERT门多窗口注意力网络的关系抽取模型(BERT-GMAN)。该模型首先使用BERT提取句子的语义表示特征及其约束信息。其次，构建关键短语提取网络，获取多粒度短语信息，并采用基于元素的最大汇集算法进行关键短语特征提取。...]]></description><category></category></item><item><title><![CDATA[一种用于联合实体和关系提取的划分过滤网络]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126590505</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126590505</guid><author>Jeaksun</author><pubDate>Mon, 29 Aug 2022 18:48:21 +0800</pubDate><description><![CDATA[在联合实体和关系提取中，现有的工作要么对特定于任务的特征进行顺序编码，导致任务间特征交互不平衡，即后来提取的特征与第一个提取的特征没有直接联系。或者它们以并行的方式编码实体特征和关系特征，这意味着每个任务的特征表征学习在很大程度上是相互独立的，除了输入共享。提出了一种划分过滤网络来对任务间的双向交互进行合理建模，将特征编码分解为划分和过滤两个步骤。在本文的编码器中，本文利用两个门：实体门和关系门，将神经元分割成两个任务分区和一个共享分区。......]]></description><category></category></item><item><title><![CDATA[pytorch矩阵相乘详解]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126233437</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126233437</guid><author>Jeaksun</author><pubDate>Mon, 08 Aug 2022 18:25:09 +0800</pubDate><description><![CDATA[矩阵相乘]]></description><category></category></item><item><title><![CDATA[句法引导的机器阅读理解]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126202028</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126202028</guid><author>Jeaksun</author><pubDate>Sat, 06 Aug 2022 22:16:41 +0800</pubDate><description><![CDATA[对于机器阅读理解来说，从冗长的细节中有效地对语言知识进行建模和克服噪声的能力是提高机器阅读理解性能的关键。。在这项工作中，本文建议使用句法来引导passage和问题的文本建模，，以获得更好的语言动机单词表征。为了达到这一目的，本文提出了一种新颖的双重上下文结构，称为语法引导网络(SG-Net)，它由一个BERT上下文向量和一个句法引导上下文向量组成，以提供更细粒度的表示。对常用基准测试的大量实验表明，与微调的BERT基准相比，所提出的方法取得了显著的改善。...]]></description><category></category></item><item><title><![CDATA[用于实体和关系抽取的封装式悬空标记]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126201992</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126201992</guid><author>Jeaksun</author><pubDate>Sat, 06 Aug 2022 22:05:45 +0800</pubDate><description><![CDATA[最近的实体和关系提取工作主要集中在研究如何从预先训练的编码器中获得更好的跨度表示。然而，现有工作的一个主要局限性是它们忽略了跨度(对)之间的相互关系。本文提出了一种新的跨度表示方法，称为填充悬浮标记(PL-Marker)，通过在编码器中策略性地包装token来考虑跨度(对)之间的相互关系。特别是，本文提出了一种面向邻域的布局策略，该策略综合考虑了邻域跨度，以更好地对实体边界信息进行建模。...]]></description><category></category></item><item><title><![CDATA[面向方面情感分析的双句法感知图注意网络]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126198101</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126198101</guid><author>Jeaksun</author><pubDate>Sat, 06 Aug 2022 17:16:55 +0800</pubDate><description><![CDATA[基于方面的情感分析(ABSA)是一种细粒度的情感分析任务，旨在将方面与相应的情感进行对齐，以进行特定方面的情感极性推理。这是具有挑战性的，因为一个句子可能包含多个方面或复杂的(例如，条件、并列或转折)关系。近年来，利用图神经网络挖掘依存句法信息已成为最流行的趋势。尽管依赖于依赖关系树的方法取得了成功，但(例如，图2中“great”和“dreadful”之间的“conj”关系)，因此。为了缓解这一问题，我们提出了一种双句法感知图注意网络(BiSyn-GAT+)。具体地，BiSyn-GAT+充分利用。...]]></description><category></category></item><item><title><![CDATA[基于选择性注意的图卷积网络用于方面级情感分类]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126093060</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126093060</guid><author>Jeaksun</author><pubDate>Mon, 01 Aug 2022 00:44:23 +0800</pubDate><description><![CDATA[方面级情感分析的目的是识别句子中某一特定aspect词语的情感极性。最近的方法通过使用依赖树上的GCN来获得aspectterms的语法感知表示，并学习aspect和上下词之间的交互。GCNs通常在两层的情况下获得最佳性能，更深的GCNs不会带来任何额外的收益。然而，在某些情况下，在依存树上的两跳内不能到达方面术语的对应意见词。因此，本文设计了一种新的基于选择性注意的GCN（SA-GCN）来处理方面词和观点次较远的情况。。......]]></description><category></category></item><item><title><![CDATA[基于新标记方案的实体和关系联合提取]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126091726</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126091726</guid><author>Jeaksun</author><pubDate>Sun, 31 Jul 2022 22:32:49 +0800</pubDate><description><![CDATA[本文提出了一种新的标注方案，可以将联合抽取任务转化为标注问题。然后，基于这种标注方法，作者研究了不同的端到端模型来直接提升实体及其关系，而不需要单独识别实体和关系。]]></description><category></category></item><item><title><![CDATA[用于命名实体识别的模块化交互网络]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126075840</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126075840</guid><author>Jeaksun</author><pubDate>Sat, 30 Jul 2022 18:15:58 +0800</pubDate><description><![CDATA[Modularized Interaction Network for Named Entity Recognition
用于命名实体识别的模块化交互网络

Abstract
当前的NER存在一定的缺陷：序列标注的NER模型识别长实体时表现不佳，因为序列标注只关注词级信息。边界检测和类型检测可以相互协作，两个子任务之间共享信息可以互相加强。本文提出了一种新的模块化交互网络模型（MIN），该模型能够同时利用segment-level和word-level依赖关系，并加入交互机制来支持边界检测和类型预测之间的共]]></description><category></category></item><item><title><![CDATA[DCN+：混合目标和深层残差协同注意力用于问答]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126036421</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126036421</guid><author>Jeaksun</author><pubDate>Thu, 28 Jul 2022 15:39:37 +0800</pubDate><description><![CDATA[传统的问答模型使用交叉熵损失进行优化，从而鼓励精确答案，但代价是惩罚附近或重叠的答案。本文提出了一个混合目标，将交叉熵损失与自我批评行策略学习相结合。除了混合目标之外，本文还利用深度残差协同注意编码器改进了动态协同注意网络DCN，该编码器的灵感来自深层自我主义和残差网络方面的最近工作。本文的模型可以改善各种问题类型和输入长度之间的模型性能，特别是对于需要捕获长期依赖关系的长问题。在SQuAD上获得了75.1%的精确匹配准确率和83.1%的F1。...]]></description><category></category></item><item><title><![CDATA[面向机器理解的多视角上下文匹配]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126020982</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126020982</guid><author>Jeaksun</author><pubDate>Wed, 27 Jul 2022 18:38:50 +0800</pubDate><description><![CDATA[基于SQuAD数据集，作者提出了一个多视角上下文匹配模型，可以直接预测答案在文章（passage）的起始位置和开始位置。首先，模型通过乘以针对问题计算的相关权重来调整passage中的每个词嵌入向量，然后，使用BiLSTM来对问题和加权后的passage进行编码，接着，针对passage中的每个点，模型结合编码后的问题对每个点的上下文进行多个视角的匹配，并产生一个匹配向量。在这些匹配向量上，再使用另一个BiLSTM对信息进行集成，最后预测开始和结束索引。.........]]></description><category></category></item><item><title><![CDATA[使用match-lstm和答案指针进行机器理解]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126015659</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126015659</guid><author>Jeaksun</author><pubDate>Wed, 27 Jul 2022 15:25:13 +0800</pubDate><description><![CDATA[阅读理解任务发布了一个新的数据集斯坦福问答数据集（SQuAD），该数据集提供了大量真实的问题及其答案，这些问题及其答案是人类通过众包创建的，该答案的长度时可变的。本文基于Match-LSTM和指针网络提出了一个模型用于解决以上问题。......]]></description><category></category></item><item><title><![CDATA[机器阅读理解的双向注意力流]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/126006114</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/126006114</guid><author>Jeaksun</author><pubDate>Wed, 27 Jul 2022 00:53:52 +0800</pubDate><description><![CDATA[机器阅读理解MC，即根据上下文段落回答问题，要求对上下文和问题之前的复杂交互进行建模。最近，注意力机制成功应用在MC上，特别是这些模型使用attention对context的部分内容进行专注，并归纳成特定大小的向量。本文引入BiDAF（双线注意力流网络），这是一个多阶段的多层次的处理过程，它以不同的粒度级别分别表示上下文，并使用双向注意力流机制获得query-awarecontext表示。...]]></description><category></category></item><item><title><![CDATA[Don‘t Stop Pretraining: Adapt Language Models to Domains and Tasks]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/125997988</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/125997988</guid><author>Jeaksun</author><pubDate>Tue, 26 Jul 2022 17:34:52 +0800</pubDate><description><![CDATA[现有的语言模型大多是在大量且广泛的文本数据上训练而成的。作者思考有没有必要将模型迁移到特定目标任务领域上。作者在4个领域上的8个分类任务，将已经在大量且广泛文本上预训练过的模型进行第二阶段的预训练，作者分别在领域数据、任务数据、增强的任务数据进行了试验，即用这些数据对模型进行第二阶段的预训练，然后再用经过两个预训练阶段后得到的模型生成的数据做分类任务。试验结果表明，不要停止预训练，对于特定的任务，完全可以用任务相关的数据在对语言模型做第二次预训练，能大大提高模型性能。...]]></description><category></category></item><item><title><![CDATA[Entity, Relation, and Event Extraction with Contextualized Span Representations]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/125980896</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/125980896</guid><author>Jeaksun</author><pubDate>Mon, 25 Jul 2022 19:00:43 +0800</pubDate><description><![CDATA[本文提出了一个框架DYGIE++，通过枚举、提炼和评分文本span来完成信息抽取任务，这些文本span旨在捕获局部和全局上下文。通过BERT的语境化嵌入在捕获相同或相邻句子中实体之间的关系方面表现良好，而动态span图更新建模长span的交叉句子关系。通过预测的共指链接传播span表示可以使模型能够消除具有挑战性的实体提及的歧义。...]]></description><category></category></item><item><title><![CDATA[A general framework for information extraction using dynamic span graphs]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/125973555</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/125973555</guid><author>Jeaksun</author><pubDate>Mon, 25 Jul 2022 15:07:26 +0800</pubDate><description><![CDATA[本文介绍了一个通用的框架，使用动态构造的span图共享span表示的几个信息抽取任务。图是通过最有信心的实体span并将这些结点与置信度加权的关系类型和共同引用相连接来构造的。]]></description><category></category></item><item><title><![CDATA[Span-Level Model for Relation Extraction]]></title><link>https://blog.youkuaiyun.com/Jeaksun/article/details/125962930</link><guid>https://blog.youkuaiyun.com/Jeaksun/article/details/125962930</guid><author>Jeaksun</author><pubDate>Sun, 24 Jul 2022 19:33:37 +0800</pubDate><description><![CDATA[顺序解码器无法对重叠的实体提及建模，并且存在级联错误。为了解决这个问题，本文提出了一个直接对所有可能的span建模，并执行联合实体提及检测和关系提取模型。]]></description><category></category></item></channel></rss>