<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[loganzha的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/loganzha</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; loganzha]]></copyright><item><title><![CDATA[论文笔记-AAAI21@基于自监督学习和多任务学习的多模态表示]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/118211434</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/118211434</guid><author>loganzha</author><pubDate>Fri, 25 Jun 2021 10:25:23 +0800</pubDate><description><![CDATA[论文信息
论文全名
Learning Modality-Specific Representations with Self-Supervised Multi-Task Learning for Multimodal Sentiment Analysis
论文会议：AAAI2021
论文地址
https://ojs.aaai.org/index.php/AAAI/article/view/17289/17096
代码地址
https://github.com/thuiar/Self-MM

论文背景
这篇论]]></description><category></category></item><item><title><![CDATA[机器翻译与高级循环神经网络LSTM,GRU]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114103009</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114103009</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 19:51:21 +0800</pubDate><description><![CDATA[前言
这篇博文是笔者之前上自然语言处理课程的笔记
机器翻译概述
机器翻译就是将一种语言翻译为另一种语言。所有机器翻译系统本质上都是基于统计的，我们将总尝试使用非常大的语料库，一般称为平行语料库。在语料库中，有许多句子或段落以不同语言表述。
深度学习出现之前的机器翻译模型
一、模型概述
1.源语言f:法语
2.目标语言e：英语
3.模型的概率规则基于贝叶斯公式，普通的贝叶斯公式如下：

而模型中的规则对贝叶斯公式进行了修改，去掉了右侧的分母部分，模型的概率规则如下所示：

可以看出虽然去掉了右侧的分母部分，但]]></description><category></category></item><item><title><![CDATA[依存分析]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114102648</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114102648</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 19:42:44 +0800</pubDate><description><![CDATA[前言
这篇博文是笔者之前自然语言处理课程CS224的笔记
短语结构
短语结构的目的是将单词组织成嵌套的成分。基本思想是句子和句子的一部分有一种特殊的结构，人们可以用特定的方式将他们组合起来。之前人们想做的是描述人类语言结构，人们过去有2个关键工作来做到这点。
(1)一种方法就是编译原理课上学过的乔姆斯基谱系中的上下文无关文法(A-&gt;aB|a)。
(2)还有另一种理解句子结构的方法叫依存句法结构，通过找到句子当中每个词所依赖的部分来描述句子结构。例如：barking dog中barking依赖于dog，]]></description><category></category></item><item><title><![CDATA[NLP中的CNN]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114088388</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114088388</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 16:11:52 +0800</pubDate><description><![CDATA[前言
这篇博文是笔者之前学习自然语言处理课程CS224的笔记，首发于公众号:NLP学习者
从RNN(循环网络)到CNN(卷积网络)
虽然已经学习了多个循环神经网络，但是实际上，循环神经网络不擅长于短语，因为RNN总是将整个句子输入到LSTM中，并且在RNN的最终向量中最后一个单词往往起了很大作用。
CNN的想法是从一定长度的序列中同时计算他们的表示。例如有句子“tentative deal reached to keep government open”，如果取3为序列大小，可以得到5个子序列:tentat]]></description><category></category></item><item><title><![CDATA[机器翻译(NMT)与注意力Attention模型]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114086045</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114086045</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 15:38:10 +0800</pubDate><description><![CDATA[前言
本篇博文是笔者学习自然语言处理课程的笔记，首发于公众号NLP学习者
机器翻译模型
首先简单回顾一下之前说的机器翻译模型，一般的机器翻译模型都由encoder与一个decoder组成，模型图如下：

注意力模型Attention
如果考虑普通的encoder-decoder模型，我们将会遇到这样的问题，即decoder只接受encoder的最后一个输出作为decoder的输入，所以我们需要在整个解码过程中都依赖这个Y。这确实是一个难题，人们发现在这些早期神经机器翻译系统中只有短句表现得好，但是如果你使用]]></description><category></category></item><item><title><![CDATA[RNN与语言模型]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114085571</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114085571</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 15:32:13 +0800</pubDate><description><![CDATA[前言
本文是笔者学习自然语言处理课程CS224的笔记，首发于公众号:NLP学习者
语言模型的定义
语言模型是给一个句子分配概率的任务，例如：看到"The lazy dog barked loadly"的概率有多大呢？
语言模型对机器翻译有用，比如在单词顺序的选择问题上，语言模型得到句子"the cat is samll"的概率应该大于"small the is cat"的概率。
传统的语言模型
当前很难为所有可能的语序计算出精确概率，所以通常会尝试根据它前面的n个单词预测下一个单词。这属于一个相对简单的马尔]]></description><category></category></item><item><title><![CDATA[词向量模型W词向量模型Word2Vecord2Vec]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114085011</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114085011</guid><author>loganzha</author><pubDate>Thu, 25 Feb 2021 15:26:03 +0800</pubDate><description><![CDATA[前言
本文是之前学习自然语言处理课程CS224课程的笔记。首发于公众号"NLP学习者"
简介
想要处理文本首先就要将单词表示成计算机可以处理的格式，表示的方法一般有两种，一种是one-hot编码，另一种是分布式表示，分布式表示涉及从单词个数维度的空间到具有更低维度的连续向量空间的数学嵌入。本篇博文介绍的word2vec就是一种分布式表示，word2Vec尝试去做的是利用语言的意义理论，根据一个单词来预测预测其周围的词，或者根据一个单词周围的词来预测中心单词。
1.两种算法
Skip-grams(SG)
Co]]></description><category></category></item><item><title><![CDATA[NLPCC20@基于图注意网络的句子成分感知细粒度情感分析模型SCAN]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114015213</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114015213</guid><author>loganzha</author><pubDate>Wed, 24 Feb 2021 11:52:53 +0800</pubDate><description><![CDATA[论文信息
论文全名
Sentence Constituent-Aware Aspect-Category Sentiment Analysis with Graph Attention Networks
论文会议：NLPCC2020
论文地址
https://arxiv.org/abs/2010.01461
论文代码
https://github.com/l294265421/SCAN

论文背景
这篇论文的研究领域是自然语言处理(NLP)中的细粒度情感分析ACSA(aspect category sent]]></description><category></category></item><item><title><![CDATA[EMNLP19@结合的语义依存关系与图卷积神经网络GCN的细粒度情感分析模型CDT]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114014877</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114014877</guid><author>loganzha</author><pubDate>Wed, 24 Feb 2021 11:38:04 +0800</pubDate><description><![CDATA[论文信息
论文全名
Aspect-Level Sentiment Analysis Via Convolution over Dependency Tree
发表会议：EMNLP2019
论文链接
https://www.aclweb.org/anthology/D19-1569.pdf

论文背景
这篇论文的研究领域是自然语言处理(NLP)中的aspect term sentiment classification(ATSC)领域。这篇论文的创新点是探索了将与神经网络相结合的语义依存关系树应用于表示学习的]]></description><category></category></item><item><title><![CDATA[ACL20@结合GCN和transformer的细粒度情感分类模型DGEDT]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/114013677</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/114013677</guid><author>loganzha</author><pubDate>Wed, 24 Feb 2021 11:17:25 +0800</pubDate><description><![CDATA[论文信息
论文全名
Dependency Graph Enhanced Dual-transformer Structure for Aspect-based Sentiment Classification
发表会议 ACL2020
论文地址
https://www.aclweb.org/anthology/2020.acl-main.588/
论文代码
https://github.com/tomsonsgs/DGEDT-senti-master

论文背景
这篇论文的研究领域是自然语言处理(NLP)中]]></description><category></category></item><item><title><![CDATA[SemEval2014-task4 Aspect based Sentiment Analysis(ABSA)介绍]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/112795933</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/112795933</guid><author>loganzha</author><pubDate>Mon, 18 Jan 2021 22:06:27 +0800</pubDate><description><![CDATA[前言
Aspect based Sentiment Analysis(ABSA)任务中，大部分论文都用到了SemEval2014中的数据，这里总结介绍一下SemEval2014-task4。
SemEval简介
SemEval是国际语义评测大会，是全球范围内影响力最强、规模最大、参赛人数最多的语义评测竞赛。
SemEval2021比赛官网入口
Task描述
SemEval2014-task4 ABSA任务关注的领域是NLP中的细粒度情感分析，即给定一个句子判断其中的aspect以及它的情感极性。数据是基于l]]></description><category></category></item><item><title><![CDATA[阅读笔记Syntax-Aware Aspect Level Sentiment Classification with Graph Attention Networks]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/112561745</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/112561745</guid><author>loganzha</author><pubDate>Wed, 13 Jan 2021 13:55:53 +0800</pubDate><description><![CDATA[阅读笔记Syntax-Aware Aspect Level Sentiment Classification with Graph Attention Networks简介文本表示Graph Attention Network(GAT)Target-Dependent Graph Attention NetworkFinal Classification
简介
这篇论文的研究领域是细粒度情感分类中的aspect term sentiment classification任务，这篇论文根据单词之间的依存关系构]]></description><category></category></item><item><title><![CDATA[ATSC论文分享]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/112442687</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/112442687</guid><author>loganzha</author><pubDate>Sun, 10 Jan 2021 21:49:55 +0800</pubDate><description><![CDATA[ATSC论文分享任务介绍1.Aspect Level Sentiment Classification with Deep Memory Network2. Aspect Based Sentiment Analysis with Gated Convolutional Networks3.Transformation Networks for Target-Oriented Sentiment Classification4.Aspect-based Sentiment Classification wi]]></description><category></category></item><item><title><![CDATA[ACSC论文分享]]></title><link>https://blog.youkuaiyun.com/loganzha/article/details/112444385</link><guid>https://blog.youkuaiyun.com/loganzha/article/details/112444385</guid><author>loganzha</author><pubDate>Sun, 10 Jan 2021 21:49:08 +0800</pubDate><description><![CDATA[ACSC论文分享任务介绍1.Aspect Based Sentiment Analysis with Gated Convolutional Networks2.Utilizing BERT for Aspect-Based Sentiment Analysis via Constructing Auxiliary SentenceMulti-Instance Multi-Label Learning Networks for Aspect-Category Sentiment Analysis
任务介绍
]]></description><category></category></item></channel></rss>