<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[black_soil的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/black_soil</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; black_soil]]></copyright><item><title><![CDATA[ELECTRA - 比BERT更快更好的预训练模型]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/102944521</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/102944521</guid><author>black_soil</author><pubDate>Wed, 06 Nov 2019 22:41:35 +0800</pubDate><description><![CDATA[论文：ELECTRA: Pre-training Text Encoders As Discriminators Rather Then Generators

本文目前在ICLR 2020盲审中，前几天有审稿人发表文章对它大夸特夸，被称为19年最佳NLP预训练模型，另外，在上周的智源北京人工智能大会上，Christopher Manning对这个工作也做了详细介绍，那么，已经不用匿名了，这就是M...]]></description><category></category></item><item><title><![CDATA[【综述】NL2SQL (二) WikiSQL]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/102821562</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/102821562</guid><author>black_soil</author><pubDate>Wed, 30 Oct 2019 17:07:42 +0800</pubDate><description><![CDATA[WikiSQL数据集于2017年提出，目前准确率已经从当时的59.4%提升到91.8%，进展飞速。本文对WikiSQL的工作进行全面综述，从机构上来看，较多来自Salesforce、华盛顿大学、微软、斯坦福大学等。从方法上来看，从最开始简单的seq2seq模型，逐渐发展到多任务、迁移学习、以及基于BERT和MT-DNN预训练的模型。]]></description><category></category></item><item><title><![CDATA[【综述】NL2SQL (一) 简介及数据集]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/102821244</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/102821244</guid><author>black_soil</author><pubDate>Wed, 30 Oct 2019 16:15:16 +0800</pubDate><description><![CDATA[目录

简介

1. WikiSQL

2. Spider

3. WikiTableQuestions

4. ATIS

5. 首届中文NL2SQL挑战赛数据集

下载地址

简介

NL2SQL（Natural Language to SQL）是一项将用户的自然语句转为可执行 SQL 语句的技术，对改善用户与数据库之间的交互方式有很大意义。NL2SQL 的本质，是将用户的自然语言语句转化为计...]]></description><category></category></item><item><title><![CDATA[IJCAI2019 FinNLP（金融+NLP论文）]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/101542938</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/101542938</guid><author>black_soil</author><pubDate>Mon, 30 Sep 2019 11:09:36 +0800</pubDate><description><![CDATA[今年的IJCAI增加了金融技术和自然语言处理研讨会（FinNLP 研讨会），主要是分享将NLP技术应用于金融科技领域的研究，探讨未来的研究方向。

参与者来自学术界和工业界，他们提出了几个新的任务，包括业务分类法构建，交易的基本原理和合同消歧、销售预测、股票市场预测、情感分析等等。下面将详细介绍。



1. Business Taxonomy Construction Using Concep...]]></description><category></category></item><item><title><![CDATA[ACL2019之对话系统]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/99448186</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/99448186</guid><author>black_soil</author><pubDate>Tue, 13 Aug 2019 17:34:14 +0800</pubDate><description><![CDATA[目录

0. 前言

1. 语义理解

2. 检索式对话

3生成式对话

4. 情感对话

5. 主动对话

6. 在线学习

7. 强化学习

8. 迁移学习

9. 对抗学习

参考

0. 前言

期盼已久的ACL2019大会刚刚结束，一大波论文向我们袭来，由于本人一直关注对话系统，所以将这方面的文章进行汇总学习，作为一枚码农，虽然不创造算法，但希望能做好搬运工，让算法产生应用价值。这篇...]]></description><category></category></item><item><title><![CDATA[Attention机制（一）基本原理及应用]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/90904713</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/90904713</guid><author>black_soil</author><pubDate>Wed, 05 Jun 2019 17:12:27 +0800</pubDate><description><![CDATA[提纲：

1. 动机

2. 发展过程

3. 应用点

4. 代码实现



1. 动机

1.1 人类的视觉注意力

视觉注意力机制是人类视觉所特有的大脑信号处理机制，人类通过快速扫描全局图像，获得需要重点关注的目标区域，也就是一般所说的注意力焦点，而后对这一区域投入更多的注意力资源，以获得更多所需要关注目标的细节信息，而抑制其他无用信息。

这是人类利用有限的注意力资源从大量信息中快速筛选...]]></description><category></category></item><item><title><![CDATA[【综述】对话系统中的口语理解技术]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/90405098</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/90405098</guid><author>black_soil</author><pubDate>Tue, 21 May 2019 16:44:14 +0800</pubDate><description><![CDATA[1. 基本介绍

对话系统中的口语理解技术一般称为NLU（natural language understanding)，或SLU（spoken language understanding）。NLU的工作在于给定用户的query（或utterance），输出相应的语义结构化表示，这种结构化的表示包括三个部分：

领域（domain）：一般指该query所属的领域范围，比如：天气、闹钟、音乐、火车...]]></description><category></category></item><item><title><![CDATA[神经网络中的BP算法原理]]></title><link>https://blog.youkuaiyun.com/black_soil/article/details/80718858</link><guid>https://blog.youkuaiyun.com/black_soil/article/details/80718858</guid><author>black_soil</author><pubDate>Mon, 18 Jun 2018 09:57:27 +0800</pubDate><description><![CDATA[BP算法用于计算神经网络中的参数以下3层神经网络为例，每层都是全连接。挨个打发]]></description><category></category></item></channel></rss>