A Survey on Deep Learning for Named Entity Recognition 札记

最新推荐文章于 2023-01-25 14:10:38 发布
最新推荐文章于 2023-01-25 14:10:38 发布
阅读量383 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_43708647/article/details/114377818

1.NER 进化

  • 早期 ner :需要很多的human effort 来指定规则和特征
（1）什么是 NER

有两种主张：

serving as a name for something or someone

proper names and natural kind terms like biological species
and substances.

不论如何，现在主要把NER 划分为general NE ,domain-specific NE

按照粒度划分NER 任务

  • coarse-grained NER:仅有少数类别，并且一个NE 只有一个entity type
  • fine-grained NER：有很多类别，一个NE 可能有不同的 entity types
(2) DL 中的 NER
  • 需要最少的feature engineering,原文中 引用17-21已经提到了一些 SOTA 的 DL 模型，原文中引用 22-26 提到了一些关于NER 的 survey

论文中系统地 把DL NER 划分为三个部分：

  • distributed representations for input
  • context encoder (for capturing contextual dependencies for tag decoder)
  • tag decoder (for predicting labels of words in the given sequence)
(3) NER 数据集和工具

见原文

（4） NER 评估

boundary和type 都是对才为分类正确

  1. 三个类别：

  • True Positive (TP): entities that are recognized by
    NER and match ground truth.

  • False Positive (FP): entities that are recognized byNER but do not match ground truth.

  • False Negative (FN): entities annotated in the ground
    truth that are not recognized by NER.
    有两个分类标准： precision recall
    F_beta用于综合两者

                  precision = TP / TP+FP
              recall = TP / TP+FN

2.macro-averaged F-score: 单独计算每个类取平均
micro-averaged F-score：一块算，大烩菜！！

2.NER传统方法

（1）依赖 手工构造规则

依赖于手工构造的规则，可能是基于<

最低0.47元/天 解锁文章

200万优质内容无限畅学
A Survey on Deep Learning for Named Entity Recognition论文笔记
qq_41657873的博客
04-15 1424
前言：研究课题定为特定领域的命名实体识别，所以先阅读一篇综述，在此简单记录阅读过程。 摘要 在文章中，首先介绍现有的NER资源，包括标记的NER语料库及现成的NER工具，然后对现有的工作进行了分类：输入的分布式表示、上下文编码器、标签解码器。接下来探讨当前最有代表性的深度学习NER方法。最后，介绍NER面临的挑战和未来的研究方向。 简介 命名实体识别（NER）的概念 命名实体识别（NER）旨在识别...
论文阅读：（2020版）A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法
南有芙蕖
04-21 7991
A Survey on Deep Learning for Named Entity Recognition 命名实体识别中的深度学习方法 目录A Survey on Deep Learning for Named Entity Recognition命名实体识别中的深度学习方法摘要索引词1引言2背景2.1什么是NER？2.2 NER资源：数据集和工具2.3 NER评估指标2.3.1精确匹配评估2...
[论文阅读笔记13]A Survey on Deep Learning for Named Entity Recognition
ld326的专栏
01-27 2323
1. 题目 A Survey on Deep Learning for Named Entity Recognition NER的深度学习综述 2. 作者 Jing Li, Aixin Sun, Jianglei Han, and Chenliang Li Nanyang Technological University 南洋理工大学 SAP Wuhan University 武汉大学 Accepted in IEEE TKDE TKDE:Transactions on Knowledge an
论文笔记：A Survey on Deep Learning for Named Entity Recognition
Wangpeiyi9979的博客
10-23 2958
前言： 因为实习接触到了命名实体识别的问题，因此打算调研一下相关方法。即有了这篇综述的论文《A Survey on Deep Learning for Named Entity Recognition》的阅读笔记 文章目录一、摘要二、简介命名实体命名实体识别方法命名实体识别任务种类资源三、命名实体识别中的深度学习输入的分布式表示 一、摘要 此文章讲解了4个方面的问题。 1、现有的NER资源与工具...
A Survey on Deep Learning for Named Entity Recognition（IEEE Transactions2020）
m0_37584687的博客
03-15 320
1. Summary 文章主要介绍了NER的资源（NER语料及工具），并从distributed representation for input，context encoder和tag decoder三个维度介绍了目前现有的工作，并调研了目前最具代表性的深度学习方法。最后提出了目前NER系统面临的挑战以及未来的研究方向。 2. Introduction (1) NEs通常分为两种：generic NEs (e.g., person and location) and domain-specific NEs
论文阅读：A Survey on Deep Learning for Named Entity Recognition
Rock_y的博客
09-11 4330
这是一篇2020年发的命名实体识别的综述性论文，从NER的语料库，定义，评估指标，到深度学习中的NER的技术都有涉及到。 A Survey on Deep Learning for Named Entity Recognition1 INTRODUCTIONNER的演变开展这项调查的动机本次调查的贡献2 BACKGROUND2.1 What is NER?2.2 NER资源：数据集和工具2.3 NER评估指标2.3.1 Exact-match Evaluation(精确匹配评估)2.3.2 Relaxed-
【论文笔记-NER综述】A Survey on Deep Learning for Named Entity Recognition
yuexiaomao的博客
10-09 2741
本笔记理出来综述中的点，并将大体的论文都列出，方便日后调研使用查找，详细可以看论文。 神经网络的解释： The forward pass com- putes a weighted sum of their inputs from the previous layer and pass the result through a non-linear function. The backward pass is to co...
【论文精读】A Survey on Deep Learning for Named Entity Recognition
HERODING23的博客
12-01 3519
一篇来自2022年TKDE的有关NER综述的文章，也算是我接触NER以来的第二篇文章，其中第一篇是有关图神经网络在NER中的应用，由于没有基础知识，踩了许多坑，在汇报的时候很多概念也没能阐述清楚，这次通过阅读综述的方式，来对NER领域进行一个全面完整的认识，希望能在这篇CCF A的期刊中得到收获。命名实体识别（NER）的任务是从属于预定义语义类型的文本中识别出实体类型（mentions of rigid designators）。
NER[2] - 文章解读：A Survey on Deep Learning for Named Entity Recognition
ZhuNian的学习乐园
07-13 3302
本文是翻译一篇NER综述原文：A Survey on Deep Learning for Named Entity Recognition 文章链接：https://arxiv.org/abs/1812.09449v3
A Survey on Deep Learning for Named Entity Recognition（2020）
XB_please的博客
06-15 1712
本文介绍Deep Learning 在命名实体识别上的应用，主要介绍三部分：输入的分布式表示、上下文编码器（用于捕获标签解码器的上下文）和标签解码器（用于预测给定顺序中词的标签）。 命名实体识别（NER）的任务是识别文本中的组织、人和地理位置的名称以及货币、时间和百分比表达式。 论文地址：A Survey on Deep Learning for Named Entity Recognition NER资源：数据集和工具 NER评估指标： NER系统通常通过将其输出与人工注释进行比较来进行评估。可以通过精
文献学习02_A Survey on Deep Learning for Named Entity Recognition 基于深度学习的命名实体识别研究综述_20221122
qq_48278620的博客
11-21 1512
A Survey on Deep Learning for Named Entity Recognition
一篇基于深度学习的命名实体识别技术的研究报告
一位在路上的工程师的博客
01-25 2894
本篇文章主要是自己刚接触NER领域时，研读这篇《 A Survey on Deep Learning for Named Entity Recognition 》NER综述论文时翻译的中文版，这篇综述时间是2020年，可能近两年的部分成果暂未包含，很多内容是通过百度翻译直接翻的，部分内容进行了一定的调整。有少部分内容省略了，具体可以参考原论文，所有涉及的文献引用也请参考原论文。
命名实体识别（Named Entity Recognition，NER）
victoriaGYR的博客
12-13 4084
  命名实体识别（Named Entity Recognition，NER）属于NLP中一个关键性基础任务，概念从字面意思上就可以理解，即识别文本中具有特定意义的实体，主要包括人名、地名、机构名、专有名词等。    从早期基于词典和规则的方法，到传统机器学习的方法，到近年来基于深度学习的方法，NER研究进展的大概趋势大致如下图所示。   在基于机器学习的方法中，NER被当作序列标注问题。利...
命名实体识别（Named Entity Recognition,NER）
weixin_45885232的博客
04-29 1206
命名实体识别是指在文本中定位命名实体的边界并分类到预定义类型的集合的过程。实体的标注形式有BIOE等，其中B是body的缩写，I是in的缩写，O是output的缩写，E是expect的缩写。 NER的输入是一个句子对应的单词序列s=<w1,w2,...wn>s=<w_1,w_2,...w_n>s=<w1​,w2​,...wn​>，输出是一个三元组集合，其中每个元组形式为<Is,Ie,it><I_s, I_e,i_t><Is​,Ie​,it​&
第一篇关于深度学习在命名实体识别（NER）上应用的综述文章
qq_33290002的博客
11-21 1054
《A Survey on Recent Advances in Named Entity Recognition from Deep Learning models》 这是第一篇关于深度学习在NER上应用的综述文章 这篇文章比较注重多语言和多领域的基于深度学习NER的综述 1.数据集 作者列举了目前一些常用的数据集，包括语言类数据和领域类数据。语言类数据就比较广泛，基...
知识图谱——命名实体识别(NER)
weixin_43972621的博客
03-30 1万+
一、NER简介 NER又称作专名识别，是自然语言处理中的一项基础任务，应用范围非常广泛。命名实体一般指的是文本中具有特定意义或者指代性强的实体，通常包括人名、地名、组织机构名、日期时间、专有名词等。NER包含以下model： 3 class model : Location, Person, Organization 4 class model : Location, Pers...
【实体识别】深入浅出讲解命名实体识别（介绍、常用算法）
热门推荐
程序星空实验室
05-10 2万+
命名实体识别（Named Entity Recognition, 简称NER）（也称为实体识别、实体分块和实体提取）是信息提取的一个子任务，旨在将文本中的命名实体定位并分类为预先定义的类别，如人员、组织、位置、时间表达式、数量、货币值、百分比等。命名实体识别是自然语言处理中的热点研究方向之一， 目的是识别文本中的命名实体并将其归纳到相应的实体类型中。 命名实体识别是NLP中一项非常基础的任务，是信息提取、问答系统、句法分析、机器翻译等众多NLP任务的重要基础工具。 从自然语言处理的
Bert-Ner: A Transformer-Based Approach For Named Entity Recognition
最新发布
12-26
### BERT NER Transformer-Based Named Entity Recognition Overview Transformer架构下的命名实体识别（NER）方法，尤其是基于BERT的实现，在处理不平衡数据集方面表现出显著优势[^2]。这些模型通过预训练阶段获取丰富的语义信息，并在微调过程中针对具体任务优化参数。 #### 实现概述 BERT-NER的主要流程如下： - **预训练**：采用大规模无标注文本进行双向编码器表示（Bidirectional Encoder Representations from Transformers），即BERT模型的学习过程。 - **特征提取**：对于给定句子中的每一个token，BERT能够提供深层次的语言理解能力，捕捉到复杂的语法和语义模式。 - **分类层构建**：在BERT之上添加一层或多层全连接神经网络用于预测各个位置上的标签类别，如`O`, `B-Person`, `I-Person`等。 ```python import torch from transformers import BertTokenizer, BertForTokenClassification tokenizer = BertTokenizer.from_pretrained('bert-base-cased') model = BertForTokenClassification.from_pretrained('dbmdz/bert-large-cased-finetuned-conll03-english') def predict_entities(text): inputs = tokenizer.encode_plus( text, add_special_tokens=True, return_tensors="pt" ) outputs = model(**inputs)[0] predictions = torch.argmax(outputs, dim=2) tokens = tokenizer.convert_ids_to_tokens(inputs["input_ids"][0]) entities = [] current_entity = None for idx, pred in enumerate(predictions[0]): label = model.config.id2label[pred.item()] if not label.startswith("I") and current_entity is not None: entities.append(current_entity) current_entity = None if label != "O": token_text = tokens[idx].replace("##", "") if label.startswith("B"): current_entity = {"entity": label.split("-")[1], "text": token_text} elif label.startswith("I") and current_entity is not None: current_entity["text"] += f" {token_text}" if current_entity is not None: entities.append(current_entity) return entities ``` 此代码片段展示了如何加载预先训练好的BERT模型并应用于新的文本输入以执行命名实体识别的任务。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值