如何用bert进行关系抽取（给定句子和句子中的两个实体，判断这两个实体之间的关系）

世界划水锦标赛冠军

于 2022-05-20 00:57:38 发布

阅读量590

点赞数

文章标签： bert 自然语言处理深度学习

本文链接：https://blog.youkuaiyun.com/qq_41898761/article/details/124865890

版权

本文介绍了如何利用BERT模型在给定句子及其两个实体的情况下，进行关系抽取。通过`entity_average`函数计算实体的字向量均值，但运行过程中遇到了CUDA版本与PyTorch版本不匹配的问题，导致RuntimeError。解决办法是精确匹配CUDA和PyTorch版本，并调整torch的版本以解决导入错误。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

目标：给定句子和句子中的两个实体，判断这两个实体之间的关系

来源：关系抽取

代码解读：

model.py

import torch
import torch.nn as nn
from transformers import BertModel
 
class SentenceRE(nn.Module):
 
    def __init__(self, hparams):
        super(SentenceRE, self).__init__()
 
        self.pretrained_model_path = hparams.pretrained_model_path or 'bert-base-chinese'
        self.embedding_dim = hparams.embedding_dim
        self.dropout = hparams.dropout
        self.tagset_size = hparams.tagset_size
 
        self.bert_model = BertModel.from_pretrained(self.pretrained_model_path)
 
        self.dense = nn.Linear(self.embedding_dim, self.embedding_dim)
        self.drop = nn.Dropout(self.dropout)
        self.activation = nn.Tanh()
        self.norm = nn.LayerNorm(self.embedding_dim * 3)
        self.hidden2tag = nn.Linear(self.embedding_dim * 3, self