论文浅尝 | KG Embedding with Iterative Guidance from Soft Rules

最新推荐文章于 2023-12-26 01:29:34 发布
最新推荐文章于 2023-12-26 01:29:34 发布
阅读量1.6k 收藏 4
点赞数 1
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/TgqDT3gGaMdkHasLZv/article/details/84644631

640?wx_fmt=png

论文链接：https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/download/16369/16011

发表会议：AAAI 2018


摘要

知识图谱表示学习旨在将实体和关系嵌入到向量空间，同时保留知识图谱的内在结构。传统方法主要基于关系三元组学习知识图谱的嵌入表示。本文认为，知识图谱中的逻辑规则对于表示学习也很有帮助，于是提出了一个新的表示学习模型RUGE (Rule-Guided Embedding)。RUGE的主要特点是，利用从知识图谱自动抽取的规则迭代地预测未标记三元组，并将其加入训练来增强表示学习。

方法介绍

RUGE框架如下图所示。与传统方法不同，该模型除了利用labeled三元组，还同时引入了unlabeled三元组和逻辑规则。RUGE利用自动抽取的规则，生成带有置信度的unlabeled

最低0.47元/天 解锁文章

200万优质内容无限畅学
gragh embedding相关论文小结（四）
olu
03-26 1120
本篇针对dynamic graph相关的论文做一个总结 Time Evolution of the Importance of Nodes in dynamic Networks Dynamic Network Embedding:An Extended Approach for Skip-gram based Network Embedding ** ** ** ** ** ** T...
论文｜Airbnb Embedding的实践和思考
Thinkgamer博客
11-27 841
其实在19年初的时候大概看了一下这篇论文，但当时其实理解的并不深，今天再读的时候发现这里边其实包含了很多东西，不仅是学术性的目标函数优化，也包括工程性的取舍和特征的构造。 本文分为两部分，第一部分主要介绍论文，第二部分谈从中的收获和启发，如果你对论文比较熟悉的话可以直接阅读第二部分。 第一部分 引言 Airbnb于2018年提出了论文《Real-time Personalization using Embeddings for Search Ranking at Airbnb》，可谓是Embedding技术
Knowledge Graph Embedding with Iterative Guidance from Soft Rules 论文笔记
大章鱼有小学术之心的博客
10-11 2467
现在做的事需要得到一个knowledge embedding.找到了今年的一篇新论文，并且以Java实现，源码在GitHub上现成的。 动机 在NLP中，word 可以比映射成一个低维向量来表示这个词。同理的，在knowledge base中，实体和关系也可以表示到连续的向量空间中。本文考虑的问题是如何将知识库的分布式表示和逻辑规则结合起来，提出了一个新的表示学习方法 RUGE(Rule-Guid...
《深度学习推荐系统》学习笔记(5)——Embedding（论文）
十八子的博客
01-05 1018
Embedding在推荐系统中的应用 文章目录Embedding在推荐系统中的应用Word2vec (2013, Google)Item2vec (2006, 微软)DeepWalk (2014)Node2vec (2016, 斯坦福大学)EGES (2018, 阿里巴巴)局部敏感哈希 (2008)其他参考文献 Word2vec (2013, Google) 原理：利用句子中词的相关性建模，利用单隐层神经网络获得词的Embedding 向量 特点：经典 Embedding方法 局限：仅能针对 词序列 样本
Embedding入门必读的十篇论文
qq_42189083的博客
05-29 1110
第一部分 Word2vec基础 1.[Word2Vec] Efficient Estimation of Word Representations in Vector Space (Google 2013) Google的Tomas Mikolov提出word2vec的两篇文章之一，这篇文章更具有综述性质，列举了NNLM、RNNLM等诸多词向量模型，但最重要的还是提出了CBOW和Skip-gram两种word2vec的模型结构。虽然词向量的研究早已有之，但不得不说还是Google的word2vec的提.
论文浅尝 | 利用 KG Embedding 进行问题回答
开放知识图谱
07-07 2497
论文笔记整理：吴杨，浙江大学计算机学院，知识图谱、NLP方向。http://research.baidu.com/Public/uploads/5c1c9a58317b3...
论文浅尝 | Temporal Knowledge Graph Completion Using Box Embeddings
开放知识图谱
11-04 1637
笔记整理：杨露露，天津大学硕士论文链接：https://www.aaai.org/AAAI22Papers/AAAI-6210.MessnerJ.pdf动机时态知识图谱补全（TKGC）中的主要挑战是额外学习时间戳嵌入，以便嵌入模型根据关系、实体和时间戳嵌入联合执行评分。本文提出了BoxTE，一个用于TKGC的盒子嵌入模型，建立在静态知识图谱嵌入模型BoxE之上。亮点本文的亮点主要包括：（1）表明 ...
论文浅尝 | 基于知识图谱 Embedding 的问答
开放知识图谱
12-17 2120
论文笔记整理：谭亦鸣，东南大学博士生，研究方向为知识图谱问答。来源：WSDM 2019链接：https://dl.acm.org/citation.cfm?doid=3289600.32...
论文浅尝 | 基于事理图谱的脚本事件预测
开放知识图谱
12-10 3015
论文笔记整理：邱圣广，南京大学硕士，研究方向为自然语言处理。链接：https://www.ijcai.org/proceedings/2018/0584.pdf绪论1. 脚本事件预测...
【论文研读】 Translating Embeddings for Modeling Multi-relational Data论文理解
Bessie_Lee
04-03 2713
文章目录embedding知识图谱 embedding 首先，我们得知道什么是embedding？他有什么优点？他为什么要被开发出来？传统的one-hot编码不可以吗？接下来让我们一一进行解决 1、什么是embedding？ ① 维基百科的官方回答： ② 自己的理解： （这个结合了一下一篇大佬的博客思路进行理解的） 首先，embedding在pytorch或者tf中会被经常使用，m代表的是单词的数目，n代表的是词语嵌入的维度。其次，词嵌入（word embedding）是一个大矩阵，一行代表的是一个单词。
KGEmbeddingBenchmark：嵌入整个知识图并比较各种技术的框架
02-15
KGEmbeddingBenchmark：嵌入整个知识图并比较各种技术的框架
论文浅尝 | 基于迭代的概率规则约束的知识图谱分布式表示
开放知识图谱
05-10 1674
Citation:Shu Guo, Quan Wang, Lihong Wang, Bin Wang, Li Guo.Knowledge Graph Embeddingw...
迭代制导总结
鲁鹏的博客
06-13 4011
本文主要参考几个经典文献学习迭代制导（Iterative Guidance Mode, IGM）技术，源代码已上传到码云 https://gitee.com/olupengo/IterativeGuidance/，仅供参考。
《Beta Embeddings for Multi-Hop Logical Reasoning in Knowledge Graphs》论文阅读笔记
weixin_44965520的博客
04-09 1672
《Beta Embeddings for Multi-Hop Logical Reasoning in Knowledge Graphs》论文阅读笔记 主要挑战贡献： KG上的推理挑战主要有两个：1.KG的规模很大，每跳一步候选答案集的候选答案数量便指数增长，因此通过跳转来寻找答案不现实；2.绝大多数的现实世界的KG根本不完全，缺少很多边（关系），因此跳转可能都跳不动，根本无法找到答案。 BetaE是第一个可以在大型异构知识图谱上处理**所有逻辑操作符号（包括存在、交、或、非，之前主要是无法处理逻辑“非”）
KGE & logical rules
SARACH_WONG的博客
12-23 1668
Jointly Embedding Knowledge Graphs and Logical Rules 2016，EMNLP ，Shu Guo、Quan Wang Wang（2015） 和 Wei（2015）利用KGE和rules去做KGC的任务，采用的pipline的方式；Rockta ̈schel（2015）采用joint模型将一阶逻辑规则注入到KGE过程中，因为它关注的是关系抽取项目，是...
论文浅尝 | 知识图谱的神经符号推理（上）
开放知识图谱
06-20 4198
笔记整理 |叶橄强，浙江大学在读硕士，研究方向为知识图谱的表示学习和预训练。知识图谱推理是支撑信息提取、信息检索和推荐等机器学习任务的基础组成部分，并且由于知识图可以看作知识的离散符号表...
知识表示学习（KG Embedding）—— TransX系列
BshoterJ的博客
08-01 7489
KG Embedding学习，只涉及TransE、TransH、TransR、TransD
自然语言理解与知识图谱：KG Embeddings和KBNET
AI天才研究院
12-26 171
1.背景介绍 自然语言理解（Natural Language Understanding, NLU）和知识图谱（Knowledge Graph, KG）是人工智能和计算机科学领域的两个热门话题。自然语言理解是指计算机能够理解人类自然语言的能力，而知识图谱是一种结构化的数据库，用于存储和管理实体和关系之间的知识。在这篇文章中，我们将探讨两种相关技术：KG
一文详解高斯混合模型原理
岁月如歌
02-11 6535
一文详解高斯混合模型原理（转载自：https://www.ituring.com.cn/article/497545） 什么是高斯混合模型（Gaussian Mixture Model） 高斯混合模型（Gaussian Mixture Model）通常简称GMM，是一种业界广泛使用的聚类算法，该方法使用了高斯分布作为参数模型，并使用了期望最大（Expectation Maximization，简称...
KG Embedding
最新发布
02-28
### KG Embedding 技术原理 知识图谱嵌入（Knowledge Graph Embedding, KGE）是一种将知识图谱中的实体和关系映射到低维连续向量空间的技术。这种技术使得原本离散的符号化数据能够被机器学习模型处理，从而更好地支持复杂的推理任务[^2]。 具体来说，在KGE过程中，每一个实体\( e \in E \) 和每一种关系 \( r \in R\) 被表示成一个固定长度的实数向量。这些向量通常位于欧几里得空间或其他类型的几何结构内，比如双曲空间。通过这种方式，不仅保留了原始知识图谱的信息，还允许利用距离度量来衡量不同节点间的相似性和关联程度[^1]。 为了获得高质量的嵌入表示，研究人员开发了一系列损失函数用于指导训练过程。常见的目标是最小化已知三元组\((h,r,t)\) 的预测得分与其真实标签之间的差异。例如TransE模型假设对于有效的关系(h,r,t)，头实体\( h \) 加上关系r应该接近于尾实体t的位置；即满足方程\[ h+r≈t \][^2]。 ### 应用场景 #### 推荐系统 在电子商务平台中，商品之间可能存在多种复杂联系，如品牌归属、类别划分等。借助KGE技术可构建细粒度的商品间交互模式，进而提升个性化推荐效果。此外，还可以结合用户行为序列进一步优化推荐策略。 #### 实体链接与消歧 当面对大量未标注文本时，如何识别并解析其中提及的具体对象成为一大难题。此时可以通过预先训练好的KG embedding模型辅助完成命名实体识别(NER)后的指代消解工作，提高跨文档一致性。 #### 自然语言问答(QA) 针对特定领域内的封闭型问题解答需求，基于预训练的知识库可以迅速定位最有可能的答案候选集。特别是那些涉及因果逻辑链路较长的问题情境下表现尤为突出[^3]。 ```python import torch from transformers import AutoModelForSequenceClassification, AutoTokenizer def load_kge_model(model_name='transe'): tokenizer = AutoTokenizer.from_pretrained('facebook/bart-large') model = AutoModelForSequenceClassification.from_pretrained(f'kge-{model_name}') return model, tokenizer # Example usage of a hypothetical function to demonstrate loading a pre-trained KGE model. ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值