知识图谱构建技术综述

融合知识图谱和用户行为信息的个性化推荐算法研究 来源:《计算机科学与应用》,作者程静文等 关键词:推荐系统;知识图谱;深度神经网络 摘要: 摘要:针对传统协同过滤存在的稀疏性和冷启动问题,通常使用深度神经网络(DNN)构建融合知识图谱和推荐系统的推荐任务。但目前的方法未曾考虑特征间的低阶线性关系,虽可加入因子分解机(FM),但不同的特征对模型的贡献不同,FM可能会因所有特征交互设置相同的权重而受到阻碍;DNN解决知识图谱这种具有不规则、可扩展、多重结构特性的数据结构不具普适性。针对以上问题,提出... 阅读详情

知识图谱的定义与架构

知识图谱的定义

知识图谱是结构化的语义知识库,用于以符号形式描述物理世界中的概念及其相互关系。其基本组成单位是“实体-关系-实体”三元组。

通过知识图谱,可以实现Web从网页链接向概念链接的转变。

知识图谱的架构

从逻辑上可以划分为2个层次:数据层和模式层。

在知识图谱的数据层,知识以事实(fact)为单位存储在图数据库。图数据中有“实体-关系-实体”或者“实体-属性-属性值”两种三元组,所有数据构成庞大的实体关系网络。

模式层在数据层之上,是知识图谱的核心。模式层存储的是经过提炼的知识,通常采用本体库来管理知识图谱的模式层。

知识图谱构建过程

知识图谱的构建过程是从原始数据出发,采用一系列自动或半自动的技术手段,从原始数据中提取出知识要素,并将其存入知识库的数据层和模式层的过程。

这是一个迭代更新的过程,每一轮迭代包含3个阶段:信息抽取、知识融合以及知识加工

知识图谱有自顶向下和**自底向上**2种构建方法。

  • 自顶向下是从百科类网站等高质量数据源中提取本体和模式信息,加入到知识库中。
  • 自底向上是从公开采集的数据中提取出资源模式,选择其中置信度较高的新模式,经人工审核后,加入到知识库中。

知识图谱的构建技术

信息抽取(information extraction)

信息抽取的关键问题是如何从异构数据源中自动抽取信息得到候选知识单元。关键技术包括:实体抽取、关系抽取和属性抽取。

实体抽取

实体抽取,也称命名实体识别(named entity recognition,NER),是指从文本数据集中自动识别出命名实体。实体抽取的质量(准确率和召回率)对后续的知识获取效率和质量影响极大,因此时信息抽取中最为基础和关键的部分。

早期方法:

  • 启发式算法与人工编写规则相结合(Rau)。缺点:耗费大量人力,且可扩展性差。

基于统计机器学习方法:

  • KNN算法+CRF模型(Liu等人),实现对Twitter文本数据中包含实体的识别。
  • 字典辅助下的最大熵算法(Lin等人),在基于Medline论文摘要的GENIA数据集上取得了实体抽取准确率和召回率均超过70%的实验结果。

开放域的信息抽取方法:

  • 层次结构的命名实体分类体系(Sekine等人),将网络中所有的命名实体划分为150个分类。
  • 将实体类别进行分类,并基于CRF模型进行实体边界识别,最后采用自适应感知机算法实现了对实体的自动分类(Ling等人)。

抽取具有相似特征实体,从而进行分类和聚类:

  • 根据已知的实体实例进行特征建模,利用该模型对处理海量数据集得到的新的命名实体列表,针对新实体建模,迭代地生成实体标注语料库(Whitelaw等人)。
  • 利用无监督学习算法,事先不给出实体分类,而是基于实体的语义特征从搜索日志中识别出命名实体,然后采用聚类算法对识别出的实体对象进行聚类(Jain等人)。

关系抽取

关系抽取技术的基本问题是,如何从文本语料中抽取实体间关系。

早期方法:

  • 采用模式匹配来识别实体间的关系。缺点:需要对语言学领域有深入理解和认知,且工作量大,难以扩展。

基于统计机器学习方法:

  • 利用自然语言中的词法、句法以及语义特征进行实体关系建模,通过最大熵方法实现了不借助规则硬编码的实体关系抽取(Kambhatla等人)。
  • 借助知网(HowNet)提供的本体知识库构造语义核函数,在开放数据集上对ACE定义的6类实体关系进行抽取(刘克彬等人)。
  • 基于Bootstrap算法的半监督学习方法,自动进行实体关系建模(Carlson等人)。
  • 基于Bootstrap算法思想,提出协同训练方法,引入N-Gram特征进行协同训练,实现了对弱监督关系抽取模型的强化(陈立玮等人)。
  • 基于无监督学习方法,对实体间的雇佣关系、位置关系以及生产关系等多元关系进行精准识别。(Zhang等人)

面向开放域的方法(无须预定义实体关系类型):

  • 提出了面向开放域的信息抽取方法框架(OIE),并发布了基于自监督学习方式的开放信息抽取原型系统。该系统采用少量人工标记数据作为训练集,得到一个实体关系分类模型,再依据该模型对开放数据进行分类,依据分类结果训练朴素贝叶斯模型来识别“实体-关系-实体”三元组。(Banko等人)
  • 在OIE的基础上,发布了面向开放域信息抽取的WOE系统。该系统能够利用维基百科网页信息框(infobox)提供的属性信息,自动构造实体关系训练集。(Wu等人)
  • 引入语法限制条件和字典约束,采用先识别关系指示词,然后再对实体进行识别的策略(Fader等人)。
  • 引入上下文分析技术,提出了一个支持非动词性关系抽取的OILLIE系统。(Mausam等人)

结合机器学习算法与开放域方法:

  • 基于条件随机场的关系抽取模型(H-CRF),在目标数据集中关系数量不大且有预先定义好的实体关系分类模型可用的情况下,采用传统机器学习算法进行关系抽取,而对于没有预先定义好的实体关系模型或者关系数量过多的情况,则采用开放域关系抽取方法。(Banko等人,微软的StatSnowball模型)

当前OIE系统在关系抽取方面存在2个主要问题:

  1. 研究的重点都是如何提高关系抽取的准确率和召回率,很少考虑现实生活中普遍存在的高阶多元实体关系
  2. 所采用的研究方法大多只关注发掘词汇或词组之间的关系模式,而无法实现对隐含语义关系的抽取

针对上述问题提出的方法:

  • 采用N元关系模型对OIE系统进行改进,提出KRAKEN模型。(Alan等人)
  • 采用后期关系推理的方法,提高OIE系统对隐含实体关系的发现能力(McCallum)

属性抽取

属性抽取的目标是从不同信息源采集特定实体的属性信息,例如昵称、生日、国籍等,实现对实体属性的完整勾画。

  • 将人物属性抽取问题转化为实体关系抽取问题,采用支持向量机算法实现了人物属性抽取与关系预测模型(郭剑毅等人)
  • 基于规则和启发式算法的属性抽取算法,得到了扩展性良好的本体知识库YAGO(Suchanek等人)
  • 从维基百科网页信息框抽取实体和实体关系信息,得到DBpedia

知识融合

知识融合包括2部分内容:实体链接和知识合并。

知识融合的目的是消除概念的歧义,剔除冗余和错误概念,从而保证知识的质量。

实体链接

实体链接(entity linking)是指从文本中抽取得到的实体对象,将其链接到知识库中对应的正确实体对象的操作。

实体链接的基本思想是首先根据给定的实体指称项,从知识库中选出一组候选实体对象,然后通过相似度计算将指称项链接到正确的实体对象。

实体链接的一般流程是:

  1. 从文本中通过实体抽取得到实体指称项
  2. 进行实体消岐和共指消解
  3. 在确认知识库中对应的正确实体对象后,将该实体指称项链接到知识库中对应实体

    • 实体消岐(entity disambiguation)是专门用于解决同名实体产生歧义问题的技术。例如“苹果”可以指水果,也可以指手机。通过实体消岐,就可以根据当前的语境,准确建立实体链接。实体消岐主要采用聚类法。聚类法消岐的常用方法有4种:1.空间向量模型(词袋模型);2.语义模型;3.社会网络模型;4.百科知识模型
    • 共指消解(entity resolution)主要用于解决多个指称项对应于同一实体对象的问题。例如“eason”,“陈胖子”,“陈奕迅”等指称项可能指向的是同一个实体对象。代表性的解决方法是Hobbs算法和向心理论(centering theory)

知识合并

在构建知识图谱时,需要从第三方知识库产品或已有结构化数据获取知识输入。

  1. 合并外部知识库:例如从百度百科,维基百科等进行知识合并。该过程主要处理2个层面的问题。一是数据层的融合,包括实体的指称、属性、关系以及所属类别等,主要问题是如何避免实例以及关系的冲突问题,造成冗余;二是通过模式层的融合,将新得到的本体融入已有的本题库中。
  2. 合并关系数据库:知识图谱构建过程中,一个重要的高质量知识来源是企业或者机构自己的关系数据库。为了将这些结构化的历史数据融入到知识图谱中,可以采用资源描述框架(RDF)作为数据模型。这一过程被称为RDB2RDF,实质就是将关系数据库的数据转换成RDF的三元组数据。

知识加工

事实本身并不等于知识,想要最终获得结构化、网络化的知识体系,还需要经历知识加工的过程。知识加工主要包括3方面内容:本体构建、知识推理和质量评估。

本体构建

本体可以采用人工编辑的方式手动构建(借助 本体编辑软件),也可以采用计算机辅助,以数据驱 动的方式自动构建, 然后采用算法评估和人工审核 相结合的方式加以修正和确认。对于特定领域而言,可以采用领域专家和众包的方式人工构建本体 。

然而对于跨领域的全局本体库而言,采用人工方式工作量巨大,而且很难找符合要求的专家。因此当前主流的全局本体库产品,都是从一些特定领域的现有本体库出发,采用自动构建技术逐步扩展得到的。

知识推理

知识推理是指从知识库中已有的实体关系数据出发,经过计算机推理,建立实体间的新关联,从而扩展和丰富知识网络。例如已知(A,爸爸,B)和(B,爸爸,C),可以推理出(A,爷爷,C)。知识推理的对象不局限于实体间的关系,也可以是实体的属性值、本体的概念层次关系等。例如已知(老虎,科,猫科)和(猫科,目,食肉目),可以推出(老虎,目,食肉目)。

知识的推理方法可以分为2大类:基于逻辑的推理和基于图的推理。

基于逻辑的推理主要包括一阶谓词逻辑、描述逻辑以及基于规则的推理。

基于图的推理方法主要是基于神经网络模型或Path Ranking算法。

质量评估

质量评估也是知识库构建技术的重要组成部分。受现有技术水平限制,采用开放域信息抽取技术得到的只是元素有可能存在错误(如实体识别错误、关系抽取错误等),需要有一个质量评估的过程。

知识更新

人类所拥有的信息和知识量都是时间的单调递增函数,因此知识图谱的内容也需要与时俱进,其构建过程是一个不断迭代更新的过程。

从逻辑上看,知识库的更新包括概念层的更新和数据层的更新。

知识图谱的内容更新有两种方式:数据驱动下的全面更新和增量更新。

参考文献:《知识图谱构建技术综述》 刘峤,李杨 等

知识图谱问答 | (4) 知识图谱和语义表示 本篇博客主要基于微软亚洲研究院段楠老师的《智能问答》第四章 知识图谱问答 进行整理。 本篇博客我们将介绍一下知识图谱的基本概念以及基于知识图谱的语义表示方法。 知识图谱可以看做是对现实世界中客观存在的事实的一种高度抽象和总结。举例来说,Barack Obama 出生在 Honolulu 这个事实可以用不同自然语言对其进行表述,例如 Barack Obama was born in Honolulu... 阅读详情

相关推荐

《知识图谱构建技术综述》笔记

1. 论文信息 知识图谱构建技术综述 刘峤 李杨 段宏 刘瑶 秦志光 出版源:《计算机研究与发展》, 2016, 53 (3):582-600 2. 摘要 将知识图谱划分为信息抽取层、知识融合层和知识加工层; 对每个层次涉及的关键技术的研究现状进行分类说明; 知识图谱构建技术当前面临的重大挑战和关键问题进行了总结。 3. 介绍 知识图谱的历史 知识图谱的概念是由谷歌...

yangOvOyang 6531

知识图谱构建二、知识图谱定义与架构

维基百科对知识图谱给出的词条解释仍然沿用了谷歌的定义,即:知识图谱是谷歌用于增强其搜索引擎功能的辅助知识库.然而从业界的发展动态来看 ,这个定义显得过于简单。微软在2013年7月发布了自己的Satori知识库之后 ,必应(Bing)搜索引擎产品的高级主管Weitz公开表示,发布Satori只是表明微软已有类似的技术,然而目前这一技术本身还存在许多问题,微软希望取得领导地位,而不是追随...

wshzd的博客 3812

二维数字图像相关算法软件Ncorr的使用心得

二维开源软件Ncorr的DIC分析操作过程详解。

m0_72612723的博客 3万+

知识图谱架构(Knowledge Graph)

1. 前言 从一开始的Google搜索,到现在的聊天机器人、大数据风控、证券投资、智能医疗、自适应教育、推荐系统,无一不跟知识图谱相关。它在技术领域的热度也在逐年上升。 本文以通俗易懂的方式来讲解知识图谱相关的知识、尤其对从零开始搭建知识图谱过程当中需要经历的步骤以及每个阶段需要考虑的问题都给予了比较详细的解释。 知识图谱( Knowledge Graph)的概念由谷歌2012年正式提出,旨在...

赵英超的博客 2万+

保姆级教程:用ArcGIS Pro搞定云南30米分辨率DEM地形图(附数据下载与配色方案)

本文提供了一份详细的ArcGIS Pro教程,指导用户如何制作云南30米分辨率DEM地形图。从数据下载、预处理到镶嵌与质量控制,再到地形分析与可视化,全流程覆盖云南复杂地形的处理要点。特别包含数据下载链接、配色方案及常见问题解决方案,适合地理信息分析新手和专业人士。

weixin_30467199的博客 309

STM32F407标准库下ADC多通道DMA采集的配置与优化

本文详细介绍了STM32F407标准库下ADC多通道DMA采集的配置与优化方法。通过GPIO模拟输入配置、ADC时钟和模式设置、DMA传输参数配置等关键步骤,实现高效的多通道数据采集。文章还提供了性能优化技巧和常见问题排查指南,帮助开发者提升采样速率和稳定性。

weixin_29192141的博客 436

知识图谱构建技术综述 - 论文

学习综述,快速了解一波 github 下载链接 :https://github.com/yjfiejd/2019xuexi/tree/master/knowledge_graph 1论文链接 下载链接:知识图谱构建技术综述 2思维导图如上 ...

sinat_15355869的博客 1054

Mathtype公式下标深度调整技巧:解决固定行距下的显示不全问题

本文针对在Word等文档中设置固定行距时,Mathtype公式下标显示不全的问题,提供了专业解决方案。核心在于调整Mathtype软件内部的“下标深度”参数,通过修改单个公式或批量格式化全文,使公式完美适配固定行距,确保下标清晰完整,且不影响文档整体排版。

pepsi的博客 1503

研读论文——《知识图谱构建技术综述》

知识图谱的核心定义为:以三元组形式描述实体及其关系的结构化语义知识库。具体来说,知识图谱由实体(Entity)、关系(Relation)和属性(Attribute/Value)三类要素构成,基本单位是“实体–关系–实体”三元组。与传统关系数据库不同,知识图谱采用图模型存储知识,每个实体和关系都可通过唯一标识符(URI)标识,使知识具有可扩展的表达能力​​。这种表示方式使得知识能够以机器可读的形式表示​,便于语义查询和推理。知识图谱的技术架构通常包括概念层(或模式层)和数据层两部分:概念层采用。

WenJGo的博客 3406

Concentration Inequality(集中不等式)更新版

欢迎来我博客 https://wyue.name/2020/04/17/1/阅读这一篇博文 转载前请联系我,联系方式请见我博客 https://wyue.name/ Concentration inequality 刻画了一组随机变量的和(或者样本平均数)与其期望值的偏离程度,在算法收敛性分析过程中是非常有用的一类不等式。 这次主要总结一下最近一段时间遇到的集中不等式,不仅是不等式形式,...

Yue的博客 4554

CMOS传输门实战:如何用模拟开关优化你的电路设计(附常见问题排查)

本文深入探讨了CMOS传输门在电路设计中的实战应用与优化策略。文章从核心参数选型入手,详细分析了导通电阻、电荷注入等关键特性对电路性能的影响,并提供了多路复用器构建、精密电路应用等实战架构。同时,重点分享了PCB布局、电源去耦的工程细节,以及开关不导通、信号失真、高频性能不足等常见问题的系统性排查指南,旨在帮助硬件工程师充分发挥CMOS模拟开关的效能,提升电路设计的可靠性与精度。

js777的博客 451

知识图谱构建技术综述-阅读笔记

知识图谱是结构化的语义知识库,用于以符号形式描述物理世界中的概念及其相互关系,基本组成单位是实体-关系-实体三元组,以及实体及其相关属性-值对,实体间通过关系互相联结构成网状的知识结构。通过推理实现概念检索。

m0_63444889的博客 1046

电压跟随器在ADC采样电路中的作用分析

电压跟随器在ADC采集系统中扮演关键角色,它能解决分压电路因ADC输入阻抗导致的电压误差问题。通过运放构成的电压跟随器可隔离信号源与负载,保证采样精度,尤其适用于高阻抗传感器或高速采样场景。工程应用中需注意运放带宽、轨对轨输出能力及抗干扰设计。合理使用电压跟随器能显著提升信号完整性,在复杂电子系统中成为不可或缺的"信号桥梁。

硬核科技 659

知识图谱构建技术综述与实践

前言 知识图谱,即一种特殊的语义网络,它利用实体、关系、属性这些基本单位,以符号的形式描述了物理世界中不同的概念和概念之间的相互关系。为什么说知识图谱对于信息检索、推荐系统、问答系统中至关重要,我们用一个例子来说明: 假设在一个搜索场景,我们在搜索框中输入 坐月子可以洗澡吗? 可以看到这句Query是一个完整的问句,如果在检索系统中有一个较大的问答语料库(比如FAQ场景),或者一个足够庞大的文章数据库(文章的title覆盖率高),使用语义匹配技术对Query与FAQ问句、文章title做相似度计算或

朝闻道 1747

【3天快速入门WPF】从小白到新手入门教程

嘿,小伙伴们!如果你已经有一定的C#开发基础,但想快速掌握WPF开发,达到企业级水准,那接下来的这个三天快速入门计划绝对适合你!虽然听起来有点挑战,但别担心,只要跟着这个高强度、结构化的学习计划,你一定能搞定它。首先,我们得搞清楚,WPF的核心知识点到底有哪些。要想达到企业级开发水准,XAML、数据绑定、MVVM、控件使用、命令系统、样式模板这些统统都得拿下。听起来是不是有点多?别急,我们把任务分解到三天里,每天安排合理的内容,保证理论和实践相结合,让你学得扎实又高效。

Zy100Papa的博客 1423

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

万字长文,知识图谱构建技术综述

文章来源:丁香大数据 前言 知识图谱,即一种特殊的语义网络,它利用实体、关系、属性这些基本单位,以符号的形式描述了物理世界中不同的概念和概念之间的相互关系。为什么说知识图谱对于信息检索、推荐系统、问答系统中至关重要,我们用一个例子来说明:假设在一个搜索场景,我们在搜索框中输入 坐月子可以洗澡吗? 可以看到这句Query是一个完整的问句,如果在检索系统中有一个较大的问答语料库(比如FAQ...

夕小瑶科技说 2906

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

最全知识图谱综述: 概念以及构建技术

【导读】知识图谱技术是人工智能技术的组成部分,其强大的语义处理和互联组织能力,为智能化信息应用提供了基础。我们专知的技术基石之一正是知识图谱-构建AI知识体系-专知主题知识树简介。下面我们特别整理了关于知识图谱的技术全面综述,涵盖基本定义与架构、代表性知识图谱库、构建技术、开源库和典型应用。 引言 随着互联网的发展,网络数据内容呈现爆炸式增长的态势。由于互联网内容的大规模、异质多元、组织结构松...

Leohfan的博客 8万+

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

上一篇: 基于知识图谱的电影自动问答系统(二)自动问答实现
下一篇: 精通正则表达式:1 正则表达式入门
CopperDong
博客等级 码龄14年 1205粉丝 466原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值