图数据库 | 10、图数据库架构设计——高性能图存储架构(上)

于 2024-11-29 16:08:48 发布
阅读量1.3k 收藏 14
点赞数 20
分类专栏： 图数据库原理、架构与应用 文章标签： 数据库架构 数据库 图计算 图数据库 图存储
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Ultipa/article/details/144132469
版权

老夫在之前的三大篇内容中，介绍了图数据库的三大组件—图计算、图存储以及图查询语言。（都归拢在图数据库原理、架构与应用这个专栏中了，感兴趣的朋友可以在去找阅读。）

接下来，老夫还将继续深化这三大组件，因为这三者是相辅相成的，这也是图数据库架构设计关键所在，也是需要读者去厘清的。

今儿我们先聊高性能存储架构，严格意义上说任何数据库都需要存储引擎，它承载着数据持久化的职责。

在这个数字化转型、分布式架构概念随处可见的时代，似乎是唾手可得的。然而，曾经很长一段时间Apache Hadoop系统也被认为是数据处理的“神器”​，很多从业者甚至认为Hadoop系统也是高性能的，但所有系统只有在真实场景中对标才会分出性能高低、稳定与否、拓展性如何、实操易用性如何。

和所有其他类型数据库的相同之处是，设计高性能的图数据库至少需要关注3大环节：计算、存储和查询解析与优化。

数据库的计算层（或计算组件、计算环

了解本专栏 订阅专栏 解锁全文 超级会员免费看
博客
揭秘大数据 | 19、软件定义的世界
04-10 619
主要的资源被虚拟化，这只是实现了软件定义的第一步，这是因为虚拟化在解决大量现有问题的同时，也带来了一些新的挑战。
博客
视频 | 对等关税砸盘，全球市场惨跌，图计算暗藏破局密码
04-09 224
比如这次因为关税原因，众多机构都纷纷抛出手中的产品，抛售之后，机构又得补充保证金，于是像黄金、加密货币这类相对值钱的资产也惨遭抛售，以回笼现金，就连原本盈利的品种也被拖入下跌的漩涡……伴随科技领域日新月异，信息流动、物资流动都达到了前所未有的水平，越来越多的企业参与到全球经济循环中，横贯东西方几个世纪的生产力鸿沟，正在被快速填平。然而，我们也看到了硬币的另一面，在构成世界的复杂逻辑中，“戴尔理论”并不灵验，“修昔底德陷阱”并将长期存在。一旦某一品种价格下跌，与之关联的品种也会殃及池鱼，就容易引发连锁反应。
博客
揭秘大数据 | 18、关于流数据管理的那些事儿
04-07 850
老夫之前就讲过，大数据一般被分为就是其中之一。感兴趣的朋友，可以点击以下文章进行温故知新：来自这样一个概念：数据的价值随着时间的流逝而降低，所以在事件发生后需要尽快对其进行处理，最好是在事件发生时就进行处理（即实时处理）​，对事件进行一个接一个的处理，而不是缓存起来进行批处理（如Hadoop）​。在数据流管理中，需要处理的输入数据并不被存储在可随机访问的磁盘或逻辑缓存中，它们以数据流的方式源源不断地到达。①实时性：数据流中的数据实时到达，需要实时处理。②无边界：数据流是源源不断的，大小不定。
博客
揭秘大数据 | 17、MPP 那些事儿
04-03 303
Greenplum是业界第一个开源的MPP数据库，对想要实现OLTP和OLAP一体化大数据分析与管理系统的人来说，这是个天大的好消息。例如在大数据分析和处理中，MPP 数据库可以将数据分布在多个节点上进行并行处理，从而提高处理速度和效率。和MapReduce类似，两者都采用大规模并行处理架构对海量数据进行以大数据分析为主的工作，不同之处在于MPP通常原生支持并行的关系型查询与应用（不过这一点，Hadoop阵营也在逐渐通过在HDFS之上提供SQL查询接口来支持查询，甚至包括关系型查询）​。
博客
揭秘大数据 | 16、OLAP 那些事儿
04-02 866
第3个指的是Hadoop的HDFS适用于增加−读取−追加−处理(Create-Read-Append Process，CRAP)类型数据集操作，相对于RDBMS时代的增加−读取−更新−删除(Create Read-Update-Delete，CRUD)类型数据集操作而言，CRAP对已建立的数据集主要为读操作，以及在尾部的添加操作，而不是更新与删除操作，其主要原因是更新与删除操作在分布式系统中通常代价比较高。Hadoop MapReduce是用于分析存储在HDFS之上的大数据的编程框架，它包括库与运行时。
博客
揭秘大数据 | 15、OLTP 的那些事儿
04-01 911
数据中的不同记录可能有不同的属性和格式。当插入数据时，并不需要预先定义它们的模式（如MongoDB，后文中将会介绍）​。NoSQL和传统的关系数据库的对比如图1所示。可以看出，NoSQL数据库无数据清洗，无数据转换，无数据加载，并且在数据存储处进行分析。
博客
嬴图入围银行技术奖总决赛，推动金融科技审计创新​
03-31 284
极大提升了审计工作的效率与质量，精准回应了金融行业数字化转型中对审计服务高效、智能、可解释性的迫切需求，契合金融行业数字化转型中对智能、高效审计服务的需求。近日，金融科技领域再度聚焦于创新力量的角逐，北京/硅谷出身的图数据库领先企业——嬴图，凭借其卓越的技术实力与创新解决方案，成功入围。从英国的荣耀加冕到美国的总决赛入围，嬴图在金融科技奖项领域的持续突破，背后是其对技术研发的执着投入与对行业需求的深刻洞察。，证明了其在图数据库技术与人工智能融合应用方面的领先地位。，通过将复杂的金融交易网络以直观的。
博客
揭秘大数据 | 14、大数据的五大问题 之 大数据应用
03-26 617
大数据所面临的五大问题中最后一个是，这也是大数据问题的具象（最终展现形式）​。如果高度概括大数据的生命周期，那么可以归纳为：大数据来源+大数据技术+大数据应用，如图1所示。三者缺一不可、彼此相承。
博客
揭秘大数据 | 13、大数据的五大问题 之 数据科学
03-25 650
数据科学是一个热门的领域，而数据科学家是拥有特殊技能的专业人才，负责为复杂的业务建模，从海量数据中洞察先知并找到新的商业机遇。它们结合了统计分析、模式识别、机器学习、深度学习等技术，获取数据中的信息，形成推断及洞察力，所采用的相关方法包括回归分析、关联规则（如购物篮分析）​、优化技术和仿真（如用于构建场景结果的蒙特卡洛仿真）​。商业智能的组件及功能如下。图1描述了数据科学的典型流程，涉及原始数据的采集、清洗、基于规则或模型的数据处理与分析、建模+算法、汇总+可视化、决策、大数据产品（可选）等多个环节。
博客
揭秘大数据 | 12、大数据的五大问题 之 大数据管理与大数据分析
03-24 1064
以数据库交易为例，要实现ACID，最关键的部分是数据的一致性，通常的做法是通过加锁的方式，在一个读写方对某数据进行读写的时候，让其他读写方只能等待。或者对方没收到，而你的钱被扣掉了（被坑了的感觉）​。构建面向海量信息的大数据管理平台，其本质上是要实现一个可软件定义的数据中心来对下层的基础架构进行有效的管理（存储、网络、计算及相关资源的调度、分配、虚拟化、容器化等）​，以满足上层的业务与应用需求，并通过软件的灵活性与敏捷性实现高的总投资收益率(Return on Investment，ROI)。
博客
荐读 |《数智金融创新：技术和业务引领的优秀行业实践》——解码金融业数智化转型的实践指南
03-21 791
在数字经济与实体经济深度融合的新时代背景下，金融行业正经历以技术驱动为核心的深刻变革。为助力行业把握转型机遇正式出版。。由广东省粤港澳合作促进会金融专业委员会、粤港澳大湾区金融创新研究院、澳门电子金融产业贸易促进会联合策划，融创平台组编。
博客
揭秘大数据 | 11、大数据的五大问题 之 大数据存储
03-20 1106
在这样的背景下，一种新的存储管理模式开始出现，那就是软件定义存储。软件定义存储不同于存储虚拟化，软件定义存储的设计理念与软件定义网络(Software Defined Network，SDN)有着诸多相似之处。软件定义存储旨在开辟一个如下的新世界。(1)把数据中心中所有物理的存储设备转化为一个统一的、虚拟的、共享的存储资源池，其中存储设备包括专业的SAN/NAS存储产品，也包括内置存储设备和DAS。这些存储设备可以是同构的，也可以是异构的，还可以是来自不同厂商的。
博客
揭秘大数据 | 10、大数据不只是Hadoop
03-18 903
2020年以前这种论调在业界颇有市场，尤其是在国内市场（尽管美国市场在2019年就有人提出了“Hadoop已死”的论调）​。因为Hadoop真的很火爆，所以尽管许多人并不清楚Hadoop到底是什么、可以用来做什么，只是看到了行业的头部企业使用了基于Hadoop的系统，于是中小型企业也一窝蜂地要使用基于Hadoop的系统处理大数据相关业务。在这种跟风的市场氛围下，如果某种大数据技术和Hadoop不沾边儿，那么客户、投资人甚至企业自己的团队成员都有可能会对该技术的前景持迟疑态度。
博客
揭秘大数据 | 9、大数据从何而来？
03-17 773
在科技发展史上，恐怕没有任何一种新生事物深入人心的速度堪比大数据。如果把2012年作为数据量爆发性增长的第一年，那么短短数年，大数据就红遍街头巷尾——从工业界到商业界、学术界，所有的行业都经受了大数据的洗礼。从技术的迭代到理念的更新，大数据无处不在。时至今日，在日常的生产生活中，每时每刻都有数以亿计的设备在产生巨大体量的数据……
博客
专家观察 | AI价值链条：价值导向分析
03-14 697
应广大读者要求，现将在天奕TGES专题讲座金融人工智能发展、Deepseek应用与分享管理的内容进行全文分享。期待与大家进行更多的交流与探讨 。【全文整理如下】分享主题：AI价值链条：价值导向分析当下 AI 价值链条，其实是个倒三角形结构，见下图所示。底层是硬件提供商，在全球范围内，硬件提供商数量极少，由少数寡头掌控；第二层是云和基础设施的厂商，同样，这类厂商在全球的数量也相当有限；第三层是各类 AI 组件、工具、应用的开发商。这一层数量增多，众多 AI 创业公司以及大模型厂商都涵盖其中，部分厂商业务可横
博客
揭秘云计算 | 8、云服务与产品的演进
03-12 1080
了解云计算服务、产品与解决方案的演进历程可以从服务提供方或需求方入手。对于某些用户而言，提供远程桌面、瘦客户端（取代现有PC主机、笔记本电脑）是日常办公云化的第一步；而对于其他用户，特别是一些对于流程较注重的公司而言，他们可能会从购买SaaS化的办公自动化系统、CRM或ERP系统入手。研发型机构或IT公司接入云的方式则更有可能是直接购买虚拟化的IaaS资源，如云主机、云数据库服务等。
博客
图库 | 基于图增强的智慧审计系统革新
03-07 1037
4、白盒化、可解释：区别于传统的复杂SQL代码查询的黑盒化问题，以及深度学习、人工智能算法中常见的黑盒化、不可解释性等问题，图数据库中的查询、算法整体的特点是计算（查询）的结果基本上是确定性的，每一步都是可解释、白盒化的。，三者相辅相成：在数据建模上，能够构建高维、可解释性强的图谱，清晰展现数据间复杂的关联关系；基于图增强技术的智慧审计系统通过对传统审计模式的革新，实现了算力的提升、效率的飞跃和准确性的增强，为金融机构在复杂多变的市场环境中提供了更为强大、精准的审计支持，助力其有效防范风险，实现稳健发展。
博客
图数据库 | 25、如何优化图系统？
03-04 646
在K邻查询中，有6个场景分别测试1、3、5层在无过滤和有过滤条件下查询操作的平均时延，因为测试数据集（alimama）属于连通度较高（E/V≥20，即点边数量比）的图集，在进行5度查询时，从每个顶点出发几乎会遍历全图，计算复杂度上升，这个时候Neo4j会骤然从3-Hop的平均400ms（无过滤）​、275ms（有过滤）时延到10～30min内无法返回结果，而Ultipa系统则从14～17ms的耗时增长到558～791ms（理论上从3-Hop到5-Hop的计算复杂度变化为O((E/V)2)≈400）​。
博客
图数据库 | 24、如何进行正确性验证？
02-27 808
在更复杂（更深度）的查询中，可以用类似的逻辑，通过层层的抽丝剥茧来验证结果的正确性。在Twitter数据集中，任意两个顶点间的杰卡德相似度计算的复杂度和被查询顶点的1度邻居的个数直接相关，以顶点12、13为例，它们都是典型的有百万邻居的“超级节点”​，在这种情况下，手工验证结果的准确性并不现实。面向高维数据的操作：这也是本书关注的重点，例如面向全图或子图数据的查询结果返回多个顶点、边组合而成的高维数据结构，可能是多顶点的集合、点边构成的路径、子图（子网）甚至是全图遍历结果。
博客
图数据库 | 23、如何评测图系统 — 评测内容？
02-26 991
图增强智能、白盒化与可解释性，建模过程完全可以透明化作为一种通用的底层系统，它向客户提供的应该是优越的算力、白盒化的算法，而不是黑盒化的模型和算法图系统评测内容并没有所谓的标准答案，但是会有一些典型的测试内容及流程，本节主要向读者介绍这些内容与具体步骤，以供借鉴。评测内容一般可分为9个部分：构图（建模）能力；数据的导入、导出能力；元数据处理能力；深度查询能力；图算法能力；二次开发支持；可视化支持；系统安全性；运维支持能力。图数据库建模能力、建模复杂度、灵活性等；
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值