图数据库| 2 、大数据的演进和数据库的进阶——从数据到大数据、快数据，再到深数据

已于 2024-11-06 15:44:11 修改
阅读量1.1k 收藏 20
点赞数 20
分类专栏： 图数据库原理、架构与应用 文章标签： 大数据 图数据库 数据挖掘 数据库
于 2024-11-04 11:03:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Ultipa/article/details/143477566
版权

时至今日，大数据已无处不在，所有行业都在经受大数据的洗礼。但同时我们也发现，不同于传统关系型数据库的表模型，现实世界是非常丰富、高维且相互关联的。此外，我们一旦理解了大数据的演进历程以及对数据库进阶的强需求，就会真正理解为什么“图”无处不在，以及为什么它会具有可持续的竞争优势，并最终成为新一代主流数据库标准。

大数据的发展方兴未艾。我们通常把大数据元年定为2012年，但是大数据相关技术的出现远早于2012年。例如Apache Hadoop是由Yahoo！在2006年发布并捐赠给Apache基金会的，而Hadoop这个项目肇始则是受到了谷歌2003年的GFS（Google File System，谷歌文件系统）与2004年的MapReduce两篇论文的启发。如果我们再往前追溯，那么GFS与MapReduce之所以能出现是因为谷歌的互联网搜索引擎业务的发展，而其搜索引擎最核心的技术大概要属PageRank算法了。以谷歌联合创始人Larry Page名字命名（且与Web Page一语双关）的PageRank算法是一种典型的图算法。很显然，我们回到了终点，它同时还是起点——大数据技术的发展竟然源自一种图计算技术，而它的发展趋势也伴随着图计算技术的全面发展——从大数据到快数据，最终到深数据（图数据）​。

从宏观来看，大数据的发展史基本上就是数据科技（Data Technologyÿ

了解本专栏 订阅专栏 解锁全文 超级会员免费看
博客
揭秘大数据 | 18、关于流数据管理的那些事儿
04-07 633
老夫之前就讲过，大数据一般被分为就是其中之一。感兴趣的朋友，可以点击以下文章进行温故知新：来自这样一个概念：数据的价值随着时间的流逝而降低，所以在事件发生后需要尽快对其进行处理，最好是在事件发生时就进行处理（即实时处理）​，对事件进行一个接一个的处理，而不是缓存起来进行批处理（如Hadoop）​。在数据流管理中，需要处理的输入数据并不被存储在可随机访问的磁盘或逻辑缓存中，它们以数据流的方式源源不断地到达。①实时性：数据流中的数据实时到达，需要实时处理。②无边界：数据流是源源不断的，大小不定。
博客
揭秘大数据 | 17、MPP 那些事儿
04-03 289
Greenplum是业界第一个开源的MPP数据库，对想要实现OLTP和OLAP一体化大数据分析与管理系统的人来说，这是个天大的好消息。例如在大数据分析和处理中，MPP 数据库可以将数据分布在多个节点上进行并行处理，从而提高处理速度和效率。和MapReduce类似，两者都采用大规模并行处理架构对海量数据进行以大数据分析为主的工作，不同之处在于MPP通常原生支持并行的关系型查询与应用（不过这一点，Hadoop阵营也在逐渐通过在HDFS之上提供SQL查询接口来支持查询，甚至包括关系型查询）​。
博客
揭秘大数据 | 16、OLAP 那些事儿
04-02 856
第3个指的是Hadoop的HDFS适用于增加−读取−追加−处理(Create-Read-Append Process，CRAP)类型数据集操作，相对于RDBMS时代的增加−读取−更新−删除(Create Read-Update-Delete，CRUD)类型数据集操作而言，CRAP对已建立的数据集主要为读操作，以及在尾部的添加操作，而不是更新与删除操作，其主要原因是更新与删除操作在分布式系统中通常代价比较高。Hadoop MapReduce是用于分析存储在HDFS之上的大数据的编程框架，它包括库与运行时。
博客
揭秘大数据 | 15、OLTP 的那些事儿
04-01 898
数据中的不同记录可能有不同的属性和格式。当插入数据时，并不需要预先定义它们的模式（如MongoDB，后文中将会介绍）​。NoSQL和传统的关系数据库的对比如图1所示。可以看出，NoSQL数据库无数据清洗，无数据转换，无数据加载，并且在数据存储处进行分析。
博客
嬴图入围银行技术奖总决赛，推动金融科技审计创新​
03-31 278
极大提升了审计工作的效率与质量，精准回应了金融行业数字化转型中对审计服务高效、智能、可解释性的迫切需求，契合金融行业数字化转型中对智能、高效审计服务的需求。近日，金融科技领域再度聚焦于创新力量的角逐，北京/硅谷出身的图数据库领先企业——嬴图，凭借其卓越的技术实力与创新解决方案，成功入围。从英国的荣耀加冕到美国的总决赛入围，嬴图在金融科技奖项领域的持续突破，背后是其对技术研发的执着投入与对行业需求的深刻洞察。，证明了其在图数据库技术与人工智能融合应用方面的领先地位。，通过将复杂的金融交易网络以直观的。
博客
揭秘大数据 | 14、大数据的五大问题 之 大数据应用
03-26 609
大数据所面临的五大问题中最后一个是，这也是大数据问题的具象（最终展现形式）​。如果高度概括大数据的生命周期，那么可以归纳为：大数据来源+大数据技术+大数据应用，如图1所示。三者缺一不可、彼此相承。
博客
揭秘大数据 | 13、大数据的五大问题 之 数据科学
03-25 647
数据科学是一个热门的领域，而数据科学家是拥有特殊技能的专业人才，负责为复杂的业务建模，从海量数据中洞察先知并找到新的商业机遇。它们结合了统计分析、模式识别、机器学习、深度学习等技术，获取数据中的信息，形成推断及洞察力，所采用的相关方法包括回归分析、关联规则（如购物篮分析）​、优化技术和仿真（如用于构建场景结果的蒙特卡洛仿真）​。商业智能的组件及功能如下。图1描述了数据科学的典型流程，涉及原始数据的采集、清洗、基于规则或模型的数据处理与分析、建模+算法、汇总+可视化、决策、大数据产品（可选）等多个环节。
博客
揭秘大数据 | 12、大数据的五大问题 之 大数据管理与大数据分析
03-24 1051
以数据库交易为例，要实现ACID，最关键的部分是数据的一致性，通常的做法是通过加锁的方式，在一个读写方对某数据进行读写的时候，让其他读写方只能等待。或者对方没收到，而你的钱被扣掉了（被坑了的感觉）​。构建面向海量信息的大数据管理平台，其本质上是要实现一个可软件定义的数据中心来对下层的基础架构进行有效的管理（存储、网络、计算及相关资源的调度、分配、虚拟化、容器化等）​，以满足上层的业务与应用需求，并通过软件的灵活性与敏捷性实现高的总投资收益率(Return on Investment，ROI)。
博客
荐读 |《数智金融创新：技术和业务引领的优秀行业实践》——解码金融业数智化转型的实践指南
03-21 784
在数字经济与实体经济深度融合的新时代背景下，金融行业正经历以技术驱动为核心的深刻变革。为助力行业把握转型机遇正式出版。。由广东省粤港澳合作促进会金融专业委员会、粤港澳大湾区金融创新研究院、澳门电子金融产业贸易促进会联合策划，融创平台组编。
博客
揭秘大数据 | 11、大数据的五大问题 之 大数据存储
03-20 1092
在这样的背景下，一种新的存储管理模式开始出现，那就是软件定义存储。软件定义存储不同于存储虚拟化，软件定义存储的设计理念与软件定义网络(Software Defined Network，SDN)有着诸多相似之处。软件定义存储旨在开辟一个如下的新世界。(1)把数据中心中所有物理的存储设备转化为一个统一的、虚拟的、共享的存储资源池，其中存储设备包括专业的SAN/NAS存储产品，也包括内置存储设备和DAS。这些存储设备可以是同构的，也可以是异构的，还可以是来自不同厂商的。
博客
揭秘大数据 | 10、大数据不只是Hadoop
03-18 895
2020年以前这种论调在业界颇有市场，尤其是在国内市场（尽管美国市场在2019年就有人提出了“Hadoop已死”的论调）​。因为Hadoop真的很火爆，所以尽管许多人并不清楚Hadoop到底是什么、可以用来做什么，只是看到了行业的头部企业使用了基于Hadoop的系统，于是中小型企业也一窝蜂地要使用基于Hadoop的系统处理大数据相关业务。在这种跟风的市场氛围下，如果某种大数据技术和Hadoop不沾边儿，那么客户、投资人甚至企业自己的团队成员都有可能会对该技术的前景持迟疑态度。
博客
揭秘大数据 | 9、大数据从何而来？
03-17 768
在科技发展史上，恐怕没有任何一种新生事物深入人心的速度堪比大数据。如果把2012年作为数据量爆发性增长的第一年，那么短短数年，大数据就红遍街头巷尾——从工业界到商业界、学术界，所有的行业都经受了大数据的洗礼。从技术的迭代到理念的更新，大数据无处不在。时至今日，在日常的生产生活中，每时每刻都有数以亿计的设备在产生巨大体量的数据……
博客
专家观察 | AI价值链条：价值导向分析
03-14 685
应广大读者要求，现将在天奕TGES专题讲座金融人工智能发展、Deepseek应用与分享管理的内容进行全文分享。期待与大家进行更多的交流与探讨 。【全文整理如下】分享主题：AI价值链条：价值导向分析当下 AI 价值链条，其实是个倒三角形结构，见下图所示。底层是硬件提供商，在全球范围内，硬件提供商数量极少，由少数寡头掌控；第二层是云和基础设施的厂商，同样，这类厂商在全球的数量也相当有限；第三层是各类 AI 组件、工具、应用的开发商。这一层数量增多，众多 AI 创业公司以及大模型厂商都涵盖其中，部分厂商业务可横
博客
揭秘云计算 | 8、云服务与产品的演进
03-12 1062
了解云计算服务、产品与解决方案的演进历程可以从服务提供方或需求方入手。对于某些用户而言，提供远程桌面、瘦客户端（取代现有PC主机、笔记本电脑）是日常办公云化的第一步；而对于其他用户，特别是一些对于流程较注重的公司而言，他们可能会从购买SaaS化的办公自动化系统、CRM或ERP系统入手。研发型机构或IT公司接入云的方式则更有可能是直接购买虚拟化的IaaS资源，如云主机、云数据库服务等。
博客
图库 | 基于图增强的智慧审计系统革新
03-07 1028
4、白盒化、可解释：区别于传统的复杂SQL代码查询的黑盒化问题，以及深度学习、人工智能算法中常见的黑盒化、不可解释性等问题，图数据库中的查询、算法整体的特点是计算（查询）的结果基本上是确定性的，每一步都是可解释、白盒化的。，三者相辅相成：在数据建模上，能够构建高维、可解释性强的图谱，清晰展现数据间复杂的关联关系；基于图增强技术的智慧审计系统通过对传统审计模式的革新，实现了算力的提升、效率的飞跃和准确性的增强，为金融机构在复杂多变的市场环境中提供了更为强大、精准的审计支持，助力其有效防范风险，实现稳健发展。
博客
图数据库 | 25、如何优化图系统？
03-04 641
在K邻查询中，有6个场景分别测试1、3、5层在无过滤和有过滤条件下查询操作的平均时延，因为测试数据集（alimama）属于连通度较高（E/V≥20，即点边数量比）的图集，在进行5度查询时，从每个顶点出发几乎会遍历全图，计算复杂度上升，这个时候Neo4j会骤然从3-Hop的平均400ms（无过滤）​、275ms（有过滤）时延到10～30min内无法返回结果，而Ultipa系统则从14～17ms的耗时增长到558～791ms（理论上从3-Hop到5-Hop的计算复杂度变化为O((E/V)2)≈400）​。
博客
图数据库 | 24、如何进行正确性验证？
02-27 795
在更复杂（更深度）的查询中，可以用类似的逻辑，通过层层的抽丝剥茧来验证结果的正确性。在Twitter数据集中，任意两个顶点间的杰卡德相似度计算的复杂度和被查询顶点的1度邻居的个数直接相关，以顶点12、13为例，它们都是典型的有百万邻居的“超级节点”​，在这种情况下，手工验证结果的准确性并不现实。面向高维数据的操作：这也是本书关注的重点，例如面向全图或子图数据的查询结果返回多个顶点、边组合而成的高维数据结构，可能是多顶点的集合、点边构成的路径、子图（子网）甚至是全图遍历结果。
博客
图数据库 | 23、如何评测图系统 — 评测内容？
02-26 988
图增强智能、白盒化与可解释性，建模过程完全可以透明化作为一种通用的底层系统，它向客户提供的应该是优越的算力、白盒化的算法，而不是黑盒化的模型和算法图系统评测内容并没有所谓的标准答案，但是会有一些典型的测试内容及流程，本节主要向读者介绍这些内容与具体步骤，以供借鉴。评测内容一般可分为9个部分：构图（建模）能力；数据的导入、导出能力；元数据处理能力；深度查询能力；图算法能力；二次开发支持；可视化支持；系统安全性；运维支持能力。图数据库建模能力、建模复杂度、灵活性等；
博客
图数据库 | 22、如何评测图系统 — 评测环境？
02-24 932
图系统的评测是验证系统功能与能力很重要的一环。一般而言有三大评测途径：自评、偏学术（公益、标准化）类型组织的评测和工业界的内部评测。自评是每一个图系统构建者一定需要反复进行的工作，只有经过全面的自评才能查漏补缺、知己知彼，不过因为缺乏第三方的检验，很多自评结果容易受到质疑，如准确性、公平性、全面性等；学术类型组织的评测在海外有LDBC（Linked-Data Benchmark Council）​、加州大学伯克利分校的GAP Benchmark等机构，在国内有大数据信通院等机构；
博客
札记分享 | 建模流水线的七道工序
02-17 930
知行合一致良知，终身学习实践，更新知识框架与认知范式，运用唯物辨证法等方法论持续提升，“苟日新，又日新，日日新”，人们的正确应对之道。逝者如斯夫，不舍昼夜。常有人将数据比做内燃机时代的“原油”，电气时代的“电力”，但是否有人想过:如果单位数据量的生产成本不能显著降低，就算质量得以保证，但仅靠实验室制备的涓滴汽油或电荷，是无法为算力与算法提供强大动力的；我的体会，“健识”就是要求我们知行合一致良知，终身学习实践，更新知识框架与认知范式，运用唯物辨证法等方法论持续提升，“苟日新，又日新，日日新”，方近乎道矣。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值