搭好数据架构,这7个技术是关键

【数据中台】数据中台架构搭建百科全书 0、前言 当前,大部分企业不再建设从源数据采集到分析应用的烟囱式系统,更倾向于数据集中采集、存储,并应用分层建设。这种方式一方面有利于应用系统的快速部署,另一方面也保证了数据的集中管理与运营,体现数据的资产、资源属性。 数据中台的出现弥补了数据开发和应用开发之间由于开发速度不匹配而出现的响应力不足等缺陷问题。 数据中台是国内学者提出的概念,起始于阿里的“大中台、小前台”概念。阿里的中台是从管理的角度出发,以中台事业部集中数据搜索,技术及产品,数据共享等多个部门的功能。其他组织或企业建设数据中台不一定需 阅读详情

数字化转型的核心是数据,它已成为商业中最有价值的事务。由于格式不兼容,传统数据库的局限性,以及无法灵活地合并来自多个来源的数据,组织长期以来一直受到其使用数据的困扰。新兴技术的出现有望改变这一切。


企业IT基础设施平台的重新构建是一项复杂的任务。重新构建平台通常由一系列变化的关键业务驱动因素引发,现在情况正是如此。简而言之,主导企业IT技术的近30年的平台无法再满足推动业务发展所需的工作负载的需求。

数字化转型的核心是数据,它已成为商业中最有价值的事务。由于格式不兼容,传统数据库的局限性,以及无法灵活地合并来自多个来源的数据,组织长期以来一直受到其使用数据的困扰。新兴技术的出现有望改变这一切。

改善软件部署模式是消除数据使用障碍的一个主要方面。更高的“数据灵活性”还需要更灵活的数据库和更具可扩展性的实时流式传输平台。实际上,事实上,至少有七种基础技术可以结合在一起,为企业提供一种灵活的、实时的“数据结构”。

与他们正在取代的技术不同,这七种软件创新能够扩展以满足许多用户和许多用例的需求。对于企业而言,他们有能力实现更快、更明智的决策,并创造更好的客户体验。

1. NoSQL数据库

RDBMS在数据库市场上占据了近30年的主导地位。但是,面对数据量的不断增长以及数据处理速度的加快,传统关系数据库已经显示出其不足。NoSQL数据库由于其速度和扩展能力而被接管。就文档数据库而言,它们从软件工程的角度提供了一个更简单的模型。这种更简单的开发模式可加快产品上市速度,并帮助企业更快响应客户和内部用户的需求。

2.实时流媒体平台

实时响应客户对客户体验至关重要。在过去的10年中面向消费者的行业经历了巨大的颠覆,这并不神秘。这与企业对用户实时做出反应的能力有关。转向实时模型需要事件流。

消息驱动的应用程序已存在多年。然而,如今的流媒体平台的规模比以往要大得多,成本要低得多。最近流媒体技术的进步为许多优化业务的新方式打开了大门。通过为软件开发和测试团队提供实时反馈循环,事件流还可以帮助企业提高产品质量,并更快地开发新的软件。

3. Docker和容器

容器对开发人员和操作人员,以及组织本身都有很大的好处。传统的基础设施隔离方法是静态分区,即为每个工作负载分配一个单独的固定资源块(无论是物理服务器还是虚拟机)。静态分区可以更容易排除故障,但是实质性未充分利用的硬件成本很高。例如,Web服务器平均只使用了可用总计算量的10%。

容器技术的巨大好处是它能够创造一种新的隔离方式。那些最了解容器的人员可能会相信他们可以通过使用Ansible、Puppet或Chef等工具来获得同样的好处,但实际上这些技术具有很强的互补性。此外,无论企业如何努力,这些自动化工具都无法实现在不同基础设施和硬件设置之间自由移动工作负载所需的隔离。同一个容器可以在本地数据中心的裸机硬件上或公共云中的虚拟机上运行,无需进行任何更改。这是真正的工作负载移动性。

4.容器存储库

容器存储库对于敏捷性至关重要。如果没有用于构建容器映像的DevOps进程以及用于存储它们的回收站,每个容器都必须建立在每一台机器中,才可以运行。通过存储库,可以在读取该存储库的计算机上启动容器映像。在多个数据中心处理时,这变得更加复杂。如果在一个数据中心内建立一个容器图像,那么如何将图像移动到另一个数据中心?理想情况下,通过利用融合数据平台,企业将有能力在数据中心之间对存储库实现镜像。

这里的一个关键细节是,内部部署和云计算之间的镜像功能可能与企业的数据中心之间的镜像功能差异很大。融合数据平台将通过提供这些功能为企业解决这个问题,而不管组织中使用的是数据中心基础设施还是云计算基础设施。

5.容器编排

每个容器看起来都有它自己的私有操作系统,而不是静态硬件分区。与虚拟机不同,容器不需要计算和内存的静态分区。这使管理员能够在服务器上启动大量容器,而无需担心大量的内存量。有了像Kubernetes这样的容器编排工具,启动容器,移动它们并在环境中的其他地方重新启动容器变得非常容易。

在新的基础设施组件到位之后,诸如MapR-DB或MongoDB之类的文档数据库,MapR-ES或Apache Kafka之类的事件流式传输平台(诸如Kubernetes之类的编排工具),以及在Docker容器中实现用于构建和部署软件的DevOps过程之后,人们必须了解应该在这些容器中部署哪些组件的问题。

6.微服务

从历史上看,微服务的概念并不新鲜。如今的差异在于,启用技术(NoSQL数据库、事件流、容器编排)可以随着数千个微服务的创建而扩展。如果没有这些数据存储、事件流和架构编排的新方法,大规模微服务部署将不可能实现。管理大量数据、事件和容器实例所需的基础设施将无法扩展到所需的级别。

微服务都是与提供敏捷性有关。微服务通常由一个功能或一小组功能组成。工作的功能单元越小且越集中,创建、测试和部署服务就越容易。这些服务必须解耦,否则企业将失去具有敏捷性的微服务承诺。微服务可以依赖于其他服务,但通常通过负载平衡的REST API或事件流。通过使用事件流,企业可以利用请求和响应主题轻松跟踪事件的历史记录。由于整个请求流和请求中的所有数据都可以在任何时间点重播,因此这种方法对故障排除具有重大的益处。

由于微服务封装了一小部分工作,并且由于它们彼此分离,所以随着时间的推移更换或几乎没有障碍地升级服务。在原有模式下,依赖像RPC这样的紧密耦合意味着不得不关闭所有连接,然后重新建立它们。负载均衡是实现这些的一个大问题,因为人工配置使它们容易出错。

7.功能即服务

正如人们已经看到微服务在行业中占据主导地位,所以人们也会看到无服务器计算的兴起或者可能更准确地将其称为功能即服务(FaaS)。 FaaS以这样一种方式创建微服务,即代码可以包装在轻量级框架中,内置于容器中,按需执行(基于某种触发器),然后自动进行负载平衡,多亏有了轻量级框架。FaaS的美妙之处在于它让开发人员几乎完全专注于该功能。因此,FaaS看起来是微服务方法的合乎逻辑的结论。

触发事件是FaaS的关键组成部分。没有它,只有在需要完成工作的情况下,才能调用功能和消耗资源。功能的自动调用使得FaaS真正具有价值。想象一下,每当有人读取用户的配置文件时,都会有一个审计事件,这是一个必须运行以通知安全团队的功能。更具体地说,它可能仅过滤出某些类型的记录。它可以是具有选择性的,毕竟它是一个完全可定制的业务功能。需要注意的是,使用像FaaS这样的部署模型来完成这样的工作流程非常简单。

把事件放在一起

触发服务背后的魔力实际上不过是事件流中的事件。某些类型的事件比其他事件更频繁地用作触发器,但是企业如果希望成为触发器的事件都可能成为触发器。触发事件可以是文档更新,对新文档运行OCR过程,然后将OCR过程中的文本添加到NoSQL数据库。如果人们以更有趣的方式思考,每当上传图像时,都可以通过机器学习框架进行图像识别和评分。这里没有根本的限制。如果定义了一个触发器事件,发生了一些事件,该事件触发该功能,并且该功能完成其工作。

FaaS将成为采用微服务的下一个阶段。然而,接近FaaS时必须考虑一个主要因素,那就是供应商锁定。 FaaS隐藏了特定的存储机制、特定的硬件基础架构和编排,这对开发人员来说都是伟大的事情。但由于这种抽象,托管的FaaS产品是IT行业有史以来最大的供应商锁定机会之一。由于这些API不是标准化的,因此从公共云中的FaaS产品迁移几乎是不可能的,不会丢失已经完成的近100%的工作。如果通过利用来自融合数据平台的事件以更有条理的方式接近FaaS,那么在云计算提供商之间移动将变得更加容易。

Bingdata优网助帮汇聚多平台采集的海量数据,通过大数据技术的分析及预测能力为企业提供智能化的数据分析、运营优化、投放决策、精准营销、竞品分析等整合营销服务。

北京优网助帮信息技术有限公司(简称优网助帮)是以大数据为基础,并智能应用于整合营销的大数据公司,隶属于亨通集团。Bingdata是其旗下品牌。优网助帮团队主要来自阿里、腾讯、百度、金山、搜狐及移动、电信、联通、华为、爱立信等著名企业的技术大咖,兼有互联网与通信运营商两种基因,为大数据的算法分析提供强大的技术支撑。

搭建数据平台 数据平台分层结构DataPlatform-user —-DataPlatform-user-repository 数据存储,提供存储数据的能力 —-DataPlatform-user-repository-interface 数据存储接口,对内、外提供接口 —-DataPlatform-user-model 数据模型 —-DataPlatform-user-dao 数据持久 阅读详情

相关推荐

实战经验:用AI智能体构建高效数据架构的3个关键思维模型

传统数据架构像**“中心化流水线”:依赖人工调度、静态配置,一旦业务需求变化(比如电商大促、金融风控升级),系统就会“卡脖子”——要么延迟高到无法用,要么资源浪费到离谱。而AI智能体的出现,让数据架构从“被动执行”转向“主动思考”**:每个组件像“会自己干活的员工”,既能自主决策,又能和同事协同,还能根据环境变化自我优化。本文结合我在电商、金融、零售领域的10个实战项目经验,拆解3个关键思维模型——自治单元、协同网络、动态优化。

AI云原生与云计算技术学院 991

大型架构及配置技术

大型架构及配置技术 NSD ARCHITECTURE DAY01内容 09:00 ~ 09:30 上午 09:30 ~ 10:20 10:30 ~ 11:20 11:30 ~ 12:00 14:00 ~ 14:50 下午 15:00 ~ 15:50 16:10 ~ 17:00 17:10 ~ 18:00 Docker概述 部署Docker Docker镜像 Docker基本命令 总结和答疑Dock...

xixi1067087210的博客 322

银行数据架构体系

数据架构层面通过数据分类、分层部署等手段,从非功能性视角将数据合理布局。通过整体架构管控和设计,支持业务操作类和管理分析类应用(系统),满足业务发展及IT转型对数据的需求,架构的扩展性和适应性能够提升数据分析应用的及时性、灵活性和准确性。 那实际情况下各个银行的数据架构体系会有所不同,根据各行的业务发展、客户数据量、交易数据量、功能需求等会有不同的演变路径以及发展方向。一般国有银行、股份制银行等...

La victoria的博客 4301

架构师学习--数据库框架的基本搭建(增删改查)

本文主要实现如何搭建一套自己的数据库框架。包括数据库的创建、表的创建、数据的增删改查功能、以及数据库如何实现分库、如何进行更新。 一、创建数据库及生成数据库表 如何使自己的数据库表的创建以更加优雅的方式,我们就需要注解的方式实现。 1、创建表名注解类Table 2、创建表中字段注解类FieldParams 3、创建实体类中不需要保存到数据库的字段注解类Exclude 4、创建数据库表实体类S...

qinbin2015的博客 1550

下一代数据架构Data Fabric到底是什么?

Data Fabric是数据管理的未来,而国内的相关信息较少。通过Data Fabric概念、能力、与其他技术差异以及在工业界实践方案的介绍,期望大家对Data Fabric有基本的了解,并结合各自的情况可以给出具体的、可落地的建设方案。

m0_59869709的博客 1万+

【深入解析】数据治理 | 逻辑数据仓库、数据编织与数据网格,掌握构建下一代数据架构的关键技术

企业可以将最核心的、高访问频率的数据保存在性能更高的物理数据仓库中,而将历史性或低频访问的数据存储在如 Hadoop 集群这样的低成本环境中。基于元数据驱动的架构使得逻辑数据编织能够按需完成数据集成工作,这意味着在数据集成过程中,逻辑数据编织可以动态地适应不同的数据需求。这种融合的方式,既能利用元数据驱动的数据编织优势,又能发挥数据网格的自治性,为企业提供全面的数据治理能力。数据网格将数据交付视为数据产品,并将其分类为三种类型:源域的数据产品、跨域的数据产品以及面向业务的数据产品。

Denodo的博客 2667

前端项目数据层面的架构应该怎么搭建(以taro+react)为例

前沿:实际上在我前8个月的开发生涯中,比较关注的视图的展示和功能的实现。虽然说我会从项目的结构上分为 [ components config api assets src page tsx ts scss util request imageList store ... ] 但是这种结构仅仅是划分了里面的资源,对文件本身做了一个归类。写到后面总感觉自己的代码里面不够优雅。 一个月前杰哥给我写了一个数据和视图分离、数据分层的demo。由于当时没看明白,总觉得

丰柏林的博客 501

大数据领域数据架构的关键组件剖析

当我们刷着电商APP的“猜你喜欢”、看着物流信息的实时更新、依赖健康码的行程追踪时,背后是一套能处理万亿级数据的“隐形机器”——大数据架构。它像一套复杂的乐高积木:数据管道是“传送带”,负责把数据从源头送到仓库;数据湖是“巨型储物间”,装下所有 raw 数据;数据仓库是“精品超市”,把数据整理成能直接用的“商品”;元数据是“商品标签”,告诉你每份数据的“生产日期”和“使用方法”;数据治理是“仓库管理员”,确保数据不混乱、不泄露。本文将用生活化的比喻+可落地的代码+真实案例。

AI云原生与云计算技术学院 854

第4章 数据架构

数据架构定义、内容、工具、方法及实施等

lyf_qin1010的专栏 1180

CDGA学习笔记二-《数据架构》、《数据建模与设计》

1)架构是构建一个系统的艺术和科学,以及在此过程中形成的成果——系统本身。架构是对组件要素有组织的设计,旨在优化整个结果或系统的功能、性能、可行性、成本和用户体验。2)国际标准架构的定义:3)企业架构包括多种类型,如业务架构、数据架构、应用架构和技术架构。良好的企业架构管理有助于组织了解系统的当前状态,加速向期待状态的转变,实现遵守规范,提高效率的目标。4)数据架构的主要目标就是有效地管理数据,以及有效地管理“存储和使用数据的”系统。数据架构是数据管理的基础。5)数据架构的基本组成部分6)数据架构的构建,包

zy_chris的博客 1326

大数据领域数据架构的设计原则与最佳实践

在数据驱动决策的时代,一个精心设计的数据架构如同城市的基础设施,支撑着组织的数据分析能力、业务创新和数字化转型。本文深入探讨了大数据领域数据架构的设计原则与最佳实践,从理论基础到实际应用,为数据架构师、数据工程师和技术决策者提供全面指南。我们将通过生动的比喻、详细的技术解析、真实案例分析和实用框架,帮助读者掌握构建高效、灵活、可扩展且业务价值导向的数据架构的核心要素。

AI大模型应用之禅 1112

第四章数据架构练习

A:企业数据模型是一个整体的、企业级的、独立实施的概念或逻辑数据模型,为企业提供通用的、一致的数据视图。B:企业数据模型包括数据实体(如业务概念)、数据实体间关系和一些关键属性,它为所有数据和数据相关的项目奠定了基础。C:数据架构定义了对组织非常重要元素的标准术语和设计。企业数据架构的设计中包括业务数据描述,如数据的收集、存储、整合、移动和分布。D:采用行业标准模型能够加快开发企业数据模型的效率,这些模型提供了有用的指南和参考。

weixin_48277834的博客 1218

一种车内UWB圆极化天线的理论推导及具体实现

本文详细描述了一款工作于UWB channel 9也即中心频率为7987.2MHz,带宽为499.2MHz的圆极化天线。首先是理论推导圆极化天线的物理尺寸参数,分析物理尺寸参数对天线性能指标的影响。然后分析圆极化天线在汽车驾驶室这种狭窄空间应用中带来的优势,也即可以最大化的极化损失多径,提高主径接收信号的信噪比。

weixin_44555637的博客 2965

【数据管理】DAMA-数据架构

数据架构的主要目标是有效地管理数据,以及有效地管理存储和使用数据的系统。

求-是 1972

海洋与地质地理信息数据下载网站汇总集锦

各种海洋与地质地理信息数据集合

qq_36980284的博客 1268

AI 算力基础设施深度系列(一):从容器到 Kubernetes——算力底座的诞生

1. 容器 = Namespace(视图隔离) + Cgroup(资源限制) + Union FS(镜像分层)└── 不是虚拟机!共享内核,接近零开销2. K8S 三大设计哲学:└── 声明式 API + 控制循环 + 可扩展架构3. K8S 架构:└── 控制面 (API Server / etcd / Scheduler / Controller Manager)

warm3snow的博客 534

第四章 数据架构

A:系统的基本结构B:管理架构设计和演变的原则C:数据模型管理所使用的工具D:系统的组成组件、组件之间的关系正确答案:C 你的答案:C解析:4.1 引言。P69,第二段话,在国际标准ISO/IEC/IEEE42010:2011中,将架构定义为“系统的基本结构,具体体现在架构构成中的组件、组件之间的相互关系以及管理其设计和演变的原则”。

weixin_48277834的博客 1148

基于Mind+、MOTT实现人工智能

@基于Mind+、MOTT实现人工智能 人工智能实验 一、实验目的及要求 【一】实现人脸识别 【二】实现云数据库应用 【三】实现测温数据mqtt上传至物联网云平台 二、实验原理与内容 基于二哈实现多人人脸学习和识别 基于TinywebDB实现云数据库应用 基于EasyIoT实现mqtt数据上传。 三、实验软硬件环境 硬件:掌控板 软件:Mind+ 四、实验过程(实验步骤、记录、数据、分析) 1.基于二哈实现多人人脸学习和识别 ①在Mind+扩展上的传感器选项选择HUSKYLENS AI 摄像头 ②配置哈士

weixin_44606930的博客 2374

第四章 数据架构(重点)

数据架构的基本结构3部分:具体体现在架构构成中的组件组件之间的相互关系管理其设计和演变的原则数据架构的构件包括当前状态的描述,数据需求的定义,数据整合的指引,数据管控策略中要求的数据资产管理规范(简单的总结来说,数据架构构件首先要解决当下的问题,同时也要预测未来的问题)定义组织中数据的当前状态提供数据和组件的标准业务词汇确保数据架构和企业战略及业务架构保持一致描述组织数据战略需求高阶数据整合概要设计整合企业数据架构蓝图。

H651883075的博客 1298

Win10内网离线安装NET3.5,绝对成功,保姆级

今天工作安装工具软件套装3.5组件!也在csdn上找了很多方法躺了很多坑,我总结如下! 其实就一条,什么版本的win10装什么版本的net3.5 我的电脑是1909版本,用2004H2的镜像是没有用的,dism组件报错8024402C 所以我下载1909镜像挂在虚拟光驱 ,管理员模式下powershell dism.exe /online /enable-feature /featurename:NetFX3 /Source:E:\sources\sxs dism.exe /online /en..

唉呀妈呀脑瓜疼 6万+

基于SOCKET的***网络软件的设计与实现

二、基于SOCKET的网络软件的需求。2、概要设计:画出软件系统结构图。3、详细设计:软件的详细设计,如类图、序列图、重要的算法流程图或伪代码,等等。4、实现:软件基本功能相关的截图和关键代码。

Recursions的博客 1371

现代数据架构的7个关键技术

数据是数字化转型的核心,但传统数据库与数据孤岛长期制约数据价值释放,亟需更灵活、实时、可扩展的新技术组合。功能即服务(FaaS):微服务的延伸,按需执行代码,由事件触发,大幅降低开发负担。微服务:将应用拆分为小型、解耦的功能单元,借助NoSQL、事件流与编排工具,实现大规模敏捷部署与故障排查。NoSQL数据库:替代传统关系型数据库,具备高扩展性和快速响应能力,简化开发模型,加速产品迭代。容器编排(如Kubernetes):自动化管理容器生命周期,简化启动、迁移与扩展,提升运维效率。

weixin_58711004的博客 171

openMVS ---dense point cloud(代码理解)

openMVS ---dense point cloud(代码理解)0 代码实现原理1 代码实现步骤1.1 参数传递1.2 loading .mvs数据1.3 稠密重建1.3.0 相关变量及概念1.3.1 ComputeDepthMaps(data) --计算多张深度图1.3.1.1. pre1.3.1.2 为每一张depth map Select view(s) !!!1.3.1.2.1 N neighbors --- global score + filter1.3.1.2.2 MRF ---- t

小rivaaaa的博客 5328

数据架构是什么?数据架构和其他架构的区别是什么?

数字化工作中常出现不同角色对架构理解不一致的问题。文章系统梳理了6类常见架构:业务架构(业务组织方式)、产品架构(功能设计)、应用架构(系统协作)、技术架构(底层实现)、数据架构(数据流通)和项目架构(落地执行)。

oOBubbleX的博客 418

寻路最终版哦

相信大家用unity3d寻路的时候,一定会碰到多人

yxriyin的专栏 6954

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

企业数据架构、应用架构及技术架构设计方法

最后,在配置方案的制定上,我们需要根据企业的业务需求和系统的负载情况来制定合理的软硬件配置方案。同时,为了满足企业业务发展的需求,我们还需要考虑数据架构的扩展性,包括横向扩展,也就是增加节点,以及纵向扩展,也就是提升节点性能。想象一下,如果我们的应用架构像一座金字塔,底部宽广而稳固,那么当业务需求增长时,我们就可以在金字塔的顶部轻松添加新的功能和模块,而不会影响到底部的稳定性。而在选择的同时,我们还需要结合企业的实际情况,进行定制化的设计,确保我们的架构设计既满足企业的战略需求,又能符合业务的发展要求。

weixin_44094929的博客 638

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

上一篇: eMarketer:腾讯正利用人工智能和零售业推动微信增长
下一篇: 解析:数据中心六大节能方法
bingdata123
博客等级 码龄9年 187粉丝 12原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值