数据仓库项目从来都不是纯技术项目

数据仓库的架构与设计 公司之前的数据都是直接传到Hdfs上进行操作,没有一个数据仓库,趁着最近空出几台服务器,搭了个简陋的数据仓库,这里记录一下数据仓库的一些知识。涉及的主要内容有: 什么是数据仓库? 数据仓库的架构 数据仓库多维数据模型的设计 1. 什么是数据仓库1.1 数据仓库的概念官方定义数据仓库是一个面向主题的、集成的、随时间变化的、但信息本身相对稳定的数据集合,用于对管理决策过程的支持。 阅读详情

数据仓库是什么?

还是得先从定义开始:数据仓库是一个面向主题的(Subject Oriented)、集成的(Integrated)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策。这里的“支持决策”往往是面向分析的,需要能够对业务系统的数据进行大批量的、多维度的数据探索和分析,从而帮助最终的业务决策。此文是我对于数据仓库项目的一点点感悟,不涉及具体的技术实现。
在这里插入图片描述

但它从来都不是(纯)技术项目

数据仓库项目上用到了很多技术组件,相信很多人都可以用报菜名的方式列举出来,听起来像是一个用了很多时髦组件、很性感的技术项目。但如果从权重上来看,我认为技术不是最重要的部分。对于数据仓库项目而言,更需要的是一套策略,一套组合拳,不仅仅需要技术卓越、业务理解,还需要需求方、业务方在整体架构和流程上的配合。

数据仓库建设应该包括这些主要流程

业务需求访谈、业务架构设计;​
技术选型、技术架构设计;​
客户顶层战略支持以及各个业务方、需求方的配合;​
具体业务需求分析、数据建模;​
ETL导入数据;​
报表开发、数据服务、数据集市等。​
数据仓库项目实施不是一开始就马上接数据进来,而是需要经过前期的几轮业务访谈确定整体的业务需求并完成总体业务架构设计,并根据业务架构和具体的客户技术状况确定顶层的技术选型和技术架构设计,在和数据仓库涉及到的业务方、需求方、技术方等同步确定并获得了各方支持之后才能准备开始真正准备接入数据,也就是上述4~6这几个步骤。

而4~6是不断地在进行的过程,而不是等到所有业务分析结束之后再进行ETL的部分。目的是快速接入、快速出结果、快速见效,如果遇到问题也可快速调整,更重要的目的是获得客户信任。如果时间拉得太久,客户很有可能会因为看不到效果而丧失信心。这个逻辑也类似于故事卡中的“纵向拆分”。

“客户的游艇在哪里?”姊妹篇:“客户的金子在哪里?”
说起数据仓库,用到比较多的比喻是“海平面下的冰山”和“沉睡在矿山的黄金”。如果我们只是把多个不同业务系统的矿石(数据)搬过来、规整规整,是不能淘到金子的。如果耗费大量人力物力,而只是做了搬运工的工作,那整个项目就是“亏钱”的项目。因为它没有产生业务价值(金子)。这个时候不禁自问:“客户的金子在哪里”?

我理解业务价值主要分布在这些领域

支撑运营,辅助决策:各类活动、业务增长依赖于数据来做决策,这时核心指标计算、对齐各个业务口径、多维度分析等十分重要,准确及时的结果能够帮助客户制定运营决策。​
数据分析:对于用户转化、用户行为分析等场景,数据探索、交互式分析、数据可视化等支持十分重要。​
业务支撑:机器学习、风控、数据服务、推荐系统等对于数据仓库提出了更高的要求。​
也不局限于上述的几个领域,我认为主要的判断条件是数据仓库的产出结果是否为业务系统提供了有价值、甚至是可以直接变现的支持作用。比如风控和推荐系统就可以从防止了多少可能的财产损失和提升了多少订单转化率两个维度来衡量“金子”的价值。

如果只是说我们这个月多了xxx张报表,新接入了xxx个业务系统,进行了xxx次业务访谈听起来好像很忙,但仔细想想其实并没有产生太多的“金子”。也有人说可以通过衡量ROI(投资回报率(ROI)= 年利润/投资总额)来量化“含金量”,在实际操作中“年利润”可能还好计算,但是“投资总额”往往难以衡量,因为底层的数据、集群、运维往往是和其他业务数据共用的,且很多流程的数据流非常长,这大大增加了衡量“投资总额”的难度,以至于大多数据仓库都很难精确衡量投资了多少。这也不意味着就可以完全不用思考ROI了,我认为即使没有精确的数据,也可以用预估的方式来粗略的判断大致的ROI是多少,而不是闷头往前走。

同时前期的步骤也非常重要,没有前期的数据搬运、建模等步骤,这些“金子”就变成了无源之水,前期的数据获取、数据清洗、数据建模等步骤决定了能不能淘到高质量的黄金。这里更像“木桶理论”,从业务分析、数据建模、数据加载、数据清洗、数据转换到指标计算、报表开发、数据分析、机器学习等等步骤如果有一块短板都会导致其他过程的产出“含金量”下降,尤其是前期的步骤,如果前期步骤没有做好,后续几乎就是“garbage in, garbage out”了。​

浅析数据库(DB)、操作数据存储(ODS)和数据仓库(DW)的区别与联系 文章背景:相信大部分刚接触上面三个概念的同学,都多多少少会有些迷惑,现在我就给大家简单分析下这三者的关系,希望大家对这三者的概念理解有所帮助吧。本文主要从下面两类关系来叙述上面三者的关系: 数据库(DB)和数据仓库(DW)的区别与联系 操作数据存储(ODS)和数据仓库(DW)的区别与联系 数据库与数据仓库的区别与联系数据库与数据仓库基础概念:数据库:传统的关系型数据库的主要应用,主要是基本的、日常的 阅读详情

相关推荐

Azure数据库服务比较:SQL Database vs Cosmos DB

结构化数据场景:如订单管理、用户认证等需要强事务支持的业务非结构化/半结构化场景:如物联网设备日志、社交网络数据、实时推荐系统:基于传统关系型数据库(SQL Server)的云原生服务,支持ACID事务和复杂SQL查询Cosmos DB:全球分布式NoSQL数据库,支持多模型(文档、键值、图、宽列)和弹性扩展两者的架构设计哲学有何本质区别?数据建模和查询语言的差异如何影响开发体验?一致性、可用性、吞吐量的权衡模型如何选择?典型业务场景下的选型决策依据是什么?技术原理对比。

AI云原生与云计算技术学院 1972

【C/C++】用C语言写一个数据仓库,存储和修改数据

这个代码实现了一个简单的数据仓库,其中数据被存储在一个3x3的二维数组中。用户可以通过控制台界面与这个数据仓库进行交互,可以选择查看数据或者修改数据。

weixin_56334307的博客 1480

SqlServer 数据库附加问题:不是主数据库文件

一、前言 今天公司要切换数据库服务器,数据库文件大于2G,结果再附加到另一服务器的数据库里面,就产生了一个问题。如下: 标题:Microsoft SQL Server Management Studio ------------------------------ 无法为此请求检索数据。(Microsoft.SqlServer.SmoEnum) -----------------...

weixin_33775582的博客 3935

c++操作数据库(CRUD)

使用c++完成mysql的增删改查

qq_44054791的博客 3652

数据库与数据仓库

数据库是一种逻辑概念,用来存放数据的仓库,通过数据库软件来实现。 数据仓库是数据库概念的升级。从逻辑上理解,数据库和数据仓库没有区别,从数据量来说,数据仓库要比数据库更庞大的多。数据仓库主要用于数据挖掘和数据分析,辅助做决策。 数据库 Database (Oracle, Mysql, PostgreSQL)主要用于事务处理,数据仓库 Datawarehouse (Amazon Redshift, Hive)主要用于数据分析。用途上的不同决定了这两种架构的特点不同。 各自特点 数据库(Database)的特点

qq_29258377的博客 6745

逆向解析抖音核心校验参数:bd-ticket-guard-client-data的Python生成逻辑

本文深入解析了抖音核心校验参数bd-ticket-guard-client-data的生成逻辑,详细介绍了其动态证书生成、非对称加密机制及Python实现方法。通过逆向分析,揭示了抖音安全体系的双层验证机制,包括RSA密钥对生成、证书签名及时间戳校验等关键技术要点,为开发者提供了一套完整的参数生成解决方案。

weixin_26642481的博客 410

基于SQL on Hadoop的数据仓库技术

作者简介:孙元浩,星环信息联合创始人兼首席技术官。 责编:仲浩(zhonghao@youkuaiyun.com) 本文为《程序员》原创文章,未经允许不得转载,更多精彩文章请订阅2016年程序员 数据仓库是企业统一的数据管理的方式,将不同的应用中的数据汇聚,然后对这些数据加工和多维度分析,并最终展现给用户。它帮助企业将纷繁浩杂的数据整合加工,并最终转换为关键流程上的KPI,从而为决策/管理等提...

zhong930的博客 1097

ENSP实验一:防火墙基础配置

配置client(内网)、FTP Server(外网)的IP地址。进入防火墙,输入密码:默认为admin@123。

Carohuan的博客 1万+

database.db 文件详解:数据库文件在 SQLite 中的作用与使用

本文解析了Python项目中自动生成的database.db文件的作用和使用方法。该文件是SQLite数据库的默认存储文件,包含表结构、数据记录和索引等信息。文章详细介绍了SQLite的存储原理、查看和操作方法(命令行与可视化工具)、备份策略及常见问题解决方案,并强调数据库管理需严谨,避免数据丢失。掌握.db文件的特性能帮助开发者更高效地进行项目调试和数据库维护。

聚焦学生开发者需求,分享课设毕设项目实战经验、系统开发技巧、数据库设计规范及文档排版实用方法。 2400

Unreal Engine鸿蒙移植实战:环境配置、构建流程与性能优化指南

游戏引擎移植是跨平台开发中的关键技术环节,其核心原理在于通过适配目标操作系统的底层接口和工具链,实现同一套代码在不同硬件和软件环境下的高效运行。这项技术的价值在于最大化代码复用率,降低多平台维护成本,并能让应用快速触达新兴生态系统的用户。在移动游戏和XR应用领域,随着鸿蒙HarmonyOS生态的快速发展,将成熟的商业引擎如Unreal Engine迁移至此平台,成为开发者探索新市场机会的重要路径。本文聚焦于Unreal Engine项目向鸿蒙系统的移植实践,详细解析了从环境搭建、源码适配到构建打包的全链路流

weixin_29011395的博客 410

告别上位机!用MCGS触摸屏+FTP服务器,5分钟搞定工控机文件自动同步

本文介绍了一种工业自动化领域的高效解决方案,通过MCGS触摸屏结合FTP服务器实现工控机文件的自动同步,无需开发上位机软件。该方案特别适用于图像采集、参数同步、数据备份等场景,具有成本低、可靠性高、维护简便等优势。详细配置指南和实战案例帮助用户快速实现零代码文件同步。

weixin_30872499的博客 560

数据仓库项目从来不是技术项目

本文提供了一个从落地实施角度观察数据仓库的视角,数据仓库并不是简单的技术组件堆砌,使数据仓库产生价值更需要会“掘金”。

IDEAL Garden 191

从ViT到Swin Transformer:一文搞懂Transformer在CV中的进化史(附实战代码)

本文系统梳理了Transformer在计算机视觉领域的演进历程,从开创性的Vision Transformer(ViT)引入全局注意力机制,到DETR实现端到端目标检测,再到里程碑式的Swin Transformer通过滑动窗口和层次化设计高效桥接CNN与ViT。文章深入剖析了各模型的核心思想、技术突破与实战应用,并提供了可运行的代码示例,帮助读者从理论到实践全面掌握这一关键技术脉络。

cola5的博客 713

数据中台的数据库技术和数据仓库技术

1.背景介绍 数据中台(Data Mall)是一种新型的数据管理架构,旨在帮助企业实现数据资源的统一管理、共享和应用。数据中台集成了数据仓库、数据湖、数据库、数据清洗、数据集成、数据质量、数据安全等多个数据管理领域的技术和工具,为企业提供了一个统一的数据管理平台。 数据库技术和数据仓库技术是数据中台的核心技术之一。数据库技术主要包括关系型数据库、NoSQL数据库、时间序列数据库等,用于存储和管...

AI天才研究院 1672

从零开始!在 Windows 上安装与配置 Dify

这篇博客将详细介绍如何在 Windows 系统上部署 Dify,适合零基础用户。从 Docker 和 WSL 的安装配置开始,逐步指导用户设置 Git、Docker 环境以及 Dify 配置文件,解决可能遇到的端口冲突等问题,最终完成 Dify 的启动和测试。通过简明易懂的步骤,帮助用户在本地成功运行 Dify,实现模型供应商配置,让 Dify 项目在 Windows 平台上顺利上线。

qq_49035156的博客 5万+

【异常】Claude Code 在 Windows CMD 中出现重影现象的排查与解决

Windows CMD运行Claude Code时出现文字重影、乱码等问题,原因是传统CMD对现代ANSI终端控制序列支持不足。解决方案包括:1)推荐安装Windows Terminal(完全支持ANSI标准);2)使用PowerShell 7;3)优化CMD设置(启用虚拟终端、UTF-8编码);4)关闭Claude Code视觉特效。建议优先使用Windows Terminal以获得最佳体验,这是最彻底的解决方案。其他方案仅能部分改善或缓解问题。

奶爸的编程之路,也就一周冷个三天 1961

AI Meets Database: AI4DB and DB4AI

数据库和人工智能可以相互受益。一方面,人工智能可以使数据库更加智能(AI4DB)。例如,传统的经验数据库优化技术(例如,成本估算、连接顺序选择、旋钮调整、索引和视图顾问)无法满足大规模数据库实例、各种应用程序和多样化用户的高性能要求,尤其是在云上。幸运的是,基于学习的技术可以缓解这个问题。另一方面,数据库技术可以优化人工智能模型(DB4AI)。例如,人工智能很难部署,因为它需要开发人员编写复杂的代码和训练复杂的模型。数据库技术可用于降低使用人工智能模型的复杂性,加速人工智能算法,并在数据库内提供人工智能能力

Syntactic Sugar 3560

Ghost卷积原理与构建YOLOv11的GhostNet变体

本文探讨了在边缘设备部署YOLOv11时使用Ghost卷积进行模型轻量化的实践经验。针对Jetson Nano的4GB内存限制,作者通过替换Backbone中的3x3标准卷积为Ghost卷积,实现了参数减少28%、推理速度提升38%,仅损失1.1%mAP的优化效果。文章详细介绍了Ghost卷积的实现原理、在YOLOv11中的具体替换策略,以及训练调参和部署优化的关键技巧。作者强调轻量化是计算效率与模型性能的权衡,建议工程团队保留原模型和Ghost变体两个版本,根据实际需求灵活切换。Ghost卷积的核心价值在

as1225120794的博客 169

数据仓库—数据仓库的技术实现方案

数据仓库的技术栈是构建数据仓库的关键环节。合理的数据仓库技术栈可以提高数据仓库的性能、可扩展性、可用性和安全性。在选择数据仓库技术栈时,需要考虑企业的具体需求和预算。

2401_84052244的博客 4280

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

数据仓库技术及应用(数据仓库概述)

数据仓库是一种面向商务智能 (BI) 活动(尤其是分析)的数据管理系统,它仅适用于查询和分析,通常涉及大量的历史数据。在实际应用中,数据仓库中的数据一般来自应用日志文件和事务应用等广泛来源。数据仓库能够集中、整合多个来源的大量数据,借助数据仓库的分析功能,企业可从数据中获得宝贵的业务洞察,改善决策。同时,随着时间推移,它还会建立一个对于数据科学家和业务分析人员极具价值的历史记录。得益于这些强大的功能,数据仓库可为企业提供一个“单一信息源”。

2301_79744714的博客 1709

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

数据库和数据仓库的区别

​ 数据库不能存海量数据,查询效率会慢,不能直接作为数据统计分析的数据源,数据太少。​ 需要周期性将业务数据库的数据同步到数据仓库的数据源中,这个同步的过程叫采集。​ Spark中存在shuffle操作的,所谓的shuffle其实就是将数据落盘,​ 数据源 =》 加工数据 =》 统计数据 =》分析数据(排序,取前多少条)​ 数据仓库自己的数据源来自业务数据库的数据,不断汇总业务数据库的数据,​ 对数据源中的数据进行加工处理,为了后面的数据统计分析做准备。

qq_45875024的博客 1715

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

数据库DB与数据仓库DW区别和联系

数据库(DB)和数据仓库(DW)的区别与联系 数据库与数据仓库基础概念: 数据库:传统的关系型数据库的主要应用,主要是基本的、日常的事务处理,例如银行交易。 数据仓库:数据仓库系统的主要应用主要是OLAP(On-Line Analytical Processing),支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果。 OLTP和OLAP概念补充: 数据处理大致可以分成两大类:联机事务处理OLTP(on-line transaction processing)、联机分析处理OLAP(On-Line

信竞星球_少儿编程题库 2471

Obsidian DB Folder 数据库视图技术解析

Obsidian DB Folder 插件通过解析 Markdown 文件中的 YAML 配置,动态渲染出一个功能完善的数据库视图界面。这个视图基于 React 技术构建,提供了直观的数据管理和操作体验。 ## 核心功能解析 ### 1. 数据库基本信息配置 每个数据库视图都包含两个基础信息字段: - **name**:数据库名称,用于标识这个数据集 - **description**:数...

gitblog_00775的博客 1009

数据库与数据仓库的区别及关系

数据库是为捕获数据而设计,数据仓库是为分析数据而设计**。数据库和数据仓库都有各自的优势和局限性,它们各自适用于不同的场景。数据库更适合用于快速处理事务性操作,而数据仓库则更适合用于进行复杂的数据分析和查询。它们各自有不同的用途和优化方式,可以根据实际需求选择使用。

qq_43605229的博客 7845

数据仓库技术简介

数据仓库技术简介作者:周永銮发布时间:2001/07/21数据仓库是近年来兴起的一种新的数据库应用。在各大数据库厂商纷纷宣布产品支持数据仓库并提出一整套用以建立和使用数据仓库的产品是,业界掀起了数据库热。比如INFORMIXGONGSIDE公司的数据仓库解决方案;ORACLE公司的数据仓库解决方案;Sybase公司的交互式数据仓库解决方案等等。这同时也引起了学术界的极大兴趣,国际上许多重要

数据魔力 3736
上一篇: ChatGPT助力软件开发
下一篇: 后端开发选择RUST,有被爽到
老贾的AI世界
博客等级 码龄7年 3335粉丝 254原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老贾的AI世界

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值