数据大体系(三)——指标

Human Connectome Project (HCP) Dataset loader网址翻译 地址: https://nbviewer.jupyter.org/github/NeuromatchAcademy/course-content/blob/master/projects/load_hcp.ipynb 人类Connectome Project(HCP)数据集 HCP数据集包括大量的被试样本,包括静息态和基于任务的功能磁共振成像。 NMA整理的数据集包括时间序列数据,这些数据已通过在360个感兴趣的区域内进行汇总而进行了预处理和空间降采样。 #导入相应的包 import os import 阅读详情

引

又见指标体系。之前有几篇拙作有聊到指标体系的建设,因此算是起了一个头。前几日文章里,主要是聊我们数据大体系的整体数据仓库的分层以及建设,那么细心的小伙伴是否会发出这样的疑问:那我们前些文章里所述的指标是放在哪一层呢?指标是否又需要进行分层,前面写的指标管理/治理是否就是分层的依据?指标是否又有命名的规范?

我们在这篇里主要想来解惑第一个问题:

  1. 指标在哪一层

解

这个问题,让我们先回顾指标以及数仓分层的内容。

首先,先让我们来看看指标的定义:

```

是用于衡量事物发展程度的单位或者方法,一般我们使用数量或者数值来进行表示,因此从某种意义上来说,它就是度量。

```

因此,我们可以从简单地认为,指标就是一种统计的度量。前文也有提到 原子指标 + 修饰 = 衍生指标。这里修饰可以是时间,也可以是其他的维度。维度即事务或者现象的某一种特定特征。

好了, 那么让我们再看看数仓的主要分层的内容。

ODS 层,主要用于存储源系统中的原表内容;DW 层,则是将 ODS 层的内容, 进行数据打平形成以某些内容为主的大款表然后进行对应的轻聚合;DM 则是将某一主题域要用到的一系列数据集中起来,供上层进行调用;而 ads 层则是为了保持上层应用的灵活性提炼出来的应用层数据集。

从以上信息来看,我们可以看到,指标和数仓的分层,其实并不是在一个维度上来讨论数据的特征。如果一定要讨论,那么似乎 DM 这一层进行承载会比较合适。然而我们在现实中,指标并不一定固定是从 DM 层进行出具,一些企业甚至 DM 层都没有,所以我们不可同日而语地、武断地说属于哪一层。

从指标的定义上来讲,只要是一种统计的度量,加上维度的限定,就可以称之为一类指标。因此,dws,dm,ads 层的数据,甚至 dwd/ods,只要最终出来的是一个关系型的数据表(内存中),那就能是一个指标。这块,我们主要讨论两个话题,存和算。

存

存,主要指的是指标数据在数据库中的存储形式,笔者遇到的方式,可以有以下几种:

一指标一表

这种方式,可以将一个原子指标设定一个表,将指标对应的维度同时建立在表中。这样所有的由该原子指标衍生出的指标,都可以在这张表里轻松地出具。但这种方式有比较大的弊端——随着业务的发展,很多需要进行衍生的指标,或者另一种形式由衍生指标衍生出的指标,很难在一张表里进行表示。即,早期并无法能穷尽地去思考由原子指标衍生出的指标体系。当然它也有一定的好处, 方便理解,这张表都是从一个原子指标出来的,血缘关系清楚明了。

指标表和元数据表

这种管理方式,会有两张表,第一张表类似:

这里,indicator_id 表示指标的编码,indicator_desc 表示指标的含义。从以上的示例我们其实可以明白,不论是原子指标还是衍生指标,在这种管理方式下,都是一个指标 ,每个指标都在这张表里进行描述。而描述这些指标的其他信息,我们则在元数据表 里进行描述,如这个指标的 Owner 部门,更新周期,值的范围描述等一系列信息。这里是比较通用地一种描述法,这里就不再赘述。

类数据集市

我这里使用一个叫类数据集市 的名词来给这种管理模式取了一个居中的名字。因此它并非是数据集市或者指标集市,而是一种变种。首先在这种方式中,我们使用类似数据集市的方式,将一个相同域下的顶层数据指标进行汇集;其次,又不完全一致的是,我们将能够共享相同维度的指标在一张指标里进行存储。

这种方式,能够比较好地减少表的爆炸性增长,但又能保持一定的灵活性。或许是一种好的管理方式。

算

数据存好后,接下来就是进行呈现的方式。这里也可以分为两种。

直出

直出的形式,其实就是直接从某张表中取需要的字段/值形成二维表进行报表展现。这类基本无需额外的计算,直接取即可。

SQL

对于这类方式,则是固定一个 SQL 并且固定读取的表,每次生成对应的数据。

结

这篇文章我们讲的是指标,主要探讨的主题是指标应该在哪一层?答案似乎也容易看到:哪一层都能出具指标。

事实上, 指标的管理重点并不在于其在数据仓库的哪一层存储或者得出,而在于其指标口径 的一致性。在业务层面/产品层面,设计好指标的体系,与业务人员确定好指标的口径;在实际操作层面,确定指标的来源数据表,固定指标取数的 SQL 以及取数的周期性,要比指标从哪一层得出,要关键得多得多。

尾

今天是第 11 篇,感觉到文章写作的一些疲惫性。一开始明知是要写些什么主题,但脑子却不知不觉的地会跑偏。再回顾头去看这些文章,感觉每一篇都是草稿,不甚成体系输出。

只是对不住的是看官您。不过先这样往前吧,等该挑战结束,我们来结合这些文章再形成一系列的体系文章,这样希望能对看官更有一些帮助。

 

银行数据仓库体系实践(10)--汇总指标层和集市模型设计 建立多层次的数据访问服务体系,有力提升数据仓库的价值。基于指标汇总层、集市层、可以提供面向业务人员的即席数据查询、以及面向应用开发者的数据接口、应用访问接口,满足不同类型应用的需要。 1、汇总指标层模型设计原则及步骤 1.1建设目标: 汇总指标层也叫中间层,他提炼出对ODS具有共性的数据访问、统计需求,从而构建出的一个面向支持应用的、提供共享的数据访... 阅读详情

相关推荐

数据仓库【指标体系】

指标体系可以帮助我们整体理解业务、全面了解问题、快速定位问题、迅速落地方案,我们说的指标体系不止是指标,还有指标管理和指标监控。

xiayuhaisong的博客 6998

大数据环境下数据质量指标体系

来源:大数据技术团队一、数据质量评价现状1、数据质量评价模型现状为了清晰表达一些复杂和抽象的概念,构建科学的模型或框架是开展数据质量评价工作的首要任务,多数学者在研究时均从不同角度提出了数...

华章IT官方博客 8225

MA、MACD、RSI三大技术指标原理与Python量化策略实战

技术指标是量化交易的核心工具,通过数学模型分析价格行为揭示市场规律。移动平均线(MA)基于均值回归原理平滑价格波动,MACD通过双重指数平滑融合趋势与动量判断,RSI则量化市场超买超卖状态。这些指标的价值在于将主观交易经验转化为客观规则,在趋势跟踪、反转预警等场景中提供量化依据。以MA金叉死叉、MACD背离、RSI超买超卖为代表的信号机制,结合Python的TA-Lib等技术库,能够构建完整的自动化交易策略。本文通过MA+MACD+RSI多指标组合案例,展示技术指标在量化交易中的实际应用与工程实现。

weixin_30420305的博客 404

大数据开发工程师需要了解的【数仓中的指标体系】

目录(1)为什么要构建指标体系(2)如何搭建有效的指标体系(3)指标类型及关系(4)企业常用的指标体系方法论 (1)为什么要构建指标体系 指标体系的理解: 指标体系是将零散单点的具有相互联系的的指标,系统化的组织起来。通过单点看全局,通过全局解决单点的问题。 比如:本月销售净利润为20W,上月销售净利润为30W。从单点看是盈利的,但从全局看是亏损的。 建立业务量化衡量的标准: 指标体系可以建立业务量化衡量的标准,数据分析的目的就是说明、衡量、预测业务的发展,比方说衡量一个门店 经营的状况,一个门店月净利润

蔡政洁的博客 2394

3.1 MySQL性能监控体系搭建:从零开始构建完整的监控平台

MySQL性能监控体系搭建摘要 本节介绍了从零构建MySQL完整监控平台的方法,包含三层监控体系: 系统级:CPU/内存/磁盘等基础设施指标 数据库级:连接数/查询性能/缓存命中等MySQL内部指标 应用级:业务指标/响应时间等应用层面数据 关键内容: 使用Prometheus+Grafana搭建监控平台 通过Performance Schema获取关键性能数据 监控InnoDB存储引擎状态 业务指标与异常监控方法 建立告警机制快速发现问题 通过完整的监控体系,可实现: ✓ 实时掌握系统运行状态 ✓ 快速定

yonggeit的博客 3119

从零构建DM数据库监控体系:Monitor工具实战全解析

本文详细解析了如何从零构建DM数据库监控体系,重点介绍了Monitor工具的核心功能与实战应用。通过电商大促场景下的数据库监控挑战、SQL性能分析、预警配置及性能调优案例,帮助DBA快速掌握数据监视工具的使用技巧,提升数据库运维效率。

weixin_29199873的博客 361

BDD100K数据集指南:YOLOPv2三大感知任务的标注体系与SOTA指标逐项解读

**YOLOPv2** 是一个面向全景驾驶感知(Panoptic Driving Perception)的端到端多任务网络,模型在 **BDD100K 数据集**上训练,一次推理同时完成**交通目标检测、可行驶区域分割、车道线检测**三大任务,并在这三项 BDD100K 基准评测中取得 SOTA 水平。本文带你用最短时间看懂:BDD100K 的标注体系长什么样、YOLOPv2 的三大任务分别吃哪份

gitblog_00535的博客 442

大数据指标体系-笔记

能够发现局部与整体的关系及问题定位,当数据发生异动时,通过指标体系的逻辑拆解,能迅速定位到大致的异动模块及原因。一个是Target,是预先给出的值,用来判断是否达到预期。2.6 从“人”、“货”、“场”三个角度进行了数据指标和分析维度的提炼。能满足不同数据使用方的日常需求,对产品经营及发展情况有整体了解;指标定义,指标命名混乱,指标不唯一,指标维护口径不一致;频繁的需求变更和反复迭代,数据报表臃肿,数据参差不齐;指标消费,数据出口不统一,重复输出,输出口径不一致;4.2 T2指标:业务策略层面指标。

weixin_40455124的博客 627

什么是数据指标?如何构建组织级数据指标体系?(附3大行业实战模板+SQL代码)

本文系统阐述了数据指标的本质与组织级数据指标体系的构建方法。数据指标是将业务目标量化的具体维度,需具备可量化、业务相关、可追溯三大特征。指标体系构建需遵循上下对齐(战略-业务-执行层联动)、左右贯通(跨部门协同)、动态迭代三大原则。文章重点解析了电商、ToB和互联网产品三大行业的指标体系框架:电商聚焦GMV增长与用户留存,ToB侧重付费客户数与ARR,并提供了可直接复用的指标模板和SQL实战代码(如GMV计算、订单转化率等)。通过四层结构(战略层→业务层→执行层→监控层)实现从战略目标到执行落地的完整闭环,

weixin_41026747的博客 779

数据分析入门——解读36页指标体系建设方案【附全文阅读】

本文面向企业数据管理者、业务分析师、IT团队等群体,重点针对电力、制造等行业,提出"1个核心框架+3大实施阶段+1套支撑工具"的指标体系全流程建设方案。核心框架明确指标定位,区分指标类型;三大实施阶段涵盖咨询梳理、数据准备和平台落地;配套指标管理平台和数据工厂工具,通过实际案例验证,帮助企业实现指标统一管理和决策支持。

cdfunlove的博客 136

191、影像系统全链路质量评估体系:从 Sensor 原始数据到最终成片的客观指标链

本文系统介绍了手机影像系统全链路质量评估体系,从Sensor RAW域到编码环节的关键指标和调试方法。重点包括: Sensor端的读出噪声、暗电流非均匀性和线性度评估方法,强调原始数据质量的重要性; ISP各模块(BLC、Demosaic、降噪等)的专项指标及典型问题识别; 编码环节的块效应和振铃效应量化评估; 全链路传递函数建模方法,包括MTF、噪声和色彩的传递分析; 实战评估流程和自动化工具链建设建议。 作者结合IMX989调试案例,强调指标权重分配和原始RAW数据保存的重要性,为影像系统质量评估提供了

sundong_81的博客 119

AI Agent评估指标体系:从原理到实践

人工智能代理(AI Agent)作为大语言模型的重要应用形态,其评估体系需要从传统NLP指标扩展到多维度综合评估。在工程实践中,AI Agent评估涉及任务性能、效率、安全伦理和用户体验四大核心维度,其中任务完成率、决策准确率等量化指标尤为关键。随着Agent技术在各行业的深度应用,电商客服、金融风控等场景对评估提出了更高要求。主流的AgentBoard、AgentBench等评估框架通过多环境测试和过程分析,为开发者提供了系统化的评估工具链。理解这些评估原理和方法,对构建可靠、高效的AI Agent系统具

weixin_32501329的博客 298

纽马克-贝塔法(Newmark-Beta Method)在结构动力学中的应用与实现

本文深入解析了纽马克-贝塔法(Newmark-Beta Method)在结构动力学数值计算中的核心原理与应用。作为经典的时间积分算法,它通过调节γ和β参数,在计算精度、稳定性与效率间取得平衡,尤其适用于地震响应、风振分析等工程场景。文章详细阐述了其数学内核、在有限元分析中的实现步骤,并对比了隐式与显式方案的适用场景,为工程师提供了关键的方法选择与参数调优指导。

weixin_29232121的博客 147

AI产品PMF验证:从技术Demo到付费转化的关键指标体系构建

AI产品的PMF验证需要从虚荣指标转向分层指标体系。触达层、留存层、价值层依次递进,北极星指标(WAPU)综合反映产品价值。三个核心信号——7日留存≥25%、核心功能复用率≥40%、付费转化率≥5%——是判断PMF的参考基线。在用户量不足时,定性访谈比定量指标更可靠。PMF验证不是一次性事件,而是持续追踪的过程,产品每次重大迭代后都应重新评估PMF状态。

qq_35160742的博客 1023

嵌入式系统(一):鸿蒙系统

本文为期末复习笔记,内容仅供参考???? 鸿蒙系统是一款面向万物互联时代的、全新的分布式操作系统 鸿蒙提出了基于同一套系统能力、适配多种终端形态的分布式理念 提供全场景(移动办公、运动健康、社交通信、指挥出行、媒体娱乐等)业务能力 华为是OpenHarmony开源项目的共建者、也是共享者之一 鸿蒙技术特性 分布式设计 一次开发,多端部署 系统与硬件解耦,弹性部署 三大分布式能力 分布式软总线 设备间互联互通提供分布式通信能力 从手动发现,进化成自发现 传输高带宽关键技术-极简协议 分布式数据管

weixin_45608532的博客 4306

ml307 二次开发

中移物联网旗下4g模组官方网站官方教程id=514官方客户不知道啥时候上班 早上10点也说不在服务时间内 找不到官方的sdk下载路径。

myWorld001的博客 2878

指标打架、数据堪忧?全流程数据治理平台如何让企业真正敢用数据

企业数字化转型面临数据治理三大痛点:指标口径不统一、数据质量低下、治理机制缺失,导致数据价值难以释放。助睿DG平台提供全链路解决方案:通过标准模块统一业务指标定义,质量模块实现问题闭环管理,建模模块构建统一语义层,资产模块推动数据持续运营,最终构建可信数据体系,支撑智能应用落地。该方案将数据治理从一次性项目升级为常态化工程,帮助企业破解"数据不敢用"困局。

datagame的博客 163

AS7262六通道可见光传感器:从光谱原理到物联网色彩检测实战

光谱检测是嵌入式感知领域的关键技术,其核心原理是通过特定波长的滤光片分离光线并转换为电信号,从而实现对环境光或物体反射光的成分分析。这项技术的价值在于将复杂的光学分析简化为可编程读取的数字信号,极大降低了色彩检测在物联网和智能设备中的应用门槛。在智能农业、工业分拣、环境监测等场景中,精确的光谱数据能够驱动自动化决策,例如评估植物光照条件或识别物料颜色。本文以Adafruit AS7262传感器为例,深入解析其基于硅干涉滤光片的六通道设计,并通过Arduino与Python实战,演示如何快速构建从数据采集到可

weixin_28738173的博客 595

feapder数据采集任务数据质量评估:准确性、完整性与时效性指标体系建设

在数据驱动决策的时代,高质量的数据采集是业务成功的基石。feapder作为一款功能强大的Python爬虫框架,不仅提供高效的数据采集能力,更通过内置机制保障数据质量。本文将系统介绍如何基于feapder构建数据质量评估体系,从准确性、完整性和时效性三个核心维度,帮助开发者建立科学的数据质量监控机制。 ## 数据质量评估的三大核心维度 数据质量评估是确保采集数据可用性的关键环节。在feapder

gitblog_00813的博客 1037

组态王|组态王通过选择日期实现历史数据的查询

②在弹出的【插入通用控件】对话框选择【Calender Control】控件,然后点击【确定】按钮,关闭对话框,然后在画面上适当的位置按住鼠标左键并拖动,绘制出一个矩形框,放开鼠标,就完成了控件的绘制。此函数将指定的时间格式(年,月,日,时,分,秒)转换为以秒为单位的长整型数,转换的时间基准是UTC(格林尼治)1970年1月1日00:00:00。实现内容,通过两个日历控件选择开始日期和结束日期,然后点击【历史数据查询】按钮,在报表中显示对应时间段的数据集。另外你用过哪些组态软件?

做有价值的事,积累有价值的笔记! 4561

二次开发vba_CATIA VBA(VBS)二次开发:使用Search批量选择元素

在CATIA二次开发中很多在程序中进行自动交互的方法或函数都需要使用选择集作为参数,将几何元素按照要求批量添加到选择集中也是实现程序自动运行的有效方法。在前面的文章《CATIA使用VBA(VBS)二次开发时用户的交互选择》和《CATIA使用VBA(VBS)二次开发时工程图和草图位置的交互选择函数Indicate2D》中介绍了在CATIA VBA(VBS)二次开发中用户和选择集之间的交互操...

weixin_32497403的博客 1321

AI竞品监控不是工具堆砌!深度拆解金融、电商、SaaS三大行业真实落地指标体系(含17项KPI定义标准)

AI竞品监控不是工具堆砌,而是以AI自动化竞品监控驱动决策升级。深度拆解金融、电商、SaaS三大行业落地路径,提供17项可量化的KPI定义标准与指标体系,覆盖价格变动、功能迭代、营销策略等关键维度,实现动态感知与智能预警。值得收藏

DebugLoom的博客 224

基于STM32LXXX的模数转换芯片ADC(TLA2528IRTER)驱动C程序设计

define TLA2528_ADDR 0x12 << 1 // 用于HAL传输的8位地址(写入为0x24,读取为0x25)// 100kHz (示例值,需根据实际时钟计算)#define TLA2528_REG_PIN_CFG 0x00 // 引脚配置寄存器。#define TLA2528_REG_CHN_SEL 0x01 // 通道选择寄存器。

myron6688的博客 229

精益数据分析实战指南:从指标到增长的关键路径

本文系统阐述了精益数据分析的核心路径,指导企业如何摒弃虚荣指标,精准定位北极星指标。文章深入剖析了黏着式、病毒式、付费式三种增长引擎,并结合SaaS、电商、平台等不同商业模式,提供了关键数据仪表盘的搭建思路。最后,通过“假设-测量-学习-行动”四步实战法,帮助企业将数据洞察转化为有效增长行动。

weixin_28520495的博客 300

Python-编写点云处理软件(二)点云软件ui制作之仿CC界面

至本篇结束,我们已经能够获得一个有点模子的界面了,但是具体的功能还没有编写,后续的文章将逐渐完善功能。

weixin_43894929的博客 3953

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

用数据审视代码现状:从Git历史到运行时指标的进化闭环

技术成长的第一步不是盲目学习新框架,而是建立对现状的清晰认知。通过Git提交历史、静态代码扫描和运行时监控,开发者可以将模糊的“代码质量差”转化为可量化的指标基线。这种量化思维是工程实践的基础:没有基线,就没有改进的方向。从提交频率、坏味道数量到接口延迟,每一类数据都对应着具体的优化动作。当技术债被可视化后,小步重构与测试保护便成为可执行的日常机制,最终形成持续进化的闭环。本文基于这一理念,结合真实后端服务场景,演示如何从零搭建一套可落地的自我审视与改造流程。

weixin_33851604的博客 361

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

上一篇: 数据大体系(二)——数仓的一般命名规范
下一篇: 数据大体系(四)——标签
wrr-cat
博客等级 码龄9年 128粉丝 302原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值