Qualitis 数据质量管理平台项目推荐
1. 项目基础介绍和主要编程语言
Qualitis 是一个一站式数据质量管理平台,支持多种数据源的质量验证、通知和管理。该项目旨在解决数据处理过程中引发的各种数据质量问题。Qualitis 基于 Spring Boot 框架开发,主要使用的编程语言包括 Java、Vue 和 JavaScript。
2. 项目的核心功能
Qualitis 提供了以下核心功能:
- 数据质量模型定义:支持单表模型、多表模型和自定义模型,并预设了多种数据质量验证模板,如空值检查、空白检查、数值检查和枚举检查等。
- 数据质量模型调度:支持数据质量模型的调度执行。
- 数据质量报告生成:能够生成数据质量报告,帮助用户了解数据质量状况。
- 日志管理:支持数据质量任务的日志管理,便于问题追踪。
- 异常数据管理:支持异常数据的存储和管理,快速定位问题。
- 工作流支持:支持工作流功能,需要与 DataSphereStudio 配合使用。
- 管理员控制台:提供管理员控制台,支持人员管理、访问控制管理、权限控制管理和元数据管理等。
3. 项目最近更新的功能
根据最新的项目文档和更新记录,Qualitis 最近更新的功能包括:
- 报告数据验证支持:在工作流中支持报告数据的验证。
- 多存储验证支持:支持 Hive、HDFS 和 MySQL 之间的数据质量验证,以及 Kafka 的数据质量验证。
- 数据质量报告生成:支持生成数据质量报告,并提供可选的报告详细程度。
- 智能数据质量问题发现:支持智能发现数据质量问题,帮助用户快速定位和解决问题。
Qualitis 是一个功能强大且不断发展的数据质量管理平台,适合需要进行大规模数据质量管理的组织和团队使用。