SDX产品版本发布详解
产品名称 海盒数据共享交换服务平台
版本号 2.2
产品发布时间 2023-10-16
产品描述 海盒数据共享交换服务平台(简称SDX)是一个基于资源目录的数据共享交换平台,平台通过资源目录实现了数据需求方与所有方之间多层级、跨地域、跨部门的企业级数据交换网络,提供了多种数据共享交换方式,包括库表交换方式(全量交换、增量交换、实时交换)、文件交换方式(文件与数据库表交换、文件同步)、API 共享方式,满足了多方多场景的业务需求。 平台支持多种数据源,包括各类关系型数据库、非关系型数据库;支持多种文件源,包括FTP、SFTP、HDFS、对象存储MinIO等;支持共享交换前置机(包括前置机概览、前置机安装包管理、前置机管理);支持交换管理(包括交换域管理、交换节点管理、交换链路管理、域交换拓扑图等);支持多种数据服务API生成方式;支持已有系统API的注册;支持API的生命周期管理;提供API的路由管理、熔断、限流、访问控制、鉴权等网关管理功能;在上述各类服务的基础上,平台建立了符合行业标准的资源目录管理体系,支持资源的编目、申请、审批、需求管理、需求分发等流程,实现了资源与各类服务(数据库服务、文件服务、API服务)的关联,为数据使用方提供了从资源检索、资源查看、资源申请、资源订阅、资源获取的一站式数据服务。在数据交换共享过程中,平台支持数据的字段级加密、脱敏,并支持各类数据交换共享任务的调度、监控,以确保数据的安全和交换任务可控。
功能模块
产品功能模块 模块描述
SDX-E(共享交换) 提供库表交换(批次全量、定时增量、实时增量)、文件交换(包括文件同步、文件转数据、数据转文件)、API交换(包括API采集到库、API采集到文件等)功能;支持多源异构数据实时增量同步,支持全量和增量流式读取,支持采集位点回溯;支持数据加密、压缩、断点续传、数据限流、DDL、where过滤、一键建表、敏感数据自动识别、数据脱敏等;支持各类(结构化、非结构化、半结构化)数据接入任务的调度管理;支持单表交换、多表交换、整库交换、文件交换,并支持维护前置机和交换域进行跨网段交换等各类交换场景。
1个节点起步,根据实际应用需要选配多个节点。
SDX-C(资源目录) 提供资源目录总览、三清单管理(目录管理、责任清单管理、负面清单管理、需求清单管理)、目录接入(数据库接入、文件接入、服务接入、发布、检索、订阅、审核、预览数据)、目录使用(库表交换、文件交换、API采集)等功能。资源目录分为信息资源目录、元数据目录两类。
1个节点起步,根据实际应用需要选配多个节点。
SDX-S(数据服务) 提供API服务管理(从数据库/文件/API源自动创建服务、服务发布/编辑/查看/调试/下线/文档)、服务编排管理(服务编排、策略组绑定)、策略组管理(服务鉴权、访问次数限制、流量控制、服务熔断、绑定API)、服务检索和查看等功能。
1个节点起步,根据实际应用需要选配多个节点。
SDX-A(数据安全) 提供用户及权限管理功能;支持日志审计(行为日志、网关访问日志、日志异常监控及告警);支持数据分级分类(可自定义数据级别、内置多种数据识别规则、可自动识别数据类别);支持数据脱敏加密(支持静态脱敏、动态脱敏,支持20多种脱敏算法)等功能。
1个节点起步,根据实际应用需要选配多个节点。
SDX-O(数据开放) 提供资源目录、数据服务、元数据的检索入口、支持对检索结果进行详情查看、申请、评价、反馈、收藏,申请审批通过后,可通过创建数据交换任务、下载数据包或调用数据接口等多种方式,获取数据;支持开放数据的新增、删除、编辑、发布等管理功能;支持个人空间。
SDX-Q(共享交换前置机) SDXQ作为一个独立的程序,搭载在具有双网卡的机器上,两张网卡分别加入内、外网络中,SDXQ通过实时同步内、外网的到自身的FTP(或SFTP)来实现文件在内、外网之间摆渡。
SDXQ拥有自己的元数据库,可以脱离SDX独立运行,实现文件的内外网传输。SDX可以通过配置,建立与SDXQ的通信,SDXQ可以通过网络通信将自身所具有的内、外FTP连接信息、文件信息、拓扑信息等向SDX反馈。平台提供前置机概览、前置机安装包管理下载、交换域管理和前置机管理,支持对共享交换前置机进行详情查看、新建、编辑、删除、查询、启用和禁用,前置机创建完成后,配置交换域即可完成跨域交换准备。