【开源自荐】开源大数据比对平台—dataCompare

2023-12-21 998 views
3

项目地址:https://github.com/zhugezifang/dataCompare

类别:Java、Hive、Spark 大数据

项目标题:开源大数据比对平台—dataCompare

项目描述: dataCompare 是一个数据库比对工具:支持hive表数据比对,mysql 数据比对,实现自动化配置进行数据比对,避免频繁写sql 进行处理,后续考虑支持doris、ck等等

亮点: (1)验证数据、数据比对,浪费极大的人力成本

(2)没有一套标准,验证的结果难以评估

(3)达到界面交互、勾选或者低代码即可实现自动化数据校验比对

(4)低代码简单配置完成数据比对核心功能

(5)数据量级比对、数据一致性比对

示例代码:代码请参考仓库。

截图: image image

image

image

  • 后续更新计划:

(1)差异case发现

(2)数据指针探测----枚举值探测、范围探测、数值探测、主键取模探测

(3)数据比对任务定时自动调度

(4)对比结果自动发送邮件报告

回答