作者:finedatalink
发布时间:2023.9.12
阅读次数:404 次浏览
最近后台有很多小伙伴问我,实现实时数据同步怎么做到呢?想要实现实时数据同步的工作,今天给大家分享两个:
针对目前主流的一些关系型数据库:Oracle、SQL Server、MySQL、PostgreSQL、MariaDB(基于MySQL)等,要对他们实现实时数据同步,一般都是基于数据库的特性来进行同步的,比如日志、时间戳等。
(1)Oracle: CDC 或者 LogMiner
LogMiner技术可以通过分析redo log和archive log文件,获取Oracle redo log和archive log文件的具体内容,甚至还可以获得数据库的DDL、DML操作。
(2)SQL Server:
变更数据捕获 (CDC) 使用 SQL Server 代理来记录应用于表的插入、更新和删除活动。
(3)MySQL BinLog:
binlog是mysql用来记录数据库表结构变更以及表数据修改的的二进制日志,它只会记录表的变更操作,但不会记录select和show这种查询操作。
(4)PostgreSQL WAL(Write Ahead Log):
WAL(Write Ahead Log)事务日志存储了数据库系统中所有更改和操作的历史
可以使用大数据采集平台,像finedataline来实现实时数据同步。通过FT的增量组件 对接日志等,可以通过记录进行数据变化解析,通过表输出的方式,实时实时数据同步。
(1)单表同步:
(2)多表同步:
(3)全库原表原样同步:
需要注意的点:
监控机制:数据异常提醒
断点续传:若源库由于其他原因暂时关闭了数据库,在恢复后,需要对数据再次进行同步,这时候就需要从之前断点处进行同步,即断点续传,通过断点续传保证数据的一致性
已配置:零代码拖拉拽配置
总而言之,在数字化时代下,大数据治理对企业数据建设的重要性不言而喻,然而实现的困难有时也让人望而却步,因此选择合适的技术和工具会达到事半功倍的效果。帆软FineDataLink——中国领先的低代码/高时效数据集成产品,能过为企业提供一站式的数据服务,通过快速连接、高时效融合多种数据,提供低代码Data API敏捷发布平台,帮助企业解决数据孤岛难题,有效提升企业数据价值。
数据集成平台产品更多介绍:www.finedatalink.com
上一篇: 多源异构数据源融合怎么做!一文解读下一篇: 详谈数据仓库的数据模型