如何使用Tapdata Cloud 实现SQL Server到MQ数据实时同步

2022-01-11 16:00

摘要:很多 DBA 和开发同学经常会遇到要从一个数据库实时同步到另一个数据库的问题,同构数据还相对容易,遇上异构数据、表多、数据量大等情况就难以同步。Tapdata Cloud是一款免费的实时数据同步工具 ,可以非常方便地完成SQL Server数据实时同步到MQ,跟大家分享一下,希望对你有帮助。

本次SQL Server数据实时同步到 MQ大概只花了几分钟就完成。使用的工具是Tapdata Cloud ,这个工具是永久免费的。


第一步:配置SQL Server连接

  1. 点击 Tapdata Cloud 操作后台左侧菜单栏的【连接管理】,然后点击右侧区域【连接列表】右上角的【创建连接】按钮,打开连接类型选择页面,然后选择SQL Server

配置SQL Server连接

  1. 在打开的连接信息配置页面依次输入需要的配置信息

SQL Server配置信息

【连 接 名 称】:设置连接的名称,多个连接的名称不能重复

【连接类型】:

  • 源头和目标:此数据连接在Tapdata中能同时作为源和目标使用

  • 源头:此数据连接在Tapdata中只能作为源使用,不能作用为目标

  • 目标:此数据连接在Tapdata中只能作为目标使用,不能作用为源

【数据库地址】:数据库 IP / Host

【端          口】:数据库端口

【数据库名称】:tapdata 数据库连接是以一个 db 为一个数据源。这里的 db 是指一个数据库实例中的 database,而不是一个 schema。

【账          号】:可以访问数据库的账号

【密          码】:数据库账号对应的密码

【Schema】:数据库的schema

【时 间 时 区】:默认使用该数据库的时区;若指定时区,则使用指定后的时区设置


第二步:配置 MQ 连接

  1. 同第一步操作,点击左侧菜单栏的【连接管理】,然后点击右侧区域【连接列表】右上角的【创建连接】按钮,打开连接类型选择页面,然后选择 MQ

配置 MQ 连接

  1. 在打开的连接信息配置页面依次输入需要的配置信息,配置完成后测试连接保存即可。

MQ配置信息


第三步:选择同步模式-全量/增量/全+增

进入Tapdata Cloud 操作后台任务管理页面,点击添加任务按钮进入任务设置流程

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的选择同步模式

根据刚才建好的连接,选定源端与目标端。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的选定源端和目标端

根据数据需求,选择需要同步的库、表,如果你对表名有修改需要,可以通过页面中的表名批量修改功能对目标端的表名进行批量设置

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的映射设置

在以上选项设置完毕后,下一步选择同步类型,平台提供全量同步增量同步全量+增量同步,设定写入模式和读取数量。

如果选择的是全量+增量同步在全量任务执行完毕后,Tapdata Agent 会自动进入增量同步状态。在该状态中,Tapdata Agent 会持续监听源端的数据变化(包括:写入、更新、删除),并实时的将这些数据变化写入目标端。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的任务设置

点击任务名称可以打开任务详情页面,可以查看任务详细信息。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的任务名称

点击任务监控可以打开任务执行详情页面,可以查看任务进度/里程碑等的具体信息。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的任务监控


第四步:进行数据校验

一般同步完成后,我都习惯性进行一下数据校验,防止踩坑。

Tapdata Cloud 有三种校验模式,我常用最快的快速count校验 ,只需要选择到要校验的表,不用设置其他复杂的参数和条件,简单方便。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的快速count校验

如果觉得不够用,也可以选择表全字段值校验 ,这个除了要选择待校验表外,还需要针对每一个表设置索引字段。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的表全字段值校验

在进行表全字段值校验时,还支持进行高级校验。通过高级校验可以添加JS校验逻辑,可以对源和目标的数据进行校验。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的高级校验

还有一个校验方式关联字段值校验 ,创建关联字段值校验时,除了要选择待校验表外,还需要针对每一个表设置索引字段。

使用Tapdata Cloud 实现SQL Server到MQ数据实时同步的关联字段值校验

以上就是 SQL Server数据实时同步到MQ的操作分享,希望上面的操作分享对你有帮助!


其他数据库数据实时同步到   Oracle、MySQL、PG、SQL Server、MongoDB、ES 、达梦、Kafka、GP、MQ、ClickHouse、Hazelcast Cloud、ADB MySQL、ADB PostgreSQL、KunDB、TiDB、Dummy DB 的方式也都是先配置源和目标的连接,然后新建任务选择同步模式:全量/增量/全量+增量,因为步骤相同,其他就不再贴图说明了。Tapdata Cloud 是承诺永久免费使用的,不过要求更高、有预算的朋友也可以使用企业版,具体可访问Tapdata 官网:tapdata.net,还可以申请试用。


基于 Tapdata Cloud 实现SQL Server到Elasticsearch跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到MySQL跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到SQL Server实时数据同步

基于 Tapdata Cloud 实现SQL Server到MongoDB跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到PostgreSQL跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到DM DB跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到Kafka跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到Oracle跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到Greenplum跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到MQ跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到ClickHouse跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到KunDB跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到ADB MySQL跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到ADB PostgreSQL跨平台实时数据同步

基于 Tapdata Cloud 实现SQL Server到Hazelcast Cloud跨平台实时数据同步



推荐阅读

DTCC 干货分享:Real Time DaaS - 面向TP+AP业务的数据平台架构

2021年10月20日,Tapdata 创始人唐建法(TJ)受邀出席 DTCC 2021(中国数据库技术大会),并在企业数据中台设计与实践专场上,发表主旨演讲“Real Time DaaS :打造面向 TP+AP 业务的数据平台架构”,从 AP 业务场景 vs. TP 业务场景、常见数据平台优劣势、如何打造面向 TP+AP 业务的数据平台等角度,全面分享了 Tapdata 在全链路实时数据融...

Tapdata 在线研讨会:DaaS vs 大数据平台,是竞争还是共处?

我们为什么需要一个Real Time DaaS?它和大数据平台技术上有什么区别?如果企业还没有构建数据平台,我是应该考虑DaaS还是Big Data?如果已经有了大数据平台,我是否还需要DaaS?如果你想了解更多,请参加本次的在线研讨会。

下一个十年,你还在用 Big Data 搭建数据中台吗?

数据中台的存在是有合理性的,企业需要中台帮助他们来有效管理企业的数据资产,为业务所用。但在经历过大数据时代的热度之后,你在为企业构建数据中台的时候可以考虑另外一种比较务实的 DaaS 架构。DaaS 更加专注于数据层面:打通企业内部的孤岛数据,在中台构建共享模型,以API方式快速发布数据服务...

解锁5大应用场景,最新实时同步实现方案分享

数字化时代的到来,企业业务敏捷度的提升,对传统的数据处理和可用性带来更高的要求,实时数据同步技术的发展,给基于数据的业务创新带来了更多的可能。 Tapdata 产品合伙人徐亮带来实时数据同步的5大典型场景以及4种主流的技术模式分享,并一起了解作为新生代实时数据同步的 Tapdata Cloud 如何更轻松灵活的满足各种实时数据场景。

Tapdata 钛铂数据的产品理念

Tapdata 是全球首个基于数据即服务架构理念、面向 TP 场景的企业实时主数据服务平台,可以帮助企业快速实现主数据的统一管理和发布,并为所有数据库、数仓、大数据平台提供最实时的源数据,让数据随时可用。

什么是数据即服务(Data as a Service)?

数据即服务(DaaS)是一种数据管理策略,旨在利用数据作为业务资产来提高业务创新的敏捷性。它是自 1990 年代互联网高速发展以来越来越受欢迎的“一切皆服务”(XaaS)趋势下关于数据服务化的那一部分,介于 PaaS 和 SaaS 之间。与 SaaS 类似,DaaS 提供了一种方式来管理企业每天生成的大量数据,并在整个业务范围内提供这些有价值的信息,以便于进行数据驱动的商业决策。同时,我们也...

什么是数据虚拟化(Data Virtualization)?

本文将简单易懂地介绍数据虚拟化技术及数据虚拟化软件架构的实现方法,尽量避免教条主义。如需要了解虚拟化定义,可通过wiki 百科了解。先引用一段百度百科的文字来说明数据虚拟化的定义:数据虚拟化(data virtualization)是用来描述所有数据管理方法的涵盖性术语,这些方法允许应用程序检索并管理数据,且不需要数据相关的技术细节,例如它格式化的方式或物理位置所在。正如百科的定义,采用数据...

Tapdata 数据库实时同步的技术要点

Tapdata 专注于实时数据的处理技术,在数据库迁移和同步方面,Tapdata 的表现非常优秀,实时、多元、异构,尤其在关系数据库到非关系数据库之间的双向同步方面,无论是从操作上,还是效率上,都体现了业界领先的水平。本文重点阐述 Tapdata 在数据库实时同步方面的技术要点。

教育中台与第三方系统对接整合数据案例

最近, 南京秦淮区教育中台系统,成功地和市系统进行了一次圆满对接。通过教育中台提供的统一数据能力和低代码API对接能力,实现了对市系统数据的实时推送和拉取,以及各类业务逻辑上的处理。这次对接为南京市中小学生创客大赛的成功举办提供了及时可靠的数据支撑, 体现了中台系统在快速响应业务方面的优越性。

周生生 | 全渠道商品中心建设

通过Tapdata 构建全渠道商品中心,实现: - 支持中国大陆港澳台的上千家门店的生产环境; - 使用JS脚本来进行流处理计算,业务需求从开发到上线过程快至 1 天以内; - 任务配置与执行监测全程可视化操作,不懂技术也能完成操作,极大降低维护成本; - 一套产品可满足不同需求,根据业务需求产出不同类型的业务模型节省大量人力物力。

关系型数据库到MongoDB实时数据同步解决方案

使用MongoDB作为主机下行或新一代数据库的选择,将业务数据从已有主机或Oracle等关系型数据库复制到MongoDB; 使用Tapdata Replicator的CDC技术,实时监听现有业务库的数据变动并同步至MongoDB; 使用Tapdata 的RDM技术将关系型表合并转型到MongoDB JSON数据结构,并保持和源库的高度数据一致; 在MongoDB上进行新业务的开发。

Tapdata肖贝贝:实时数据引擎系列(一)-新鲜的数据流

前言2006 年诞生的 hadoop 和 她周边的生态, 在过去的这些年里为大数据的火热提供了足够的能量, 十几年过去了, 场景在变化, 技术在演变, 大家对数据的认知已经不再局限于 T+1 与 高吞吐高延迟 为主要特征的上一代框架理念, 在真实的场景里, 实时, 准确, 多变 的数据也发挥着越来越重要的作用为满足这些新的需求, 各种框架和中间件如雨后春笋般不断涌出hive 的出现让这头大象...
联络我们:
Email:team@tapdata.io    电话:0755-26656080
深圳市南山区临海大道香江金融中心 2410-13(总部)
全国分部:北京/上海/广州/杭州/成都/武汉/西安
官方服务号
Tapdata 微信公众号
扫码关注