Tapdata 技术博客
Tapdata 技术博客

如何使用Tapdata Cloud 实现MySQL 到MQ 数据实时同步

2021-12-30 10:30

摘要：很多 DBA 和开发同学经常会遇到要从一个数据库实时同步到另一个数据库的问题，同构数据还相对容易，遇上异构数据、表多、数据量大等情况就难以同步。Tapdata Cloud是一款免费的实时数据同步工具 ，可以非常方便地完成 MySQL数据实时同步到MQ ，跟大家分享一下，希望对你有帮助。

本次 MySQL   数据实时同步到 MQ大概只花了几分钟就完成。使用的工具是 Tapdata Cloud，这个工具是永久免费的。


第一步：配置MySQL 连接

  1. 点击 Tapdata Cloud 操作后台左侧菜单栏的【连接管理】，然后点击右侧区域【连接列表】右上角的【创建连接】按钮，打开连接类型选择页面，然后选择MySQL

配置MySQL 连接

  1. 在打开的连接信息配置页面依次输入需要的配置信息

MySQL配置信息

【连 接 名 称】：设置连接的名称，多个连接的名称不能重复

【数据库地址】：数据库 IP / Host

【端          口】：数据库端口

【数据库名称】：tapdata 数据库连接是以一个 db 为一个数据源。这里的 db 是指一个数据库实例中的 database，而不是一个 mysql 实例。

【账          号】：可以访问数据库的账号

【密          码】：数据库账号对应的密码

【时 间 时 区】：默认使用该数据库的时区；若指定时区，则使用指定后的时区设置

测试连接，提示测试通过

MySQL连接测试成功

测试通过后保存连接即可。


第二步：配置 MQ 连接

  1. 同第一步操作，点击左侧菜单栏的【连接管理】，然后点击右侧区域【连接列表】右上角的【创建连接】按钮，打开连接类型选择页面，然后选择 MQ

配置 MQ 连接

  1. 在打开的连接信息配置页面依次输入需要的配置信息，配置完成后测试连接保存即可。

MQ配置信息


第三步：选择同步模式-全量/增量/全+增

进入Tapdata Cloud 操作后台任务管理页面，点击添加任务按钮进入任务设置流程

选择同步模式-全量/增量/全+增

根据刚才建好的连接，选定源端与目标端。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 选定源端和目标端

根据数据需求，选择需要同步的库、表，如果你对表名有修改需要，可以通过页面中的表名批量修改功能对目标端的表名进行批量设置

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 映射设置

在以上选项设置完毕后，下一步选择同步类型，平台提供全量同步、增量同步、全量+增量同步，设定写入模式和读取数量。

如果选择的是全量+增量同步，在全量任务执行完毕后，Tapdata Agent 会自动进入增量同步状态。在该状态中，Tapdata Agent 会持续监听源端的数据变化（包括：写入、更新、删除），并实时的将这些数据变化写入目标端。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 任务设置

点击任务名称可以打开任务详情页面，可以查看任务详细信息。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 任务名称

点击任务监控可以打开任务执行详情页面，可以查看任务进度/里程碑等的具体信息。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 任务监控


第四步：进行数据校验

一般同步完成后，我都习惯性进行一下数据校验，防止踩坑。

Tapdata Cloud 有三种校验模式，我常用最快的快速count校验 ，只需要选择到要校验的表，不用设置其他复杂的参数和条件，简单方便。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 快速count校验

如果觉得不够用，也可以选择表全字段值校验 ，这个除了要选择待校验表外，还需要针对每一个表设置索引字段。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 表全字段值校验

在进行表全字段值校验时，还支持进行高级校验。通过高级校验可以添加JS校验逻辑，可以对源和目标的数据进行校验。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 高级校验

还有一个校验方式关联字段值校验 ，创建关联字段值校验时，除了要选择待校验表外，还需要针对每一个表设置索引字段。

Tapdata Cloud 实现MySQL 到MQ数据实时同步的 关联字段值校验

以上就是 MySQL数据实时同步到MQ 的操作分享，希望上面的操作分享对你有帮助！


其他数据库数据实时同步到   Oracle、MySQL、PG、SQL Server、MongoDB、ES 、达梦、Kafka、GP、MQ、ClickHouse、Hazelcast Cloud、ADB MySQL、ADB PostgreSQL、KunDB、TiDB、Dummy DB 的方式也都是先配置源和目标的连接，然后新建任务选择同步模式：全量/增量/全量+增量，因为步骤相同，其他就不再贴图说明了。Tapdata Cloud 是承诺永久免费使用的，不过要求更高、有预算的朋友也可以使用企业版，具体可访问Tapdata 官网：tapdata.net ，还可以申请试用。

MySQL 到 MySQL 实时数据同步实操分享

MySQL 到 Oracle 实时数据同步实操分享

MySQL 到 PostgreSQL 实时数据同步实操分享

MySQL 到 SQL Server 实时数据同步实操分享

MySQL 到 MongoDB 实时数据同步实操分享

MySQL 到 Elasticsearch 实时数据同步实操分享

MySQL 到 达梦数据库 实时数据同步实操分享

MySQL 到 GreenPlum 实时数据同步实操分享

MySQL 到 Kafka 实时数据同步实操分享

MySQL 到 MQ 实时数据同步实操分享

MySQL 到 ClickHouse 实时数据同步实操分享

MySQL 到 Hazelcast Cloud 实时数据同步实操分享


分享
微信
新浪微博
QQ
QQ空间
豆瓣网
百度贴吧
开心网
复制链接
脸书
推特
领英
推荐阅读

Tapdata 重磅更新已就绪！全托管云服务上线，应用场景再扩展

近一年间，Tapdata 在 2.0 版本的基础上持续优化，不断改进与完善，终于迎来了产品能力更加完备，性能表现更加优秀的新版本。相信它将为大家带来更好的使用体验和更加完善的服务，在未来的新一阶段为数据应用创造新的惊喜。

Tapdata 面向开发者、数据工程师、DBA、应用架构师、数据架构师的典型应用场景

Tapdata Live Data Platform 是新一代的实时数据平台，通过把企业核心数据实时集中到中央化数据平台的方式并通过API 或者反向同步方式，为下游的交互式应用，微服务或交互式分析提供新鲜实时的数据。开发者、数据工程师、DBA、应用架构师、数据架构师等都是 Tapdata 的核心用户群，并拥有诸多典型的应用场景......

ChatGPT 大势中，如何加强企业私有数据集的保护，应对 AI 大模型训练挑战

近年来，AI 大模型在各个领域取得了令人瞩目的突破，从自然语言处理到图像识别，从智能推荐到智能驾驶，AI 的应用正逐渐渗透到企业的核心业务中。ChatGPT 的兴起更是给企业带来了巨大的机遇和挑战。

Tapdata 的 ∞ 实践：中小企业如何轻量、高效地搭建起一个灵活易用的数字化平台

数字化浪潮下，了解并应用数据思维，搭建数字化平台，可以帮助企业更好地理解客户需求、市场趋势和业务机会，更高效地进行产品运营和管理。那么，面对技术和成本压力，中小企业如何轻量、高效地搭建起一个灵活易用的数字化平台？本文将结合典型案例具体说明。

Tapdata 在数字化防疫场景的最佳实践

在“动态清零”总方针的指导下，国内疫情防控工作渐趋规范化、常态化，各类防疫应用和手段层出不穷，防疫战也是数据战。Tapdata 基于数据虚拟化和主数据管理能力的防疫专项解决方案，助力张家港市卫健委高效落地疫情防控数字化，实现精准防疫。

“数聚赋能”，让实时数据中台成为惠企、惠民政策服务应用的源头活水

拆除数据烟囱，加速落成实时数据共享、交换中心，Tapdata 凭借实时数据服务领先的技术优势，助力某市大数据局盘活数据资源，实现各政务部门通过数据接口快速调用中心数据，高效、低成本上线所需的政务服务应用。

Tapdata 在线研讨会：DaaS vs 大数据平台，是竞争还是共处？

我们为什么需要一个Real Time DaaS？它和大数据平台技术上有什么区别？如果企业还没有构建数据平台，我是应该考虑DaaS还是Big Data？如果已经有了大数据平台，我是否还需要DaaS？如果你想了解更多，请参加本次的在线研讨会。

下一个十年，你还在用 Big Data 搭建数据中台吗？

数据中台的存在是有合理性的，企业需要中台帮助他们来有效管理企业的数据资产，为业务所用。但在经历过大数据时代的热度之后，你在为企业构建数据中台的时候可以考虑另外一种比较务实的 DaaS 架构。DaaS 更加专注于数据层面：打通企业内部的孤岛数据，在中台构建共享模型，以API方式快速发布数据服务...

DTCC 干货分享：Real Time DaaS - 面向TP+AP业务的数据平台架构

2021年10月20日，Tapdata 创始人唐建法（TJ）受邀出席 DTCC 2021（中国数据库技术大会）,并在企业数据中台设计与实践专场上，发表主旨演讲“Real Time DaaS ：打造面向 TP+AP 业务的数据平台架构”，从 AP 业务场景 vs. TP 业务场景、常见数据平台优劣势、如何打造面向 TP+AP 业务的数据平台等角度，全面分享了 Tapdata 在全链路实时数据融...

Tapdata 数据库实时同步的技术要点

Tapdata 专注于实时数据的处理技术，在数据库迁移和同步方面，Tapdata 的表现非常优秀，实时、多元、异构，尤其在关系数据库到非关系数据库之间的双向同步方面，无论是从操作上，还是效率上，都体现了业界领先的水平。本文重点阐述 Tapdata 在数据库实时同步方面的技术要点。

教育中台与第三方系统对接整合数据案例

最近, 南京秦淮区教育中台系统，成功地和市系统进行了一次圆满对接。通过教育中台提供的统一数据能力和低代码API对接能力，实现了对市系统数据的实时推送和拉取，以及各类业务逻辑上的处理。这次对接为南京市中小学生创客大赛的成功举办提供了及时可靠的数据支撑, 体现了中台系统在快速响应业务方面的优越性。

周生生 | 全渠道商品中心建设

通过Tapdata 构建全渠道商品中心，实现： - 支持中国大陆港澳台的上千家门店的生产环境； - 使用JS脚本来进行流处理计算，业务需求从开发到上线过程快至 1 天以内； - 任务配置与执行监测全程可视化操作，不懂技术也能完成操作，极大降低维护成本； - 一套产品可满足不同需求，根据业务需求产出不同类型的业务模型节省大量人力物力。

关系型数据库到MongoDB实时数据同步解决方案

使用MongoDB作为主机下行或新一代数据库的选择，将业务数据从已有主机或Oracle等关系型数据库复制到MongoDB； 使用Tapdata Replicator的CDC技术，实时监听现有业务库的数据变动并同步至MongoDB； 使用Tapdata 的RDM技术将关系型表合并转型到MongoDB JSON数据结构，并保持和源库的高度数据一致； 在MongoDB上进行新业务的开发。

搭建企业级实时数据融合平台难吗？Tapdata + ES + MongoDB 就能搞定

如何打造一套企业级的实时数据融合平台？Tapdata 已经找到了最佳实践，下文将以 Tapdata 的零售行业客户为例，与您分享：基于 ES 和 MongoDB 来快速构建一套企业级的实时数据融合平台。

Tapdata肖贝贝：实时数据引擎系列(一)-新鲜的数据流

前言2006 年诞生的 hadoop 和 她周边的生态, 在过去的这些年里为大数据的火热提供了足够的能量, 十几年过去了, 场景在变化, 技术在演变, 大家对数据的认知已经不再局限于 T+1 与 高吞吐高延迟 为主要特征的上一代框架理念, 在真实的场景里, 实时, 准确, 多变 的数据也发挥着越来越重要的作用为满足这些新的需求, 各种框架和中间件如雨后春笋般不断涌出hive 的出现让这头大象...

Tapdata 肖贝贝：实时数据引擎系列(六)-从 PostgreSQL 实时数据集成看增量数据缓存层的必要性

对于 PostgreSQL 的实时数据采集， 业界经常遇到了包括：对源库性能/存储影响较大, 采集性能受限, 时间回退重新同步不支持, 数据类型较复杂等等问题。Tapdata 在解决 PostgreSQL 增量复制问题过程中，获得了一些不错的经验和思考，本文将分享 Tapdata 自研的 TAP-CDC-CACHE，和其他几种市面常见的解决方案的优势和特性。

瓜分 28 万现金大奖，Tapdata 数据源 Connector 大赛等你来战

Tapdata 数据源 Connector 挑战赛（第一届）火热进行中！积累开发经验，瓜分28万现金大奖，我们在这里，等一个热爱技术的你！