Tapdata 技术博客
Tapdata 技术博客

Tapdata Cloud 2.1.5来啦:新增支持Amazon RDS数据库,错误日志查询更便捷,Agent部署细节再优化

2022-05-18 11:17

Tapdata Cloud 2.1.5


需求持续更新,优化一刻不停——Tapdata Cloud 2.1.5 来啦!


最新发布的版本中,数据连接再上新,同时新增任务报错相关信息快速查询入口,开始支持 JVM 参数自定义设置。



更新速览

  1. 数据连接上新:持续牵手云数据库,新增支持阿里云 PolarDB PostgreSQL,以及 Amazon RDS   for MySQL 作为源和目标;

  2. 新增错误日志快速查询入口:任务运行出错时,可以直接通过弹窗预览错误信息,同时还可在弹窗底部获取完整日志查询入口,一键快速到达日志展示页面;

  3. Agent 部署配置优化:开始支持自定义调整 JVM 配置,有效避免 Agent 启动可能导致的内存溢出。




一、数据连接再添新成员

PolarDB PostgreSQL、Amazon RDS   for MySQL 开始接入


作为国内首家异构数据库实时同步云平台,Tapdata Cloud 不断拓展能够支持的数据连接版图,力求满足用户的多样化数据源和目标需求,真正实现数据实时同步“全面破壁”。


继 2.1.0 版本首次实现云数据库接入之后,Tapdata Cloud 持续发力,本次更新又有新伙伴加入:新增支持阿里云 PolarDB PostgreSQL 和 Amazon RDS for MySQL 作为源和目标。至此,Tapdata Cloud 数据连接据点数量扩张至34。放大就看 Tapdata Cloud “破壁行动”最新战绩 :


Tapdata Cloud 2.1.5


二、新增错误日志快速查询入口

弹窗预览,一键直达


任务报错,想要更快查询错误日志怎么办?


从这一版本开始,日志查询将会更快捷!任务运行出错时,无需回到运行监控页面导出错误日志,可以直接通过弹窗预览错误信息,同时还可在弹窗底部获取完整日志查询入口,一键直达日志展示页面,快速查看快速定位,使用更方便!


Tapdata Cloud 2.1.5

任务报错,点击查看错误日志


Tapdata Cloud 2.1.5

报错弹窗



三、Agent 部署细节优化

支持 JVM 自定义配置,启动更放心


针对历史版本在 Agent 安装过程中,因启动时默认分配内存较小可能导致的内存溢出问题,新版本给出了优化方案:


现将 JVM 参数设置权限开放,支持用户根据自身服务器的配置来进行自定义调整。Agent 启动时,会自动提示内存占用情况,用户按照实际需求在配置文件中自行调整并重启即可。


Tapdata Cloud 2.1.5-4.jpeg配置文件开放的 JVM 参数名:tapdataJavaOpts: '-Xmx2362M'


*备注:默认启动占用系统配置内存的 3/5,如果系统内存的 3/5 超过 8G,则最大只占用到 8G。


重视成长路上收获的每一条反馈,不断完善,持续优化,Tapdata一直在路上。始于细节,成于大美,期待下一个新版本再和大家见面。


推荐阅读

DTCC 干货分享:Real Time DaaS - 面向TP+AP业务的数据平台架构

2021年10月20日,Tapdata 创始人唐建法(TJ)受邀出席 DTCC 2021(中国数据库技术大会),并在企业数据中台设计与实践专场上,发表主旨演讲“Real Time DaaS :打造面向 TP+AP 业务的数据平台架构”,从 AP 业务场景 vs. TP 业务场景、常见数据平台优劣势、如何打造面向 TP+AP 业务的数据平台等角度,全面分享了 Tapdata 在全链路实时数据融...

Tapdata 在数字化防疫场景的最佳实践

在“动态清零”总方针的指导下,国内疫情防控工作渐趋规范化、常态化,各类防疫应用和手段层出不穷,防疫战也是数据战。Tapdata 基于数据虚拟化和主数据管理能力的防疫专项解决方案,助力张家港市卫健委高效落地疫情防控数字化,实现精准防疫。

Tapdata 在线研讨会:DaaS vs 大数据平台,是竞争还是共处?

我们为什么需要一个Real Time DaaS?它和大数据平台技术上有什么区别?如果企业还没有构建数据平台,我是应该考虑DaaS还是Big Data?如果已经有了大数据平台,我是否还需要DaaS?如果你想了解更多,请参加本次的在线研讨会。

下一个十年,你还在用 Big Data 搭建数据中台吗?

数据中台的存在是有合理性的,企业需要中台帮助他们来有效管理企业的数据资产,为业务所用。但在经历过大数据时代的热度之后,你在为企业构建数据中台的时候可以考虑另外一种比较务实的 DaaS 架构。DaaS 更加专注于数据层面:打通企业内部的孤岛数据,在中台构建共享模型,以API方式快速发布数据服务...

解锁5大应用场景,最新实时同步实现方案分享

数字化时代的到来,企业业务敏捷度的提升,对传统的数据处理和可用性带来更高的要求,实时数据同步技术的发展,给基于数据的业务创新带来了更多的可能。 Tapdata 产品合伙人徐亮带来实时数据同步的5大典型场景以及4种主流的技术模式分享,并一起了解作为新生代实时数据同步的 Tapdata Cloud 如何更轻松灵活的满足各种实时数据场景。

Tapdata 钛铂数据的产品理念

Tapdata 是全球首个基于数据即服务架构理念、面向 TP 场景的企业实时主数据服务平台,可以帮助企业快速实现主数据的统一管理和发布,并为所有数据库、数仓、大数据平台提供最实时的源数据,让数据随时可用。

Tapdata 数据库实时同步的技术要点

Tapdata 专注于实时数据的处理技术,在数据库迁移和同步方面,Tapdata 的表现非常优秀,实时、多元、异构,尤其在关系数据库到非关系数据库之间的双向同步方面,无论是从操作上,还是效率上,都体现了业界领先的水平。本文重点阐述 Tapdata 在数据库实时同步方面的技术要点。

教育中台与第三方系统对接整合数据案例

最近, 南京秦淮区教育中台系统,成功地和市系统进行了一次圆满对接。通过教育中台提供的统一数据能力和低代码API对接能力,实现了对市系统数据的实时推送和拉取,以及各类业务逻辑上的处理。这次对接为南京市中小学生创客大赛的成功举办提供了及时可靠的数据支撑, 体现了中台系统在快速响应业务方面的优越性。

周生生 | 全渠道商品中心建设

通过Tapdata 构建全渠道商品中心,实现: - 支持中国大陆港澳台的上千家门店的生产环境; - 使用JS脚本来进行流处理计算,业务需求从开发到上线过程快至 1 天以内; - 任务配置与执行监测全程可视化操作,不懂技术也能完成操作,极大降低维护成本; - 一套产品可满足不同需求,根据业务需求产出不同类型的业务模型节省大量人力物力。

关系型数据库到MongoDB实时数据同步解决方案

使用MongoDB作为主机下行或新一代数据库的选择,将业务数据从已有主机或Oracle等关系型数据库复制到MongoDB; 使用Tapdata Replicator的CDC技术,实时监听现有业务库的数据变动并同步至MongoDB; 使用Tapdata 的RDM技术将关系型表合并转型到MongoDB JSON数据结构,并保持和源库的高度数据一致; 在MongoDB上进行新业务的开发。

Tapdata肖贝贝:实时数据引擎系列(一)-新鲜的数据流

前言2006 年诞生的 hadoop 和 她周边的生态, 在过去的这些年里为大数据的火热提供了足够的能量, 十几年过去了, 场景在变化, 技术在演变, 大家对数据的认知已经不再局限于 T+1 与 高吞吐高延迟 为主要特征的上一代框架理念, 在真实的场景里, 实时, 准确, 多变 的数据也发挥着越来越重要的作用为满足这些新的需求, 各种框架和中间件如雨后春笋般不断涌出hive 的出现让这头大象...

Tapdata 肖贝贝:实时数据引擎系列(六)-从 PostgreSQL 实时数据集成看增量数据缓存层的必要性

对于 PostgreSQL 的实时数据采集, 业界经常遇到了包括:对源库性能/存储影响较大, 采集性能受限, 时间回退重新同步不支持, 数据类型较复杂等等问题。Tapdata 在解决 PostgreSQL 增量复制问题过程中,获得了一些不错的经验和思考,本文将分享 Tapdata 自研的 TAP-CDC-CACHE,和其他几种市面常见的解决方案的优势和特性。

搭建企业级实时数据融合平台难吗?Tapdata + ES + MongoDB 就能搞定

如何打造一套企业级的实时数据融合平台?Tapdata 已经找到了最佳实践,下文将以 Tapdata 的零售行业客户为例,与您分享:基于 ES 和 MongoDB 来快速构建一套企业级的实时数据融合平台。