Tapdata 技术博客
Tapdata 技术博客

梵几 x TapData:如何高效落地实时数据中台,助力家居企业优化数字营销

2024-05-31 12:12 TapData

使用 TapData,化繁为简,摆脱手动搭建、维护数据管道的诸多烦扰,轻量代替 OGG、DSG 等同步工具,「CDC + 流处理 + 数据集成」组合拳,加速数据流转,帮助企业将真正具有业务价值的数据作用到实处,将“实时数仓”等实时的中央化数据存储方法论落进现实。


TapData 持续迭代产品能力,优化用户体验的同时,也在不断探索各行各业数据需求的底层逻辑,力求为行业用户提供更加简洁、更具针对性的解题思路。本期内容便是我们在家居行业做出的实践以及展望。


我们在选型时做过大量的对比,在实践中,TapData 的优势主要体现在功能的全面性和完备性上,它不仅集成了增量和全量数据同步功能,还提供了用于数据处理的自定义节点与筛选能力,如此灵活的同步方案让我们得以更加高效、精确地处理数据。此外,TapData 的易用性也十分突出,即便是部门实习同学也能在半天以内的快速培训后熟练操作,每日数据更新同步任务轻松应对,无需担忧。在运行可靠性方面,经过一年来的持续运行测试,其稳定性也同时得到证实,数据完整性和任务的流畅持续始终如一。无论是对比同开源工具还是同类商业工具,TapData 的整体成本都更加可控,综合性价比更高,是一款值得信赖的优秀产品。——梵几 FNJI


眼下,家居行业正处于一个重要的转型期,面对的是多重挑战与机遇并存的局面。


受全球经济波动、原材料成本上涨以及消费者购买力下降等因素影响,家居行业近期可谓步履维艰。过去数十年间,家居行业一直享受着房地产发展的红利,甚至多被视为房地产的下游产业。因此,随着房地产市场步入下行时期,家居行业也在持续受到波及。正在经历的市场冲击与并不乐观的未来风险评估的双向“挟制”之下,家居行业正在积极摆脱对房地产的依赖,探索新的增长动能。


这样的背景下,家居行业“内卷”再升级,内部竞争自是愈演愈烈。然而,考虑到不健康的“价格战”远非长久之计,行业企业正在谋求从单纯的价格战竞争转向提升效率和服务的综合竞争。在提升综合实力的各种手段中,作为触达年轻消费群体的关键,数字营销能力已成家居企业“刚需”。


数字营销具备数据驱动、广泛覆盖和强互动性等优势,通过数据分析了解消费者行为和市场趋势,帮助品牌制定更加精准的营销策略。在互联网平台和社交媒体上,品牌能够迅速传播信息,扩大影响力,并与消费者进行实时互动,增强品牌忠诚度和用户粘性。无论侧重线上还是线下,数字营销都是持续进行品牌建设和推广的重要手段,能够帮助品牌保持市场热度和关注度。


在市场需求增速全面放缓,行业新增产能亟待消化、高强度价格竞争成新常态的大环境下,家居企业开始尝试挖掘数据资源,解构新时代消费者偏好,加强数字化运营管理实力,回应市场新需求。


数字化比拼时代,作为原生于互联网的独立家具品牌,天然具有数字化优势的梵几(FNJI),正在探索更深层次的数据价值挖掘,充分利用数据辅助数字营销与智慧运营。


一、单体架构到分布式数据中心,寻找更灵活的数据同步方案


由设计师高古奇创立于2010年,梵几是中国原创家具的先锋代表,以兼顾艺术与审美考量的强实用性家具见长,同时旗下也设有全家居线。“什么才是真正属于中国的设计”是梵几一直以来的思考与探索。


从线上到线下,梵几更注重数字营销


不同于传统从线下到线上的发展路线,梵几更多是一个“从互联网中走来”的品牌。先是在微博、微信、豆瓣等平台积累了大量的粉丝基础,再逐步由线上走往线下,目前已在全国一二线城市开设门店 13 家。也正是因为这样的独特基因,梵几更加了解并重视数字营销。


起步于互联网平台,梵几品牌通过线上社区和社交媒体积累了大量的粉丝。这一早期成长依赖于线上平台的影响力,使得品牌能够直接接触和互动目标受众,了解他们的需求和偏好,进行精准的市场营销。随着品牌从线上逐步扩展到线下,开设实体门店,这一转变需要持续的线上引流和推广,以保持并扩大原有的粉丝基础和客户群体。数字营销在这个过程中起到关键作用,通过线上渠道吸引客户到线下门店,促进销售和品牌体验。

再加之家居类产品天然有别于快消品,更多是强需求导向下的消费,因此也更加需要利用更多更精准的数据来刻画用户定位,在提供更加立体的产品服务的同时,进一步优化运营投放等市场思路。通过数据驱动的营销策略,品牌能够更好地满足消费者的个性化需求,提升市场竞争力。


业务增长之下,此前的单体数据架构不再满足需求


随着梵几品牌的业务快速扩展,从线上积累的庞大粉丝基础到线下门店的不断增加,业务规模和复杂度显著提升。尽管早期的单体架构在初始阶段能够满足需求,但在当前的业务增长背景下,其局限性逐渐显现。


单体架构将所有功能和服务集成在一个单一的代码库和部署包中,虽然开发和部署相对简单,但随着业务的扩展,这种架构的缺点逐步暴露。首先,单体架构难以灵活应对业务增长带来的负载变化,任何一个小的变更都需要重新部署整个应用,导致开发和部署周期变长,影响响应速度和市场竞争力。其次,单点故障风险增加,任何一个组件的故障都可能导致整个系统的崩溃,不利于业务的持续稳定运行。


面对这些挑战,梵几品牌决定转向更加灵活和可扩展的分布式数据中心架构。通过分布式数据中心,可以将数据和计算任务分布在多个地理位置不同的数据中心中,提高系统的可靠性和性能。同时,梵几也在考察和使用数据同步工具,将分布式环境中的数据汇集并整合到统一的数据中台中。数据中台负责对这些数据进行进一步的处理、管理和分析,提供统一的数据视图和决策支持。


这种架构转型不仅提升了系统的灵活性和扩展性,还增强了数据管理和分析能力,使梵几品牌能够更好地应对市场需求的变化和业务的快速增长。通过分布式数据中心和数据中台的结合,品牌能够实现更高效的数据利用和更精准的市场投放,进一步优化运营策略,提升整体竞争力。


二、开源工具 vs 商业化工具:需要功能更加全面、完备的“减负”方案


梵几的数据特点:

① 数据多方消费:各个部门都重视数据的价值和数据分析的力量,门店店长、营销中心营销人员、销售总监、CEO 等,都是数据的直接消费者,且对报表数据有一定的实时性要求


② 覆盖系统多样:包括有赞 CRM、SCM 管理、收银、前端销售、天猫平台、京东平台、店铺小程序等多个外部系统,以及内部自建系统。


③ 数据类型不一:数据源包括 MySQL 等,数据中台底座为 SQL Server,异构数据库数据同步压力大


为了解决数据同步难题,梵几技术团队首先考察了一些开源的解决方案,例如 Datax、Canal 和 Flink 等。这些开源工具在功能和灵活性方面各有优劣,但在实际使用中,团队发现了一些不可忽视的局限性,尤其是在功能完善性和用户友好性方面存在不足。比如,有些开源工具只能支持增量数据同步,而无法处理全量数据的迁移;有些则需要大量的开发工作来适应具体的业务场景,增加了开发人员的工作负担。此外,这些工具的使用和维护对于非专业技术人员来说并不友好,进一步限制了其在实际业务中的应用。


开源方案对比:DataX、Canal 和 Flink


DataX

优势:

  • 多源多目标支持:支持多种数据源和目标,包括关系型数据库、NoSQL、文件系统等,适用范围广。

  • 阿里巴巴支持:由阿里巴巴开源,社区活跃,文档和使用案例丰富。

劣势:

  • 配置复杂:配置文件较为复杂,需要较高的技术门槛。

  • 全量同步为主:不支持实时 CDC 同步,如有需求,还需引入其他方案处理。

  • 性能调优困难:在大数据量同步时,需要进行较多的性能调优,增加了使用难度。

  • 维护难度:虽然支持多种数据源,但在实际使用中可能需要大量定制化工作。

Canal

优势:

  • 实时性强:Canal 擅长实时数据捕获和同步,特别是针对 MySQL 数据库的变更数据捕获(CDC),能在数据变更时实时捕获并同步到目标数据库。

  • 高效性:利用MySQL binlog进行数据变更捕获,性能较高。

  • 社区支持:Canal 是阿里巴巴开源的项目,拥有较大的社区支持,文档和资源相对丰富。


劣势:

  • 功能局限:主要适用于MySQL数据库,对于其他数据库支持较少。

  • 维护复杂:需要较高的技术能力来配置和维护,适用于技术团队实力较强的企业。

  • 增量同步为主:主要支持增量数据同步,缺乏全量数据同步的功能。

Flink

优势:

  • 流处理能力强:Flink作为流处理框架,能够处理实时数据流,适用于高实时性要求的场景。

  • 高扩展性:支持大规模数据处理,具有良好的扩展性和容错性。

  • 丰富的连接器:支持多种数据源和目标,能够灵活应对不同的数据处理需求。。

劣势:

  • 学习曲线陡峭:Flink的使用和配置较为复杂,学习成本较高。

  • 资源消耗大:流处理框架在大规模数据处理时,资源消耗较大,需要较强的基础设施支持。

  • 开发工作量大:需要较多的开发工作来定制和优化具体业务场景,增加了技术团队的负担。


鉴于这些挑战,梵几团队决定寻找更加成熟且能力全面的商业化数据同步工具。在这一过程中,偶然间接触到了一款以轻量易用为特色,数据 CDC 为关键核心能力的数据同步工具——TapData。

商业化方案选择:全增量一体+轻量易用+完备的数据源支持

技术场景:

  • 数据源:数据库 MySQL

  • 数据目标:基于 SQL Server 的数仓

  • 需求:异构数据库间的【全量+增量】同步

秉承着用小工具尽善尽美地解决数据全增量同步小问题的目标,梵几基于自身技术需求,对 TapData 的能力进行了综合考察后发现,其表现如下:

  • 丰富的数据源与目标支持:内置 100+ 数据连接器,常见数据库全覆盖。

  • 功能全面:TapData 支持全量和增量数据同步,能够处理多种异构数据库之间的数据迁移,功能完善。

  • 用户友好:提供图形化界面和简单易用的配置工具,降低了使用门槛,支持拖拉拽低代码操作,无需大量开发。

  • 高效稳定:商业化方案通常经过充分测试和优化,具备高效稳定的数据同步能力,减少了故障和维护成本。

  • 专业支持:提供专业的技术支持和服务,遇到问题时能够及时获得帮助,保障业务的连续性和稳定性。

两相对比,TapData 提供了一个一站式的数据解决方案,极大地简化了数据同步的复杂性,凭借其功能全面、使用便捷和专业支持等优势,更适合业务快速增长和数据同步需求复杂的企业。它不仅减少了开发人员的工作量,还提高了数据同步的效率和可靠性。这种“减负”方案不仅在功能上满足了梵几的需求,更在实际操作中提供了极大的便利,使得技术团队能够将更多精力投入到核心业务的发展中去。


三、TapData Cloud + 数据中台:让数据挖掘与应用无障碍、更高效

经过一年多的使用,以 TapData Cloud 为数据同步组件的中台方案在梵几的业务实践中得到了充分的可行性验证。

北京梵几家居配图调整版.jpg

如上图所示,在架构上梵几实际采用了三层结构:


第一层:前端用户层

  • POS 收银系统:门店的 POS 收银系统,处理店内的销售交易

  • CRM 会员系统:用于用户注册、会员管理以及积分系统

  • 电商平台:包括天猫、京东等第三方平台

  • 客服系统:包括客服工单、发货管理、客户满意度调查等订单后端系统

  • 营销系统:包括 SCRM 和 CRM 系统,用于管理营销活动和客户关系

第二层:业务中台

  • 业务中台的主要职责是打通各前端系统,实现数据的统一和互通。比如,会员在不同渠道(线上和线下不同门店)购买商品时,其积分能够在所有渠道中累积和使用。业务中台负责汇聚这些数据,保障数据一致性,优化用户体验。

第三层:BI 系统

  • BI 系统从业务中台和各个业务系统中拉取存储在 MySQL 中的相关底层数据,进行数据分析。通过 SQL 和 TapData 进行数据同步,确保数据的及时性和准确性。此处数据分析产生的报表将供店长、营销人员、销售总监及 CEO 快速查看并回顾销售额与各门店业绩情况等信息。

通过业务中台,梵几成功打通了前端多个系统的数据壁垒,实现了会员积分、销售数据和客户信息的统一管理与互通。这使得用户在不同渠道购物时,能够享受一致的积分累积和使用体验,提升了客户满意度和忠诚度。


使用 TapData 进行数据同步,确保各系统之间的数据传输高效且准确,BI 系统能够基于最新数据进行分析和报表生成,支持各级管理人员的决策需求。


此外,通过对业务中台和各业务系统的数据进行分析,BI 系统生成的报表和洞察帮助管理层快速了解销售额、各门店业绩、客户行为等关键信息,从而制定更精准的市场策略和运营决策。业务中台的实施不仅优化了数据管理,还提高了整体运营效率,减少了手动处理和错误风险,提升了各部门的协同工作效率。


采用分布式数据中心架构,使得梵几在未来业务扩展时更加灵活和高效,系统能够迅速适应新的需求,支持更多的数据源和业务场景。通过一体化的数据管理和分析,梵几更好地了解客户需求和行为,提供更个性化的服务和产品推荐,提升用户体验和满意度。


总之,基于这样的方案,梵几实现了高效的数据管理和业务运营,不仅提升了数据管理和运营效率,还为未来的业务扩展和数字化转型奠定了坚实的基础,进一步稳固并提升了自身在数字营销场景下的先天优势。


体验反馈

1. 明确的 MySQL → SQL Server 异构数据库全量+增量能力支持

TapData 内置 100+ 数据连接器,明确支持 MYSQL 到 SQL Server 间的全增量同步,且部署、配置简单,运行稳定。数据同步方案灵活,适用于多种需求场景。


2. 性能稳定可靠

在持续一年的实际使用中,TapData 的稳定性得到了充分验证,在多次数据同步和传输过程中表现出色,确保业务数据的实时性和一致性,这种高可靠性使得梵几能够更加专注于业务拓展和优化。


3. 出色的实时性表现

梵几的业务需要时效性更强的客户数据和销售数据更新,TapData 能够确保数据在各系统间的低延迟快速传输和同步。无论是线上交易还是线下门店销售,数据都能实时更新,帮助管理层及时获取最新的业务信息,做出准确的决策。这种高效的实时同步能力极大地提升了梵几的运营效率和客户体验。


4. 学习曲线简单,轻量易上手

作为直接使用者,梵几的技术运维人员反馈称 TapData Cloud 易用性突出,拖拉拽的可视化模式非常简单清晰,即便是实习同学也能在半天以内的快速培训后熟练操作,并轻松负责后续的日常维护工作。


5. 灵活可扩展

TapData 展现了极高的灵活性和可扩展性。随着梵几业务的扩展,数据同步需求不断增加,TapData 能够轻松应对,无论是新增怎样的系统接入需求,都能快速集成并适应。它支持多种数据源和目标,确保数据管理系统能够灵活调整,满足业务需求。


6. 更高的成本效益

在支持一定规模的免费试用之余,TapData Cloud 提供性价比更高的定价模式。不同于花费较高的按链路数量计费(如 MySQL → MySQL,MySQL → ClickHouse 算作两条链路),以及更为高昂的按数据同步行数计费,Tapdata 采取对用户更加友好的定价模式——按实例规格计费(如 4C8G / 8C16G),取决于用户自身的数据流量,不限链路。该模式最大好处在于,价格相对明确的,所需成本也相对较低。


总结

梵几通过采用 TapData Cloud 作为数据同步组件,成功实现了分布式数据中心+中台项目的快速落地与平稳运行,从而得以将高效的数据管理和业务运营落到实处。


在整个过程中,TapData 充分满足了梵几全量+增量 CDC 的异构数据库数据同步需求,同时展现出不俗的稳定性和实时数据同步能力,确保了梵几在数据传输和处理过程中的准确性和高效性。总体而言,TapData 不仅提升了梵几的数据管理效率,还为其未来的业务扩展和持续引流提供了坚实的基础技术模块支持。


未来,TapData 还将持续挖掘数据集成在家具等耐用品营销领域的实用性价值,为行业提供更多数字化、智慧化运营灵感。


采用 Tapdata 实时数据平台解决方案有哪些优势?

  • 广泛的数据源和目标支持:内置 100+ 数据连接器,稳定的实时采集和传输能力

  • 学习成本低,轻量易上手:开箱即用与低代码可视化操作,支持数据模型预览,无需专业的编程能力,即可完成复杂的数据集成和开发。

  • 更实时,更高效:兼具秒级响应的数据实时计算能力,以及稳定易用的数据实时服务能力

  • 支持数据、任务分类:可根据不同项目自定义标签,方便快速筛选查找,有助于对跨部门协同管理及后续维护

  • 支持平台级数据校验:有效保障数据一致性

  • 可视化任务运行监控和告警:20+ 可观测性指标,实时监测任务最新状态


【相关阅读】

推荐阅读