Tapdata 技术博客
Tapdata 技术博客

心诺安 x TapData:快速搭建云中数仓,助力电商企业实施“以用户为中心的”精细化运营

2024-06-05 14:43 TapData

其他渠道首图.jpg


使用 TapData,化繁为简,摆脱手动搭建、维护数据管道的诸多烦扰,轻量代替 OGG、DSG 等同步工具,「CDC + 流处理 + 数据集成」组合拳,加速仓内数据流转,帮助企业将真正具有业务价值的数据作用到实处,将“实时数仓”方法论落进现实。


TapData 持续迭代产品能力,优化用户体验的同时,也在不断探索各行各业数据需求的底层逻辑,力求为行业用户提供更加简洁、更具针对性的解题思路。本期内容便是我们在电商行业做出的实践以及展望。


在正式启用 TapData 之前,无论是我们还是客户,都有尝试过其他一些选项,例如一站式的数据治理和分析平台,以及一站式大数据 BI 平台等产品类型,但无一例外,在实际需求面都显得过于“庞大”。我们的诉求偏向于一个更加轻量且性价比更高的解决方案。因此我们最终选中了 TapData + PowerBI 的组合,前者帮助我们高效地将 MySQL 数据同步到 ClickHouse,提升数仓的检索查询效率;后者则承担渲染与展示报表的部分需求,生成交互式报表,满足客户的业务分析需求。总体而言,TapData 在性能、成本控制与售后服务上均表现出色,是数据集成的可靠选择。——心诺安 Sunoan


新一轮“618”大促火热进行中。此前,各大电商平台纷纷宣布,今年将取消往年的预售模式,改为直接开售配合官方补贴的策略。外部多将这一变化解读为行业顺应市场呼唤、积极创新的结果。


近年来,电商,特别是跨境电商发展迅速。国常会更是于近日审议通过《关于拓展跨境电商出口推进海外仓建设的意见》,指出要积极培育跨境电商经营主体,鼓励地方立足特色优势支持传统外贸企业发展跨境电商,加强跨境电商人才培养,为企业提供更多展示对接平台,持续推进品牌建设。


随着数字化技术的深入应用和产业数字化转型的快速推进,电商发展呈现出新形态新模式,直播电商、短视频电商、社交电商、内容电商、兴趣电商等为代表的消费新电商孕育兴起、加速发展,持续满足消费者多元化、个性化、定制化的产品需求,成为凝聚消费潜力、优化供应能力、推动数实融合、促进供需互动的新途径。


特别是当群体的消费观渐趋理性,深谙“用户需要什么”和“用户喜欢什么”,以用户为中心,精准地推出相应服务,才是决定电商企业成败的“胜负手”。


在这一背景下,数据分析的重要性愈发凸显。通过对用户行为、销售数据、市场趋势等方面的深入分析,电商企业能够更好地了解客户需求,优化产品推荐和广告投放策略,提升运营效率。此外,数据分析还可以帮助企业识别市场机会和潜在风险,制定差异化的营销策略,从而在激烈的市场竞争中保持优势。简言之,数据分析不仅是电商行业实现智能化和个性化运营的关键,也是企业做出明智决策、提升整体效益的核心驱动力。


用户导向的电商精细化运营时代,作为专注于国内电商与跨境电商行业的解决方案 SaaS 服务商,心诺安(Sunoan)正在帮助其客户充分整合并利用自身数据资源,实现高效的数据管理和业务流程优化。


一、面对电商客户的报表查询需求,新增定制独立于核心服务 ERP 系统外的数仓项目


作为甲骨文云 ERP Netsuite 中国区合作伙伴,心诺安由拥有15年以上 ERP 实施经验,8年以上跨境电商项目经验的行业专家创立于 2018 年,专注为跨境电商,外贸,新零售行客户提供业财一体解决方案。在服务巨星科技、乐歌等一批出海企业和前 50 强及国内外电商客户的过程中,获广泛好评。


2.PNG

电商客户提出需要“报表”功能


面临日益激烈的市场竞争和复杂的运营环境,电商客户出于数据驱动决策的需求,希望心诺安能够在原本的 ERP 解决方案的基础上,补充报表查询分析的能力,从而更准确地了解自身运营状况,及时从中发现问题并调整策略,例如:

  • 数据分析和决策支持:通过报表,能够更直观地看到销售、库存和利润等关键业务数据,做出更明智的商业决策。

  • 提高运营效率:报表能展示实时和历史数据,帮助识别并解决运营中的问题,如库存周转、订单处理等。

  • 合规性和审计:财务报表和运营报表可以确保企业符合相关法规和标准,并为审计提供必要的数据支持。

  • 客户和管理层透明度:关乎业务运营的透明度,便于向客户和内部管理层展示企业绩效和关键指标。

  • 成本控制:通过报表分析企业的各项开支和成本,帮助企业发现并优化成本结构,提升利润率。

方案对比:一站式大数据 BI 平台 vs 数仓+BI 工具


事实上,在此之前,部分电商企业客户也曾尝试过利用一些一站式大数据 BI 平台(如帆软)来满足自身的报表查询与分析的需求。但类似这样集众多功能为一体的“一站式”解决方案,无论是优点还是限制都很明显:


优点:

  • 集成度高:帆软平台提供从数据采集、存储、处理到展示的一站式解决方案,减少了系统集成的复杂性。

  • 全面功能:涵盖数据治理、数据分析、报表制作、可视化展示等全方位功能,满足企业多样化需求。

  • 统一管理:集中管理所有数据相关任务,简化运维和管理工作。

缺点:

  • 成本高:一站式平台通常费用较高,对于中小型企业来说,投入较大。

  • 灵活性不足:由于高度集成,系统的灵活性和定制化能力可能不如独立工具组合。

  • 学习曲线:系统复杂度高,可能需要较长的学习和适应时间。

但重要的是,在报表方能力上,比起“大而全”,电商客户更想要更具成本优势的“小而轻”。基于此,心诺安在其核心产品 ERP 系统之外,新建起独立的数仓项目,以“数仓+BI 工具”的组合形式,为电商客户提供了更灵活的方案选择,新方案特点如下:

  • 灵活性高:可以根据具体需求选择与需求最匹配的数据仓库和 BI 工具,实现最优组合。

  • 成本控制:可以选择性价比更高的组件,优化投入成本。

  • 独立扩展:各组件独立运行,可以根据需求进行独立升级和扩展,灵活应对业务变化。

这恰恰与电商客户简化 BI 方案的需求吻合。因此,心诺安着手落地该报表能力。在此之前,还需要完成数仓底座、BI 工具,以及同样非常关键的用于“连接”系统与数仓、数仓与 BI 系统的数据同步工具。


通过选择灵活且性价比高的数仓和 BI 工具组合,心诺安能够为客户提供高效、可扩展的报表解决方案,实现数据的无缝集成和实时分析,从而满足电商客户的多样化需求。


二、方案与选型:更加注重成本控制的现代数据栈思维


心诺安的数据特点:

① 非数据最终消费者:最终目的是为下游的电商客户提供报表查询与分析的能力,例如供财务部门查询利润率报表;供销售部门查询每日销售额报表;供库存管理部门查询库存周转报表等。

② 覆盖系统多样:库存、订单、物流、单据、BI 等多个内外部系统数据需要集成并沉淀到数仓进行渲染

③ 数据类型不一:数据源 MySQL 云数据库,数仓底座为 ClickHouse,异构数据库数据同步压力大


基于现代数据栈“各司其职”,灵活组合相对小而轻的工具处理大而难的问题的解题思路,心诺安的报表方案包含以下三个轻量化组件:


① 数仓底座:ClickHouse


考虑到报表所需展现的客户业务数据均存储于 MySQL 数据库中,且数仓项目本质为心诺安主业务基础上的延展系统,仅用于分析和报表生成,而非直接存储主要业务数据,ClickHouse 优先被选择,其适配度综合表现如下:

  • 高效查询性能:ClickHouse 作为分析数据库,具备快速检索和查询数据的能力,适合进行大规模数据分析。

  • 语法兼容:ClickHouse 的语法和知识层面支持 MySQL,使得系统扩展和集成更加方便。

  • 资源利用率:ClickHouse 的设计使其能够高效利用硬件资源,包括 CPU 和内存。这使得它在同等硬件条件下,往往能够提供更高的性能和更低的资源占用。

  • 轻量的部署和维护:与一些传统的数据库系统相比,ClickHouse 的部署和维护相对简单。它具有良好的可扩展性,可以根据需要水平扩展集群,从而适应数据量和查询量的增长。

  • 无锁设计:ClickHouse 采用无锁设计,这意味着即使在高并发情况下,它也能够保持良好的性能和稳定性。

  • 成本效益:相比其他重型方案,ClickHouse 在性能和成本上提供了更好的平衡,更有利于成本控制。

② BI 工具:PowerBI


连接数仓项目之后,该方案下的 BI 工具仅需承担渲染并展示报表的工作。因此,比起集成数据集成、分析能力于一体的大型解决方案,PowerBI 这样的小型工具足以满足需求,其适配度综合表现如下:

  • 成本优势:PowerBI 订阅简单且价格较低,性价比更高。

  • 易于管理:PowerBI 操作简单,界面友好,适合非技术用户快速上手和管理。

  • 灵活性:能够生成交互式报表和仪表盘,满足企业的数据可视化和分析需求。

③ 数据同步工具:一站式数据治理和分析平台 vs TapData Cloud

技术场景:

  • 数据源:MySQL 云数据库

  • 数据目标:基于 ClickHouse 的数仓

  • 需求:异构数据库间的【全量+增量】同步

为了解决数据同步难题,心诺安技术团队首先关注到像是数据谷这样的一站式数据治理和分析平台,但同样的,这类平台虽然功能全面,但对于需要灵活和轻量化解决方案的企业来说显得过于“重型”。这些平台往往伴随着高昂的成本和复杂的集成过程,这无疑与心诺安想要为客户提供更高性价比解决方案的初衷相悖。


因此,心诺安转而选择 TapData Cloud 作为数据同步这一环的组件。作为一款以低延迟数据移动为核心优势的数据集成工具,TapData Cloud 支持在 MySQL 云数据库和基于 ClickHouse 的数仓之间实现全量+增量的实时数据同步,相较于一站式平台相比具有以下优势:

  • 高效数据同步:TapData Cloud 以异构数据库间的数据同步能力见长,能够确保数据在各系统间的实时性和一致性,满足企业对数据同步高效和可靠性的需求。

  • 用户友好:提供图形化界面和简单易用的配置工具,降低了使用门槛,支持拖拉拽低代码操作,无需大量开发。

  • 灵活性:支持多种数据源和目标系统,能够根据业务需求进行灵活配置和组合,极大地提高了系统的适应性和扩展性。

  • 成本控制:提供高性价比的解决方案,避免了一站式平台高昂的初始投资和维护成本,使得心诺安可以在控制预算的同时满足业务需求。

  • 简化集成:TapData Cloud 简化了系统与数仓、数仓与 BI 工具之间的数据同步过程,减少了手动操作和潜在错误,降低了运维复杂性。

  • 扩展性强:可以与各种 BI 工具(如 PowerBI)无缝集成,实现数据的可视化和分析,进一步提升了数据利用价值。

通过选择 TapData Cloud,心诺安不仅能够实现高效、可靠的数据同步,还能够灵活应对业务变化,提供更具成本效益的数据管理解决方案,充分体现了现代数据栈思路下的实践成果。


综上,ClickHouse + TapData Cloud + PowerBI 得到的报表查询与分析方案,通过将不同工具的最佳功能结合起来,确保每个环节都能高效运作,同时满足电商客户的特定需求。


三、ClickHouse + TapData Cloud + PowerBI:心诺安为电商客户提供高效、灵活的报表能力


经过将近一年的运转,以 ClickHouse 为数仓底座、TapData Cloud 为数据同步组件、PowerBI 为报表渲染与展示工具的 BI 方案在心诺安的业务实践中得到了充分的可行性验证。

3.jpg


如上图所示,方案架构可描述为:


① 数据收集层

通过连接心诺安的 ERP 系统,获取电商企业的财务、库存、销售等源系统业务数据:

  • 库存:管理和跟踪库存水平,提供库存数据

  • 订单:处理和记录客户订单信息

  • 物流:跟踪和管理物流信息

  • 单据:处理和存储各类业务单据数据

  • 电商平台:整合电商平台等第三方平台的订单和销售数据

  • 产品数据:管理产品信息和属性

  • 供应商数据:管理供应商信息和交易记录

  • ……

② 数据存储层

这些业务数据的镜像,都会经由 TapData Cloud 数据管道,实时捕获、传输并存储到数据仓库的 ClickHouse 中。在这个过程中,TapData Cloud 将对数据进行预处理,包括数据清洗、去重和标准化。这些步骤确保了数据的一致性和准确性,为后续的数据分析奠定了坚实的基础。


③ 数据处理层

接下来,将由数仓发挥其强大的分析和管理能力,对这些数据进行深入挖掘和利用,助力企业实现数据驱动决策和精细化管理。在这里,借助 ClickHouse 数据仓库的高性能查询能力,能够快速处理和分析集成到的业务数据,实现实时数据查询和分析。同时,ClickHouse 的高效性能和可扩展性将确保数据处理系统能够随业务的扩展而灵活调整,满足不断变化的需求。


④ 数据展示层

在数据仓库层之上,引入 PowerBI 作为数据可视化和业务智能工具。通过 PowerBI,能够将从 ClickHouse 中提取的数据转化为直观的图表和仪表盘,提供实时的业务洞察。


这样的架构设计充分利用了 ClickHouse 和 PowerBI 的优势,发挥了 TapData Cloud 的关键连接作用,实现了从数据收集、存储、处理到可视化展示的完整数据流,确保了业务数据的高效管理和利用。


体验反馈


1. 明确的 MySQL → ClickHouse 异构数据库全量+增量能力支持


TapData 内置 100+ 数据连接器,明确支持 MySQL 到 ClickHouse 间的全增量同步,且部署、配置简单,运行稳定。数据同步方案灵活,适用于多种需求场景。


2. 学习曲线简单,轻量易上手

作为一种轻量级的数据同步解决方案,设计简洁,用户友好,拖拉拽的可视化模式非常简单清晰,适合快速部署和使用。其直观的界面和易于理解的操作流程,方便快速掌握和操作,减少了学习时间和培训成本。


3. 云原生

基于云架构,对云源库更友好。无需复杂的本地部署和维护,支持弹性扩展和高可用性。


4. 更高的成本效益

与经典的大型云平台相比,TapData Cloud 在构建数仓时具有显著的成本优势,无需昂贵的硬件和专业运维团队,有效降低了基础设施和维护费用。在类似的数仓实践中,能节省不低于 50~75% 的成本,在控制预算的同时实现高效的数据管理。


总结

心诺安通过结合 ClickHouse、TapData Cloud 和 PowerBI,打造了一套高效、灵活的 BI 方案,充分满足电商企业客户对报表功能的需求,助力企业更好地实现以用户为中心的运营策略,加速精细化运营节奏。


其中,TapData Cloud 的轻量易上手、学习曲线简单、云原生和灵活性优势,使数据同步变得简单高效。未来,TapData 还将持续挖掘数据集成及现代数据栈思路在电子商务领域的实用性价值,为行业提供更多运营灵感。


>>> 更深入的实时数据技术讲解,欢迎关注今晚 19:00 的 TapData · 爱分析联合活动。

想要了解更多云上数仓的实现细节,或是有类似的数据集成需求,欢迎联系我们获取详细架构等信息(tj@tapdata.io)


采用 Tapdata 实时数据平台解决方案有哪些优势?

  • 广泛的数据源和目标支持:内置 100+ 数据连接器,稳定的实时采集和传输能力

  • 学习成本低,轻量易上手:开箱即用与低代码可视化操作,支持数据模型预览,无需专业的编程能力,即可完成复杂的数据集成和开发。

  • 更实时,更高效:兼具秒级响应的数据实时计算能力,以及稳定易用的数据实时服务能力

  • 支持数据、任务分类:可根据不同项目自定义标签,方便快速筛选查找,有助于对跨部门协同管理及后续维护

  • 支持平台级数据校验:有效保障数据一致性

  • 可视化任务运行监控和告警:20+ 可观测性指标,实时监测任务最新状态

【相关阅读】

推荐阅读