阿里流计算平台开发实例之电商双11实时计算

  由于之前没写过博客之类的文章,所以这次写也是心中揣揣,也是由于这个项目间没有找到相关的一些文档,当时就想着完成后写一个出来,如果有写的不周到的地方,请联系我改正,谢谢。

一、 项目案例
用户商业模式含盖电商零售与加盟店批发零售,本次主要业务需求在于淘宝双11期间能实时计算用户所关注的一些指标数据,如:订单数、订单金额、商品SKU数、订单来源地、商品排名等等。
基于这些指标需求,除了要达到实时的要求以外,还需要具备适当的展现图设计,本次使用的是阿里云的DATAV,提供饼状图占比分析、商品与类目数据排名、国家地图热力展示等等。
二、 技术架构
由于用户的数据在云下,我们考虑的首先是迁移数据上云,再通过DTS将数据同步至DATAHUB,接着使用阿里流计算开发平台接入DATAHUB数据,并开发流计算代码,将执行结果输出至RDS MYSQL,最后DATAV引用RDS数据并开发图形展现界面。最终设计的技术架构如下图所示:

图:流计算数据逻辑设计图

三、 技术实现
1、 数据迁移与数据同步:由于数据不能直接到DataHub,使用阿里云DTS工具先完成数据迁移至RDS,链接:https://dts.console.aliyun.com/ 。再使用其数据同步功能,将RDS数据同步至DataHub(注:RDS收费可包月、DTS收费按小时)。在数据同步环节需要注意,根据企业数据量的大小,调整数据传输的通道大小。另外DataHub会自动创建对应同步的表的Topic,所以不需要在同步前自建Topic,建了会报错。(注意系统生成的Topic与自建的有哪些不同)
2、 StreamComputer流计算开发:其开发方式和技术要求,相比传统的开源产品,要简单许多,而且流计算平台功能比较丰富,特别是监控系统。其链接地址是:https://stream.console.aliyun.com。
2.1、datahub业务表的引用:

注解说明:
a、 在流计算引擎中建一张表,该表的名称是什么,建议和DataHub上一致
b、 要引用到该表的哪些字段,建议不需要的字段不要引用
c、 系统自建的TOPIC,该字段纪录的是该行数据是更新还是插入还是删除
d、 流计算可以引用多种数据源,这里表明数据源类型
e、 固定写法
f、 DataHub上的项目名称
g、 DataHub上的topic名称
h、 DataHub默认保留三天内的业务数据,该时间指定流计算引擎从哪个时间点取数
2.2、维表的引用:

注解说明:
a、 该表的主键是什么,需要指定
b、 维表的固定写法,表明维表的更新时间(默认是多久?调整更新时间怎么弄?)。
注意该表的来源是rds,后面的连接方式和正常的MYSQL连接方式没什么区别。
2.3、数据输出表的写法和维表的写法基本一致,只是没有PERIOD FOR SYSTEM_TIME,要提前在RDS上建好即可。
2.4、应用脚本开发:将引用到的业务表与维表进行关联,将数据输出至目标表

注解说明:
a、和标准SQL没太大区别,主要就是维表的使用方式略有不同,不过也是固定写法,照抄就行。
注意:由于原始数据有插入、删除、更新三种动作,所以DataHub上也会有三种状态的数据,这就需要分别进行处理,否则数据会不准。
3、 DataV开发:此处省略,简单归纳即:托一个图形,写一个SQL。

四、项目预案
由于流计算可能存在的风险,我们考虑以传统的计算方式开发第二套方案,当流计算出故障时,能快速切换方案,保证数据基本能正常使用,可能延迟会大一些。
通过评估,由于数据量预计不会太大,考虑使用定时调存储过程的方式计算指标到第二套输出表上,再开发第二套报表,展现和第一套一致。设计图如下:

图:定期调任务刷数据
通过实际测试,大部份指标能在半分钟内甚至十秒内出来,所以这些延迟勉强可以接受。由于技术实现并不复杂,此处略过。
五、项目压测
为了保障数据爆发时,平台依然能稳定的工作,我们进行了相关的一些测试。首先模拟大量的数据产生,确认数据从本地库至RDS的同步时间,RDS至DATAHUB的时间,以及流计算所处理的时间。
通过多次的测验得出:当数据量持续比较大的情况下,数据会有一些延迟,性能瓶颈主要体现在RDS以及DTS同步至DATAHUB环节,其中后一步比较明显。而平台稳定性基本上是可以的,流计算的处理效率非常令人满意。

注:非常感谢这个项目期间阿里技术人员的大力协助!
时间: 2025-01-01 16:56:21

阿里流计算平台开发实例之电商双11实时计算的相关文章

一年一度的电商双11在消费者狂热中落下帷幕

一年一度的电商"双11"在消费者狂热中落下帷幕. 各大电商频频向媒体发来战报.来自阿里巴巴的数据显示,今年天猫"双11"成交额350亿:易迅网公布,促销8天下单金额突破10亿元.京东方面表示,截止到11日中午12点,订单量达到平日全天水平,网站流量是平日的2.5倍.苏宁方面表示,移动客户端销售同比增长了10倍-- 这场狂欢背后,折射出的电商格局的演变:一些电商公司风头正劲,希望从"双11"狂欢中占据一席之地: 另一些电商公司则在"双11

电商双11大减价惹众酒企不满,茅台欲依法维权

电商双11大减价惹众酒企不满,茅台欲依法维权11月7日消息,"双11"低价营销引发的传统酒企与电商的关系正在发生微妙的变化.昨日,包括茅台.郎酒在内的高端酒企 纷纷发布公告表示,明确与 诸多电商不存在合作关系,茅台还表示正通过相关部门依法维权.有分析 认为,酒企经营承压.品牌受损或是他们今年反对更加强烈的主因.对此事,业界既有力挺酒企,称低价破坏品牌,也有声音认为酒企应 顺势而为,从"双11"的狂欢中寻找酒业电商的出路.昨日,茅台.郎酒等酒企纷纷发布公告划清与诸多电

酒仙网等4家酒类电商“双11”亏损5000万以上

酒仙网等4家酒类电商"双11"亏损5000万,以上11月14日消息,双11表现良好的酒类电商至今并未公布具体销售数额.酒仙网至今仍未披露具体销售数额,但董事长郝鸿峰对媒体表示,酒仙网为促销付出了2000万元的代价,而酒仙网.1919.购酒网.中酒网四家电商双11期间 预计合计亏损5000万元以上.郝鸿峰表示,目前并没有具体的财务数据,但大约损失将近2000万元.虽然没有占到便宜,也没吃亏,付出的2000万促销费用对酒类行业的健康运行有帮助."价格战会影响电商与酒企之间的关系,

电商双11各有绝招 国美在线杀入战团

一年一度的网购盛会"双11"即将到来,日前,阿里提前公布了今年天猫双11全球化.无线化.平台化三大战略方向,京东随后宣布上线无线端拍拍微店,从移动端发起攻势,并打出"真·正·低"的口号,意在挑战天猫"双11"无线端的地位,不过值得关注的是,曾经在618以震撼低价一战成名的国美在线,近日也提前曝光了一系列颠覆性举措,更是打出了"'真'战'双11'"的口号,比价格.比品质.比物流--矛头似乎直指京东,继618之后,天猫.京东.国美

电商双11促销投诉爆棚

昨日,荔湾区逢源路申通物流公司营业店货物爆满.记者 高鹤涛 摄 网友吐槽"双十一":"没吹的那么便宜" 天猫一天或进账数亿成最大赢家"双十一"的狂热劲刚过,一张网上热传的照片就让许多网友担心自己的货物什么时候才能到手:广州逢源路上的申通快递包裹堆积成山甚至"破仓而出".然而,多家快递公司表示早有应对预案,网友也表示"快递速度正常". 与此同时,各种投诉.吐槽开始爆棚.尤其让许多网友难以接受的是,本来是想买便

广点通联合QQ空间引爆电商双11销售

3721.html">2014年全球移动广告市场经历了一次史无前例的"大跃进",移动互联网蕴藏的巨大商业价值吸引了广大移动电商的注意力,但在竞争激烈的移动营销大环境下,中小电商们的广告投放如何实现高效引流和转化? 根据研究机构BIA/Kelsey预测,2017年美国社交广告市场规模为110亿美元,40%将为原生广告.穿插在QQ好友动态中的广点通信息流广告是原生广告中非常重要的一种,基于QQ空间优质的流量以及广点通智能推荐技术,能帮助移动电商引流和转化,广点通信息流广告是

电商双11天量销售后遗症迸发

电商赖以生存的"价格战"模式开始显现弊端.记者昨日登录当当.库巴等多家电商网站发现,因过去的11月电商促销活动,产生的消费问题数量飙升.据统计,上月电商投诉超8000起,近半来自"双11"各网站的购物问题. 在刚刚过去的"双11"中,杰克·琼斯.骆驼户外和全友家居的天猫官方旗舰店凭借过亿元的销售额成为当日最大赢家,但其亿元狂欢后产生的后遗症却不尽如人意.据天猫商家信息显示,截至昨日记者发稿时,三家"双11"过亿元店铺退款率分别

汽车电商“双11”谁能成为“风口上的那头猪”

小米创始人雷军有一句名言:站在风口上,猪都可以飞起来.如今的汽车电商已然站在了风口上.这会是一个起飞的机会么?更为重要是,风停后将是怎样一番光景? 不同于2013年的汽车电商"只闻其声,不见其人",2014年的汽车电商在"双十一""网络购物狂欢节裹挟下,显得热闹异常.经济观察报记者通过整理得知,今年汽车之家"双十一"汽车电商销售订购总金额60.54亿元,相比去年出现成倍增长:天猫汽车和易车购车活动在经过持续几个月的发酵下,订单总量均超过

传统商家迎战电商“双11”促销

本来是多家电商巨头"无厘头"创造出的"双11"光棍节促销,由于去年的促销大获全胜,今年则引发各路传统家电连锁也全力迎战. 苏宁全部商品线上线下同价 传统家电零售巨头苏宁电器(002024,股吧)将联手旗下电商平台苏宁易购从11月8日起开始启动线上线下的联合促销,迎战各路电商促销.北京苏宁总经理侯恩龙介绍,此次北京地区的促销将囊括上万款主流畅销家电产品,让利规模近亿元.此前曾在通讯.电脑品类试水网上网下同价销售的北京苏宁此次将首次把同价策略推广至全品类产品,涵盖彩电.