朗新科技林海潮:企业应用的云上架构演变

2016云栖大会上海峰会于2016.1.20日在上海科技馆顺利举办。本文是根据朗新科技首席架构师林海潮在2016云栖大会上海峰会《互联网+架构及实践专场》的演讲中分享内容整理而成,林海潮分享了传统行业在使用云架构时采用的技术和一些心得收获。

 

下面是演讲内容整理。

 

业务场景及挑战

 

从13年的费控到双向电表,传统的电力行业正向互联网转型,目前采用的方式是以一个小时为基准,对整体数据处理,整体流程为:根据测算规则从采集主站获取抄表数据进行电费测算和与用户实时缴费信息进行比较计算剩余电费,通过剩余电费和基准比较,应用费控策略,开展预警、停电或复电控制等业务。

其计算流程图如下:

图1 数据计算流程

在数据贮备到电费测算再到数据回写的整个过程的关键指标有两个:一是千万级别数据量计算与性能需求呈线性增长;二是数以百万计的高并发实时查询以及其他异构平台的接入。

传统的企业系统多采用IOE架构,核心逻辑在数据库中实现,数据库是系统最为关键的部分。其处理方式基本是从客户端到应用中间件集群再到数据库叠加的SQL+存储过程;架构的存储横向扩展能力和实时快速处理能力不足;并且数据库多采用Oracle RAC,导致其扩展性有限,采用的国外的小型机服务器进一步增加成本。传统企业架构进行优化面临以下四个挑战:

(1)去中心化,将集中系统拆分成不同的节点,每个节点独有的开放性、完整法、独立性;

(2)实时处理,接收到数据后实时响应计算,一个小时完成三千万计算;

(3)高并发,数以百万计的实时查询;

(4)高可用,在高并发的情况下保持每个计算问题完整且平稳。

 

应对机制

针对上文中的不同挑战,提出不同的解决方案。


微应用,以阿里云平台为基础,依托云平台的扩展能力和服务体系,针对整体业务特点进行细小化的功能部署,保证微应用针对独立的业务。与偏向小颗粒度和较少代码的微服务相比,微应用偏向于业务应用逻辑以及对内部相互依赖或者关联度较高的业务继承,是组件化与服务化结合。

 

图2 微应用开发简图

如上图所示,微应用开发过程首先把系统中业务功能组件化和服务化,然后将微应用整合到云平台形成统一的服务管理。在整体的服务化过程中,业务拆分时需要对业务进行梳理。整体业务流程繁多,从代码服务的角度考虑把耦合度降低,无须细分颗粒度相互之间的耦合度。微应用是将原业务应有场景切分成许多不同的小的服务,每个服务具有自身的特性,单个服务可以直接部署在系统中,单点故障不会影响整体系统的能力,提高系统的可用性。与传统的大型管理系统相比,微应用的形态呈现出功能少体积轻,能够快速交付和敏捷响应需求变化。

图3 多维度分表分库方式


分表分库,微应用提交数据交互内容时,正常的维度是以Hash和时间做分表分库,也可以从业务特色和业务特点进行拆分。原则上遵循两种方式:第一种,基于较大的表拆分到不同的小表,根据不同业务属性和业务关联程度分到不同的库;第二种,小表拆分的方式,现实中会产生大量小表如配置表、基础信息表,虽然这类表量不大,但是许多操作需要频繁的查询调用。此类情况应将小表以广播的方式同步复制到各个库当中,解决配置表、微量表访问比较频繁的问题。

图4 消息事件驱动过程


事件驱动,每个微应用即是消息的生产者也是消费者。在整体微应用的调度中,通过ONS来驱动整体业务的串联。整体的数据是经过一小时左右的时延的数据,微应用集群和分布式消息集群在配置中心和协同组件的控制下进行数据交互。微应用间的交互通过消息时间驱动,在应用解耦的同时,满足应用扩展以及实时性的要求。

图5基于大数据平台的数据分析流程


大数据,相对互联网企业而言,实际上用到的大数据并不是很多。系统跟外部关联特别多,单独专注于某一特定模块具有较大的局限性。所以系统要与短信系统、产业系统相连接,仅专注于中间层是不行的。上图是基于大数据技术对档案及电费数据分析处理的过程:数据库中,对动态数据进行全量同步和增量同步,生成与之对应的全量库和增量库,再通过ELT整合成统一库进行业务调度,然后计算引擎完成整体数据离线清洗、计算,再将同步库数据返回到整体业务数据库。在这里,统一库和同步库没有太大的差异,只是逻辑定义不同。通过整体思想,定义业务访问数量标准和规则,统一化数据的存储和使用方式。

图6 弹性扩展架构


弹性扩展,整体依托阿里云的基础上,全面提升数据库层面和应用层面的的弹性扩展能力。数据库层面弹性扩展,采用数据路由方式,不同数据节点调用方式各异。整体应用层的弹性扩展,采用的阿里云对服务治理来解决服务调用的过程,微应用通过长连接到注册中心进行注册,在微应用调用方订阅注册中心的前提下,注册中心同样以长连接的方式通知不同的微应用调用方,微应用调用方直接调用提供方所提供的微应用,同时监控中心以短连接的方式对微应用进行监控,微应用提供方也可进行弹性扩展增加新的微应用。

 

基于阿里云的架构优化


图7 基于阿里云的架构优化

上图是基于阿里云的架构优化,正中间是集群,将传统服务拆成很多微服务。从营销系统将用户档案、电价参数等数据同步到费控数据库集群中,DTS负责数据传输,监听DRDS集群中数据变更的内容,并将变更的内容放到整体的集群里。在ONS集群中为了保证整体应用的协同,应定义出相应的消息包括测算通知消息、档案变动消息等。接下来把数据准备和数据分析传到ODPS集群中,ODPS集群把相应数据整体推送给采集系统,然后采集系统将消息推送到数据采集终端,发送到不同用户的电表上进行停电或者复电操作。

 

面向企业应用

任何技术的进步无外乎两种驱动力:第一是社会进步发展的驱动;第二更多是个人用户对应用差异性体验驱动。

图8 基于阿里云平台的企业云应用开发平台

企业应用本身的具有相当多的特点,如统一资源、数据打通、统一打包、快速开发、降低成本、节能环保等等。因此整个应用开发过程中不免存在相当多的问题,如Case随着时间的推移不断的简化;原业务积累整体的可复用性等等问题。对于公共行业的业务,在整体服务化、组件化的过程中,企业可依托阿里云平台的技术,结合本行业的流程构建整体快速开发的平台。同时在快速开发平台中也可以引申到平台设计、服务组建复用以及整体数据分析上再构,通过定制化软件,降低成本。

传统的行业在面向企业应用时同样做出了很多努力,包括整体资源统一、数据打通、以及面向定制化产品快速的开发。对用户层,随着海量数据处理的实现,成本逐渐降低。通过阿里云平台,企业可以实现从整体服务到整体业务应用服务再到整体的组建化、服务化的过程。

 

所遇到的困难

做整体的过程中,遇到相当多的问题。

首先,从习惯的ROE的方式转移到整体层面,整个技术转型存在很大的挑战。以前将目光聚焦在数据层、数据库,每日AWR出来分析性能优化,方向不太正确。现在对系统的整体架构进行优化后,仅从现场运维服务角度来看,现有系统相比原系统体验提升很多。


2016云栖大会上海峰会回顾专题(含演讲视频):http://yunqi.aliyun.com/2015/shanghai/review.html

时间: 2024-10-26 23:09:44

朗新科技林海潮:企业应用的云上架构演变的相关文章

阿里云面向企业效率的云上产品全解析——云桌面

重新定义云计算时代的桌面服务 2017年10月12日的杭州云栖大会上,阿里云副总裁李津做了"云之深处"的阿里云新品发布主题演讲,在演讲中,李津认为在数字化时代,商业的效率将指数级提升,而智能技术的发展,也将给企业与客户的交互带来巨大的变化,为了帮助企业在数据化时代领跑商业前沿,阿里云推出了面向企业效率的云上产品栈,云桌面,就是其中的一个重要产品. 阿里云桌面是部署在公有云上的桌面系统,用户可以用多种设备登陆云端的PC桌面,实现云端办公.同时云桌面解决了管理.部署.运维.资源弹性.高可用

阿里云面向企业效率的云上产品全解析——云呼叫中心

日前,在"2017杭州·云栖大会"上,阿里云副总裁李津做了"云之深处"的阿里云新品发布主题演讲,在演讲中,李津认为在数字化时代,商业的效率将指数级提升,而智能技术的发展,也将给企业与客户的交互带来巨大的变化,为了帮助企业在数据化时代领跑商业前沿,阿里云推出了面向企业效率的云上产品栈,云呼叫中心,就是其中的一个重要产品. 在阿里云呼叫中心,企业可以使用呼叫中心进行呼入呼出,例如通过语音服务客户,电话销售,客户回访等场景.配备了交互式语音响应(IVR),自动呼叫分配(A

阿里云面向企业效率的云上产品全解析——云AP

可靠与划算并重,稳定与智慧的化身 2017年10月12日的杭州云栖大会上,阿里云副总裁李津做了"云之深处"的阿里云新品发布主题演讲,在演讲中,李津认为在数字化时代,商业的效率将指数级提升,而智能技术的发展,也将给企业与客户的交互带来巨大的变化,为了帮助企业在数据化时代领跑商业前沿,阿里云推出了面向企业效率的云上产品栈,云AP,就是其中的一个重要产品. 阿里AP是基于云和大数据平台整合的新一代具有颠覆性意义的无线网络体系产品,产品面涵盖了企业级 Wi-Fi 管理.大数据服务等内容,是第三

阿里云面向企业效率的云上产品全解析——云投屏

云上会议,省时高效 2017年10月12日的杭州云栖大会上,阿里云副总裁李津做了"云之深处"的阿里云新品发布主题演讲,在演讲中,李津认为在数字化时代,商业的效率将指数级提升,而智能技术的发展,也将给企业与客户的交互带来巨大的变化,为了帮助企业在数据化时代领跑商业前沿,阿里云推出了面向企业效率的云上产品栈,云投屏,就是其中的一个重要产品,是全球唯一一款实现投双屏的产品. 对于现代商业来说,协同比以往任何时候都来的重要.而会议是协同中最主要,也是最最频繁沟通形式.企业员工特别是高层员工在每

Amdocs收购朗新科技(5000万美元;100%股权)

2005年6月,英国安石(Amdocs)投资管理公司5000万美元收购朗新信息科技有限公司100%股权. 朗新信息科技是一家面向电信和电力行业的关键业务提供支持系统的软件和服务提供商.1996年,朗新公司在北京成立.凭借强大的实力与优秀的业绩,朗新迅猛发展.到2005年6月,朗新已经拥有香港.杭州.厦门.武汉.天津.广州.沈阳和成都等多家分公司和办事处,拥有员工1000多人.

佰腾科技的专利大数据的云上裂变之路

江苏佰腾科技有限公司是一家从事专利信息应用.专利咨询服务的企业,是国内知名的知识产权服务公司,以佰腾网和专利巴巴为网络平台,面向国内外用户提供知识产权.科技创新整体解决方案.2014年起,公司积极推进互联网转型,实施"互联网+专利"计划,开发了国内首家专利电商平台-专利巴巴,通过专利巴巴项目的实施,使公司转型为知识产权领域内的互联网公司,并采用B2B.O2O线上线下相结合的模式为客户提供全方位的.全流程的知识产权一体化服务. 用互联网的思维和技术来改造传统的知识产权行业,在这个过程中,

虎嗅:四年覆盖9成互联网企业中高层的网站架构演变

直播视频:                                                                                 (点击图片观看)  幻灯片下载地址:https://oss-cn-hangzhou.aliyuncs.com/yqfiles/638c6edabb06d539f82d34539613ecaf.pdf                                                         虎嗅网架构演进

韵达:首家物流云企业的大规模云上调度实践

本文正在参加"最佳上云实践"评选,来给我们投票吧:https://yq.aliyun.com/activity/158(编号3) 在2015年12月29日,菜鸟推出了中国首个物流云平台,韵达成为首家战略合作伙伴,也是国内首家业务系统全面上云的快递企业. 所谓物流云,是一个基于云计算的物流基础信息服务平台,它能提供安全稳定的云设施环境,帮助快递企业和物流订单涉及所有链路成员建立连接.沉淀大数据,并在此基础上提供多样化的智能产品. 上云过程 下图是韵达上物流云的整个进度. 刚开始讨论是否上

【Hadoop Summit Tokyo 2016】企业已经对于云上Hadoop集群做好了准备

本讲义出自Hemanth Yamijala在Hadoop Summit Tokyo 2016上的演讲,主要介绍了Hortonworks云数据平台以及其架构设计,并分享了Hortonworks如何帮助企业做好云数据存储的准备,以及如何帮助企业进行数据治理以及对于数据的可靠性和容错性进行保障.