熊猫直播:大视频数据业务的云上历程

在海量数据的大视频行业,如何满足大数据需求?12月20日举办的北京云栖大会“企业云上业务优化”分论坛上,熊猫直播大数据技术专家卢圣刚,分享了熊猫直播不断优化云上资源,建立起灵活配置、高扩展性、易于运维的云上架构的宝贵经验。

作为知名泛娱乐直播平台,熊猫直播涵盖游戏、娱乐、综艺、户外、体育等多种泛娱乐直播内容。在身处大视频时代的当下,熊猫直播代表了众多大视频企业的大数据需求:面对分散在MySQL、Redis、MongoDB之中的数据源头,需要实现统一的数据存储;面对不同的业务场景和高速的业务发展,需要实现灵活的横向扩展——不仅能灵活添加开源组建,还需要能快速增加计算节点。

作为高速发展的直播平台,熊猫直播数据纬度多、数据量巨大——累计已经达到PB级,仅仅每天新增的就有几十T。就离线计算的数据量看,每天几百个日常计算任务,以及大量的临时查询需求。

为了满足这样的大数据需求,卢圣刚分享了熊猫直播从Fluentd + ODPS、到Flume + Ambari、再到Flume + EMR的架构演进历程。

阿里云EMR——Elastic MapReduce(E-MapReduce),是基于阿里云ECS之上半托管开源大数据软件栈。

卢圣刚分享了选择EMR的原因:“EMR的弹性动态伸缩,能够帮助熊猫直播直线快捷的扩容、缩容EMR Hadoop集群,灵活、快速部署开源大数据服务(HBase、Kafka、Impala,Flink等),还具备数据存储成本低的优势。”

卢圣刚还特别了强调运维机制对于选择EMR的关键作用。阿里云企业服务对熊猫直播给予7*24小时钉钉群支持,快速解决集群使用问题。阿里云服务的支撑保障,使熊猫直播能够减少运维工作,更专注于业务。

未来,熊猫直播会将依托阿里云,继续深耕大视频数据业务,满足大视频时代不断演进的大数据需求。

了解更多请微博关注阿里云客户满意中心

时间: 2024-09-20 00:55:31

熊猫直播:大视频数据业务的云上历程的相关文章

兰州市大数据局 加快“云上兰州、数据城市”建设

记者从兰州市大数据局获悉,自"治转提"专项行动开展以来,市大数据局党组认真研究.精心安排.全力推进,开展专项行动与贯彻市第十三次党代会精神相结合,与落实政府工作报告相结合,与做好大数据各项工作相结合,以作风大转变.效能大提升加快"云上兰州.数据城市"建设,为全市经济社会跨越发展提供有力支撑. 该局将作风建设的成效体现在加快大数据发展的实际工作中,加强政务信息资源跨部门.跨层级互通和协同共享,发挥信息共享支撑多部门协同服务的作用,在完成37家单位数据资源整合入库和21

大视频时代的加速度——云风速

人类正在从信息时代跑步进入DT时代.近日,第三届中国网络视听大会在成都举行.大用户.大融合.大数据.大生态,也许重新定义了视听服务,也加速了大视频时代的到来.本次大会的主题是大视频时代的创新与变革. 在早前举行的第三届中国网络视听大会启动新闻发布会上,国家新闻出版广电总局网络司司长罗建辉指出,近几年来,在国家相关政策的推动.社会各界的支持和业界的共同努力下,我国网络视听业呈现蓬勃发展的良好局面,网络视听行业正成为中国互联网领域生态最丰盈.活力最丰沛的一支力量,成为互联网领域主要应用之一.据统计,

大数据时代:“云”上的隐私,会满天飞吗

家住北京市昌平区的侯先生是个"手机控",出门靠网上约车.饿了手机上叫外卖.买火车票飞机票APP搞定--虽然这些手机应用给他的生活带来不少便利,但是他还是有些顾虑--我的位置.住址.手机号码.家庭成员等个人隐私平台上都有,会不会被非法利用? 大数据时代下,个体用户很难对抗个人隐私被暴露的风险,隐私保护比以往任何时候都更加重要.我们该如何保护个人隐私安全,如何合理安全利用大数据?最近召开的2016中国大数据产业峰会,专门设置了"数据安全与个人隐私保护""中国大

中移动将以事业部运作数据业务

作 者:梁辰 由于"梦网模式"面临着自身数据业务涉及环节多.业务流程复杂,并且与其他竞争对手的业务同质化等问题,改革势在必行. 3月25日,有消息称,中国移动将重组旗下数据业务支撑公司卓望集团,将其下属的子公司全部改为事业部,并将整理旗下相互重叠的业务.此后数天,又有消息传出,两周之内中国移动将确定最终重组方案,也即4月上旬,变动就可能敲定.如果上述消息属实,此举将是这个中移动数据业务支撑机构自成立11年来的最大改革. 梦网模式已不适应发展需求 有业内专家称,在2000年"梦

天翼数据业务以创新提升互联网手机价值

天翼数据业务以创新提升互联网手机价值 ■本报记者 林琳 天翼数据业务近日再次 发力,"三屏互动"这一新名词的出现将进一步提升消费者对数据业务的体验与感知,丰富天翼产品体系的数据业务内容.从差异化竞争来看,数据业务无疑是3G的杀手锏,也是用户切身体验与感知3G与2G区别的关键,因此运营商的数据业务发展能力是消费者选择的重要考量之一. 近日,中国电信视讯运营中心在上海正式成立挂牌,"天翼视讯"客户端产品也同时向中国电信全国用户提供服务.只要是天翼3G的用户,就可以利用天

PgSQL · 最佳实践 · 云上的数据迁移

title: PgSQL · 最佳实践 · 云上的数据迁移 author: 义从 背景 大多数使用云产品作为 IT 解决方案的客户同时使用多款云产品是一个普遍现象. 用户在多款云产品之间转移数据成为一个基础的需求. 例如 1. 用户把线下机房中的 Oracle 数据库中的数据 迁移到云上 RDS PPAS 中. 2. 使用 RDS MYSQL 做为数据库支撑交易型业务场景,同时使用 HybridDB for PostgreSQL 作数据仓库解决方案. 3. 把 ODPS 中的大量数据导入到 Hy

云上技术架构和业务架构的进化之路——阿里云Serverless的解决方案

本文PPT来自高级专家承宗于10月16日在2016年杭州云栖大会上发表的<云上技术架构和业务架构的进化之路--阿里云Serverless的解决方案>. 目前软件开发规模日趋庞大,在软件研发与运维经常会遇到许多挑战.这些挑战主要包括六点:1.随着新旧业务一起发展,老的软件架构越来越复杂,软件与硬件的管理运维复杂度指数增长 2.为应用增加新功能的周期越来越长 3.复杂的业务模式下,硬件采购的估算成为世界难题,拍脑袋成为常态 4.老的硬件和软件需要被淘汰,业务永续出现巨大风险 5.系统架构中由于各种

用大数据解决“痛点”问题 “云上贵州”再发力

贵州省日前召开大数据战略行动推进大会,坚定不移实施大数据战略行动,加快建设国家大数据综合试验区,引领和推动贵州省经济社会更好更快发展. 2014年,贵州省实施大数据战略行动以来,进一步增强实施大数据战略行动的责任感和紧迫感,认清面临的差距和压力,加快补齐短板.做强长板,不断推进大数据产业发展,走在了全国前列. 贵州省委书记陈敏尔认为,要适应大数据融合发展趋势,坚持以应用为中心,充分挖掘大数据商用.政用.民用价值.要以大数据引领经济转型升级,把大数据作为实施创新驱动发展战略的重要支撑.加强供给侧结

从传统架构到云上数据,发生了哪些转变

 [51CTO.com原创稿件]在数据时代的今天,如何部署企业的大数据平台,充分挖掘数据.分析数据.发挥数据价值,成为摆在企业面前的重要难题.面对爆炸式增长的数据,传统的数据分析平台存在着诸多的问题,已经不能满足需求,借助云计算实现的云上数据分析平台,就能够非常灵活.轻松的实现企业的各种数据分析需求,并能够有效控制成本.这里,笔者就与大家简单的聊一下从传统架构到云上数据,到底发生了哪些转变. 首先,来分析一下传统数据分析平台存在的各种问题. 传统大数据分析平台面临的主要挑战 一)多租户支持.从H