大数据基础设施论坛:如何构建符合大数据时代的网络基础设施?

【CSDN现场报道】2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研、应用与产业发展为主旨的2014中国大数据技术大会(Big Data Technology Conference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕。

2014中国大数据技术大会第二日上午的大数据基础设施论坛上,Mellannox亚太区市场开发总监刘通、武汉绿色网络信息服务有限责任公司副总经理雷葆华、浪潮云产品部兼渠道推进部总经理王峰、百度基础架构部高级架构师 柴华和博科中国区技术总监 谷增云五位专家主要专注于网络层面的相关问题展开的演讲。

图:Mellannox亚太区市场开发总监刘通

Mellannox亚太区市场开发总监刘通带来了主题为“高速网络InfiniBand加速大数据应用”的演讲。他表示基础设施和上层的应用有着非常紧密的联系,软硬件结合才更有意义。在他看来,InfiniBand是一个完全自主且非常智能的二层网络,从诞生的那天其就是SDN的网络。

“高达56Gb/s的带宽(100G EDR InfiniBand也已问世)以及低于700纳秒的延迟为高速数据传输提供了保证。InfiniBand内置支持RDMA(远端内存直接访问)网络传输技术,提供内存零拷贝、内核旁路、协议卸载的优势,从而大幅下载网络通信对CPU资源的占用,这些优势是传统TCP/IP通信协议所不具备的。”他说道。

图:武汉绿色网络信息服务有限责任公司副总经理雷葆华

武汉绿色网络信息服务有限责任公司副总经理雷葆华发表主题为“大数据在网络服务中的应用及网络演进”的演讲。  他就网络运营中的大数据探索和大数据时代的智能化网络基础设施演进两个内容进行了阐述。他介绍了基于网络的大数据体系架构的三个层次:第一个是大数据海量数据采集及预处理;第二个是DMP数据管理平台汇聚了各省的数据资源,并进行安全去隐私化处理;第三个是合作伙伴可以利用运营商大数据平台的资源,进行数据的深入分析挖掘。

他认为IDC是互联网产业的基础战略资源,作为信息中枢,直接支撑整个互联网产业的发展。而大数据时代,网络演进发生了三个变化:1.不定向突发流量的挑战;2.云数据中心互联;3.云开数据中心内部组网支持云服务。归纳来说就是业务变化驱动网络架构的变化:1. 业务流量由纵向为主演进为横向为主;2. 大型异构化,更多的节点数跨数据中心;虚拟化:3. 同一物理服务器的虚拟机之间的通信、跨物理服务器的虚拟机通信时的虚拟机标识、虚拟机迁移。

图:浪潮云产品部兼渠道推进部总经理王峰

浪潮云产品部兼渠道推进部总经理王峰发表了主题为“开放融合的云数据中心”的演讲。过去的数据中心是为某一个应用做的,我们的数据中心的效率并不是非常高,然后提出了软件定义的计算和存储,他表示希望未来在信息领域做的所有东西都是可以软件定义的,所有的资源都可以被抽象化、池化 和自动化。

传统的数据中心架构,计算、存储和网络资源是彼此独立,不同应用更是要求不同的设备和网络,利用应用软件定义的数据中心能够简化IT应用基础架构,让其不再是整个云计算、大数据中最重的那一部分。最后,他总结了两点:1. SDDC将完全改变数据中心的设备形态、服务形式,甚至IT应用的开展方式;2. 在完全融合、池化、软件定义的数据中心到来之前,我们还有几个必经阶段。

图:百度基础架构部高级架构师 柴华

百度基础架构部高级架构师 柴华介绍了百度分布式计算平台。他先是介绍了百度MapReduce的发展历程:2004年MapReduce论文发表,2007年上线了基于Haddop的百度MR,2011年百度MR单集群规模达到5000台,2013年百度MR单集群达到13000台,2014年 百度DCE发布,DAG引擎上线。

演讲中,柴华重点介绍了百度分布式计算的“七剑客”:1. 大规模离线计算平台DCE(MapReduce/DAG模型),2. 大规模机器学习平台MPI(BSP模型),3. 新一代大规模机器学习框架ELF(Parameter server架构),4. 毫秒级实时计算系统Dstream,5. 小批量流式计算系统Task Manger,6. 基于内存的开源分布式计算框架Spark,7. 分布式Trace系统Rig。

博科中国区技术总监 谷增云

博科中国区技术总监谷增云,带来了“用于大数据可视化的SDN技术”技术分享,主要讲述SDN技术,在大规模、超高性能的大数据采集方面的应用。其中Vyatta平台的架构包含三个核心层:NFV连接服务、SDN结构服务和功能编排。这个开放式架构的每一层都是模块化的,让客户能够选择适合其特定数据中心要求的产品和/或解决方案。这个平台开放和模块的特性实现了互操作性,为客户带来更好的选择。层间通信采用基于标准的透明协议和方法,包括REST APIs和NETCONF/YANG模式,确保配置的互操作性。最后针对SDN/Openflow技术如何在数Tbps带宽容量的数据中心、骨干网随时自动化的采集上应用做了简要的分析。

更多精彩内容,请关注直播专题2014中国大数据技术大会(BDTC) ,新浪微博@CSDN云计算,订阅CSDN大数据微信号。

时间: 2024-09-28 23:48:43

大数据基础设施论坛:如何构建符合大数据时代的网络基础设施?的相关文章

大数据技术论坛(上):Spark、Hadoop技术成主角

[CSDN现场报道]2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研.应用与产业发展为主旨的2014中国大数据技术大会(Big Data Tec就hnologyConference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕. 2014中国大数据技术大会第二日上午大数据技术论坛上,百度大数据部副总监薛正华和中国移动集团公司业务支撑系统部项目经理何鸿凌共同主持了

第二届大数据世界论坛倒计时—高端嘉宾云集 主流厂商汇聚

7月13日,年度大数据专业盛会2012"第二届大数据世界论坛"(BDWF 2012)将再次登陆北京.作为中国及亚洲地区最早创办及规模最大http://www.aliyun.com/zixun/aggregation/14294.html">的大数据专业论坛,"第二届大数据世界论坛"(BDWF 2012)汇聚行业及企业高层管理及信息主管决策人群,覆盖金融.电信.医疗.政府.能源和公共事业.零售.物流等对大数据存储管理有巨大需求的重点行业,共同交流大数据

US-CERT结合影子经纪人事件 给出网络基础设施高级威胁解决方案

影子经纪人攻击NSA方程式组织事件,可以看到保护关键信息基础设施对维护企业之间通信和服务的保密性.完整性和可用性至关重要.为了应对关键信息基础设施设备威胁,美国计算机安全应急响应组US-CERT介绍了近期高级持续性威胁(APT)源起方所利用的攻击向量,并提供了预防和缓解建议. 脆弱的网络设备一直是首选的攻击向量 关键信息基础设施中的一部分由互联设备组成,用于数据.应用程序.服务和多媒体通信.本文主要针对(或涉及)路由器和防火墙.然而,网络中有很多其他设备,如交换机.负载均衡器.入侵检测系统等.诸

构建成功大数据基础设施的七大关键点

大数据是当今许多企业IT运营的一个重要组成部分.据知名调研公司IDC预测,到2019年,大数据市场产值将达到1870亿美元.大数据是数据分析的一个关键部分,而分析又是机器和人类商业智能及决策的基础.因为很明显,要是没有某种基础设施,你无法获得各种数据:大数据.小数据或完全正确的数据,所以有必要看一看有助于构建成功大数据架构的几个因素. 其中,一些因素可能看起来很明显,另一些则比较微妙.实际上,所有因素共同对你的大数据系统将支持的分析和行动带来巨大的影响. 当然,不是说只有这七个因素才会对大数据基

大数据应用论坛(下):看Dropbox、腾讯、沃尔玛、蚂蚁金服、宜信、高德专家咋玩大数据

2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研.应用与产业发展为主旨的  2014中国大数据技术大会 (Big Data Technology Conference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕. 在14日"大数据应用"论坛的下午,Dropbox研发经理邵铮.腾讯广点通高级研究员靳志辉.沃尔玛实验室核心数据科学家Zhu Tao.蚂蚁金

第二届大数据世界论坛 聚焦行业需求

本文讲的是第二届大数据世界论坛 聚焦行业需求,随着现代技术的发展,企业产生的业务数据和客户数据早已汗牛充栋.如何有效的组织管理数据,提供商业解决方案,已经不是单纯的IT技术问题,而是与企业未来发展前途攸关的关键性问题.大数据时代已经到来!大数据正在成为IT业界的焦点话题.为此,2012第二届大数据世界论坛(BIG DATA World Forum BDWF 2012)将于7月13日在北京隆重开幕,本届论坛的主题是"海量数据,深度分析,智慧商业". ▲点击进入IT168现场报道专题 作为

2017大数据标准化论坛发布了第一批大数据系统测试结果,阿里云数加获得了大数据系统测试证书。

2017年3月18日, 2017大数据标准化论坛在北京成功召开.本次论坛由工业和信息化部信息化和软件服务业司和国家标准化管理委员会工业标准二部指导,中国电子技术标准化研究院和全国信标委大数据标准工作组共同主办.全国信标委大数据标准工作组组长梅宏院士.工信部信软司李冠宇副司长.国家标准化管理委员会工业二部刘大山副处长.大数据标准工作组高林秘书长.工信部信软司孙文龙处长,贵州.上海.四川.宁夏等产业主管部门领导,以及全国范围内的产.学.研.用300余位代表参加了会议,围绕大数据标准化工作.大数据技术

大数据搜索论坛:大搜索成关注焦点

2014年12月12-14日,由中国计算机学会(CCF)主办,CCF大数据专家委员会承办,中科院计算所与CSDN共同协办,以推进大数据科研.应用与产业发展为主旨的2014中国大数据技术大会(Big Data Technology Conference 2014,BDTC 2014)暨第二届CCF大数据学术会议在北京新云南皇冠假日酒店盛大开幕. 本次大会历时三天,以更加国际化的视野,帮助与会者了解海内外大数据技术的发展趋势:从技术与实践角度出发,探讨"大数据生态系统"."大数据

【精彩回顾】第五届中国大数据应用论坛隆重举行

2016年7月17日,以"大数据与人工智能"为主题的"第五届中国大数据应用论坛"在北京大学英杰交流中心成功举办.本次论坛由北京大学信息化与信息管理研究中心和中国新一代IT产业推进联盟主办,北达软.数美时代和章鱼大数据协办,CIO时代网承办.来自业界的相关专家学者.CIO.媒体朋友等近200人参与了此次的大数据盛会. 大会合影 北大信息化与信息管理研究中心秘书长.中国新一代IT产业推进联盟秘书长 姚乐 本次活动由北大信息化与信息管理研究中心秘书长.中国新一代IT产业推