曙光携手同济大学应对大数据 发挥最大效能

  在硬件高速革新和软件高度智能化的今天,以“大数据”为代表的新一轮教育信息化建设浪潮推到了我们面前。为了满足爆炸式增长的用户和数据量,同济大学携手国内领先的IT整体解决方案和服务提供商中科曙光,在全面整合云计算平台和现有资产的基础上,采用DS800-F20存储系统、Gridview集群管理系统,以及Hadoop分布式计算平台构建出了业内领先的大数据柔性处理平台,使得同济大学在信息学科及其交叉学科研究领域迈上一个新台阶。

  基础平台需要更具灵活性 高效能才能提供差异化服务

  创校百年的同济大学,是一所拥有理、工、医、文、法、哲、经济、管理、教育9大学科门类的综合性大学。作为研究型大学,同济大学是首批被国务院批准成立研究生院的高校之一,同时也是国家“211工程”和“985工程”重点建设的高水平学府。但随着用户规模的扩大,类型的多样化,层次的差异化,高性能计算作为云计算主要的基础设施,其传统的使用模式已经不能完全满足用户日益增长的服务需求,并制约了云服务质量的提高。

  据介绍,在传统高性能计算中,所有的服务都运行在高性能计算机服务结点上,导致了结点负载过大,容易出现瘫痪,从而影响用户的正常使用。另外,在这种开放共享的运行环境下,无法满足不同用户的差异化环境设置需求与用户资源颗粒度使用的需求,也无法保障用户信息的安全。另外,由于软硬件的部署和操作都很复杂,针对个体需求搭建完成之后,几乎不具备重复使用的能力,造成了极大的人力和时间成本浪费,影响了其易用性和使用效率。

  同济大学相关负责人表示:“正是因为这些难题的存在,我们的新一代高性能计算平台就应该更符合大数据环境下的工作流程,在设计、实施、管理中都必须提供足够的柔性,来满足不同应用的需要。在与不同的应用系统进行交互时,要提供足够的灵活性。而同济大学要建设的柔性大数据处理平台,需要具备可反复重构的硬件、软件,同时还需要对原有投入的IT资源进行整合,避免信息化投资的浪费。”

  充分整合现有资源 真正实现柔性建设标准

  针对以上需求,曙光公司与负责承建工作的同济大学电信学院紧密合作,对现有资产和网络状况进行了多次研究分析。最终,同济大学使用了基于曙光公司为其构建的柔性处理平台。平台采用了分区方式,其应用将涵盖三个服务分区和一个共享存储中心,即网络信息服务、交通信息分析、医疗数据分析和存储中心。

  【同济大学大数据柔性处理平台】

  本方案基于分区方式构建,全面整合了云计算平台和同济大学现有资产(IBM、Dell和HP服务器),其它分析节点和服务节点均采用曙光高效能服务器。其中集中存储系统采用曙光DS800-F20构建,该产品支持FC-SAN/IB-SAN两种架构,并采用双冗余的控制器,支持高效能8GbFC以及高带宽的20GbIB主机接口,稳定且高效。另外,服务器管理基于曙光在各个云计算中屡经考验的大规模集群管理系统Gridview,在稳定性与可用性方面表现突出。

  为保证整个平台工作流程的通顺安全,Gridview在每个计算节点上实行四大逻辑层次,分别为:硬件信息采集层、资源整合共用平台层、核心模块层和服务交付层。四层逻辑有条不紊地对从各监控节点系统采集来的信息资源进行优先管理。信息通过采集层向上层提供资源信息时,数据信息被分类存储在数据库中,作为元数据向上层提供数据服务。各模块之间独立开发,共享整合的公用平台数据信息,可以对元数据进行自由裁剪,以适应模块开发的柔性需求。并且可以按照需求,增加新的模块到平台中,做到各模块之间的有效兼容,向用户提供统一的Web接口,实现对集群的管理和运维,将整合的资源信息以Portal形式表现,对历史数据进行分析,为用户提供统一的作业调度界面。

  由于曙光公司采用了Hadoop技术搭建分析集群和集中存储系统,消除了资源孤岛,各结点能够按照业务强度均衡互联;同时,其独特的可伸缩性使平台能够随着数据膨胀而扩展,达到真正柔性计算平台标准。

  大幅降低管理成本 分区管理高性价最高

  在解决方案部署之后,化解了原有IT平台存在的支撑能力不足、管理难度较大等诸多问题,同济大学的领导和各学科负责人对大数据柔性处理平台给予了高度评价。通过对应用效果进行总结,可以发现柔性处理平台带来很多具体层面的收益:

  Ø 充分整合包括云平台、服务器在内的现有资源,全面保护了原有投资;

  Ø 分布式搜索引擎架构采用分区形式,使得系统各个组件之间充分解耦,上层软件部署更加灵活,极大的方便科研用户进行各种系统的调整和部署;

  Ø 针对不同组件采用分区管理,分区配置物理机和虚拟机资源,强调资源的优化配置,获得了极高的性价比;

  Ø 数据网和业务网分离,这样就达到了数据通信和业务通信运行时互不影响的目标;

  Ø 管理网通信负载较轻,管理操作依托数据网构建,实现全网统一管理,同时管理网不必在配置交换机等其他基础设备,降低了采购和管理成本。

  同济大学项目负责人表示:“同曙光公司携手建立的大数据柔性处理平台,改变了信息化建设中的尴尬状况,增强了对更多新兴应用的支撑能力。其分区设计和应用实现了该平台的价值最大化,同时也为信息学科及其交叉学科研究领域提供了更高效灵活的应用流程。”

(作者:王欣责任编辑:王欣)

时间: 2024-09-20 15:34:03

曙光携手同济大学应对大数据 发挥最大效能的相关文章

大数据能让警察被开除,政企如何应对大数据落地

大数据不是魔力水晶球,不能预知未来的一切,不能改变一切;大数据也不是空中楼阁,不接地气. 大数据到底有什么用 好像这个事情困扰大家已久,其实大数据的作用非常实在,美国有一程序员哥们,他去缴纳违章罚款的时候看了一眼罚款统计表,发现自己家门前那段路上的罚款单相较于其他街区数量特别多,这哥们就心生疑问:怎么回事?我们这个街区的司机都不遵守交通规则还是这个街区的红绿灯有问题还是什么其他的原因? 面对这一蹊跷,身为程序员的他当然没有只是一想而过,而是充分发挥了理工男较真的精神去调查清楚这件事. 要调查清楚

博科助力澳大利亚的基因组研究机构应对大数据增长

受到基因组数据集持续高速增长的驱动,澳大利亚基因组研究机构正在它的整个网络中部署一个高性能的博科10GbE核心网络,其中墨尔本节点将率先采用新的博科(NASDAQ: BRCD)交换基础架构. 澳大利亚非营利组织--基因组研究机构(AGRF)是澳大利亚最大的基因组服务提供者,在布里斯班.悉尼.墨尔本.阿德莱德和珀斯都设有实验室,每个实验室为全国性的先进设备.技术和专业知识网络提供一个网关.AGRF利用尖端技术,为学术.应用研究和商业市场提供合约制的基因组服务,涵盖生物医药.植物和动物科学.微生物学

美国:以国家战略应对大数据时代

美国加州斯坦福大学助理教授贾斯廷·古力马,正尝试把数学应用到政治学研究中,通过电脑对互联网上的海量博客文章.议会演讲.新闻报道加以统计分析,从而展开趋势判断.在这个29岁的青年政治学者眼中,"政治学已经日益成为一个数据密集型学科".其实,成为"数据密集型学科"的远不止政治学,科学.广告.体育.公共卫生等大量学科和领域都正在从大数据技术中获益. 随着互联网上数据的不断增多,海洋一般浩瀚的网络数据已成为一种战略资源.大数据技术的目标,就是从这些数据中挖掘信息.判断趋势.

AdTime:大数据 发挥信息消费引擎作用

文章讲的是AdTime:大数据 发挥信息消费引擎作用,当前,拉动我国经济增长的传统"三驾马车"(投资.出口.消费),出现出口下滑,投资谨慎的情况,而消费的巨大空间便受到了前所未有的期待.在消费领域中,信息消费的强劲表现更为抢眼.今年1月~5月,我国信息消费的规模达到1.38万亿元,同比增长了19.8%,信息消费正在成为市场新的亮点和热点. 7月12日,国务院常务会议提出要促进信息消费.信息消费之所以如此受重视,工信部电信研究院曾表示,信息消费不但"稳增长"的潜力巨大

IBM:应对大数据挑战的十大绝技

IBM提供了一系列平台应对大数据带来的三方面挑战--大量化(Volume).多样化(Variety)和快速化(Velocity).无论是能源公司分析气象数据,还是司法机构在众多视频资料中分析有价值信息,亦或是银行为审查资产判别客户级别分析多年的交易数据.IBM大数据平台,都可以帮助企业将数据当成战略资产进行管理.IBM研究机构在大数据领域工作有超过3年时间,目前已经拥有100个大数据项目客户.在商业分析领域IBM已经投入巨资140亿美元--其中包括24项收购以及集聚了8000名分析顾问. IBM

Teradata大中华区CEO:企业如何应对大数据时代

Teradata天睿公司大中华区首席执行官辛儿伦 5月21日消息,Teradata天睿公司大中华区首席执行官辛儿伦(微博)日前接受新浪科技专访时表示,随着大数据时代的到来,企业应该在内部培养三种能力:第一,整合企业数据的能力:第二,探索数据背后价值和制定精确行动纲领的能力:第三,进行精确快速实时行动的能力. 数据快速增长 Teradata天睿公司是一家智能分析解决方案厂商,主要为企业和政府机构做数据整合,分析,探索.挖掘数据背后的价值,从而提高客户生产的竞争力.目前,Teradata天睿公司在大

惠普和百分点携手布局深耕大数据市场

文章讲的是惠普和百分点携手布局深耕大数据市场,随着"互联网+"战略的推行,数据已日渐成为企业的核心资产,对数据获取和使用的能力将成为企业的重要竞争力.为了完成互联网+转型,企业需要从大数据基础建设到数据管理和消费的全链条解决方案和服务. 日前,中国惠普有限公司(以下简称"中国惠普")和百分点集团宣布在大数据领域达成战略合作.作为企业级市场的领导者,惠普对企业级市场有深入的理解和洞察;百分点则一直致力于企业级大数据技术与应用,拥有全国最大的第三方消费偏好数据库,为近2

小公司如何应对大数据热潮?借助第三方服务,或者逆势而为抛开数

"大数据"已经成为互联网上最热门的概念之一,我看到许多创业者都开始谈论大数据的商用价值,创业项目一定得和"大数据"挂钩,有些人更是把<大数据时代>一书奉为圣经,仿佛只要买一本祭在家里的某个角落,自己就有资格高谈论阔.指点江山了.但实际上,虽然书中洞见了数据分析的趋势和隐忧,可由于作者Viktor Mayer Sch nberger是一个典型的学术派,并没有什么值得称耀的实践经验,导致此书缺乏落地感,大数据商业应用在没有可靠技术支撑的状况下也只能是一纸空谈

Hadoop的虚拟化之恋:应对大数据挑战

文章讲的是Hadoop的虚拟化之恋:应对大数据挑战,高速增长的数据量和日益增加的竞争压力,让越来越多的企业开始思考如何挖掘这些数据的价值.传统的BI系统.数据仓库和数据库系统都不能很好地处理这些数据.原因包括: 1.数据量太大,传统数据库不能有效存储并维持可以接受的性能; 2.新产生的数据往往是非结构化的,而传统方式都是为处理结构化数据而设计的; 3.传统数据处理所需的硬件往往相对昂贵,随着数据量增加而继续用传统方式处理的成本让很多企业不能承受.为此,倍受互联网界推崇的Apache Hadoop