美国宇航局的Hyperwall系统引入虚拟闪存SAN

  

  如果由DDN公司给出答案,那么结果必然是采用闪存缓存构建缓冲区; 当然,亦可尝试选择基于NVMe闪存驱动器的虚拟SAN,而这正是美国宇航局的解决思路。

美国宇航局的先进超级计算(简称NAS)设施位于美国宇航局艾姆斯研究中心之内。其高端计算能力项目(简称HECC)旨在帮助科学家与工程师们利用超大规模建模、模拟、分析与可视化方案确保美国航空局的各太空任务得以成功完成。

作为项目的组成部分,宇航局方面开发出Hyperwall系统,这是一台纵向16列、横向8排的超大显示屏幕,用于显示大规模场景下的可视化模拟结果。其模拟对象包括多个项目,例如涉及大量流场寻路计算的ECCO(即海洋循环与气候评估)。此类模拟任务通常涉及规模庞大且由美国宇航局超级计算机与各类仪器生成的高维数据集。

科学家们能够利用多种不同工具、视点以及参数以显示同样的数据或者数据集,并通过可视化机制检查模拟结果。

目前的问题在于,Excelero的NVMesh存储方案如何以理想速度支撑起Hyperwall庞大的128台显示器与130个计算节点(128台计算节点加2台后备节点)。之所以如此困难,是因为其中涉及庞大的数据集与大量规模较小且极为随机的IO操作。磁盘驱动器采用的Lustre文件系统表现不力,这套理论性能可达每秒80 GB的文件系统在实际数据吞吐量方面仅可提供每秒100多MB的表现。

美国宇航局艾姆斯Hyperwall可视化多屏幕显示器

Hyperwall中各计算节点都配合一块2 TB闪存驱动器。程序员们会将整体数据集拆分为2 TB甚至更小的分块,并将其复制至各计算节点当中。在此之后,整个可视化流程即可确保计算及交互操作利用本地数据进行,但这种作法会显著提升编程复杂度。

场流寻路涉及两项核心技术:

• 利用核内方法处理内存内或者闪存等高速本地介质中的数据。

• 当数据被移动至计算节点之外,即访问时间更长时,使用核外技术进行处理。

缓慢的模拟速度意味着科学家与工程师们只能以较低效率使用Hyperwall可视化方案。正如excelero所言,这正是NVMesh技术的专长所在。

ECCO模拟显示结果

NVMe 虚拟闪存SAN

如果全部128个节点上的2 TB闪存驱动器被整体汇总为单一资源池,即单一256 TB逻辑设备,并作为虚拟闪存SAN供RDMA访问,那么每块闪存驱动器在实质上都将成为各计算节点的本地存储资源。对于计算节点应用而言,直接访问网络设备目标并利用RDMA能够实现良好的并发读取效果。

美国宇航局艾姆斯 研究中心的可视化小组安装了NVMesh方案并借此获得了中央块存储管理能力——包括逻辑分卷、数据保护与故障转移等等——且无需受到传统SAN的性能限制。Excelero公司指出,这将为可视化、分析/模拟以及突发性缓冲区使用等层面的各类用例提供理想的性能、经济性与可行性提升效果。

NVMesh拥有以下三大主要模块:

• 其中存储管理模块为一套集中式基于WebGUI的RESTful API,负责控制系统配置。

• 目标模块可安装在任意主机之上并共享其NVMe驱动器,通过客户端对各驱动器进行初始连接验证,而后保持这条数据路径。

• 客户端块驱动器运行在各需要访问NVMesh逻辑块分卷的主机/镜像之上。

在混合部署场景之下,客户端与目标模块可共存于同一服务器当中。

太空发射系统(简称SLS)可视化效果

临时性闪存

Excelero公司指出,在此用例之下,由于模拟数据在主Lustre文件系统内得到严格保护,因此256 TB虚拟设备尽管由非易失性介质构成,但仍可作为临时性存储资源使用。

因此无需对全部128台节点/设备进行RAID-0逻辑分卷串连即可实现数据保护。出于简化要求,该设备被附加至单一节点中,采用XFS文件系统并填充各类数据。该文件系统随后可随意以只读方式挂载及卸载于全部128个计算节点之上。

NVMesh逻辑块分卷可由集群化文件系统利用,亦可在遭遇主机或驱动器故障时受到良好保护。

延迟至关重要

这套NVMesh方案的加入会令数据访问延迟较本地NVMe驱动器延迟提升5微秒,大部分延迟由网络造成。

科学家与工程师不需要在编程层面限制数据位置; 各计算节点上的全部数据访问行为皆以本地方式实现。根据灵活IO测试工具(简称fio)给出的基准测试结果,全部128个节点皆可实现超过3000万随机4K读取IOPS。这一IOPS水平下的平均延迟为199微秒,而最低值则为8微秒。1 MB数据块条件下的数据通量则为每秒140 GB。

Excelero公司指出,在利用原生NVMe队列机制时,这种方法能够完全回避目标主机CPU(配备有NVMe驱动器的主机)为应用程序预留处理资源的问题。

这一模拟结果意味着可视化任务的运行将更为顺畅快速,而美国宇航局艾姆斯研究中心的科学家与工程师们则可更加自然地完成交互,从而显著提升工作效率。

  

 

来源:51CTO

时间: 2024-09-20 22:23:41

美国宇航局的Hyperwall系统引入虚拟闪存SAN的相关文章

闪存格式化为NTFS格式如何在windows系统下操作

  想要在xp系统中把闪存格式化为NTFS格式,其实在网络中已经有很多方法介绍过了,但是有些网友觉还是很繁琐,那么要怎么进行再一次的加速把这个转换加快呢!现在我们一起来看看吧! 在有些方法中有的是借助于VISTA系统进行格式化,如果是XP系统的话,整个操作过程又太过于繁锁,在这里笔者就教大家一个小技巧(VISTA和XP系统通吃),非常简单并且速度很快,具体方法如下:单击"开始→运行",在"运行"对话框中输入"CMD",然后打开"命令提示

数据加速攻略:选择Server Flash还是全闪存阵列?

    Fluid Cache for SAN是个什么样的解决方案? 它与全闪存阵列相比,有什么优势? 本文全面阐释了Fluid Cache for SAN,也为用户提供了有关两个方案如何选择的建议. 在8月的中国闪存峰会之后,另外一场围绕闪存话题的"2015中国数据加速峰会"日前在北京举行.尽管会议的名字不同,但闪存在加速数据中心应用中所扮演的重要角色没有改变,不变的还有一位演讲人,有着十几年丰富经验的存储老兵--戴尔大中华区高级存储经理张委,他的演讲重点依然是流动数据4.0和端到端

戴尔凭什么成为全闪存领域的“颠覆者”?

在最近的一次沙龙上,我听到了一位CIO的分享. 这位CIO来自于电商行业,在应用全闪存阵列之前,最终用户平均等待时间在500毫秒左右,采用全闪存之后,用户量提升数倍,等待时间反而缩短了40%,对该电商平台的业务发展起到了极大的推动作用.而清理订单数据的时候,该电商平台由之前的3个小时变成15分钟. 正是这种"立竿见影"的效果,让闪存在数据中心大受欢迎.如今,闪存已经在追求高I/O的金融.证券等行业得到大量应用,也在电商平台受到热捧:随着闪存价格的不断下降,昔日这个存储中的"高

关于全闪存的数据中心

 Flash闪存技术高昂的成本是限制了闪存被广泛使用的重要原因.在本文中,我们将为广大读者诸君介绍关于阻碍了企业客户采购Flash闪存的其他因素,以及Flash闪存技术在当前数据中心业界的使用情况. 随着媒介成本的不断下降和周边技术的不断改进,全闪存数据中心的概念已经被炒作了好多年了.其结果是几乎每家全闪存供应厂商都声称其产品与基于硬盘的系统价格持平. 如果您企业能够证实全闪存供应商们所宣称的其产品与HDD的价格持平的声明,并且能够灵活自如地应用,那么企业组织没有任何理由不采用全闪存技术了.想象

您能解释一处全闪存的数据中心吗?

Flash闪存技术高昂的成本是限制了闪存被广泛使用的重要原因.在本文中,我们将为广大读者诸君介绍关于阻碍了企业客户采购Flash闪存的其他因素,以及Flash闪存技术在当前数据中心业界的使用情况. 随着媒介成本的不断下降和周边技术的不断改进,全闪存数据中心的概念已经被炒作了好多年了.其结果是几乎每家全闪存供应厂商都声称其产品与基于硬盘的系统价格持平. 如果您企业能够证实全闪存供应商们所宣称的其产品与HDD的价格持平的声明,并且能够灵活自如地应用,那么企业组织没有任何理由不采用全闪存技术了.想象一

来自2016闪存峰会的14个闪亮观点

新的持久性内存及技术承诺会重塑计算.在今年的闪存峰会(Flash Memory Summit)上,工程师们谈到了他们如何从服务器设计和网络存储到机器学习及闪存芯片价格等方方面面推动该领域的变革. 今年大会的一个热门话题就是缩小网络上闪存存储阵列与服务器上固态盘(SSD)之间的差距.系统会访问闪存--不管闪存是本地的还是在数据中心中的,这个想法推动着新的系统.芯片和软件设计向前发展. 为了推动这个趋势,NVM Express组织刚刚发布了一项规范,旨在让NVMe闪存接口可以运行在以太网.光纤通道和

思科更新UCS服务器 集成Whiptail闪存存储

[天极网服务器频道1月26日消息]近日,思科发布了新版的UCS服务器,集成了闪存功能,提高数据访问速度.新UCS服务器采用了Invicta系列闪存技术,该技术来自思科收购的Whiptail公司.思科首席执行钱伯斯在收购Whiptail后曾表示,Whiptail将加强思科的统一计算系统UCS战略,将可扩展的固态内存集成到UCS的框架计算架构中.思科已经实现了这种承诺. 思科UCS是思科的http://www.aliyun.com/zixun/aggregation/15149.html">集

美国宇航局卫星拍到中国内陆严重雾霾分布图

[导读]美国宇航局TERRA对地观测卫星在2013年12月7日拍摄到中国东部内陆出现的严重大气污染分布,其中灰色部分为霾,白色区域为云和雾.美国宇航局卫星拍到中国内陆严重雾霾分布图从图中可以看出从河北省到山东半岛.延伸到上海一线的内陆地区出现了较为严重的大气污染物事件,其中灰色部分为霾,白色区域为云和雾.腾讯科学讯(罗辑/编译)据国外媒体报道,美国宇航局TERRA对地观测卫星具备强大的空间信息收集能力,可从将近700公里的轨道上对地球进行观测,现在科学家通过TERRA卫星在2013年12月7日拍

用闪存加密Vista系统磁盘分区中的数据

BitLocker是Vista的磁盘分区加密工具.它是Vista企业版及旗舰版中提供的一种很强数据保护功能.BitLocker可防止黑客通过引导另一个操作系统或运行软件黑客工具来破坏Vista文件和系统防护或脱机查看存储在受保护驱动器上的文件.该保护通过加密整个 Windows卷来实现;利用 BitLocker,所有用户和系统文件都可加密,包括交换和休眠文件.那下面就给大家说说该如何结合闪存利用Vista的BitLocker为系统分区加密. 董师傅教你:Vista加密磁盘分区有两种方式 用Bit