一种新型云存储系统的设计与实现

一种新型云存储系统的设计与实现

董昌坤,侯宾,吕玉琴

随着数据的暴增,传统的存储方式已经不再满足海量数据的存储需求,云存储技术的飞速发展,使得云存储成为了一种新型的数据存储解决方案。本文分析了国内外云存储技术的发展现状,提出了一个具有高可扩展性、高可靠性、兼容不同存储设备的分布式云存储解决方案。本文从分布式文件系统HDFS 出发,设计实现文件读写模块,在兼容Amazon S3协议的基础上,设计实现核心业务逻辑处理模块、面向前端请求的代理模块、安全认证模块、基于数据库的元数据存储模块、前端页面显示模块,构建高可扩展、高容错、可靠、安全的分布式云存储系统,并完成了整个云存储系统的分布式部署和测试。

关键词:云存储;HDFS;云计算;分布式系统

一种新型云存储系统的设计与实现

时间: 2024-09-22 08:10:10

一种新型云存储系统的设计与实现的相关文章

私有云存储系统的设计与实现

私有云存储系统的设计与实现 电子科技大学   马小平 本文实现了数据存储单元中的设计思路和设计要点. 整个数据存储子系统实 现是在 Linux 环境下使用 C++来实现的; 实现之后系统, 用户可以通过客服端来 上传.下载和删除数据;实现数据以键值对存储方式进行存储,据按照基于规则 的资源定位策略(多层映射),定位到多个不同的数据存储单元;通过桶的扩展和 迁移来实现系统的负载均衡机制;用多副本机制来实现数据的恢复和重建; 总的来讲实现了一个具有高性能. 可用性协调. 私有云存储系统的设计与实现

一种新型超链接交互样式设计方法与实现原理

超链接是网页中,必不可少的内容.超链接的交互设计,也是一个网页中最重要的细节.CSS 也为链接准备了几个伪类选择器,用来设置超链接的交互操作.但是在绝大多数网站中,我们看到的超链接交互样式,通常是:改变一下链接的颜色.取消或者增加 下划线.点击链接文本变色或者下划线消失等等.但实际上,超链接的交互设计,并非只能这么简单. 很久没有登录 W3C 的官方网站,今天上去看了一下,从第一眼就看到了他们的超练级的与众不同.把鼠标放上,点击,测试了一下他们的超链接交互设计,感觉非常不错,就稍微思考 了一下这

应用技巧:几种形式的云存储系统

自动分层系统(Automated Tiering System,ATS)可以在不同存储层之间迁移数据.如果数据是动态的就会被迁移到靠上的存储层,最终保存在某种固态盘(SSD)中.自动分层系统有很多种,其中影响最小也是最安全的使用方式就是将其作为保存动态数据的缓存.特别是,这些系统将帮助云存储迈向主流. 缓存类型的自动分层系统将动态数据从传统机械存储中拷贝到基于高速内存的缓存(RAM或者闪存固态盘)中.在这种拷贝模式中,自动分层系统被用作一个大型的读取缓存,几乎不保留数据的唯一副本.即使当他们通过

一种基于云平台的下一代互联网新型迁移模型

一种基于云平台的下一代互联网新型迁移模型 黄灿灿  朱永庆 分析现有接入网络在向IPv6迁移过程中所遇到的各种问题,设计一种新型的基于云平台的下一代互联网迁移模型.该模型通过在城域网边缘部署云计算平台给用户提供虚拟双栈主机,从根本上解决现有接入网络中海量设备以及千万级CPE改造升级所产生的问题,同时,优化了城域网P2P流量模型,极大地减缓了接入网压力. 一种基于云平台的下一代互联网新型迁移模型

在NAS上基础构建云存储系统的两种解决方案

   对于一个成功的.具有极高可扩展性的NAS存储系统来说,要想架构云存储系统解决方案需要什么? 云存储的概念始于Amazon提供的一项服务(S3),同时还伴随着其云计算产品(EC2).在Amazon的S3的服务背后,它还管理着多个商品硬件设备,并捆绑着相应的软件,用于创建一个存储池.新兴的网络公司已经接受了这种产品,并提出了云存储这个术语及其相应的概念. 云存储是一种架构,而不是一种服务.你是否拥有或租赁了这种架构是一个次要问题.从根本上来看,通过添加标准硬件和共享标准网络(公共互联网或私有的

哪一种云存储系统与你的数据相匹配?

一些公共云提供商,如亚马逊.微软和谷歌,会定期添加一些新功能来吸引企业客户,毫无疑问,基于云的存储有很多选择.从这么多备选中做出选择的关键在于:对于你的特定云部署来说,评估哪种特性是最重要的.延迟,应用程序编程接口,将本地应用程序与存储系统相集成具有重大的意义-- 需要注意的是面向客户的应用程序和互动内部应用程序都会产生一定的延迟.网页太慢或者应用程序太慢都会影响使用,如果在几秒钟内没有响应,用户经常会直接关闭网站.内部用户也会有类似的情况.研究商业智能数据库的经理和分析师,也会受到数据和查询工

一种基于虚拟隔离机制的安全私有云存储系统

一种基于虚拟隔离机制的安全私有云存储系统 鲍爱华 袁晓萍 陈锋 缪嘉嘉 云存储技术是云计算领域的重要研究方向,由于存在隐私泄漏和安全问题 ,公共云存储服务在持有核心数据的组织(如创新型企业.军队)中往往难以得到广泛应用.提出一种基于虚拟隔离机制的安全私有云存储系统VI-PCS:系统将物理存储介质和公共云存储服务虚拟化为虚拟存储能力,通过集中生命周期管理使其为系统提供服务:系统将文件存储过程划分为元数据管理.文件虚拟存储和文件物理存储3个层面,通过文件重命名.IO透明加解密等方式实现数据安全可靠存

云存储系统监控服务分析

      监控在我们的日常生活和生产随处可见,交通.银行.超市.商场.学校.工厂等等,在刑侦.勘探.科研.安保等各种领域,发挥了越来越大的作用,已经成为人们不可或缺的安全屏障和有力工具.      监控对于计算机网络同样有着巨大的意义和价值,从服务器性能到应用服务状态,从硬件资源到网络流量,为业务应用.系统运维等提供准确的运行状态信息,及时发现.暴露问题.       OSS作为智能分布式云存储系统,对外提供海量.安全和高可靠的存储服务,使得用户无需关心系统资源和服务器运维问题,将更多的精力专

我国成功研制EB级云存储系统:可满足大数据量存储落地需求

国家863计划云计算关键技术与系统(二期)项目课题验收会11月29日在天津召开,由我国高性能计算领军企业中科曙光承担的"EB级云存储系统研制"课题通过技术验收. 为促进我国云计算核心软硬件产品的研发,"十二五"国家863计划信息技术领域"云计算关键技术与系统(二期)"重大项目于2013年2月正式批准实施,其中包括"EB级云存储系统研制"等多个课题. 随着云计算.互联网.移动终端和物联网的迅猛发展,信息数据爆炸性增长,传统的云平