hadoop-为什么hdfs不支持随机写?

问题描述

为什么hdfs不支持随机写?
可否从hdfs内部实现解释下?
大概原理的角度?
设计思想的角度?

解决方案

参考:http://baike.baidu.com/link?url=65OcrYtAemRR9k8uc3B_PmzpSK6LXmyJ75cJf5941bVtap1h4CF8mAVOOOrhBcygn_2EJQOMR2LmEDbXomr9dK
定理:任何分布式系统只可同时满足CAP中的二点,没法三者兼顾。

解决方案二:
参照下知乎关于HDFS的介绍:
http://www.zhihu.com/question/21849618/answer/19511227

时间: 2024-08-04 10:48:12

hadoop-为什么hdfs不支持随机写?的相关文章

并发-HDFS能支持异步IO写来利用分布式的好处吗?

问题描述 HDFS能支持异步IO写来利用分布式的好处吗? 一个程序,可能同时打开几千甚至上万个文件写到HDFS文件系统里面,如果顺序来写的话,完全无法得到分布式文件系统的好处.但我没看到HDFS API里有异步写的接口. 当然可能用线程来实现并发,但同时开几千个线程,恐怕操作系统受不了吧. 解决方案 分布式Spark可以直接对HDFS进行数据的读写,同样支持Spark on...和Hive的兼容性 解决方案二: (1)你的计算机上此刻运行着超过1000个线程,这很正常 (2)基于存储系统的物理构

《Scala机器学习》一一3.6 运行Hadoop的HDFS

3.6 运行Hadoop的HDFS 没有分布式存储的分布式框架是不完整的.HDFS是其中的一种分布式存储.即使Spark在本地模式下运行,它仍然可以在后台使用分布式文件系统.与Spark将计算任务分解成子任务一样,HDFS也会将文件分成块,并将它们存储在集群上.为了实现高可用性(High Availability,HA),HDFS会为每个块存储多个副本,副本数称为复制级别,默认为三个(见图3-5). 图3-5 HDFS架构.每个块存储在三个(复制级别)单独的位置 Namenode通过记录块位置以

《Hadoop与大数据挖掘》一2.1.2 Hadoop存储—HDFS

2.1.2 Hadoop存储-HDFS Hadoop的存储系统是HDFS(Hadoop Distributed File System)分布式文件系统,对外部客户端而言,HDFS就像一个传统的分级文件系统,可以进行创建.删除.移动或重命名文件或文件夹等操作,与Linux文件系统类似. 但是,Hadoop HDFS的架构是基于一组特定的节点构建的(见图2-2),这些节点包括名称节点(NameNode,仅一个),它在 HDFS 内部提供元数据服务:第二名称节点(Secondary NameNode)

EMC ViPR首次更新 增加对Hadoop和SRMS的支持

EMC公司近期发布了其软件定义存储应用EMCViPR的第一次更新,此次更新中增加了对Hadoop和EMC的Storage Resource Management Suite的支持.EMC还更新了其用于管理存储硬件平台的Storage Resource Management Suite(SRMS). EMC曾在去年五月透露将凭借其ViPR进军软件定义存储,2013年九月ViPR正式上市. 根据EMC的愿景,ViPR将把存储控制层与数据层分离开来,以简化管理并能将不同的 存储阵列作为一个存储池. E

javascript-给网页上的超链接按钮添加声音 点击就发出声音 要多浏览器支持 怎么写

问题描述 给网页上的超链接按钮添加声音 点击就发出声音 要多浏览器支持 怎么写 延迟越小越好 声音反应速度要快 给网页上的超链接按钮添加声音 点击就发出声音 要多浏览器支持 怎么写 解决方案 jmp3这个插件,用flash实现的,移动端浏览器不兼容,不过可以用audio标签来播放音频,自己判断下是否支持audio

ceph顺序写正常随机写出错,

问题描述 ceph顺序写正常随机写出错, 使用4台主机,每台主机上3个osd共有12个osd每个osd对应一个磁盘,其中有4个ssd,使用ceph 版本是0.94.2.问题表现,当顺序写的时候一切正常,当对地址进行随机写入的时候,就会出现osd down掉 ,并且能够自动恢复.是什么原因呀,ceph随机写就会出现这情况吗 .

让 OS X 支持 NTFS 写文件

对于很多习惯了使用 Windows 工作的人来说,使用全新的 Mac 进行事务处理的过程将是件让人觉得畏惧的事情.除此之外,你可能希望可以在 Mac 上继续使用 windows 中使用的 NTFS 格式的硬盘,好消息是 Mac 默认是支持 NTFS 读操作的,坏消息是不能进行写操作. 在你费劲的寻找在Mac上能进行NTFS写操作的第三方工具之前,先听我说.事实上最新版的 OS X 是支持 NTFS 写操作的,但是奇怪的是这并没有被启用. 有些事需要动手试试才知道.依照下面的小贴士来让你心爱的 N

android5.0不支持我写的程序,5.0以下的能正常运行

问题描述 android5.0不支持我写的程序,5.0以下的能正常运行 有些手机连安装都不行,我在模拟器下能安装,但是不能正常运行. 自己写了一个后台的服务,启动此Activity时,绑定此服务.然后报这个错误.其他版本的都可以正常的运行. 如有知道此中原因的,望解答.谢谢 解决方案 http://blog.csdn.net/vrix/article/details/45289207 解决方案二: http://www.cnblogs.com/dolphin0520/archive/2011/1

hadoop其中一个节点马上要写满了,如何设置不往该节点写数据

问题描述 hadoop其中一个节点马上要写满了,如何设置不往该节点写数据 解决方案 解决方案二:配置一个监听器,使用观察者模式,把监听器注入到服务,满足条件,监听报警,像写的地方发告警