大数据时代为什么都在谈Hadoop?

最近知乎上有这样一个问题“为什么很多公司都采用Hadoop方案处理大数据业务”,引来很多回答,笔者整理如下,其观点或有时而可商,欢迎讨论。

先说一说什么样的公司比较倾向于使用Hadoop。有人认为,使用Hadoop的前提是自身有没有收集并分析数据的需要,并且数据量是否一直在增长并且不可丢弃。

目前看起来,此类数据多数为日志数据,分析用户习惯,或者就是传感器之类的数据,分析环境等监控内容的变化规律。也有很多公司不使用Hadoop,比如多 数从事政府行业或者部分企业系统开发的公司,他们对系统的易部署及易维护性要求更高,虽然也会遇到一部分数据量较大,不过通常使用NoSQL数据库就能够 满足需要了,很少使用Hadoop。

这又回到了一句老话,任何技术,都是为了解决问题而存在的,没有必要为了技术而技术!

那么,使用Hadoop的公司为什么选择Hadoop呢?选择Hadoop,其实是选择的的MapReduce,把大块的任务切分为若干份小任务,由集群的每台服务器来计算,最后把结果合并。

有人认为,主要有三点:1,可以解决问题; 2,成本低 ; 3,成熟的生态圈。

一、Hadoop为大数据而生

在那个没有Hadoop的时代,大家是怎么处理大量数据的呢?IBM的大型机是一个很不错的解决方案。

中国的银行系统目前很大一部分还在大型机上。但是大型机太贵了,实在是太贵了。

于是Google来了,经过谨慎的思考,Google的工程师们发现实际上使用一个简单得分布式计算模型MapReduce就能完成他们的需求。然后他们就搞了一个MapReduce。然后就写了几篇关于这种计算方法的论文。

有了思想,而且有了Google这么大数据量的数据验证,复制技术就很容易了。于是大家就开始搞,然后大家就搞出来一个Hadoop。而且Hadoop是Apache 下的项目,正所谓大树底下好乘凉。

Hadoop底层的分布式文件系统具有高拓展性,通过数据冗余保证数据不丢失和提交计算效率,同时可以存储各种格式的数据。同时其还支持多种计算框架,既可以进行离线计算也可以进行在线实时计算。

二,为什么成本可以控制的低

确定可以解决我们遇到的问题之后,那就必须考虑下成本问题了。

1, 硬件成本

Hadoop是架构在廉价的硬件服务器上,不需要非常昂贵的硬件做支撑

2, 软件成本

开源的产品,免费的,基于开源协议,可以自由修改,可控性更大

3,开发成本

因为属于二次开发,同时因为有非常活跃的社区讨论,对开发人员的能力要求相对不高,工程师的学习成本也并不高

4,维护成本

当集群规模非常大时,开发成本和维护成本会凸显出来。但是相对于自研系统来说的话,还是便宜的很多。

某司自研同类系统几百名工程师近4年的投入,烧钱亿计,都尚未替换掉Hadoop。

5,其他成本

如系统的安全性,社区版本升级频繁而现实是无法同步进行升级所引入的其他隐形成本。

三、成熟的生态圈

部分系统归类:

部署,配置和监控 Ambari,Whirr

监控管理工具 Hue, karmasphere, eclipse plugin, cacti, ganglia

数据序列化处理与任务调度 Avro, Zookeeper

数据收集 Fuse,Webdav, Chukwa, Flume, Scribe , Nutch

数据存储 HDFS

类SQL查询数据仓库 Hive

流式数据处理 Pig

并行计算框架 MapReduce, Tez

数据挖掘和机器学习 Mahout

列式存储在线数据库 HBase

元数据中心 HCatalog (可以和Pig,Hive ,MapReduce等结合使用)

工作流控制 Oozie,Cascading

数据导入导出到关系数据库 Sqoop,Flume, Hiho

数据可视化 drilldown,Intellicus

传统数据库数据仓库VS.Hadoop

再从传统数据库数据仓库这边看,一方面吃着现有的蛋糕,另一方面也一直在尝试数据量更大、扩展性更好的解决方案,从share-everything到 share-storage到share-nothing,比如现在的MPP解决方案,也在大数据业务中分了一杯羹。不过数据库基因的解决方案,还是要面 临扩展性的问题,我们的经验是大概百节点级别,远远不如hadoop的扩展性。

hadoop最伟大的地方,严格说是google的伟大,就是在扩展性瓶颈方面的突破了。扩展性一直是所谓大数据(以前叫海量数据)处理的瓶颈,扩展性上 去了,有更多机器来干活,那同时能干的活也就多了嘛。以前处理海量数据的思路,是搞一台超级牛的机器,比如高性能计算机,比如大型机、小型机;后来一台机 器怎么也不够用了,就搞个几台连起来一起用,比如网格,比如分布式数据库数据仓库,不过这扩展性也就是几台十几台级别的,再多也无法提高了;而 hadoop,放弃磁盘阵列而使用本地硬盘作为存储,使得网络连接方式大大简化,从软件层面来解决很多硬件问题,比如硬盘故障,减少对硬件的依赖,这些保 证了hadoop甩出其他方案几个量级的扩展性能,人类看到了处理大数据的曙光。

本文转自d1net(转载)

时间: 2024-09-23 03:02:40

大数据时代为什么都在谈Hadoop?的相关文章

互联网大数据时代来了 个人隐私常常“被裸奔”

当一个人很懂你的时候,你会发现有一种共鸣的幸福,但是当你在他(她)面前毫无秘密的时候,你是不是会有一种裸奔的尴尬?在互联网大数据时代,越来越多的网购族发现,自己的上网记录.消费偏好等http://www.aliyun.com/zixun/aggregation/9799.html">个人隐私信息,已被商家层层转卖榨干用尽,常常会有种"被裸奔"的尴尬. 因好奇,被"棺材"困扰一个月 7月19日下午,一位名为"不知道叫什么就叫春的陈红军&quo

大数据时代从比特搬运工到大数据运营者

文章讲的是大数据时代从比特搬运工到大数据运营者,有人说,大数据就像20世纪的石油那样,是一种战略资源.但20世纪之前的历史长河中,石油根本不是战略资源,甚至连一般性的资源也算不上.改变石油命运的,是100多年前内燃机的发明. 走进"第四个"大数据时代 现在所说的大数据,都是指"数字化"的信息.如果把"数据巨大"."类型繁多"."单位价值下降"和"处理及时"的非数字化的信息也认为是大数据,

大数据时代的三大发展趋势和投资方向

1993年<纽约客>刊登了一副漫画:标题是:"互联网上,没有人知道你是一条狗".据说作者彼得·施泰纳因为此漫画的重印而赚取了超过5万美元.彼时关注互联网社会学的一些专家,甚至担忧"计算机异性扮装"而引发的社会问题.譬如同性恋和恋童癖,可能会借助互联网而大行其道. 20年后互联网发生的巨大的变化,移动互联.社交网络.电子商务大大拓展了互联网的疆界和应用领域.我们在享受便利的同时,也无偿贡献了自己的"行踪".现在互联网不但知道对面是一只狗

对话知乎王雨舟:大数据时代,人都在“裸奔”吗?

文章讲的是对话知乎王雨舟:大数据时代,人都在"裸奔"吗,从大数据时代开启的第一天起,我们的生活注定被数据灌满了.这是一个人人都需要隐私但又不懂得在乎和保护隐私的时代,几乎所有人都在发布数据,把它们挂在网上或传播到公共平台.人们既向外发散,又向内吸收,自觉或不自觉地收集各种各样的数据信息.--<大数据在中国> 人们不禁发问:大数据时代,人都是在"裸奔"吗? 知乎,作为一个知识社交平台,目前拥有8400万注册用户,每天产生的数据量多得惊人.这些传来传去的信息

放眼业界看得见的未来 十谈大数据时代

本文讲的是放眼业界看得见的未来 十谈大数据时代,半年前开始讨论大数据时代的到来时,大数据还只是个专业小圈子里探讨的话题.到今天大数据这个概念已经在业界内外和大众媒体上沸沸扬扬地广为传播,并不断涌现出这个方向上的努力与创新了.正所谓"历史潮流,浩浩荡荡,顺之者昌,逆之者亡",这个过去只用在政治话题上的说法借过来描述大数据时代的到来与迅猛发展的形势真是再恰当不过. 站在不同角度看大数据,它既可能是大机会,大发展,大创新,也可能是大危机,大破坏,大淘汰. 目前,最活跃的领域是网络终端创新和网

大数据时代每个人都需要做好网站数据分析

中介交易 http://www.aliyun.com/zixun/aggregation/6858.html">SEO诊断淘宝客 站长团购 云主机 技术大厅 很多人把2013年定义为大数据的元年,阿里巴巴三大发展方向之一就是大数据,其实阿里巴巴的平台方向和金融以及马去亲自出手的物流都是以大数据为基础进行运营的.很多财经节目也相当关注大数据这块技术的发展,CCTV2对话连续两集播出大数据时代,头脑风暴连续三集播出大数据时代,与此同时新财富夜谈也在播也大数据入侵这档节目.似乎大数据已经离我们很

大数据时代 每家公司都要有大数据部门吗?

在大数据时代 每家公司都要有大数据部门吗?如果这个问题换做是:在电气时代,每家公司都要有个发电厂吗?是不是会更好回答一些? 事实上每一种重大技术的出现,都会对产业产生大的变化.在蒸汽时代,采矿机采用蒸汽机后,会带来生产效率的极大提升,而轮船加上蒸汽机,再也不需要靠风才能航海了.在电气时代,电灯代替了蜡烛,电报代替了快马送信,而报纸也被广播和电视所侵蚀. 可以说是现有产业加上新技术,形成了新产业. 我们回过头来看这两次工业革命,生产蒸汽机的企业只有少量几家,而发电的企业在美国也只有通用电气和西屋电

在大数据时代,每家公司都要有大数据部门吗?

如果这个问题换做是:在电气时代,每家公司都要有个发电厂吗?是不是会更好回答一些? 事实上每一种重大技术的出现,都会对产业产生大的变化.在蒸汽时代,采矿机采用蒸汽机后,会带来生产效率的极大提升,而轮船加上蒸汽机,再也不需要靠风才能航海了.在电气时代,电灯代替了蜡烛,电报代替了快马送信,而报纸也被广播和电视所侵蚀. 可以说是现有产业加上新技术,形成了新产业. 我们回过头来看这两次工业革命,生产蒸汽机的企业只有少量几家,而发电的企业在美国也只有通用电气和西屋电气.并不是每家企业都要从事这些基础设施的研

在大数据时代 每家公司都要组建大数据部门吗?

在大数据时代 每家公司都要有大数据部门吗?如果这个问题换做是:在电气时代,每家公司都要有个发电厂吗?是不是会更好回答一些? 事实上每一种重大技术的出现,都会对产业产生大的变化.在蒸汽时代,采矿机采用蒸汽机后,会带来生产效率的极大提升,而轮船加上蒸汽机,再也不需要靠风才能航海了.在电气时代,电灯代替了蜡烛,电报代替了快马送信,而报纸也被广播和电视所侵蚀. 可以说是现有产业加上新技术,形成了新产业. 我们回过头来看这两次工业革命,生产蒸汽机的企业只有少量几家,而发电的企业在美国也只有通用电气和西屋电