Hortonworks改进Spark与Hadoop全面整合

  ">Hortonworks的新代码改进了Spark与Hive的集成,并计划对Spark内存分析平台进行安全和性能方面的升级。

  Apache Spark内存分析平台如今是大数据分析领域的热门技术,Hadoop发行商Hortonworks近日决定加大对Spark的投入。本周三 Hortonworks宣布其Spark软件将提升Hive集成度,并增加对Spark的ORC数据格式的支持,Hortonworks还计划提升 Spark通过YARN资源管理工具与Hadoop协作的安全性和性能表现。

  Hortonworks的产品营销总监Jim Walker在接受媒体采访时指出,Hortonworks的目标是确保Spark支持YARN并为YARN优化,同时配备合适的安全和运营工具。

  YARN 是 Hadoop 内的数据操作系统,可在一个集群上组合多个数据集,并使用各种处理引擎访问它们。

  而Spark是Databricks公司开发推广的一种内存(in-memory)机器学习平台(借助MLLib)。Spark同时还支持SQL分析 (借助SparkSQL),流分析(借助Spark Streaming),并有望支持流行的R分析库和图谱分析(分别借助SparkR和GraphX)。Spark既可以作为一个单独的分布式集群运行,也能在Hadoop和Cassandra上运行,还能与MongoDB和传统关系型数据库资源对接。

  Hortonworks致力于让 Spark能更好地与Hadoop协作,因此为Spark贡献了不少代码,提升其与Hive——一种Hortonworks偏爱的原生Hadoop开源 SQL查询工具的集成。值得注意的是Hortonworks的竞争对手也采用Hive,但是Cloudera和MapR例外,Cloudera致力于推广自己专有的Impala SQL查询引擎,MapR则支持开源的Apache Drill。

  据Hortonworks透露,本周将在其官网提供预览的新代码能够提升Spark读写Hive数据的性能,包括支持以ORC(Optimized Row Columnar)格式写入数据,ORC是一种列存储个事,为数据读取和压缩性能进行了优化,而ORC也正在成为Hive的事实存储格式。

  Hortonworks是发行Spark软件的十个厂商之一,其他厂商还包括BlueData、CLoudera、DataStax、Guavus、 IBM、Oracle、Pivotal、SAP和Stratio。其中三家厂商Cloudera、DataStax和MapR是Databricks的认证服务提供商。Hortonworks的认证虽然还没有下来,但是已经开始对发售的Spark软件提供支持。

时间: 2024-08-07 11:02:27

Hortonworks改进Spark与Hadoop全面整合的相关文章

大数据:Spark和Hadoop是友非敌

Spark 在 6 月份取得了激动人心的成绩.在圣何塞举办的 Hadoop 峰会上,Spark 成了人们经常提及的话题和许多演讲的主题.IBM 还在 6 月 15 号宣布,将对 Spark 相关的技术进行巨额投资. 这一声明帮助推动了旧金山Spark 峰会的召开.在这里,人们会看到有越来越多的工程师在学习 Spark,也有越来越多的公司在试验和采用 Spark. 对 Spark 的投资和采用形成了一个正向循环,迅速推动这一重要技术的成熟和发展,让整个大数据社区受益.然而,人们对 Spark 的日

Spark与Hadoop两大技术趋势解析

文章讲的是Spark与Hadoop两大技术趋势解析,开源数据集如今深受开发者喜爱,比如谷歌的Images dataset数据集,YouTube-8M数据集等.通过对数据集里的数据进行分析,可以发现许多隐藏信息,比如客户喜好.未知相关性,市场趋势以及其他有用的商业信息.大数据分析对企业降低成本,准确掌握市场趋势,更快完成产品迭代十分有用.说到大数据分析,16年基本被Spark与Hadoop霸屏,到底是什么样的魔力让它们足以引起大数据世界的波动,未来又会如何发展呢? Apache Spark Apa

Spark和Hadoop,孰优孰劣

Spark已经取代Hadoop成为最活跃的开源大数据项目,但是,在选择大数据框架时,企业不能因此就厚此薄彼 近日,著名大数据专家Bernard Marr在一篇文章中分析了Spark和 Hadoop 的异同   Hadoop和Spark均是大数据框架,都提供了一些执行常见大数据任务的工具,但确切地说,它们所执行的任务并不相同,彼此也并不排斥 虽然在特定的情况下,Spark据称要比Hadoop快100倍,但它本身没有一个分布式存储系统 而分布式存储是如今许多大数据项目的基础,它可以将 PB 级的数据

《Spark与Hadoop大数据分析》一一第1章 从宏观视角看大数据分析

第1章 从宏观视角看大数据分析 本书的目标是让你熟悉 Apache Spark用到的工具和技术,重点介绍Hadoop平台上使用的Hadoop部署和工具.大多数Spark的生产环境会采用Hadoop集群,用户在集成 Spark和Hadoop配套的各种工具时会遇到很多挑战.本书将讲解Hadoop分布式文件系统(Hadoop Distributed File System,HDFS)和另一种资源协商器(Yet Another Resource Negotiator,YARN)面临的集成挑战,以及Spa

Spark 和 Hadoop 是朋友不是敌人

6月15日,IBM 宣布计划大规模投资 Spark 相关技术,此项声明会促使越来越多的工程师学习 Spark 技术,并且大量的企业也会采用 Spark 技术. Spark 投资的良性循环会使 Spark 技术发展更加成熟,并且可以从整个大数据环境中获益.然而,Spark 的快速增长给人们一个奇怪且固执的误解:Spark 将取代 Hadoop,而不是作为 Hadoop 的补充.这样的误解可以从类似"旨在比下 Hadoop 的新软件"和"企业将放弃大数据技术 Hadoop&quo

《Spark与Hadoop大数据分析》——第1章 从宏观视角看大数据分析

第1章 从宏观视角看大数据分析 本书的目标是让你熟悉 Apache Spark用到的工具和技术,重点介绍Hadoop平台上使用的Hadoop部署和工具.大多数Spark的生产环境会采用Hadoop集群,用户在集成 Spark和Hadoop配套的各种工具时会遇到很多挑战.本书将讲解Hadoop分布式文件系统(Hadoop Distributed File System,HDFS)和另一种资源协商器(Yet Another Resource Negotiator,YARN)面临的集成挑战,以及Spa

《Spark与Hadoop大数据分析》一一2.4 安装 Hadoop 和 Spark 集群

2.4 安装 Hadoop 和 Spark 集群 在安装 Hadoop和Spark之前,让我们来了解一下 Hadoop和Spark的版本.在 Cloudera.Hortonworks和MapR这所有三种流行的Hadoop发行版中,Spark都是作为服务提供的.在本书编写的时候,最新的Hadoop和Spark版本分别是2.7.2和2.0.但是,Hadoop发行版里可能是一个较低版本的Spark,这是因为Hadoop和 Spark 的发行周期并不同步.对于后续章节的实践练习,我们会使用来自 Clou

《Spark与Hadoop大数据分析》——2.4 安装 Hadoop 和 Spark 集群

2.4 安装 Hadoop 和 Spark 集群 在安装 Hadoop和Spark之前,让我们来了解一下 Hadoop和Spark的版本.在 Cloudera.Hortonworks和MapR这所有三种流行的Hadoop发行版中,Spark都是作为服务提供的.在本书编写的时候,最新的Hadoop和Spark版本分别是2.7.2和2.0.但是,Hadoop发行版里可能是一个较低版本的Spark,这是因为Hadoop和 Spark 的发行周期并不同步. 对于后续章节的实践练习,我们会使用来自 Clo

Spark连接Hadoop读取HDFS问题小结

Spark与hadoop版本 我使用0.7.2的Spark版本,且是pre-built过的版本,支持的hadoop版本是hadoop1.在http://spark-project.org/files/上能下载的预编译过的spark版本里,凡是预编译cdh4的压缩包,下载后解压会中断,文件本身有问题.我在google论坛上发帖说明了这个问题:https://groups.google.com/forum/#!topic/spark-users/Y4iJ1458d18.所以我现在使用预编译了1代ha