【Hadoop】MAC下hadoop2.6安装以及执行wordcount

首先简单介绍下博主的配置环境

  • MAC 10.10.0
  • hadoop 2.6
  • JDK 1.6(可以在shell里用jdk -version查询)

hadoop安装

安装的话推荐使用mac下面的brew,理由就是用brew安装的话,它会自动给帮你配置好相应的路径。当然也可以到官网下载,注意jdk和hadoop版本要对应。

brew install hadoop

安装好了之后,可以使用brew list hadoop 来查看。
位置应该是在:/usr/local/Cellar/hadoop/
这时候就可以直接在shell里执行hadoop命令,是不是很方便。

执行wordcount

首先说一下,现在要执行的wordcount只是简单试验下hadoop是否能工作,并不是多线程的伪分布式,因为还没有配置,这个下一节会讲。

1.首先我们先建立以下数据源
在hadoop根目录下,建立一个文件夹,叫“input”
在里面放上txt数据,我直接把”readme.txt”copy 进去了
2.这时候我们就可以执行hadoop的自带命令了
首先要找到 hadoop-mapreduce-examples-2.6.0.jar 这个文件的路径,因为自带的例子都是在这个里面的。
jar 命令来执行,因为都是java写的嘛。

3.执行命令

hadoop jar /usr/local/Cellar/hadoop/2.6.0/libexec/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar wordcount input output
4.效果
这时候你会发现shell蹦出一大串东西
最终会生成一个output文件夹,里面的东西打开,就是wordcount

本文来自博客 “李博Garvin“
转载请标明出处:http://blog.csdn.net/buptgshengod

时间: 2024-09-19 20:27:24

【Hadoop】MAC下hadoop2.6安装以及执行wordcount的相关文章

mac下使用brew 安装mongodb的方法教程_MongoDB

mac 系统常用的软件安装工具就是 homebrew 个人认为通过brew安装比较简单,下面介绍下如何安装 安装 mongodb wenxuezhangdeMacBook-Pro:~ wenxuezhang$ brew install mongodb 此图说明已经安装成功,安装的目录就是 /usr/local/Cellar/mongodb/3.2.9 第一次启动服务端,这里需要做一些准备工作. 默认mongodb 数据文件是放到根目录 data/db 文件夹下,如果没有这个文件,请自行创建. w

Mac下django简单安装配置步骤

一.安装软件包并创建项目 $sudo pip install django $sudo python -c  "import django;print django.VERSION" (1, 7, 0, 'final', 0) $sudo django-admin startproject  cmdb #创建项目 $sudo django-admin startapp cmdb  #创建应用 二.修改配置 1.修改settings.py,添加cmdb应用,以及其他设置 INSTALLE

mac下eclipse安装svn步骤详解

平时在window下感觉很轻松的问题到mac下没有想到安装起来那么费劲,特意记录下: eclipse 版本是最新的luna 1.直接在Marketpalce商店安装subclipse1.0.15版本 对应的使用的 JavaHL 为1.8版本 版本使用对照可以参见:http://subclipse.tigris.org/wiki/JavaHL 2.重启eclipse后会遭遇 Failed to load JavaHL Library. These are the errors that were

在常见的三种平台下制作Ubuntu安装U盘

很多朋友都知道Ubuntu是一个非常不错的Linux发行版,要在官网下载到Ubuntu也非常简单.但下载好ISO之后我们要怎么来安装呢?当然,早年前我们都是通过记录DVD光盘的方式来进行安装,现在随着光驱逐步被市场所淘汰,Ubuntu同Windows一样与时俱进,同样也可以通过制作Ubuntu安装U盘的方式来进行安装. 下面我们就来介绍下如何在Windows.Mac甚至Linux平台下,如何制作Ubuntu安装U盘的几种方式. Ubuntu版本的选择 首先大家需要知道Ubuntu有LTS版本和"

Hadoop-2.8.0集群搭建、hadoop源码编译和安装、host配置、ssh免密登录、hadoop配置文件中的参数配置参数总结、hadoop集群测试,安装过程中的常见错误

25.集群搭建 25.1 HADOOP集群搭建 25.1.1集群简介 HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起 HDFS集群: 负责海量数据的存储,集群中的角色主要有NameNode / DataNode YARN集群: 负责海量数据运算时的资源调度,集群中的角色主要有 ResourceManager /NodeManager 25.1.2服务器准备 本案例使用虚拟机服务器来搭建HADOOP集群,所用软件及版本: ü Vmware 11.

跟我一起hadoop(1)-hadoop2.6安装与使用

伪分布式 hadoop的三种安装方式: Local (Standalone) Mode Pseudo-Distributed Mode Fully-Distributed Mode 安装之前需要 $ sudo apt-get install ssh       $ sudo apt-get install rsync 详见:http://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.ht

Ubuntu 14.04 下的MAC OS X 主题安装

Ubuntu 14.04 下的MAC OS X 主题安装 安装 MAC OS X 主题会帮助你的 Ubuntu 14.04 看起来更像MAC OS X.在这里我们介绍的Macbuntu安装包包含了GTK 主题,这些主题是专门为ubuntu unity定制的.图标主题可以为ubuntu 14.04使用,包括登陆界面引导启动的背景,登陆用户,甚至包括了lightdm 使用webkit的登陆界面.这个安装包是nobslab在bluedxca93的帮助下从gnome-look.org网站上开发的. 最终

Mac下安装Caffe

最近将工作笔记本从X1换成了MBA,真是不习惯,连复制粘贴都不那么顺手了. 好在命令行和Linux差不多,于是想搞个Caffe在Mac上跑跑,哪怕CPU版本的也行. 参考:http://caffe.berkeleyvision.org/install_osx.html 首先安装homebrew工具,相当于Mac下的yum或apt $ ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/in

mac下mqsql安装后连接不上!!!

问题描述 mac下mqsql安装后连接不上!!! 我只是安装了mysql,不懂终端配置,,试了下网上的终端修改密码,都修改不来!!!! 解决方案 MAC连接安卓手机安装apk---------------------- 解决方案二: 如果不是没给root@localhost授权的话,就是密码错误.我以前遇到过一次,windows下,当时手误把密码改成乱码,后来在通过命令行修改密码才解决了 解决方案三: 你只是安装了,有没有设置初始密码,一般默认安装是没有密码的,需要初始化密码才可以登录 你直接执