Hadoop 学习第三天之集群安装(下)

Hadoop 学习之集群安装(下)

Hadoop集群的其他配置步骤(可选)

1.   将secondaryNameNode和NameNode及JobTracker分开,放在不同的主机上

修改hadoop的配置目录conf下的masters

root@conf#vim master

将secondaryNameNode放在hadoop2上

重新启动服务

 

2.   将NameNode和JobTracker放在不同的主机上

修改的代价比较大,最好在机器搭建时就规划好

修改nameNode的地址,如下图的红框中的value中的hadoop1为其他机器的即可

修改Jobtracker的地址,但必须在每个从节点都配置为一样的参数

修改后需要在所在节点单独起进程

 

PS:对于配置文件core-site.xml和mapred-site.xml在所有节点都是相同的内容,所以说要在hadoop集群搭建之时就要规划好,然后复制出从节点时这两个文件就不用修改了

3.   动态增加一个hadoop从节点

3.1   配置新节点的环境,如上的配置步骤:在主节点hadoop1

#vim  /usr/local/hadoop/conf/slaves 添加一个节点hadoop1

3.2   在新的节点使用hadoop的hadoop-daemon.sh 分别动态扫描datanote和tasktracker

#hadoop-daemon.sh start  datanote

#hadoop-daemon.sh start  tasktracker

进程存在,先杀掉该进程

#kill -9 2458

再次执行上面两步

 

3.3   在主节点hadoop1执行脚本:hadoop dfsadmin –refreshNodes

4.   动态删除一个hadoop从节点

4.1   直接关闭一个从几点

#kill  -9 dataNode的进程id

5.   Hadoop的安全模式

5.1   安全模式下只可查询,不能增删改

5.2   在集群启动时会有30秒的安全模式时间

5.3   进入安全模式和查看安全模式状态

查询安全模式状态

#hadop dfsadmin –safemode  get

进入安全模式

#hadop dfsadmin –safemode  enter

离开安全模式

#hadop dfsadmin –safemode leave

 

 

时间: 2024-10-28 11:36:40

Hadoop 学习第三天之集群安装(下)的相关文章

Hadoop 学习第三天之集群安装(上)

Hadoop 学习之集群安装(上) 将配置的伪分布模式的虚拟机克隆两份并更名为centos_node2和centos_note3 分别打开三个虚拟机,第一个基本不需要配置了,现在主要配置centos_note2和centos_note3的配置. 1.   首先修改IP地址和主机名 因为centos是hadoop1和192.168.100.11,在这里设置centos_note2和centos_note3的主机名和IP地址分别为:hadoop2/192.168.100.12和hadoop3/192

Hadoop学习之ZooKeeper理论知识和集群安装配置

ZooKeeper集群安装配置和理论知识 1.   简介:zookeeper是Google的Chubby的一个开源实现,是hadoop的分布式协调服务 2.    Zookeeper(简称zk)包含一个简单的原语集,分布式应用程序可以给予它实现同步服务,配置维护和命名服务等 3.    Zk的设计目标 a)      简单化:通过共享体系的,命名空间进行协调,与文件系统相似,有一些数据寄存器组成,被称为Znode.Zk的数据是放在内存中的,zk可以达到高吞吐量.低延迟. Zk能用在大型.分布式的

E-MapReduce(Hadoop)10大类问题之集群规划

前言 目前E-MapReduce已经服务了很多客户,大部分的客户都有着相同类似的问题,本系列会总结这些问题,分为10篇文章,每隔一段时间会更新一大类的问题,欢迎大家交流学习.我们交流群为开源大数据技术社区召集令,欢迎大家关注.特别推荐 E-MapReduce产品,如果有大数据的需求,欢迎大家尝试使用,本系列所有的问题都是基于E-MapReduce平台的. 集群规划类问题 所有的使用Hadoop或者打算使用Hadoop的人肯定会遇到集群规划的问题,我到底使用多大的集群规模呢?有没有一个标准呢? 本

Hadoop单机版和全分布式(集群)安装_linux shell

Hadoop,分布式的大数据存储和计算, 免费开源!有Linux基础的同学安装起来比较顺风顺水,写几个配置文件就可以启动了,本人菜鸟,所以写的比较详细.为了方便,本人使用三台的虚拟机系统是Ubuntu-12.设置虚拟机的网络连接使用桥接方式,这样在一个局域网方便调试.单机和集群安装相差不多,先说单机然后补充集群的几点配置. 第一步,先安装工具软件编辑器:vim 复制代码 代码如下: sudo apt-get install vim ssh服务器: openssh,先安装ssh是为了使用远程终端工

集群安装配置Hadoop详细图解

集群安装配置Hadoop 集群节点:node4.node5.node6.node7.node8.具体架构: 操作系统为:CentOS release 5.5 (Final) 安装步骤 一.创建Hadoop用户组. 二.安装JDK.下载安装jdk.安装目录如下: 三.修改机器名,修改文件/etc/hosts.如下: 四.安装ssh服务.命令:yum install openssh-server. 五.建立ssh无密码登陆. (一)切换到hadoop用户.su – hadoop (二)创建ssh-k

Ubuntu 14(64位) 集群环境下如何安装Hadoop 2.4

经过前边的积累,今天终于实现了集群环境下部署Hadoop,并成功运行了官方的例子. 工作如下: 两台机器: NameNode:上网小本,3G内存,机器名:YP-X100e,IP:192.168.101.130. DataNode:虚拟机,Win7下载VMWare10中虚拟Ubuntu14,虚拟机器名:ph-v370,IP:192.168.101.110 确保可互相ping通,按照机器名和IP配置各自机器的/etc/hosts文件和/etc/hostname文件,我的hosts配置内容如下 127

Hadoop集群环境下的网络架构的设计与优化

Hadoop集群环境下的网络架构的设计与优化 冯力 杨凯 杨帆 大数据时代,研究大数据的IT厂商把研究重心放在优化大数据系统软件架构.优化业务逻辑.优化数据分析算法.优化节点性能等方向,而忽略了大数据环境基础设置中网络环节的评估和优化.本文介绍了思科公司在Hadoop集群环境下的网络架构设计与优化经验.大数据Hadoop环境网络特性Hadoop集群中的各节点通过网络连接起来,而且MapReduce中的以下过程会在网络中传输数据. Hadoop集群环境下的网络架构的设计与优化

Hadoop集群环境下网络架构的设计与优化

大数据时代,研究大数据的IT 厂商把研究重心放在优化大数据系统软件架构.优化业务逻辑.优化数据分析算法.优化节点性能等方向,而忽略了大数据环境基础设置中网络环节的评估和优化.本文介绍了思科公司在Hadoop 集群环境下的网络架构设计与优化经验. 大数据Hadoop环境网络特性Hadoop 集群中的各节点通过网络连接起来,而且MapReduce 中的以下过程会在网络中传输数据. (1)写数据.当向HDFS 写入初始数据或者大块数据时,会发生数据写入过程.写入的数据块需要备份到其他节点,需要在网络中

Storm集群安装部署步骤

开始学习Storm,本文主要记录Storm集群安装部署步骤,不包括对Storm的介绍. 安装storm集群,需要依赖以下组件: Zookeeper Python Zeromq Storm JDK JZMQ 故安装过程根据上面的组件分为以下几步: 安装JDK 安装Zookeeper集群 安装Python及依赖 安装Storm 另外,操作系统环境为:Centos6.4,安装用户为:root. 1. 安装JDK 安装jdk有很多方法,可以参考文博客使用yum安装CDH Hadoop集群中的jdk安装步