[Hadoop]Hadoop添加节点datanode

  • 部署hadoop
    和普通的datanode一样。安装jdk,ssh
  • 修改host
    和普通的datanode一样。添加namenode的ip
  • 修改namenode的配置文件conf/slaves
    添加新增节点的ip或host
  • 在新节点的机器上,启动服务
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start datanode
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start tasktracker
  • 均衡block
[root@slave-004 hadoop]# ./bin/start-balancer.sh

这个会非常耗时
1)如果不balance,那么cluster会把新的数据都存放在新的node上,这样会降低mapred的工作效率
2)设置平衡阈值,默认是10%,值越低各节点越平衡,但消耗时间也更长

[root@slave-004 hadoop]# ./bin/start-balancer.sh -threshold 5 

3)设置balance的带宽,默认只有1M/s

<property>
<name> dfs.balance.bandwidthPerSec </name>
<value> 1048576 </value>
<description>
Specifies the maximum amount of bandwidth that each datanode
can utilize for the balancing purpose in term of
the number of bytes per second.
</description>
</property>

注意:
1. 必须确保slave的firewall已关闭;
2. 确保新的slave的ip已经添加到master及其他slaves的/etc/hosts中,反之也要将master及其他slave的ip添加到新的slave的/etc/hosts中

时间: 2024-09-19 09:38:23

[Hadoop]Hadoop添加节点datanode的相关文章

hadoop其中一个节点马上要写满了,如何设置不往该节点写数据

问题描述 hadoop其中一个节点马上要写满了,如何设置不往该节点写数据 解决方案 解决方案二:配置一个监听器,使用观察者模式,把监听器注入到服务,满足条件,监听报警,像写的地方发告警

惭入佳境之布置双节点DATANODE及错误解决

先流一下口水~~~~ 传说中YAHOO用于HADOOP的机房: 推荐安装指南: http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-multi-node-cluster/ 其布置多节点的思路是: 先将第一个布置好的SINGLE节点方案弄好. 然后,将第一个节点的东东复制到另一个节点. 再将第二个节点降成DATANODE节点,而第一个节点为NAMENODE节点. 这样,就很好的实现了节点扩展. 但....其实,在

PHP往XML中添加节点的方法

 这篇文章主要介绍了PHP往XML中添加节点的方法,涉及php操作XML文件的技巧,具有一定参考借鉴价值,需要的朋友可以参考下     本文实例讲述了PHP往XML中添加节点的方法.分享给大家供大家参考.具体方法如下: 1. contacts.xml代码 代码如下: <contact id="43956"> <personal> <name> <first>J</first> <middle>J</middl

dtree:dtree重写 动态添加节点

dTree.prototype.show = function(did){      var aNodesData = this.aNodes;  //    alert(aNodesData);      this.aNodes=new Array();      this.aIndent=new Array();      // Dump original data to aNode array      for(var i=0;i<aNodesData.length ; i++){    

Oracle 10203 RAC环境添加新节点(五)添加节点的软件安装过程中的问题

简单描述一下,在Oracle 10203 for Solaris sparc的RAC双节点环境中,新增一个节点的过程.共享存储已经在第三个节点上配置完成,这里主要介绍操作系统上和Oracle上的配置. 简单描述添加节点的软件安装过程中碰到的问题. 第一个错误是在运行ADDNODE.SH工具时碰到的,在节点3的安装过程中出现了空间不足的错误: INFO: ld.so.1: lsnodes: fatal: libskgxn2.so: open failed: No such file or dire

Oracle RAC 添加节点

1 安装准备工作 1.1 加节点步骤 加节点不需要停机,在线操作,但需要在业务较低时段进行,若安排重启测试和业务测试,则视情况申请停机时间. 1、 原生产库两台主机安装新的操作系统,连接现生产库所用的存储并进行多路径的配置 2、 配置网络 3、 检查系统包和配置等价性等一系列加节点操作,具体操作参考章节1.3~1.12 4、 在现有生产库节点1上进行加节点操作. 5、 检查各个节点的crs和instance的状态. 节点 节点名称 实例名称 数据库名称 处理器 R

PHP往XML中添加节点的方法_php技巧

本文实例讲述了PHP往XML中添加节点的方法.分享给大家供大家参考.具体方法如下: 1. contacts.xml代码 复制代码 代码如下: <contact id="43956">      <personal>           <name>                <first>J</first>                <middle>J</middle>             

Oracle Rac 11R2添加节点

Oracle Rac 11R2添加节点 一.完成以下步骤,准备将节点添加到集群: 1.安装操作系统(版本和集群其他节点一致),同时配置hosts文件.内核参数,网络参数,及oracle rac依赖的patch 2.配置网络连接,配置共享存储映射到要添加的节点 3.创建grid.及oracle用户及相关目录及环境变量. 4.确保在节点上配置了SSH. 5.使用cvu验证添加节点是否符合要求 从已存在的节点目录 Grid_home/bin下执行如下命令: $ cluvfy stage -pre no

动态-android的问题:怎么在已有的xml文件添加节点

问题描述 android的问题:怎么在已有的xml文件添加节点 在论坛上看到了同样的问题,没有解答,直接借用内容了. 如图,我想动态添加button 怎么实现? 解决方案 照抄原有button,修改name其他的修改自己看着办,都一样的 解决方案二: 动态添加button,是想在代码中实现控件的增加?如果在在 XML 中 Copy/Paste 之间内容,然后修改控件的姓名和ID就可以了,当然其它的也能修改.