伪分布模式下jobtracker和tasktracker无法启动问题

问题描述

tail-fhadoop-hadoop-jobtracker-h1.log日志内容STARTUP_MSG:StartingJobTrackerSTARTUP_MSG:host=h1/192.168.253.128STARTUP_MSG:args=[]STARTUP_MSG:version=0.20.2-cdh3u3STARTUP_MSG:build=git://ubuntu-slave01/var/lib/jenkins/workspace/CDH3-Selective/build/cdh3/hadoop20/0.20.2-cdh3u3/source-r318bc781117fa276ae81a3d111f5eeba0020634f;compiledby'jenkins'onTueMar2013:26:06PDT2012************************************************************/===========================2015-03-0601:39:34,639FATALorg.apache.hadoop.mapred.JobTracker:java.lang.RuntimeException:Notahost:portpair:localatorg.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:140)atorg.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:124)atorg.apache.hadoop.mapred.JobTracker.getAddress(JobTracker.java:2434)atorg.apache.hadoop.mapred.JobTracker.<init>(JobTracker.java:2057)atorg.apache.hadoop.mapred.JobTracker.<init>(JobTracker.java:2050)atorg.apache.hadoop.mapred.JobTracker.startTracker(JobTracker.java:296)atorg.apache.hadoop.mapred.JobTracker.startTracker(JobTracker.java:288)atorg.apache.hadoop.mapred.JobTracker.main(JobTracker.java:4792)2015-03-0601:39:34,643INFOorg.apache.hadoop.mapred.JobTracker:SHUTDOWN_MSG:/************************************************************SHUTDOWN_MSG:ShuttingdownJobTrackerath1/192.168.253.128************************************************************/hadoop-hadoop-tasktracker-h1.log日志内容STARTUP_MSG:StartingTaskTrackerSTARTUP_MSG:host=h1/192.168.253.128STARTUP_MSG:args=[]STARTUP_MSG:version=0.20.2-cdh3u3STARTUP_MSG:build=git://ubuntu-slave01/var/lib/jenkins/workspace/CDH3-Selective/build/cdh3/hadoop20/0.20.2-cdh3u3/source-r318bc781117fa276ae81a3d111f5eeba0020634f;compiledby'jenkins'onTueMar2013:26:06PDT2012************************************************************/2015-03-0601:39:38,094ERRORorg.apache.hadoop.mapred.TaskTracker:Cannotstarttasktrackerbecausejava.lang.RuntimeException:Notahost:portpair:localatorg.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:140)atorg.apache.hadoop.net.NetUtils.createSocketAddr(NetUtils.java:124)atorg.apache.hadoop.mapred.JobTracker.getAddress(JobTracker.java:2434)atorg.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:1576)atorg.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:3879)2015-03-0601:39:38,097INFOorg.apache.hadoop.mapred.TaskTracker:SHUTDOWN_MSG:/************************************************************SHUTDOWN_MSG:ShuttingdownTaskTrackerath1/192.168.253.128************************************************************/以下是配置文件信息[hadoop@h1conf]$catcore-site.xml<?xmlversion="1.0"?><?xml-stylesheettype="text/xsl"href="configuration.xsl"?><!--Putsite-specificpropertyoverridesinthisfile.--><configuration><property><name>fs.default.name</name><value>hdfs://h1:9000</value></property></configuration>[hadoop@h1conf]$cathdfs-site.xml<?xmlversion="1.0"?><?xml-stylesheettype="text/xsl"href="configuration.xsl"?><!--Putsite-specificpropertyoverridesinthisfile.--><configuration><property><name>dfs.data.dir</name><value>/home/hadoop/hadoop-data</value></property><property><name>dfs.replication</name><value>1</value></property></configuration>[hadoop@h1conf]$catmapred-site.xml<?xmlversion="1.0"?><?xml-stylesheettype="text/xsl"href="configuration.xsl"?><!--Putsite-specificpropertyoverridesinthisfile.--><configuration><property><name>mapred.job.tracker></name><value>h1:9001</value></property></configuration>我刚开始学习hadoop,发现伪分布模谢式下的jobtracker和tasktracker两个进程在启动大约30移钟后消失,看日志发现以上问题,但做测试包括文件考被,wordcount测试时,均正常输出job日志,查过很多贴子都没有找出问题所在,请专家或或者是遇到和我一样的问题的前辈帮助指点一下,谢谢!

解决方案

解决方案二:
我上网查了下“java.lang.RuntimeException:Notahost:portpair:local”,说是mapred.job.tracker没配置。但是你配置了。唯一不同的是我当时的伪分布式是<value>http://h1:9001</value>写了http,不知道是这个问题不?
解决方案三:
还有这个问题应该放在hadoop,你在spark里问,回答人少。

时间: 2024-09-13 01:36:57

伪分布模式下jobtracker和tasktracker无法启动问题的相关文章

hadoop jobtracker 和 tasktracker 没有启动

问题描述 hadoop jobtracker 和 tasktracker 没有启动 hadoop版本:2.6 hosts已经修改; java 环境变量:配置的/etc/environment中,如下图: core-site.xml配置如下图: mapred-site.xml配置如下图 hdfs-site.xml配置如下图: 启动脚本: 使用 start-all.sh启动hadoop 但是jps查看进程没有jobtracker和 tasktracker 大神指点啊,小弟初学找了很久了没解决问题.

监听器初始化Job,JobTracker相应TaskTracker心跳,调度器分配task分析

监听器初始化Job,JobTracker相应TaskTracker心跳,调度器分配task的源码级分析 JobTracker和TaskTracker分别启动之后(JobTracker启动流程源码级分析,TaskTracker启动过程源码级分析),taskTracker会通过心跳与JobTracker通信,并获取分配它的任务.用户将作业提交到JobTracker之后,放入相应的数据结构中,静等被分配.mapreduce job提交流程源码级分析(三)这篇文章已经分析了用户提交作业的最后步骤,主要是

伪分布模式-读取HDFS上的文件问题

问题描述 读取HDFS上的文件问题 在伪分布模式下测试代码,在eclipse里建了个项目,然后在map函数里我想从hdfs中读取文件数据(testData.csv),然后这几段代码就会出现问题,String str_url="hdfs://localhost:9000";URI.creat(str_url);String str="hdfs://localhost:9000/user/input/testData.csv";Path path=new Path(st

hadoop Windows下伪分布模式找不到datanode和tasktracker

问题描述 hadoop Windows下伪分布模式找不到datanode和tasktracker hadoop Windows下伪分布模式中jps指令后找不到datanode和tasktracker只有这几项能看到,而且也执行不了那个查看集群的report指令,求大神拯救啊图片说明 解决方案 检查一下所有的配置文件(xml文件) 或者重新reformat namenode 重启集群

Linux下部署Hadoop伪分布模式

Hadoop版本为1.2.1 Linux使用Fedora19并使用hadoop账号安装 第一步:配置ssh本地登录证书(虽然为伪分布模式,Hadoop依然会使用SSH进行通信) [hadoop@promote ~]$ which ssh /usr/bin/ssh [hadoop@promote ~]$ which ssh-keygen /usr/bin/ssh-keygen [hadoop@promote ~]$ which sshd /usr/sbin/sshd [hadoop@promote

hadoop学习第二天之伪分布模式安装(下)

继续伪分布安装 7.   安装JDK 使用winscp将hadoop和jdk复制到linux目录下 a)     打开Winscp输入虚拟机的ip,用户,密码,保存密码后点击登录 左边windows,右边linux.在左边找到要复制的文件(hadoop1.1.2.tar.gz,JDK-xx-xx.bin),直接拖到linux系统下的/usr下的local中. b)     解压hadoop-1.1.2.tar.gz #tar  –xzvf   hadoop-1.1.2.tar.gz c)    

hadoop学习第一天之伪分布模式安装( 上)

Hadoop核心项目: 1.   HDFS:Hadoop Distributed File System 分布式文件系统 2.   MapReduce:并行计算框架   HDFS的架构: 主从结构:                    主节点:只有一个,namenode                    从节点:有很多歌,datanodes    Namenode负责: 3.   接收用户操作请求 4.   维护文件系统的目录结构 5.   管理文件与block之间的关系,block与da

Hadoop大象之旅007-配置Hadoop伪分布模式

Hadoop大象之旅007-配置Hadoop伪分布模式                                                          老帅    安装hadoop分为本地模式.伪分布模式.集群模式.本地模式是运行在本地,只负责存储,没有计算功能.伪分布模式是在一台机器上模拟分布式部署,方便学习和调试.集群模式是在多个机器上配置hadoop,是真正的"分布式".    伪分布模式是在一台单机上运行,但用不同的 Java 进程模仿分布式运行中的各类结点

Hadoop1.2.1伪分布模式安装教程

一.硬件环境 Hadoop搭建系统环境:一台Linux ubuntu-13.04-desktop-i386系统,既做Namenode,又做Datanode.(ubuntu系统搭建在硬件虚拟机上) Hadoop安装目标版本:Hadoop1.2.1 jdk安装版本:jdk-7u40-linux-i586 Pig安装版本:pig-0.11.1 硬件虚拟机搭设环境:IBM塔式服务器x3500M3 MT:7380 eclipse安装版本:eclipse-standard-kepler-SR1-linux-