hadoop hive-oozie shell action 执行hql 执行的mr是本地模式

问题描述

oozie shell action 执行hql 执行的mr是本地模式

各位大神,不知道你们是否有使用过oozie调用shell action ,shell中执行的是hive -e “$hql” ,遇到了一个问题
,hive生成的mr都是本地的job。不值到哪位大神遇到过。帮忙给点参考意见啊。

解决方案

添加环境变量HADOOP_CONF_DIR=$HADOOP_CONF_DIR:/etc/hive/conf(后面是hive配置信息路径)

解决方案二:

MR执行流程
MR推测执行

时间: 2024-08-03 18:19:45

hadoop hive-oozie shell action 执行hql 执行的mr是本地模式的相关文章

python文件读写操作与linux shell变量命令交互执行的方法_python

本文实例讲述了python文件读写操作与linux shell变量命令交互执行的方法.分享给大家供大家参考.具体如下: python对文件的读写还是挺方便的,与linux shell的交互变量需要转换一下才能用,这比较头疼. 代码如下: 复制代码 代码如下: #coding=utf-8 #!/usr/bin/python import os import time #python执行linux命令 os.system(':>./aa.py') #人机交互输入 S = raw_input("

spring hibernate service层执行hql问题

问题描述 在service层中写hql,然后直接使用dao调用,返回值是Object类型,里面的参数名字也变成了01234...而在service层调用dao,dao执行hql,则不会出现这种问题,会返回正常实体跑断点发现返回值类型是由一个queryPlanCache的东西管理的然后这个东西是在SessionFactoryImplementor中,而跑断点没看到这个对象中的返回值类型是什么时候设定的,在执行的时候就已经存在了,求大神解释为何service层中写hql,并使用baseDao执行hq

hql语句-hibernate在执行HQL语句的疑问?

问题描述 hibernate在执行HQL语句的疑问? 求大神知道,我在执行hql语句查询几万条数据时没问题,但是查询10W条数据后,就查询不出来,也没有报错,求大神解答狭隘 解决方案 一次性查询完呢?还是分页查询?这种情况的原因可能是你的HQL语句数据源配置中的峰值问题,看看都给了多少 和你的业务符合吗?还有可能是你的程序中设置了瓶颈,是的10W之后的CPU为0,或者是CPU实在是不行了,卡主了,等等看多久出结果. 解决方案二: 您好,我是一次查询整张表,您说的峰值是指的哪些,我因为刚接触SSH

hadoop hive 操作 是封装在shell脚本好还是java中好?

问题描述 hadoop hive 操作 是封装在shell脚本好还是java中好? 我们现在将hive语句都封装到shell中,因为我个人比较擅长java 所以设想应该可以把hive写在java中,然后再走工作流调用. 就是不知道这两样都有什么优点,希望高手们指点迷津 最好基于你们遇到此问题的做法 多谢 解决方案 高手都在哪 高手都在哪 高手都在哪 解决方案二: 肯定是shell脚本好,shell容易维护,尽量不要使用java,你自己写一堆java代码,过了一段时间后,你发现自己都不认识了,使用

linux shell 脚本 代码的执行

问题描述 linux shell 脚本 代码的执行 1) if kill -0 cat $pid > /dev/null 2>&1; then 2) echo $command running as process 3) cat $pid.Stop it first. 4) exit 1 5) fi 求解1)是什么意思怎么执行, 不知道是 (1) tmp0 = cat $pid 其中的值,在执行 (2) tmp1=kill -0 tmp0 (3) tmp2=tmp1> /dev/

页面Ajax访问action,关闭页面,action是否继续执行?

问题描述 当前情况是,页面中访问一个action,这个action其中也许会执行一大段动作,也许持续5分钟,现在比如情况,某用户在点击了这个页面调用action的按钮后1分钟,就关闭了此页面,那么,是否这个action的动作还将继续? 解决方案 Action会继续执行的,这跟页面没有关系,页面最终在用户的浏览器里面执行JS,然后通过HTTP网络协议,将数据提交到服务器,然后进入Action中执行.所以页面和Action不是调用的关系,是网络通信的关系.这和服务器关了,JS仍然可以在浏览器里运行是

Hadoop + Hive + Map +reduce 集群安装部署

环境准备: CentOS 5.5 x64&http://www.aliyun.com/zixun/aggregation/37954.html">nbsp; (3台) 10.129.8.52  (master) ======>> NameNode, SecondaryNameNode,JobTracker 10.129.8.76    (slave01) ======>> DataNode, TaskTracker 10.129.8.33    (slave

方法嵌套执行-方法嵌套调用,在嵌套方法执行结束执行方法嵌套调用

问题描述 方法嵌套调用,在嵌套方法执行结束执行方法嵌套调用 方法嵌套调用,在嵌套方法执行结束执行方法嵌套调用,在嵌套方法执行结束执行,主方法就执行完了,导致错误 解决方案 ?????? 方法可以返回对象的调用.基本数据类型或不返回任何值.例如,System.out.println():System.out.println()位于java.lang包中,它描述了Java所在系统的特有行为.System.out是一个类变量,它存储了PrintStream类的一个实例.该PrintStream对象表示

hadoop hive安装教程

以下是本人hive的安装过程: hive 是Hadoop中最常用的工具,可以说是必装工具. 按apache官方文档,推荐使用svn下载后编译,文档地址:https://cwiki.apache.org/confluence/display/Hive/AdminManual+Installation 但build时,因为依赖关系,整了很久,下了很多包也没有成功. 推荐使用tar.gz包,直接安装,文档地址:https://cwiki.apache.org/confluence/display/Hi