当由不同用户提交时,Tez作业失败

配置具有Kerberos安全性的Hadoop-2.6.0 HA群集。 在不同用户的yarn-tez框架中使用tez-example-0.6.0.jar提交示例作业时,获取以下exception

例外

 java.io.IOException: The ownership on the staging directory hdfs://clustername/tmp/staging is not as expected. It is owned by Kumar. The directory must be owned by the submitter TestUser or by TestUser 

该目录具有完全权限,但仍然获得上述exception。 但是当在yarn-tez框架中使用mapreduce-examples-2.6.0.jar提交作业时,作业就完成了。

命令

 yarn jar C:\Tez\tez-examples-0.6.0.jar orderedwordcount -Dmapreduce.framework.name=yarn-tez /user/Kumar/names /user/Kumar/names1 

非常感谢帮助。

在tez-site.xml中设置以下内容:

  tez.staging-dir /tmp/${user.name}/tez/staging/  

当前的临时目录似乎配置为使用/ clustername / tmp / staging /,最终使用相同的路径为多个用户导致权限冲突。

如果您使用/ clustername / tmp作为前缀,请务必预先创建tmp目录并拥有777权限。

Interesting Posts