当由不同用户提交时,Tez作业失败
配置具有Kerberos安全性的Hadoop-2.6.0 HA群集。 在不同用户的yarn-tez
框架中使用tez-example-0.6.0.jar提交示例作业时,获取以下exception
例外
java.io.IOException: The ownership on the staging directory hdfs://clustername/tmp/staging is not as expected. It is owned by Kumar. The directory must be owned by the submitter TestUser or by TestUser
该目录具有完全权限,但仍然获得上述exception。 但是当在yarn-tez
框架中使用mapreduce-examples-2.6.0.jar提交作业时,作业就完成了。
命令
yarn jar C:\Tez\tez-examples-0.6.0.jar orderedwordcount -Dmapreduce.framework.name=yarn-tez /user/Kumar/names /user/Kumar/names1
非常感谢帮助。
在tez-site.xml中设置以下内容:
tez.staging-dir /tmp/${user.name}/tez/staging/
当前的临时目录似乎配置为使用/ clustername / tmp / staging /,最终使用相同的路径为多个用户导致权限冲突。
如果您使用/ clustername / tmp作为前缀,请务必预先创建tmp目录并拥有777权限。