Hadoop FileAlreadyExistsException: выходной каталог hdfs: //<namenode public dns>: 9000 / вход уже существует
У меня есть настройка Hadoop в полностью распределенном режиме с одним ведущим и 3 ведомыми. Я пытаюсь выполнить файл JAR с именем Tasks.jar
который принимает arg[0]
в качестве входного каталога и arg[1]
в качестве выходного каталога.
В моей среде hadoop у меня есть входные файлы в /input
каталога и нет /output
каталог в моей среде hadoop.
Я проверил вышеизложенное с помощью hadoop fs -ls /
команда
Теперь, когда я пытаюсь выполнить свой JAR-файл, используя следующую команду:
hadoop jar Tasks.jar ProgrammingAssigment/Tasks /input /output
Я получаю следующее исключение:
ubuntu@ip-172-31-5-213:~$ hadoop jar Tasks.jar ProgrammingAssignment/Tasks /input /output
16/10/14 02:26:23 INFO client.RMProxy: Connecting to ResourceManager at ec2-52-55-2-64.compute-1.amazonaws.com/172.31.5.213:8032
Exception in thread "main" org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory hdfs://ec2-52-55-2-64.compute-1.amazonaws.com:9000/input already exists
at org.apache.hadoop.mapreduce.lib.output.FileOutputFormat.checkOutputSpecs(FileOutputFormat.java:146)
at org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs(JobSubmitter.java:266)
at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:139)
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1290)
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1287)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:415)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
at org.apache.hadoop.mapreduce.Job.submit(Job.java:1287)
at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1308)
at ProgrammingAssignment.Tasks.main(Tasks.java:96)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
at java.lang.reflect.Method.invoke(Method.java:606)
at org.apache.hadoop.util.RunJar.run(RunJar.java:221)
at org.apache.hadoop.util.RunJar.main(RunJar.java:136)
Исходный код:
public static void main(String []args)throws Exception{
Configuration conf=new Configuration();
Job wordCount=new Job(conf,"Word Count");
wordCount.setJarByClass(Tasks.class);
FileInputFormat.addInputPath(wordCount, new Path(args[0]));//input1
FileOutputFormat.setOutputPath(wordCount,new Path(args[1]));//output1 & input2
//FileInputFormat.addInputPath(wordCount, new Path("/input"));
//FileOutputFormat.setOutputPath(wordCount,new Path("/output"));
wordCount.setMapperClass(totalOccurenceMapper.class);
wordCount.setReducerClass(totalOccurenceReducer.class);
wordCount.setMapOutputKeyClass(Text.class);
wordCount.setMapOutputValueClass(Text.class);
wordCount.setOutputKeyClass(Text.class);
wordCount.setOutputValueClass(Text.class);
// wordCount.waitForCompletion(true);
System.exit(wordCount.waitForCompletion(true) ? 0 : 1);
}
Если я жестко закодирую путь, по которому я прокомментировал приведенный выше код, я получаю следующий вывод:
ubuntu@ip-172-31-5-213:~$ hadoop jar Tasks.jar ProgrammingAssignment/Tasks
16/10/14 15:51:19 INFO client.RMProxy: подключение к ResourceManager по адресу ec2-52-55-2-64.compute-1.amazonaws.com/172.31.5.213:8032 16/10/14 15:51:20 INFO ipc.Client: Повторная попытка подключения к серверу: ec2-52-55-2-64.compute-1.amazonaws.com/172.31.5.213:8032. Уже пробовал 0 раз (а); политика повтора - RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS) 16/10/14 15:51:21 INFO ipc.Client: повторная попытка подключения к серверу: ec2-52-55-2-64.compute-1.amazonaws. ком / 172.31.5.213: 8032. Уже пробовал 1 раз (а); политика повтора - RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS) 16/10/14 15:51:22 INFO ipc.Client: повторная попытка подключения к серверу: ec2-52-55-2-64.compute-1.amazonaws. ком / 172.31.5.213: 8032. Уже пробовал 2 раза; политика повтора - RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS) 16/10/14 15:51:23 INFO ipc.Client: повторная попытка подключения к серверу: ec2-52-55-2-64.compute-1.amazonaws. ком / 172.31.5.213: 8032. Уже пробовал 3 раз (а); Политика повторных попыток: RetryUpToMaximumCountWithFixedSleep (maxRetries = 10, sleepTime = 1000 МИЛЛИСЕКОНД)
1 ответ
Когда вы запускаете следующую команду:
hadoop jar Tasks.jar ProgrammingAssigment/Tasks /input /output
Массив args будет содержать следующее:
args[0] ProgrammingAssigment/Tasks
args[1] /input
args[2] /output
Попробуйте опустить ProgrammingAssigment/Tasks
Параметр, я думаю, что это не нужно. Если это необходимо по какой-то причине, используйте args[1]
а также args[2]
в вашем коде для каталогов ввода и вывода соответственно.
Что касается полученного вами тайм-аута, я понятия не имею. Вы можете попытаться увеличить значения maxRetries или sleepTime, которые он упоминает.