Вопросы по теме 'mapreduce'

Обработка больших двоичных файлов с помощью Hadoop
Я знаю, что здесь были подобные сообщения, но я не могу найти ни одного, у которого действительно есть твердый ответ. У нас есть кластер Hadoop, загруженный бинарными файлами. Эти файлы могут иметь размер от нескольких сотен тысяч до сотен...
7216 просмотров
schedule 04.11.2023

Запуск задания Hadoop из другой программы Java
Я пишу программу, которая получает исходный код картографов/редукторов, динамически компилирует мапперы/редукторы и создает из них JAR-файл. Затем он должен запустить этот JAR-файл в кластере Hadoop. В последней части я динамически настраиваю все...
6046 просмотров
schedule 15.12.2023

Взаимодействие InputSplit Mapper JobTracker
Ниже приведено мое понимание InputSplits и их взаимодействия с картографами... пожалуйста, поправьте меня, если я где-то ошибаюсь... InputFormat генерирует InputSplits, и задача карты создается для каждого inputsplit. Для локальности данных обычно...
159 просмотров
schedule 09.10.2023

Как вызвать пользовательский метод после завершения задания Mapreduce с помощью Hadoop java API?
Я пытаюсь запустить программу mapreduce, просто WordCount для лучшего понимания. Все работает довольно хорошо, как и предполагалось. Я хочу вызвать функцию после завершения программы MapReduce, и в этой функции я хочу объединить все файлы частей,...
73 просмотров
schedule 24.12.2023