Вопросы по теме 'mapreduce'
Обработка больших двоичных файлов с помощью Hadoop
Я знаю, что здесь были подобные сообщения, но я не могу найти ни одного, у которого действительно есть твердый ответ.
У нас есть кластер Hadoop, загруженный бинарными файлами. Эти файлы могут иметь размер от нескольких сотен тысяч до сотен...
7216 просмотров
schedule
04.11.2023
Запуск задания Hadoop из другой программы Java
Я пишу программу, которая получает исходный код картографов/редукторов, динамически компилирует мапперы/редукторы и создает из них JAR-файл. Затем он должен запустить этот JAR-файл в кластере Hadoop.
В последней части я динамически настраиваю все...
6046 просмотров
schedule
15.12.2023
Взаимодействие InputSplit Mapper JobTracker
Ниже приведено мое понимание InputSplits и их взаимодействия с картографами... пожалуйста, поправьте меня, если я где-то ошибаюсь...
InputFormat генерирует InputSplits, и задача карты создается для каждого inputsplit. Для локальности данных обычно...
159 просмотров
schedule
09.10.2023
Как вызвать пользовательский метод после завершения задания Mapreduce с помощью Hadoop java API?
Я пытаюсь запустить программу mapreduce, просто WordCount для лучшего понимания. Все работает довольно хорошо, как и предполагалось. Я хочу вызвать функцию после завершения программы MapReduce, и в этой функции я хочу объединить все файлы частей,...
73 просмотров
schedule
24.12.2023