Шлюз HDFS NFS Нет доступных групп для предупреждений пользователей

Я использую службу шлюза NFS для загрузки некоторых данных в HDFS (CDH 5.4.5).

Казалось, все в порядке, пока я не получил сообщение с предупреждением о том, что в каталоге журналов очень мало свободного места. Я быстро просмотрел большие файлы журналов:

sudo find /var/log -type f -size +100000k -exec ls -lh {} \; | awk '{ print $9 ": " $5 }'

... и заметил файл размером 34 ГБ с именем /var/log/hadoop-hdfs/hadoop-cmf-hdfs-NAMENODE-[fqdn-of-name-node].log.out. Быстрый взгляд внутрь показал, что это почти полностью состоит из этого предупреждения:

2015-11-30 13:41:15,535 WARN org.apache.hadoop.security.UserGroupInformation: No groups available for user [some_user]

Увидев это, я добавил пользователя some_user в группу hdfs, т.е. usermod -a -G hdfs some_user на узле, на котором запущен шлюз NFS, а затем перезапустил службу шлюза NFS. К сожалению, сообщение «Нет доступных групп для пользователя ...» по-прежнему регистрируется с огромной скоростью.

Вы видите, что я делаю не так? Нужно ли настраивать учетную запись some_user на каждом узле, а не только на шлюзе NFS? Нужно ли мне делать что-то большее, чем просто перезапускать службу, чтобы изменения вступили в силу?


person Alex Woolford    schedule 30.11.2015    source источник


Ответы (1)


Пользователь и его группа должны быть настроены на namenode. По умолчанию Hadoop получает сопоставления групп из настроек ОС. См., Например, здесь: https://hadoop.apache.org/docs/current/hadoop-project-dist/hadoop-hdfs/HdfsPermissionsGuide.html#Group_Mapping

person Hellmar Becker    schedule 30.11.2015
comment
Спасибо @Hellmar. Вот и все! Я создал учетную запись someuser на namenode. - person Alex Woolford; 01.12.2015