본문 바로가기

빅데이터

Hadoop 하둡 - Datanode 시작이 안 될 때 , 로그 "java.net.BindException: Port in use: localhost:0" (troubleshooting) Problem Hadoop Datanode의 시작이 안 되서 로그를 보니 다음과 같은 로그가 존재. HttpServer.start() threw a non Bind IOException java.net.BindException: Port in use: localhost:0 Solution /etc/hosts 에서 첫 두줄이 주석처리되어있거나 없지는 않은지 확인해서 처리 127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4 ::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
Hive 하이브 - The value of property yarn.resourcemanager.zk-address must not be null (troubleshooting) Problem Hadoop 3.1.1 + Hive 3.1.1 + Zookeeper 3.4.13 Hadoop의 Yarn ResourceManager가 HA구성 되어있고 Hive 실행 엔진이 mr. Hive 및 Beeline에서 MR 작업 수행시 다음과 같은 에러 발생 FAILED: Hive Internal Error: java.lang.IllegalArgumentException(The value of property yarn.resourcemanager.zk-address must not be null) java.lang.IllegalArgumentException: The value of property yarn.resourcemanager.zk-address must not be null Soluti..
Hadoop 하둡 - Name node is in safe mode (troubleshooting) Problem 여러 작업 수행시 다음과 같은 에러 발생 org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory /user/root/t. Name node is in safe mode. Solution $ hadoop dfsadmin -safemode leave (= hdfs dfsadmin -safemode leave) Safe mode is OFF in [host name]/[IP]:8020 Cause Namenode (Active)의 비정상 종료시 Safemode 활성화.