随笔分类 -  BIGDATA / HADOOP

摘要:1.设置参数 conf.setBoolean(CommonConfigurationKeys.IPC_CLIENT_FALLBACK_TO_SIMPLE_AUTH_ALLOWED_KEY, true); 这个参数会在连接kerberos失败时退回到simple认证。 2.提前加载krb5.conf文 阅读全文
posted @ 2022-10-09 16:06 葫芦杯 阅读(565) 评论(0) 推荐(0)
摘要:原始代码为: org.apache.hadoop.security.UserGroupInformation.setConfiguration(conf) 出现错误: Can't get Kerberos realm 原因: 程序读取不到krb5.conf 解决办法: 在JVM启动参数中添加了参数 阅读全文
posted @ 2022-10-09 15:45 葫芦杯 阅读(5804) 评论(0) 推荐(0)
摘要:列出文件目录 hdfs dfs -ls /user/hive/warehouse 列出全部目录与文件 hdfs dfs -ls -R /user/hive/warehouse 查看目录文件大小 hdfs dfs -du -s -h /user/hive/warehouse 查看目录概况 hdfs d 阅读全文
posted @ 2022-09-20 14:50 葫芦杯 阅读(219) 评论(0) 推荐(0)
摘要:一.问题背景 采用OGG进行数据实时同步时,发现同步的文件通过外部表不可读,cat一下某天的HDFS文件内容的时候报Cannot obtain block length for LocatedBlock异常 二.解决过程 1.既然是hdfs文件出问题,用fsck检查一下吧 hdfs fsck / 当 阅读全文
posted @ 2020-02-06 16:46 葫芦杯 阅读(792) 评论(0) 推荐(0)