随笔分类 -  大数据

「postgres」登录 psql: FATAL: Peer authentication failed for user "postgres"
摘要:【问题现象】 自搭postgres数据库,然后执行 #psql -U postgres 提示psql: FATAL: Peer authentication failed for user "postgres" 【解决】 切换到Linux用户postgres,然后执行psql: $ su - pos 阅读全文

posted @ 2019-01-14 10:31 trako 阅读(1643) 评论(0) 推荐(0)

「hive」explode拆分
摘要:说明:idlist字段为数组,值为 [{"idtype":15,"id":"f4:70:ab:85:b3:6a"},{"idtype":13,"id":"864552030217876"},{"idtype":17,"id":"88d3dddf16f41b0b"},{"idtype":19,"id" 阅读全文

posted @ 2017-11-16 14:17 trako 阅读(309) 评论(0) 推荐(0)

「hadoop」centos7.2 上进行cdh5.7.2离线安装
摘要:已实机验证ok 环境在win7 64位上通过vmware虚拟机安装三台centos7.2,内存分配分别为6G,1G,1G其它必要软件:CM:http://archive.cloudera.com/cm5/cm/5parcel:http://archive.cloudera.com/cdh5/parc 阅读全文

posted @ 2017-11-06 10:20 trako 阅读(217) 评论(0) 推荐(0)

「idea」打包jar
摘要:通过idea2015打包生成jar包,通过java -jar xx.jar运行 File-->Project Structure-->Project Settings-->Artifacts 新增JAR-->From modules with dependencies 选择Main Class Me 阅读全文

posted @ 2017-10-18 15:35 trako 阅读(127) 评论(0) 推荐(0)

「hadoop」cdh安装提示 当前受管,导致无法选择主机
摘要:之前安装中断过,导致后面的安装中所有的主机处于 当前受管 状态,无法选择。 进入之前创建的集群中(即namenode:7180),删除主机即可。 阅读全文

posted @ 2017-10-14 13:15 trako 阅读(1805) 评论(0) 推荐(0)

「hadoop」cdh5.12离线安装(未完成)
摘要:cdh 5.12.1 安装 目前还未成功,仅供个人记录。【下载必备工具】当前系统为win7_x641、vmware虚拟机12.52、ubuntu16.04服务器版本3、windows下的ssh工具,采用git bash4、jdk安装包jdk-8u144-linux-x64.tar.gz5、mysql 阅读全文

posted @ 2017-10-13 13:39 trako 阅读(704) 评论(0) 推荐(0)

「hive」hive2.3.0配置derby
摘要:【问题现象】 hive默认自带derby数据库,但安装hive2.3.0后启动hive无法使用derby操作,遇到各种问题,折腾好一阵子,经测试已ok 【先决条件】 ubuntu已安装hadoop2.8.1 【问题解决】 1、官网下载hive版本2.3.0,在ubuntu中并安装; 2、增加HIVE 阅读全文

posted @ 2017-10-09 19:09 trako 阅读(808) 评论(0) 推荐(0)

「hadoop」log4j参考
摘要:<?xml version="1.0" encoding="UTF-8"?><!DOCTYPE log4j:configuration SYSTEM "log4j.dtd"><log4j:configuration> <!-- 将日志信息输出到控制台 --> <appender name="Cons 阅读全文

posted @ 2017-09-21 18:31 trako 阅读(297) 评论(0) 推荐(0)

「hadoop」win7 idea maven hadoop 运行WordCount示例
摘要:运行一个简单的hadoop实例,已自测成功。 假设已安装如下环境: 1、win7跑三台ubuntu虚拟机,虚拟机已成功安装hadoop2.8.1环境; 2、win7安装idea工具 idea2017; 3、win7安装hadoop2.8.1环境,并已配置相关的环境变量; 4、拷贝windows用的已 阅读全文

posted @ 2017-09-21 18:26 trako 阅读(344) 评论(0) 推荐(0)

「hadoop」一些问题集
摘要:【master:9000访问 refused】 check下host地址映射,用IP替代master试试 【访问HDFS目录】 $hdfs dfs -ls hdfs://master:9000/ 注意:结尾带/表示目录 阅读全文

posted @ 2017-09-21 17:57 trako 阅读(87) 评论(0) 推荐(0)

「hadoop」hadoop启动需要相关的命令(仅供本人使用)
摘要:#拷贝配置文件cp -R /mnt/hgfs/D/SharedFiles/etc/hadoop/* /usr/hadoop/etc/hadoop #拷贝日志到win7cp -R /usr/hadoop/logs/* /mnt/hgfs/D/SharedFiles/logs#清除缓存文件rm -rf 阅读全文

posted @ 2017-09-21 11:37 trako 阅读(188) 评论(0) 推荐(0)

「hadoop」fs.defaultFS 9000 端口在外面连不上
摘要:【问题现象】 三台虚拟机,分别为master,slave1,slave2,按网上步骤配置启动hadoop后,就是没有DataNode,从slave1的日志上看,是由于请求被refuse掉了。 【问题解决】 在master的host文件IP映射中会默认把master映射到127.0.0.1,需要注释掉 阅读全文

posted @ 2017-09-21 11:18 trako 阅读(434) 评论(0) 推荐(0)

「hadoop」ssh
摘要:【登录】ssh 用户名@服务器地址【安装ssh服务器】$apt-get install openssh-server【远程复制】$ scp ~/.ssh/id_dsa.pub hadoop@slave:~/【SSH无密码登录】A 想ssh无密码登录 B在A中生成公钥 $ssh-keygen -t r 阅读全文

posted @ 2017-09-19 17:32 trako 阅读(151) 评论(0) 推荐(0)

「hadoop」完全分布式环境搭建笔记
摘要:【问题现象】对网上搜索以及自身实践做一些笔记,工具需求:windows 7x64下通过vmware(版本12.5.7)安装三台ubuntu(版本17.04)虚拟机(分别为master,slave1,slave2),jdk8 for ubuntu,hadoop2.8.1,自测通过。【安装步骤】1、wi 阅读全文

posted @ 2017-09-19 17:09 trako

导航