• 博客园logo
  • 会员
  • 周边
  • 新闻
  • 博问
  • 闪存
  • 众包
  • 赞助商
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
韵

身似菩提树,心若明镜台。时时勤拂拭,勿使惹尘埃!

博客园 | 首页 | 新随笔 | 新文章 | 联系 | 订阅 订阅 | 管理

随笔分类 -  大数据生态环境搭建

环境搭建
 
kafka安装配置
摘要:在此之前,要安装好jdk和Zookeeper集群 安装位置:和Zookeeper安装的机器一样 1.下载安装 在官网下载(最新版本?)(一般不会出现版本兼容问题): kafka_2.12-2.4.1.tgz 上传到虚拟机 解压安装: tar -zxvf /soft/software/kafka_2. 阅读全文
posted @ 2020-05-28 22:55 寒川环宇 阅读(334) 评论(0) 推荐(0)
spark安装
摘要:地址 官网地址: http://spark.apache.org/ 文档查看地址: https://spark.apache.org/docs/2.1.1/ 下载地址: https://spark.apache.org/downloads.html 集群规划 首先我们要确认我们的Linux主机是否安 阅读全文
posted @ 2020-05-28 22:33 寒川环宇 阅读(271) 评论(0) 推荐(0)
基于Windows下eclipse的MapReduce开发环境配置
摘要:零. 相关文件 链接:https://pan.baidu.com/s/1KmfZlxevk07p-_Aosnsm2w 提取码:df5l 一. MapReduce环境配置 1. 解压hadoop 把hadoop的安装包解压到Windows下(这里的安装包就是你搭hadoop集群时的安装包,我的是had 阅读全文
posted @ 2020-03-31 22:04 寒川环宇 阅读(572) 评论(1) 推荐(0)
sqoop安装配置
摘要:注:sqoop只需要在namenode下安装即可 版本:Sqoop-1.4.7 1. 下载解压 上官网下载:sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz 上传. 解压tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /so 阅读全文
posted @ 2020-03-31 14:25 寒川环宇 阅读(176) 评论(0) 推荐(0)
hive安装配置
摘要:安装hive的前提是先安装hadoop集群,并且hive只需要在hadoop的namenode节点中安装即可,可以不在datanode节点的机器上安装,启动hive的前提是需要hadoop在正常跑着 一. 先安装MySQL 1.检查卸载mariadb-lib(Centos自带mariadb数据库) 阅读全文
posted @ 2020-03-31 14:15 寒川环宇 阅读(352) 评论(0) 推荐(0)
基于HA的zookeeper集群搭建
摘要:这个是在之前的基础上搭建 hadoop完全分布式搭建:https://www.cnblogs.com/Hephaestus/p/12213719.html hadoop高可用搭建:https://www.cnblogs.com/Hephaestus/p/12420370.html 集群规划: nam 阅读全文
posted @ 2020-03-12 10:13 寒川环宇 阅读(331) 评论(0) 推荐(0)
基于HA的HBase集群搭建
摘要:HA+Zookeeper搭建: hadoop完全分布式搭建: https://www.cnblogs.com/Hephaestus/p/12213719.html hadoop高可用搭建: https://www.cnblogs.com/Hephaestus/p/12420370.html Zook 阅读全文
posted @ 2020-03-12 08:51 寒川环宇 阅读(420) 评论(0) 推荐(0)
Hadoop集群(HA高可用)
摘要:分布式搭建入口:https://www.cnblogs.com/Hephaestus/p/12213719.html 集群规划: | | namenode | datanode | journalnode | | : : | : : | : : |: : | |hadoop100| 是(nn2) | 阅读全文
posted @ 2020-03-05 16:44 寒川环宇 阅读(550) 评论(0) 推荐(0)
hadoop完全分布式运行模式
摘要:一、虚拟机环境准备 1.克隆虚拟机 2.修改克隆虚拟机的静态IP 3.修改主机名 查看主机名 修改主机名 ( ) 修改linux的主机映射文件(hosts文件) 添加 修改完成后 4.关闭防火墙(centos 7) 查看防火墙状态 停止firewall 禁止firewall开机启动 5.创建bana 阅读全文
posted @ 2020-02-25 00:00 寒川环宇 阅读(434) 评论(0) 推荐(0)
Hadoop的shell命令
摘要:hadoop shell 任意目录下 列出根目录下所有文件和目录 在根目录新建文件夹hadoop1 把本地的文件anaconda ks.cfg上传到hadoop1下 `` `` `` `` `` `` HDFS shell 以下来自链接:https://hadoop.apache.org/docs/ 阅读全文
posted @ 2019-12-19 16:20 寒川环宇 阅读(639) 评论(0) 推荐(0)
安装Hadoop(单机)
摘要:1.下载hadoop 2.用ftp上传到CentOS 7 3.解压(安装) 命令: 安装完成 4.配置hadoop evn.sh 首先配置hadoop evn.sh,先进入目录 ,然后编辑 在文件末尾加上 保存 退出 5.验证Hadoop是否可以运行 回到hadoop 2.9.2目录下 输入 6.配 阅读全文
posted @ 2019-12-18 19:50 寒川环宇 阅读(744) 评论(0) 推荐(0)
CentOS 7安装jdk
摘要:Hadoop的运行前提是java虚拟机,所以我们需要安装jdk 机器本身没有jdk的需要安装,否则不需要 用 查看 使用find命令查找一下java命令所在的位置: 移除自带 openjdk Hadoop版本为2.9.2,jdk用1.7及之后版本都可以 1.在网上下载jdk压缩包 2.用ftp(或直 阅读全文
posted @ 2019-12-18 18:49 寒川环宇 阅读(281) 评论(0) 推荐(0)
 

公告


博客园  ©  2004-2026
浙公网安备 33010602011771号 浙ICP备2021040463号-3