当前位置: 首页 > news >正文

启动Hadoop HA Hbase zookeeper spark

服务器角色
服务器192.168.58.180192.168.58.181192.168.58.182192.168.58.183
NameCentOSMasterSlvae1Slave2StandByNameNode
NameNode Yes   Yes
DataNode  Yes Yes Yes
journalNode  Yes yes Yes
ZooKeeper Yes Yes  Yes
ZKFC Yes   Yes
Spark Yes   Yes
hbaseYesYes  
Slave2没有zookeeper,所以hbase装在183和181,不过由于hbase.rootdir必须在hdfs上,所以估计还是只能搭载在180和183上。
就是不知道zk和hbase必须对应,就是说2个hbase,三个zk不知道行不。


备注:我的公钥文件在/home/hxsyl/.ssh下不在/root/hxsyl下,通过

find / -name id_rsa

  查找


1.
分别在每个机器上运行命令zkServer.sh start或者在$ZOOKEEPER_HOME/bin目录下运行./zkServer.sh start命令。然后可以通过命令jps来查看Zookeeper启动的进程QuorumPeerMain。 
可通过zkServer.sh status命令来查看Zookeeper状态。正常是机器中只有一个leader,其他的都是follow 
$ZOOKEEPER_HOME/bin/zkServer.sh start

  slave2不要zk了

 

DN节点是命令行模式,但是ssh IP “启动”命令显示成功了,但是ip里没进程,但是这种stop就可以 马丹,咋回事  只能去命令杭霞窍


2.主节点执行
hdfs zkfc -formatZK

  注意:最后的zk是大写,否则

6/11/30 20:31:45 FATAL tools.DFSZKFailoverController: Got a fatal error, exiting now
org.apache.hadoop.HadoopIllegalArgumentException: Bad argument: -formatzk

  

这个必须设置自动故障切换为true。

他会根据$HADOOP_HOME/etc/hadoop/core-site.xml文件中ha.zookeeper.quorum的值来进行初始化。


这个需要确定开启了自动ha切换,否则不行。
但是现在
DFSZKFailoverController并没有启动,start zkfc后才可以,然后才是一个active,一个standby,


3.
注意:所有操作均在Hadoop部署目录下进行。 启动Hadoop集群: Step1 : 在各个JournalNode节点上,输入以下命令启动journalnode服务:
$HADOOP_HOME/sbin/hadoop-daemon.sh start journalnode
或者在mster执行
$HADOOP_HOME/sbin/hadoop-daemons.sh start journalnode
注意第二种启动方法master节点并不是journalNode,需要单独启动,挺值得时候单独停止

s2没有journalNode。
4. 在[nn1]上,对其进行格式化,并启动: bin/hdfs namenode -format sbin/hadoop-daemon.sh start namenode 5. 在[nn2]上,同步nn1的元数据信息: bin/hdfs namenode -bootstrapStandby 6. 启动[nn2]: sbin/hadoop-daemon.sh start namenode 经过以上四步操作,nn1和nn2均处理standby状态 7. 将[nn1]切换为Active

有问题 如何配置自动切换的话 这个不要,强制手动 出现脑列问题....
 bin/hdfs haadmin -transitionToActive nn1
强制切换是 --forcemanual nn1,有人说重启zkfc,我先格式化还是然后启动zkfc,说zkfc在运行。
然后重启hbase即可。
8.
此时两个都是standby,standby也可以启动datanode。 在[nn1]上,启动所有datanode sbin/hadoop-daemons.sh start datanode
9.启动yarn
sbin/start-yarn.sh

在master1上多出ResourceManager进程,在slave1 slave2 slave3上多出NodeManager进程

10.启动zkfc
sbin/hadoop-daemon.sh start zkfc

  注意这个和上面的启动journalNode式样的,damons的并没有启动master的zkfc,需要单独启动。

 

11.

sbin/mr-jobhistory-daemon.sh  start historyserver     原文配置在Stand上,我改成CentOSMaster上了。

 

 

11.启动hbase

bin/start-hbase.sh

 

关闭Hadoop集群: 在[nn1]上,输入以下命令 sbin/stop-dfs.sh 并没有停止上面的yarn和历史服务器 主节点的journalNode也没停止
各个节点的zookeeper也没停止

hbase停止很慢 查看master日志发现一直在等待Regionserver 那么先停止它 hbase-daemons.sh stop regionserver
进入spark的sbin目录下
start-all.sh
./start-history-server.sh
bin/spark-shell
 
12.关闭
a.zookeeper
$ZOOKEEPER_HOME/bin/zkServer.sh stop     一个一个关闭



相关文章:

  • tar 命令详解
  • mfs详解及数据备份方式
  • IOC个人理解
  • MSG结构体和WndProc窗口过程详解
  • SDWebImage源码解读 之 UIImage+GIF
  • 第一次给ThinkPHP5核心框架提pull request的完整过程
  • ambari2.0.0,hadoop2.6重启namenode报错
  • Github入门
  • mysql root密码忘记
  • 使用 Express 和 waterline 创建简单 Restful API
  • lduan SCVMM 2012 AD部署环境(一)
  • Multi-Mechanize工程目录结构说明
  • 统计当前在线用户数量
  • QT多线程类数组同时开启几十个线程
  • 实体ip 虚拟ip 固定ip 动态ip
  • [译]Python中的类属性与实例属性的区别
  • 〔开发系列〕一次关于小程序开发的深度总结
  • 08.Android之View事件问题
  • CNN 在图像分割中的简史:从 R-CNN 到 Mask R-CNN
  • ES6--对象的扩展
  • es的写入过程
  • Go 语言编译器的 //go: 详解
  • iOS小技巧之UIImagePickerController实现头像选择
  • Java Agent 学习笔记
  • leetcode386. Lexicographical Numbers
  • PyCharm搭建GO开发环境(GO语言学习第1课)
  • 基于阿里云移动推送的移动应用推送模式最佳实践
  • 面试题:给你个id,去拿到name,多叉树遍历
  • 三分钟教你同步 Visual Studio Code 设置
  • 使用Envoy 作Sidecar Proxy的微服务模式-4.Prometheus的指标收集
  • 腾讯优测优分享 | Android碎片化问题小结——关于闪光灯的那些事儿
  • 问题之ssh中Host key verification failed的解决
  • gunicorn工作原理
  • raise 与 raise ... from 的区别
  • ​VRRP 虚拟路由冗余协议(华为)
  • !!java web学习笔记(一到五)
  • "无招胜有招"nbsp;史上最全的互…
  • #{} 和 ${}区别
  • #NOIP 2014# day.2 T2 寻找道路
  • $(document).ready(function(){}), $().ready(function(){})和$(function(){})三者区别
  • (14)学习笔记:动手深度学习(Pytorch神经网络基础)
  • (70min)字节暑假实习二面(已挂)
  • (C#)if (this == null)?你在逗我,this 怎么可能为 null!用 IL 编译和反编译看穿一切
  • (C#)获取字符编码的类
  • (二)Eureka服务搭建,服务注册,服务发现
  • (二)七种元启发算法(DBO、LO、SWO、COA、LSO、KOA、GRO)求解无人机路径规划MATLAB
  • (最完美)小米手机6X的Usb调试模式在哪里打开的流程
  • .form文件_SSM框架文件上传篇
  • .NET “底层”异步编程模式——异步编程模型(Asynchronous Programming Model,APM)...
  • .NET Core实战项目之CMS 第一章 入门篇-开篇及总体规划
  • .NET Core中的去虚
  • .NET/C# 使用反射调用含 ref 或 out 参数的方法
  • :not(:first-child)和:not(:last-child)的用法
  • @CacheInvalidate(name = “xxx“, key = “#results.![a+b]“,multi = true)是什么意思
  • @RequestMapping-占位符映射