BigData-Notes/notes/installation/Storm集群环境搭建.md
2019-05-30 23:44:07 +08:00

4.9 KiB
Raw Blame History

Storm集群环境搭建

一、集群规划
二、环境要求
三、安装步骤
        1. 下载并解压
        2. 配置环境变量
        3. 集群配置
        4. 启动服务
        5. 查看进程
        6. 查看Web-UI界面

一、集群规划

这里我们采用三台服务器搭建一个Storm集群集群由一个1个Nimbus和3个Supervisor组成因为只有三台服务器所以hadoop001上既为Nimbus节点也为Supervisor节点。

二、环境要求

Storm 运行依赖于Java 7+ 和 Python 2.6.6 +所以需要预先安装这两个软件。同时为了保证高可用这里我们不采用Storm内置的Zookeeper而采用外置的Zookeeper集群。由于这三个软件在多个框架中都有依赖其安装步骤单独整理至

三、安装步骤

1. 下载并解压

下载安装包使用scp命令分发到三台服务器上之后进行解压。官方下载地址http://storm.apache.org/downloads.html

# 解压
tar -zxvf apache-storm-1.2.2.tar.gz

# 分发
scp -r /usr/app/apache-storm-1.2.2/ root@hadoop002:/usr/app/
scp -r /usr/app/apache-storm-1.2.2/ root@hadoop003:/usr/app/

2. 配置环境变量

为了方便,三台服务器均配置一下环境变量:

# vim /etc/profile

添加环境变量:

export STORM_HOME=/usr/app/apache-storm-1.2.2
export PATH=$STORM_HOME/bin:$PATH

使得配置的环境变量生效:

# source /etc/profile

3. 集群配置

修改每台服务器上的${STORM_HOME}/conf/storm.yaml文件,配置均如下:

# Zookeeper集群的主机列表
storm.zookeeper.servers:
     - "hadoop001"
     - "hadoop002"
     - "hadoop003"

# Nimbus的节点列表
nimbus.seeds: ["hadoop001"]

# Nimbus和Supervisor需要使用本地磁盘上来存储少量状态如jar包配置文件等
storm.local.dir: "/usr/local/tmp/storm"

# workers进程的端口每个worker进程会使用一个端口来接收消息
supervisor.slots.ports:
     - 6700
     - 6701
     - 6702
     - 6703

supervisor.slots.ports参数用来配置workers进程接收消息的端口默认每个supervisor节点上会启动4个worker当然你也可以按照自己的需要和服务器性能进行设置假设只想启动2个worker的话此处配置2个端口即可。

4. 启动服务

先启动Zookeeper集群之后再启动Storm集群。因为要启动多个进程所以统一采用后台进程的方式启动进入到${STORM_HOME}/bin目录下,依次执行下面的命令:

hadoop001

因为hadoop001是nimbus节点所以需要启动nimbus服务和ui服务同时hadoop001也是supervisor节点所以需要启动supervisor服务和logviewer服务

# 启动主节点 nimbus
nohup sh storm nimbus &
# 启动从节点 supervisor 
nohup sh storm supervisor &
# 启动UI界面 ui  
nohup sh storm ui &
# 启动日志查看服务 logviewer 
nohup sh storm logviewer &

hadoop002 & hadoop003

hadoop002和hadoop003都只需要启动supervisor服务和logviewer服务

# 启动从节点 supervisor 
nohup sh storm supervisor &
# 启动日志查看服务 logviewer 
nohup sh storm logviewer &

5. 查看进程

使用jps查看进程,三台服务器的进程应该分别如下:

6. 查看Web-UI界面

访问hadoop001的8080端口界面应如下图可以看到有1个Nimbus和3个Supervisor并且每个Supervisor有四个slots即四个可用的worker进程此时代表集群已经搭建成功。