安装Ambari和HDP

时间:2022-07-26
本文章向大家介绍安装Ambari和HDP,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。

最新的CDH已经没有了社区版,也就是说以后使用新版本的Cloudera Manager和CDH都是要收费的,这对于很多小公司来说,可能无法承受。转向Ambari是他们的一个可选项。Ambari是Apache的一个顶级开源项目,开源是其最大的优势,开源也意味着Ambari可以灵活地进行扩展,集成更多的数据组件,对于需要定制化和二次开发的企业来说,Ambari也极具吸引力。

1、安装包准备

链接如下:

http://public-repo-1.hortonworks.com/ambari/centos7/2.x/updates/2.6.1.5/ambari-2.6.1.5-centos7.tar.gz
https://download.csdn.net/download/ljk168/10351315
http://public-repo-1.hortonworks.com/HDP-GPL/centos7/2.x/updates/2.6.4.0/HDP-GPL-2.6.4.0-centos7-rpm.tar.gz
http://public-repo-1.hortonworks.com/HDP-UTILS-1.1.0.22/repos/centos7/HDP-UTILS-1.1.0.22-centos7.tar.gz
http://public-repo-1.hortonworks.com/HDP/centos7/2.x/updates/2.6.4.0/HDP-2.6.4.0-centos7-rpm.tar.gz

2、主机准备。

本次Ambari环境基于三台2核8G的EC2服务器,操作系统为Centos7.6,三台主机如下

和安装Cloudera Manager、CDH类似,首先需要修改三台主机的网络设置、禁用SElinux、修改主机名、关闭防火墙、ssh免密、开启http服务、设置时钟同步、安装JDK,在此不作详细介绍,具体可以参考之前安装CDH7.1.1的文章。

由于AWS中国的EC2服务器没有开放80和8080端口,我们将Http服务的端口改为了8085,Ambari Web服务的端口改成了8086端口。

3、安装MariaDB,创建数据库

安装并启动

yum -y install mariadb-server
systemctl start mariadb.service
systemctl enable mariadb.service

设置密码123456,一路回车

mysql_secure_installation

配置数据库

登录MySQL

mysql -u root -p123456

创建所需数据库

# 创建ambari数据库
create database ambari;
CREATE USER 'ambari'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
FLUSH PRIVILEGES;

# 创建Hive数据库
create database hive;
CREATE USER 'hive'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'hive'@'%';
FLUSH PRIVILEGES;

# 创建Oozie数据库
create database oozie;
CREATE USER 'oozie'@'%'IDENTIFIED BY '123456';
GRANT ALL PRIVILEGES ON *.* TO 'oozie'@'%';
FLUSH PRIVILEGES;

将Mysql驱动放置在 /usr/share/java目录

4、上传安装包,创建本地yum源,开始安装ambari

将ambari、HDP 、HDP-GPL 、HDP-UTILS包解压至 /var/www/html目录下

将各个目录最底层的repo文件移动至 /etc/yum.repo/下,并修改为

ambari.repo

[ambari-2.6.1.5]
name=ambari Version - ambari-2.6.1.5
baseurl=http://52.83.64.220:8085/ambari/centos7/2.6.1.5-3
gpgcheck=1
gpgkey=http://52.83.64.220:8085/ambari/centos7/2.6.1.5-3/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
enabled=1
priority=1

hdp.repo

[HDP-2.6-repo-1]
name=HDP-2.6-repo-1
baseurl=http://52.83.64.220:8085/HDP/centos7/2.6.4.0-91
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1

[HDP-UTILS-1.1.0.22-repo-1]
name=HDP-UTILS-1.1.0.22-repo-1
baseurl=http://52.83.64.220:8085/HDP-UTILS/centos7/1.1.0.22
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP-UTILS/centos7/1.1.0.22/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1

[HDP-HDP-GPL-repo-1]
name=HDP-GPL
baseurl=http://52.83.64.220:8085/HDP-GPL/centos7/2.6.4.0-91
gpgcheck=1
gpgkey=http://52.83.64.220:8085/HDP-GPL/centos7/2.6.4.0-91/RPM-GPG-KEY/RPM-GPG-KEY-Jenkins
priority=1
enabled=1

开始安装ambari-server

# 安装
yum install -y ambari-server
# 配置
ambari-server setup

大都是常规的配置,其中提示输入 JAVA_HOMEambari元数据库的登录密码,需要输入之前设置的路径和密码

登录ambari数据库,对数据库进行初始化

mysql -uroot -p123456
use ambari
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
show tables;

完成数据库的初始化后,启动

ambari-server start

5、登录Ambari Web页面,配置HDP

用admin/admin登录ambari界面ambari1.soundhearer.com:8086

create a cluster

select a version

confirm host

此处可能会出现类似以下错误

NetUtil.py:96 - EOF occurred in violation of protocol (_ssl.c:579)
NetUtil.py:97 - SSLError: Failed to connect. Please check openssl library versions.

需要修改 ambari-agent 的配置文件

# 文件位置
 vim /etc/ambari-agent/conf/ambari-agent.ini
[security]中增加一项
 force_https_protocol=PROTOCOL_TLSv1_2

choose services

assign master

assign slaves and clients

customize services

review

Install, Start and Test

Summary

至此安装Ambari和HDP结束。