大数据常用管理集群脚本集合
时间:2019-04-19
本文章向大家介绍大数据常用管理集群脚本集合,主要包括大数据常用管理集群脚本集合使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。
本教程含有两个脚本:
在~/shell/
新建scp脚本:
脚本一:从master复制内容到slave1、slave2
vi scp_all.sh
#!/bin/bash
prame=$1 #接收文件名
dirname=`dirname $1`
cd $dirname #进入该文件路径下
fullpath=`pwd -P .` #获得该文件的绝对路径
user=`whoami` #获得当前用户的身份
for ip in master slave1 slave2 #循环三个主机名
do
echo ============ $ip =============
scp -r $prame ${user}@$ip:$fullpath
done
chmod a+x scp_all.sh
使用说明
比如此两句话:
scp mapred-site.xml yarn-site.xml hadoop-sny@slave1:~/bigdata/hadoop-2.7.5/etc/hadoop/
scp mapred-site.xml yarn-site.xml hadoop-sny@slave2:~/bigdata/hadoop-2.7.5/etc/hadoop/
可替换成:
cd ~/bigdata/hadoop-2.7.5/etc/hadoop/
~/shell/scp_all.sh mapred-site.xml
~/shell/scp_all.sh yarn-site.xml
脚本二:用于执行三台服务器同样的指令,如jps
vi call_all.sh
#!/bin/bash
prame=$1 #接收命令参数
for ip in master slave1 slave2 #循环三个主机名
do
echo ============= $ip $prame ==============
ssh $ip "source ~/.bash_profile;$prame"
done
chmod a+x call_all.sh
使用说明
比如我们要在三台服务器执行jps
命令,可直接在master执行:
~/shell/call_all.sh jps
参考脚本:
对比与脚本一,如节点很多的时候,可参考下面方式
#!/bin/bash
prame=$1 #接收文件名
dirname=`dirname $1`
basename=`basename $1` #得到文件的basename
cd $dirname #进入该文件路径下
fullpath=`pwd -P .` #获得该文件的绝对路径
user=`whoami` #获得当前用户的身份
for(( i = 1; i < 3; i = $i + 1 ));do #遍历发送
echo ============ node$i =============
scp -rv $prame ${user}@node$i:$fullpath
done
- 前端特效制作 | CSS3圆形风格面包屑导航
- CSS3 倒影
- 写一只具有识别能力的图片爬虫
- 【今日问题】变量未初始化引起的崩溃
- 前端特效开发 | 点击查看大图相册效果
- 开发 | 星际争霸2人工智能研究环境 SC2LE 初体验
- 开发 | 我做了12万条的影评分析,告诉你《战狼Ⅱ》都在说些啥
- JavaScript | 函数定义的两种方法;预编译与执行
- jQuery特效 | 导航底部横线跟随鼠标缓动
- JavaScript | 选中并获取多行文本框内容的效果
- JavaScript | 动画显示比例的投票效果
- 原生JS | 作用域
- 腾讯、网易、新浪新闻网站爬虫编写记录及评论格式分析
- 原生JS | 随机抽取不重复的数组元素 —— 有没有更好的方法?
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- Swift 数组dropFirst方法
- Swift 类方法和实例方法
- 我从未见过的牛逼解说方式!Redis五种数据结构,看一遍就懂了
- Swift 动态创建ViewController
- Office 文档解析 文档格式和协议
- 查看centos 7里敏感信息的常用命令(未完)
- C# dotnet 使用 FileStream 随机文件读写
- datables之加载数据时显示进度条
- 这几种常见的“分布式锁”写法,搞懂再也不怕面试官,安排
- C# 8.0 文件长度 Bytes 字节转 KB 等单位字符串
- LeetCode---两数之和
- 通过 cmd 批处理文件将 16 进制转 10 进制数字
- HTML5-JS操作页面滚动条(禁止、隐藏、显示、不显示)
- 追根溯源MySQL,“你的表情”插入对了吗?
- 推荐官方开源 PInvoke 库 包含大量 win32 封装