搭建hadoop集群(超详细hadoop集群安装配置教程)
搭建hadoop集群(超详细hadoop集群安装配置教程)
虚拟机以及Linux系统安装在之前的两篇分享中已经详细地介绍了方法,并且每一步的都配图了。如果有朋友还是看不懂,那我也爱莫能助了。本篇主要就hadoop服务器操作系统配置进行详细说明,hadoop安装会在下一篇文章中详细的介绍。
hadoop安装包用的是大快DKHadoop发行版,个人觉得DKHadoop的安装过程是比较简单,关于dkhadoop的安装在下一次的分享中再详细介绍吧。下面进入到本篇的主题——服务器操作系统配置教程
一、安装包准备
1、虚拟机分布式安装(三台及以上虚拟机)
若是个人电脑Windows系统或Linux系统,虚拟机上虚拟的三台服务器,则将安装包拷贝到服务器上,进行安装操作即可。
2、物理集群(三台及以上实体服务器)
1、 外网下载模式
2、 本地文件模式
将安装包文件直接拷贝到实体服务器root目录下,进行安装操作即可。
3、上传模式
当服务器在机房,且无显示和输入设备的情况下,应用该模式。
现将文件,安装在本地计算机上(默认为笔记本电脑,在机房现场),并将计算机与服务器连接,将安装包install、DKHInstall上传到服务器root目录下。
二、服务器操作系统配置教程
准备工作完成之后,就要进行服务器配置操作,首先必须三台服务器之间要互相ping通。所谓ping通,就是两台设备之间网络是通的。从一端发送一个数据包,另一端就能够收到,就代表两台设备是能够ping通了。
1、修改权限
目的:使install、DKHInstall两个安装包有可执行的权限。权限不足无法执行一些操作。install里面是脚本和所有组件,DKHInstall里面是安装界面。
步骤:在准备工作中拷贝安装包 install、DKHInstall到主节点目录后,修改文件权限。首先进入root目录,安装目录 install、DKHInstall的权限改为:文件所有者可读可写可执行,与文件所有者属于一个用户组的其他用户可读可执行,其他用户组可读可执行。
命令:
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2、搭建Hadoop集群设置SSH免密登录
目的:Hadoop运行过程中需要管理远端Hadoop守护进程,在Hadoop启动以后,NameNode是通过SSH(Secure Shell)来启动和停止各个DataNode上的各种守护进程的。这就必须在节点之间执行指令的时候是不需要输入密码的形式,所以我们需要配置SSH运用无密码公钥认证的形式,这样NameNode使用SSH无密码登录并启动DataName进程,同样原理,DataNode上也能使用SSH无密码登录到NameNode。
步骤:
(1)修改本机hosts文件,写入对应关系
为了区分局域网内的每台主机,都会给主机配一个主机名,每台主机之间又是通过IP进行通信,但IP地址不方便记忆,所以配置主机名和IP映射能够实现主机之间的快速方便的访问。
命令:
vi /etc/hosts
通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下按Shift+: 键,输入wq,后回车就可以保存。输入q!后回车则是放弃保存并退出.
进入编辑模式后,按照规则写入主机与ip的对应关系(主机名称dk41是自己命名的,如下图)例:
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43
hadoop集群安装配置
编辑完后,保存退出。把对应关系拷到其他两台或多台机器上。
命令:
scp -r /etc/hosts 192.168.1.42:/etc
scp -r /etc/hosts 192.168.1.43:/etc
(2)执行集群之间免密前的准备工作
执行sshpass.sh的脚本的时候会去读sshhosts和sshslaves这两个文件,替换sshpass.sh中的master和slave文件。
修改文件sshhosts,输入全部机器的主机名,每行一个主机名(如下图)
命令:
vi /root/DKHPlantform/autossh/sshhosts
通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下按Shift+:键,输入wq,后回车就可以保存。输入q!后回车则是放弃保存并退出.
hadoop集群安装配置
修改文件sshslaves,写入除主机名之外的所有机器名(如下图)
命令:
vi /root/DKHPlantform/autossh/sshslaves
通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下按Shift+:键,输入wq,后回车就可以保存。输入q!后回车则是放弃保存并退出.
hadoop集群安装配置
(3)执行集群免密工作
命令:
cd /root/DKHPlantform/autossh
./autossh 主节点主机名 集群密码
例: ./autossh dk41 123456
(4)关闭防火墙
防止访问服务器时某些服务被拦截,需关闭防火墙。
命令:
cd /root/DKHPlantform/autossh
./offIptables.sh
hadoop集群安装配置
3、安装双机热备份的MySQL
目的:存放Hive的元数据
步骤:
(1)从主节点分发mySQL安装目录到第二节点
命令:
scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/
(2)主节点执行:
命令:
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
从节点执行:
命令:
cd /root/mysqlInst/
./mysql.sh 2
(3)执行成功之后执行热备份(两台机器上都要执行,两个ip互换,41上写42,42上写41,密码是MySQL的密码为:123456。平台内已经设定好,请勿修改):
命令:
source /etc/profile
./sync.sh 192.168.1.xxx(另一台mysql地址)
4、创建数据库
目的:MySQL是一种关联数据库管理系统,关联数据库将数据保存在不同的表中,增加了速度并提高了灵活性。
步骤:
(1)导入MySQL数据表,只在主节点执行:
命令:
mysql -uroot -p123456 < { 此处为sql文件,主目录下文件: dkh.sql}
如:mysql -uroot -p123456
(2)执行完后查看一下两台mysql的数据表是否存在,从主节点中查看执行:
命令:
mySQL -uroot -p123456show databases;
use dkh;
show tables;
hadoop集群安装配置
5、启动安装
目的:服务器配置操作完成之后,启动DKH。
步骤:执行以下命令。
命令:
cd /root/DKHPlantform/dkh-tomcat*/bin/
./startup.sh
6、本地时间服务器搭建步骤
没联网或者装系统时时间未同步,需要搭建本地时间服务器。
(1)搭建内网的ntp服务器
修改/etc/ntp.conf
命令:
Vim /etc/ntp.conf
通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下按Shift+:键,输入wq后回车就可以保存。输入q!后回车则是放弃保存并退出.
修改下列三行:
#server 0.centos.pool.ntp.org
#server 1.centos.pool.ntp.org
#server 2.centos.pool.ntp.org
在文件最后添加下列两行:
server 127.127.1.0
fudge 127.127.1.0 stratum 10
(2)启动ntp服务
service ntpd start
(3)开机自动启动
chkconfig ntpd on
(4)客户端同步时间
命令:
Vim /etc/ntp.conf
通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键然后按一下按Shift+:键,输入wq,后回车就可以保存。输入q!后回车则是放弃保存并退出.
在文件最后添加一行:
*/15 * * * * root ntpdate 192.168.27.35;hwclock -w
来而不往非礼也(来而不往非礼也)来而不往非礼也(来而不往非礼也)马达西奇公司是世界知名的发动机制造商,建于1907年,主要生产固定翼飞机和直升机的动力系统。早在苏联时期,它的产品就已经出口到90多个国家,有苏联航
智慧旅游景区(智慧旅游景区概况)智慧旅游景区(智慧旅游景区概况)三峡原乡景区,位于奉节县兴隆镇回龙村椅子淌腹地,距离县城约50公里,景区总面积823亩,具有典型的喀斯特地貌特征。景区内两块巨大绝壁高610米,宽4
智慧建设(阿塔云助力北京智慧城市建设)智慧建设(阿塔云助力北京智慧城市建设)6月9日,由北京市经济和信息化局市科委中关村管委会联合主办的北京国家人工智能创新应用先导区启动活动成功举办。会上,北京市智慧生活实验室正式发布
平安智慧医疗(走进平安智慧医疗生态圈)平安智慧医疗(走进平安智慧医疗生态圈)罗皮尔泽在2004年出版的财富第五波中有一个大胆的预测医疗健康将成为土地革命工业革命商业革命和网络革命后的第五波财富浪潮。然而在过去长达十六年
巴黎和会背景(巴黎和会幕后英雄)巴黎和会背景(巴黎和会幕后英雄)第一次世界大战结束后的巴黎和会根本没有公平性可言,中国的权益完全被无视。德国在山东的权利,列强并不主张让中国收回,反而想把它转让给日本。这个消息让作
巴黎圣母院图片(火灾两年后巴黎圣母院现在什么样?)巴黎圣母院图片(火灾两年后巴黎圣母院现在什么样?)巴黎圣母院在大火中遭损毁两年前的4月15日傍晚6时许,拥有800多年历史的法国标志性建筑巴黎圣母院身陷大火之中。熊熊烈火之下,巴黎
木棉袈裟主题曲(经典电影主题曲何必当初相识)木棉袈裟主题曲(经典电影主题曲何必当初相识)80年代早期,说起经典电影很多人知道少林寺,其实还有一部电影晚于少林寺2年播出,其水准及播放热度不亚于少林寺,这就是由香港著名导演徐小明
何家村遗宝(何家村遗宝出土的珍贵文物)何家村遗宝(何家村遗宝出土的珍贵文物)何家村遗宝,是西安市碑林区何家村出土的一批唐代金银器,何家村遗宝共1000多件,分别埋藏在2个大陶瓮和1个银罐之中。其中各式精美的金银器做工精
电子商务介绍(电子商务2022往后的发展空间与机会)电子商务介绍(电子商务2022往后的发展空间与机会)目前我国电子商务发展现状与未来电子商务已经成为人们日常生活的重要组成部分。据不完全统计,每天个人用在网络上的工作休息时长超过8小
霸气的句子(霸气句子超拽经典)霸气的句子(霸气句子超拽经典)1。有人说讨厌我,我顿时就笑了,搞的老子好像很喜欢你一样。2。都记住啦,酒能解决的事,绝不能浪费眼泪。3。岁月是一枚钉子,和生活注定了一锤子买卖。4。
纪伯伦孩子(纪伯伦说你的孩子其实不是你的孩子)纪伯伦孩子(纪伯伦说你的孩子其实不是你的孩子)有一部题为妈宝宝的动画短片,讲的是有一位妈妈生下孩子以后,医生要给减掉系带,但是被妈妈阻止了。从此以后,这孩子虽然来到人世间,但是他和
火车路线(火车路线首次纳入地图导航)火车路线(火车路线首次纳入地图导航)川观新闻记者唐泽文市内火车将纳入导航!8月6日,记者从高德地图获悉,日前高德进行了更新,首次将同城火车纳入公交出行规划,将公交地铁火车步行等多种
爱已消散不入轮回(我愿灵魂消散不入轮回,只求你安好)爱已消散不入轮回(我愿灵魂消散不入轮回,只求你安好)每个男主都报社作者曹家大小姐宿主,目标人物具有强烈报社倾向,场面快控制不住了!邱笑可以放弃这个任务吗?宿主,目标人物报社值爆表了
垃圾发电厂(这是垃圾处理厂?)垃圾发电厂(这是垃圾处理厂?)广州环投七大循环经济产业园以低碳环保为主题,打造复合型环保主题公园。新快报记者李小萌摄广州新增7个环保公园广州公园名录增加新成员,7个环保公园齐齐亮相
张君雅是谁(张君雅近况曝!)张君雅是谁(张君雅近况曝!)简嘉芸张君雅小妹妹14年前因泡面广告走红,爆炸头加圆脸蛋招牌造型深植许多人的回忆,如今她女大十八变,日前庆祝22岁生日时的火辣扮相让人差点认不出!放下长
心理产品(新型心理减压产品)心理产品(新型心理减压产品)曼陀罗魔力减压盒产品介绍一研发机构三冬暖心理咨询平台,联合少儿美术全国连锁品牌爱特国际少儿美术教育总部联合研发推广。目标客户16岁女性群体产品价格定价1
范冰冰弟弟选秀(范冰冰弟弟范丞丞参加选秀人气火爆)范冰冰弟弟选秀(范冰冰弟弟范丞丞参加选秀人气火爆)自偶像练习生上线以来,收视一路飙升,屡屡登上微博热搜榜,从导师到学员,话题一直不断,吸引了无数粉丝,而范冰冰的亲弟弟范丞丞的参赛,
does什么意思(does什么意思中文名字)pep人教版六年级上册英语unit1一单词science科学museum博物馆postoffice邮局bookstore书店cinema电影院hospital医院crossing十
传染病有哪些(传染病的分类)传染病有哪些(传染病的分类)传染病曾经是人类的头号杀手,大家都知道,起源于亚洲西南部的黑死病,约在1340年代散布到整个欧洲,这场瘟疫在全世界造成了大约7500万人死亡,根据估计,
王凯酿蜜(羡慕王凯身上的被子)王凯酿蜜(羡慕王凯身上的被子)刚刚开始播的清平乐就有人开始全网的吐槽节奏慢,这跟当时枕上书还没播就打一分有什么区别。看到有人说前两集拖沓,但是电视剧前面的开头也是必须将细节铺垫好的
青蛙在哪里(你知道青蛙在哪个池塘生活吗)新华社北京4月29日新媒体专电外媒称,古生物学家托马斯默斯透过显微镜对出土于南极半岛北端附近西摩岛的有4000万年历史的化石进行分类时,意外发现了青蛙的髋骨和头骨。据路透社4月24
冷水滩是哪里(冷水滩周边县区)永州是湖南南部的一个重要城市,常住人口529万,GDP为2108亿。永州下辖1个县级市8个县份,哪些县市的发展机会大呢?下面来看看吧1祁阳市常住人口为83万人,GDP为346亿元。