hadoop集群搭建

1.準(zhǔn)備Linux環(huán)境

1.0先將虛擬機(jī)的網(wǎng)絡(luò)模式選為NAT

1.1修改主機(jī)名

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=itcast ###

1.2修改IP

兩種方式:

第一種:通過Linux圖形界面進(jìn)行修改(強(qiáng)烈推薦)

進(jìn)入Linux圖形界面 -> 右鍵點(diǎn)擊右上方的兩個(gè)小電腦 -> 點(diǎn)擊Edit connections -> 選中當(dāng)前網(wǎng)絡(luò)System eth0 -> 點(diǎn)擊edit按鈕 -> 選擇IPv4 -> method選擇為manual -> 點(diǎn)擊add按鈕 -> 添加IP:192.168.1.101 子網(wǎng)掩碼:255.255.255.0 網(wǎng)關(guān):192.168.1.1 -> apply

第二種:修改配置文件方式(屌絲程序猿專用)

vim /etc/sysconfig/network-scripts/ifcfg-eth0

DEVICE="eth0"

BOOTPROTO="static" ###

HWADDR="00:0C:29:3C:BF:E7"

IPV6INIT="yes"

NM_CONTROLLED="yes"

ONBOOT="yes"

TYPE="Ethernet"

UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"

IPADDR="192.168.1.101" ###

NETMASK="255.255.255.0" ###

GATEWAY="192.168.1.1" ###

1.3修改主機(jī)名和IP的映射關(guān)系

vim /etc/hosts

192.168.1.101itcast

1.4關(guān)閉防火墻

查看防火墻狀態(tài)

service iptables status

關(guān)閉防火墻

service iptables stop

查看防火墻開機(jī)啟動狀態(tài)

chkconfig iptables --list

關(guān)閉防火墻開機(jī)啟動

chkconfig iptables off

1.5 修改sudo

su root

vim /etc/sudoers

給hadoop用戶添加執(zhí)行的權(quán)限

關(guān)閉linux服務(wù)器的圖形界面:

vi /etc/inittab

1.5重啟Linux

reboot

2.安裝JDK

2.1上傳alt+p 后出現(xiàn)sftp窗口,然后put d:\xxx\yy\ll\jdk-7u_65-i585.tar.gz

2.2解壓jdk

創(chuàng)建文件夾

mkdir /home/hadoop/app

解壓

tar -zxvf jdk-7u55-linux-i586.tar.gz -C /home/hadoop/app

2.3將java添加到環(huán)境變量中

vim /etc/profile

在文件最后添加

export JAVA_HOME=/home/hadoop/app/jdk-7u_65-i585

export PATH=$PATH:$JAVA_HOME/bin

刷新配置

source /etc/profile

3.安裝hadoop2.4.1

先上傳hadoop的安裝包到服務(wù)器上去/home/hadoop/

注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

偽分布式需要修改5個(gè)配置文件

3.1配置hadoop

第一個(gè):hadoop-env.sh

vim hadoop-env.sh

第27行

export JAVA_HOME=/usr/java/jdk1.7.0_65

第二個(gè):core-site.xml

<property>

<name>fs.defaultFS</name>

<value>hdfs://weekend-1206-01:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/home/hadoop/hadoop-2.4.1/tmp</value>

</property>

第三個(gè):hdfs-site.xml

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

<property>

<name>dfs.secondary.http.address</name>

<value>192.168.1.152:50090</value>

</property>

第四個(gè):mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)

mv mapred-site.xml.template mapred-site.xml

vim mapred-site.xml

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

</property>

第五個(gè):yarn-site.xml

<property>

<name>yarn.resourcemanager.hostname</name>

<value>weekend-1206-01</value>

</property>

<property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

</property>

3.2將hadoop添加到環(huán)境變量

vim /etc/proflie

export JAVA_HOME=/usr/java/jdk1.7.0_65

export HADOOP_HOME=/itcast/hadoop-2.4.1

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

source /etc/profile

3.3格式化namenode(是對namenode進(jìn)行初始化)

hdfs namenode -format (hadoop namenode -format)

3.4啟動hadoop

先啟動HDFS

sbin/start-dfs.sh

再啟動YARN

sbin/start-yarn.sh

3.5驗(yàn)證是否啟動成功

使用jps命令驗(yàn)證

27408 NameNode

28218 Jps

27643 SecondaryNameNode

28066 NodeManager

27803 ResourceManager

27512 DataNode

http://192.168.1.101:50070 (HDFS管理界面)

http://192.168.1.101:8088 (MR管理界面)

4.配置ssh免登陸

生成ssh免登陸密鑰

進(jìn)入到我的home目錄

cd ~/.ssh

ssh-keygen -t rsa (四個(gè)回車)

執(zhí)行完這個(gè)命令后,會生成兩個(gè)文件id_rsa(私鑰)、id_rsa.pub(公鑰)

將公鑰拷貝到要免密登陸的目標(biāo)機(jī)器上

ssh-copy-id localhost


ssh免登陸:

生成key:

ssh-keygen

復(fù)制從A復(fù)制到B上:

ssh-copy-id B

驗(yàn)證:

ssh localhost/exit,ps -e|grep ssh

ssh A #在B中執(zhí)行

啟動hadoop集群:(此處配置搞了一天!?。。。?/p>

1、注意關(guān)閉防火墻

2、修改hosts里面文件,三個(gè)都需要加

192.168.162.130 mini130

192.168.162.131 mini131

192.168.162.132 mini132

192.168.162.133 mini133

3、slaves文件中也需要配置

192.168.162.130 mini130

192.168.162.131 mini131

192.168.162.132 mini132

192.168.162.133 mini133

4、配置hadoop中的4個(gè)xml文件中寫mini130這樣的

5、把master配置好后,拷貝到其他的服務(wù)器上面即可

hadoop-daemon.sh start namenode

hadoop-daemon.sh stop namenode

hadoop-daemon.sh start datanode

hadoop-daemon.sh start datanode

yarn-daemon.sh stop resourcemanager

yarn-daemon.sh start resourcemanager

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 一、系統(tǒng)參數(shù)配置優(yōu)化 1、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf,添加如下配置,然后執(zhí)行s...
    張偉科閱讀 3,935評論 0 14
  • 目錄 集群簡介 服務(wù)器準(zhǔn)備 環(huán)境和服務(wù)器設(shè)置 JDK環(huán)境安裝 Hadoop安裝部署 啟動集群 測試 集群簡介 在進(jìn)...
    Singer_Au閱讀 2,919評論 0 8
  • 最近在學(xué)習(xí)大數(shù)據(jù),在自己本地裝了三個(gè)虛擬機(jī),學(xué)習(xí)搭建hadoop集群。記錄下過程,方便日后查看。 1.準(zhǔn)備工作 ...
    90后老青年閱讀 453評論 1 1
  • 一.安裝虛擬機(jī)環(huán)境 虛擬機(jī)版本:VMware Workstation Pro LInux版本:CentOS-6.1...
    碼戈閱讀 400評論 0 0
  • 本文用以記錄hadoop分布式集群搭建過程 基礎(chǔ)環(huán)境準(zhǔn)備 1、軟件環(huán)境 centos 6.5 三臺服務(wù)器分配的IP...
    遠(yuǎn)方的貓dj閱讀 1,043評論 0 2

友情鏈接更多精彩內(nèi)容