内容发布更新时间 : 2024/11/18 19:27:03星期一 下面是文章的全部内容请认真阅读。

教你玩转Hadoop分布式集群搭建，进击大数据

终于要开始玩大数据了，之前对haoop生态几乎没有太多的了解，现在赶鸭子上架，需要完全使用它来做数据中心，这是我的haoop第一篇文章，以后估计会写很多大数据相关的文章。

Hadoop的搭建有三种方式，单机版适合开发调试;伪分布式版，适合模拟集群学习;完全分布式，生产使用的模式。这篇文件介绍如何搭建完全分布式的hadoop集群，一个主节点，三个数据节点为例来讲解。

教你玩转Hadoop分布式集群搭建，进击大数据 基础环境 环境准备

1、软件版本

四台服务器配置，系统：centos6.5、内存：1G、硬盘：20G 四台服务器分配的IP地址：192.168.0.71/72/73/74

规划：71用作主节点用作hadoop-master，其它三台为数据节点72、73、74用作hadoop-salve1~3 jdk和生成保持一致使用1.7版本 hadoop使用2.7.3版本，下载地址：

http://apache.claz.org/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz

2、host配置和主机名(四台)

修改四台服务器的hosts文件

vim /etc/hosts

192.168.0.71 hadoop-master 192.168.0.72 hadoop-slave1 192.168.0.73 hadoop-slave2 192.168.0.74 hadoop-slave3

分别斯塔服务器的主机名:HOSTNAME，master为例说明

vi /etc/sysconfig/network HOSTNAME=hadoop-master

执行reboot后生效，完成之后依次修改其它salve服务器为： hadoop-slave1~3。

3、服务器安装jdk(四台)

建议使用yum安装jdk,也可以自行下载安装

yum -y install java-1.7.0-openjdk*

配置环境变量，修改配置文件vim /etc/profile

export JAVA_HOME=/usr/lib/jvm/jre-1.7.0-openjdk.x86_64 export PATH=$JAVA_HOME/bin:$PATH export

CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

使用souce命令让立刻生效

source /etc/profile

免密登陆

一、首先关闭四台服务器的防火墙和SELINUX

查看防火墙状态

service iptables status

关闭防火墙

service iptables stop chkconfig iptables off

关闭SELINUX后，需要重启服务器

-- 关闭SELINUX

# vim /etc/selinux/config -- 注释掉

#SELINUX=enforcing #SELINUXTYPE=targeted -- 添加 SELINUX=disabled

二、免密码登录本机

下面以配置hadoop-master本机无密码登录为例进行讲解，用户需参照下面步骤完成h-salve1~3三台子节点机器的本机无密码登录;

1)生产秘钥

ssh-keygen -t rsa

2)将公钥追加到”authorized_keys”文件

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

3)赋予权限

chmod 600 .ssh/authorized_keys

4)验证本机能无密码访问

ssh hadoop-master

最后，依次配置h-salve1~3无密码访问

二、hadoop-master本机无密码登录hadoop-slave1、hadoop-slave2、hadoop-slave3，以hadoop-master无密码登录hadoop-slave1为例进行讲解：

1)登录hadoop-slave1 ，复制hadoop-master服务器的公钥”id_rsa.pub”到hadoop-slave1服务器的”root”目录下。

scp root@hadoop-master:/root/.ssh/id_rsa.pub /root/

2)将hadoop-master的公钥(id_rsa.pub)追加到hadoop-slave1的authorized_keys中