如何在Linux上安装与配置Hadoop-IT168 技术开发专区

在Linux上安装Hadoop之前，需要先安装两个程序：
　　1. JDK 1.6或更高版本;
　　2. SSH(安全外壳协议)，推荐安装OpenSSH。
　　下面简述一下安装这两个程序的原因：
　　1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。
　　2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost(即为自身)，所以对于伪分布式Hadoop，SSH一样是必须的。
　　一、安装JDK 1.6
　　安装JDK的过程很简单，下面以Ubuntu为例。
　　(1)下载和安装JDK
　　确保可以连接到互联网，输入命令：
sudo apt-get install sun-java6-jdk
　　输入密码，确认，然后就可以安装JDK了。
　　这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么操作;同时sudo也提供了灵活的管理方式，可以限制用户使用命令。sudo的配置文件为/etc/sudoers。
　　apt的全称为the Advanced Packaging Tool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic(中文译名为“新立得”)，大家如果有兴趣也可以使用这个程序来安装所需要的软件。(如果大家想了解更多，可以查看一下关于Debian计划的资料。)
　　(2)配置环境变量
　　输入命令：
sudo gedit /etc/profile
　　输入密码，打开profile文件。
　　在文件的最下面输入如下内容：
#set Java Environment
export JAVA_HOME= （你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun）
export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"
export PATH="$JAVA_HOME/:$PATH"
　　这一步的意义是配置环境变量，使你的系统可以找到JDK。
　　(3)验证JDK是否安装成功
　　输入命令：
java -version
　　查看信息：
java version "1.6.0_14"
Java(TM) SE Runtime Environment (build 1.6.0_14-b08)
Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode)
　二、配置SSH免密码登录
　　同样以Ubuntu为例，假设用户名为u。
　　1)确认已经连接上互联网，输入命令
sudo apt-get install ssh
　　2)配置为可以无密码登录本机。
　　首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”，这是一个隐藏文件夹)，输入命令：
ls -a /home/u
　　一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。
　　接下来，输入命令：
ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
　　解释一下，ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思，即密钥类型;-P用于提供密语;-f指定生成的密钥文件。(关于密钥密语的相关知识这里就不详细介绍了，里面会涉及SSH的一些知识，如果读者有兴趣，可以自行查阅资料。)
　　在Ubuntu中，~代表当前用户文件夹，这里即/home/u。
　　这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub(公钥)追加到授权的key里面去。
　　输入命令：
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
　　这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。
　　至此无密码登录本机已设置完毕。
　　3)验证SSH是否已安装成功，以及是否可以无密码登录本机。
　　输入命令：
ssh -version
　　显示结果：
OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007
Bad escape character 'rsion'.
　　显示SSH已经安装成功了。
　　输入命令：
ssh localhost
　　会有如下显示：
The authenticity of host 'localhost (::1)' can't be established.
RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 'localhost' (RSA) to the list of known hosts.
Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686

To access official Ubuntu documentation, please visit:
http://help.ubuntu.com/

Last login: Mon Oct 18 17:12:40 2010 from master
admin@Hadoop:~$
　　这说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可进入。
　　实际上，在Hadoop的安装过程中，是否无密码登录是无关紧要的，但是如果不配置无密码登录，每次启动Hadoop，都需要输入密码以登录到每台机器的DataNode上，考虑到一般的Hadoop集群动辄数百台或上千台机器，因此一般来说都会配置SSH的无密码登录。

　三、安装并运行Hadoop
　　介绍Hadoop的安装之前，先介绍一下Hadoop对各个节点的角色定义。
　　Hadoop分别从三个角度将主机划分为两种角色。第一，划分为master和slave，即主人与奴隶;第二，从HDFS的角度，将主机划分为NameNode和DataNode(在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而NameNode就是目录管理者);第三，从MapReduce的角度，将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task，从这个角度不难理解它们之间的关系)。
　　Hadoop有官方发行版与cloudera版，其中cloudera版是Hadoop的商用版本，这里先介绍Hadoop官方发行版的安装方法。
　　Hadoop有三种运行方式：单节点方式、单机伪分布方式与集群方式。乍看之下，前两种方式并不能体现云计算的优势，在实际应用中并没有什么意义，但是在程序的测试与调试过程中，它们还是很有意义的。
　　你可以通过以下地址获得Hadoop的官方发行版：
　　http://www.apache.org/dyn/closer.cgi/Hadoop/core/
　　下载Hadoop-0.20.2.tar.gz并将其解压，这里会解压到用户目录下，一般为：/home/[你的用户名]/。
　　单节点方式配置：
　　安装单节点的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。
　　伪分布式配置：
　　你可以把伪分布式的Hadoop看做是只有一个节点的集群，在这个集群中，这个节点既是master，也是slave;既是NameNode也是DataNode;既是JobTracker，也是TaskTracker。
　　伪分布式的配置过程也很简单，只需要修改几个文件，如下所示。
　　进入conf文件夹，修改配置文件：
Hadoop-env.sh:
export JAVA_HOME=“你的JDK安装地址”
　　指定JDK的安装位置：
conf/core-site.xml:
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
　　这是Hadoop核心的配置文件，这里配置的是HDFS的地址和端口号。
conf/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
　　这是Hadoop中HDFS的配置，配置的备份方式默认为3，在单机版的Hadoop中，需要将其改为1。
conf/mapred-site.xml:
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
　　这是Hadoop中MapReduce的配置文件，配置的是JobTracker的地址和端口。
　　需要注意的是，如果安装的是0.20之前的版本，那么只有一个配置文件，即为Hadoop-site.xml。
　　接下来，在启动Hadoop前，需格式化Hadoop的文件系统HDFS(这点与Windows是一样的，重新分区后的卷总是需要格式化的)。进入Hadoop文件夹，输入下面的命令：
bin/Hadoop NameNode -format
　　格式化文件系统，接下来启动Hadoop。
　　输入命令：
bin/start-all.sh（全部启动）
　　最后，验证Hadoop是否安装成功。
　　打开浏览器，分别输入网址：
　　http://localhost:50030 (MapReduce的Web页面)
　　http://localhost:50070 (HDFS的Web页面)
　　如果都能查看，说明Hadoop已经安装成功。
　　对于Hadoop来说，安装MapReduce及HDFS都是必须的，但是如果有必要，你依然可以只启动HDFS(start-dfs.sh)或MapReduce(start-mapred.sh)。

如何在Linux上安装与配置Hadoop-IT168 技术开发专区~

在Linux上安装Hadoop之前，需要先安装两个程序：
　　1. JDK 1.6或更高版本;
　　2. SSH(安全外壳协议)，推荐安装OpenSSH。
　　下面简述一下安装这两个程序的原因：
　　1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。
　　2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost(即为自身)，所以对于伪分布式Hadoop，SSH一样是必须的。
　　一、安装JDK 1.6
　　安装JDK的过程很简单，下面以Ubuntu为例。
　　(1)下载和安装JDK
　　确保可以连接到互联网，输入命令：
sudo apt-get install sun-java6-jdk
　　输入密码，确认，然后就可以安装JDK了。
　　这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么操作;同时sudo也提供了灵活的管理方式，可以限制用户使用命令。sudo的配置文件为/etc/sudoers。
　　apt的全称为the Advanced Packaging Tool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic(中文译名为“新立得”)，大家如果有兴趣也可以使用这个程序来安装所需要的软件。(如果大家想了解更多，可以查看一下关于Debian计划的资料。)
　　(2)配置环境变量
　　输入命令：
sudo gedit /etc/profile
　　输入密码，打开profile文件。
　　在文件的最下面输入如下内容：
#set Java Environment
export JAVA_HOME= （你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun）
export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"
export PATH="$JAVA_HOME/:$PATH"
　　这一步的意义是配置环境变量，使你的系统可以找到JDK。
　　(3)验证JDK是否安装成功
　　输入命令：
java -version
　　查看信息：
java version "1.6.0_14"
Java(TM) SE Runtime Environment (build 1.6.0_14-b08)
Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode)

一、安装hadoop

1 因为hadoop是基于java的，所以要保证hadoop能找到在本地系统中大路径，即正确设置java的环境变量。
详细请看：linux 安装配置jdk

2 到官网：http://www.apache.org/dyn/closer.cgi/hadoop/common/ 下载hadoop，
这里我选择hadoop1.0.4

3 解压到 /usr/local
tar -xvf hadoop-1.0.4.tar.gz

4 设置hadoop环境变量，为了使环境变量永久有效并对所有用户有效，我们将下面两句添加到/etc/profile

export HADOOP_HOME=/usr/local/hadoop-1.0.4
export PATH=$PATH:$HADOOP_HOME/bin

5 验证hadoop是否可以运行
hadoop version

ok, 安装成功！（？不算安装吧，哈哈）

二、配置伪分布式模式

根据上面步骤安装成功后，hadoop处于独立模式即本机模式，在本机模式下，没有运行守护进程，所有程序运行在单个JVM上。本机模式用于开发阶段测试调试MapReduce程序。伪分布模式用于在本机上模拟一个小规模的集群，全分布模式配置较为复杂，留作后面的文章。
1 配置hadoop
（1） 修改core-site.xml，设置namenode主机及hadoop文件系统



fs.default.name
hdfs://localhost:9001



（2） 修改hdfs-site.xml，设置数据块副本数目



dfs.replication
1



（3） 修改mapred-site.xml，设置jobtracker主机及端口



mapred.job.tracker
hdfs://localhost:9000



（4）修改hadoop-env.sh，设置JAVA_HOME

在hadoop-env.sh中添加，本机中jdk路径
export JAVA_HOME=/usr/local/jdk1.7.0

2 配置SSH
（1）如果没有安装SSH，安装之：sudo apt-get install ssh
一般情况下，ubuntu默认安装openssh-client，但没有安装server,我们需要先安装server:
sudo apt-get install openssh-server

（2）基于空口令创建一个新的SSH密钥，启用无密码登录
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

（3）测试连接是否成功：
ssh localhost

3 格式化HDFS文件系统以创建一个空大文件系统
hadoop namenode -format

4 启动守护系统HDFS和MapReduce
start-dfs.sh
start-mapred.sh

5 查看守护进程启动情况
jps

如果显示：
10716 DataNode
11305 Jps
10938 SecondaryNameNode
10503 NameNode
11037 JobTracker
11251 TaskTracker

ok, hadoop伪分布模式配置成功！

学习Linux的步骤是怎样的
答：09.Linux三剑客 grep/egrep/sed/awk 4.常用知识 1.文件、目录及属性 2.用户管理 3.权限管理 4.网络管理 5.正则表达式 6.定时任务 7.磁盘管理 8.安装系统 5.基础网络服务 NFS网络文件系统、Ceph分布式文件系统 rsync异地同步 sersync异地实时同步 nginx web(Apache)php-fpm/tomcat/python/go动态...

haproxy故障(cannot raise FD limit to )
答：提示：HAProxy要求系统的ulimit -n参数大于[maxconn*2+18]，在设置较大的maxconn时，需要检查并修改ulimit -n参数。在linux平台下，可以采用如下策略实现高可用（keepalived+haproxy）。 即： 在两台物理机上安装并配置HAProxy，两台主机上上安装两套完全一样的HAProxy。 在两台HAProxy的主机...

Windows与Linux双机热备软件有哪些
答：通过Rose HA系统把两台服务器与磁盘阵列系统相连，操作系统、应用软件和Rose HA软件分别安装在两台服务器上，数据库放在磁盘阵列上，而两台服务器通过心跳线连接。Rose HA高可用功能实现的关键在系统发生错误时进行切换，客户端用户并不会发现工作端有什么变化。支持的系统：Windows 2008 R2、Linux，在应用...

HP DL 580 G7 服务器 安装的是linux系统,网卡识别不到,如何安装网卡驱 ...
答：建议：1. 根据你的描述，你的企业安装的应该是Redhat Enterprise Linux 6 （RHEL 6）系统；2. 检查一下对应的刀片服务器的系统版本是32bit版本还是64bit版本，可以使用命令“arch”可以轻易地查询版本号：2.1 如果显示结果为：[root@ha1_1 ~]# arch x86_64 说明是64位的系统；2.2 如果显示结果...

红旗linux80端口无法连接源无法升级更新红旗linux8.0
答：linux红旗5.0最低配置是多少？红旗linux7.0的硬件安装条件是4G以上硬盘空间，不小于512M的内存，推荐1G以上。楼主的内存太小了点，这种情况的话建议楼主换redflag5.0或只安装命令界面试试。用U盘装红旗Linux7.0系统？用UltraISO，版本要高一点的，然后用它打开Linux的安装镜像，然后把U盘插上，点启动...

Linux系统案例精解:存储、Oracle数据库、集群、性能优化、系统管理、网...
答：深入理解Linux系统操作的《Linux系统案例精解:存储、Oracle数据库、集群、性能优化、系统管理、网络配置》一书，以系统管理为核心，详细讲解了Linux的各种配置技巧。书中涵盖了广泛的实战案例，不仅涉及Linux系统管理，还包括Oracle数据库、高可用性(HA)、性能分析、日志管理、磁盘阵列存储和内核优化等多方面内容...

如何在haproxy配置可以正向代理https
答：第一种方式：haproxy服务器本身提供ssl证书 第二种方式：haproxy服务器本身只提供代理，没有ssl证书 （一般我们常用的就是这种方式）

Linux服务器双机热备详细过程
答：keepalived安装在两台物理服务器上，并相互监控对方是否在正常运行。当节点A正常的时候：节点A上的keepalived会将下面的信息广播出去：192．168．8．100这个IP对应的MAC地址为节点A网卡的MAC地址 其它电脑如客户端和NodeB会更新自己的ARP表，对应192．168．8．100的MAC地址＝节点A网卡的MAC地址。当节点A...

如何判断Linux HA 处于主还是备
答：heartbeat可以通过你在ha.cf配置文件中的日志文件来查看主备状态。一般是/var/log/ha-log文件。若你对heartbeat是使用知识不是很全面的话。推荐你可以尝试用一个mon第三方工具来实时监测http服务。当出现异常是进行报警及执行相关动作，例如：停服务，切服务等操作。

Linux系统中在虚拟机上搭建DB2 pureScale的方法
答：在Linux操作系统中，可在虚拟机上搭建DB2 pureScale，那么搭建的步骤是怎么样的呢？DB2 pureScale又有什么用呢？下面随小编一起来了解下Linux系统如何在虚拟机上部署DB2 pureScale。DB2 pureScale 的基本信息 DB2 pureScale 是一种新的 DB2 可选特性，它允许您通过“双机（active-active）”配置将数据库...