你好,游客 登录 注册 搜索
背景:
阅读新闻

Hadoop 2.2.0安装开发环境(单机伪分布模式)

[日期:2014-05-13] 来源:Linux社区  作者:辛勤的小胖 [字体: ]

最近一直在自学Hadoop,今天花点时间搭建一个开发环境,并整理成文。

首先要了解一下Hadoop的运行模式:

单机模式(standalone)

单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

伪分布模式(Pseudo-Distributed Mode)

伪分布模式在“单节点集群”上运行Hadoop,其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能,允许你检查内存使用情况,HDFS输入输出,以及其他的守护进程交互。

全分布模式(Fully Distributed Mode)

--------------------------------------分割线 --------------------------------------

Ubuntu 13.04上搭建Hadoop环境 http://www.linuxidc.com/Linux/2013-06/86106.htm

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置 http://www.linuxidc.com/Linux/2013-09/90600.htm

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) http://www.linuxidc.com/Linux/2013-01/77681.htm

Ubuntu下Hadoop环境的配置 http://www.linuxidc.com/Linux/2012-11/74539.htm

单机版搭建Hadoop环境图文教程详解 http://www.linuxidc.com/Linux/2012-02/53927.htm

Hadoop LZO 安装教程 http://www.linuxidc.com/Linux/2013-01/78397.htm

Hadoop集群上使用Lzo压缩 http://www.linuxidc.com/Linux/2012-05/60554.htm

--------------------------------------分割线 --------------------------------------

1.安装JDK,并指定系统默认jdk为Oracle的版本,默认安装到的目录为/usr/java/jdk1.7.0_45 ,下文将其设置为

JAVA_HOME
 rpm -ivh jdk-7u51-linux-i586.rpm

vi jdk_install.sh
 
最后source jdk_install.sh,完成配置,查看配置完成的方法java -version ,一定要确保不是openJDK。
 修改环境变量,建议是在etc/profile.d中重新建立一个文件shell脚本来安装jdk
 #This is a shell file for Java Environment Installation
 export JAVA_HOME=/usr/java/jdk1.7.0_45
 PATH=$JAVA_HOME/bin:$PATH
 export JRE_HOME=$JAVA_HOME/jre
 export CLASSPATH=./:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
 
2.配置hadoop环境变量
 #set hadoop2.2.0 environment
 export HADOOP_HOME=/hadoop/hadoop-2.2.0
 export PATH=$PATH:$HADOOP_HOME/bin
 export PATH=$PATH:$HADOOP_HOME/sbin

 3.hadoop安装包解压
 tar -zcvf hadoop-2.2.0.tar.gz
 4.修改XML文件,hadoop的文件文件在hadoop文件目录etc/hadoop中,添加下面内容
vim core_site.xml

vim hdfs-site.xml

这里是对namenode和daatanode存储路径的设置。

vim mapred-site.xml


最后在hadoop-env.sh 这个文件中加入jdk的指定,在文件最后加入export JAVA_HOME=/usr/java/jdk1.7.0_45 也就是你的jdk目录

更多详情见请继续阅读下一页的精彩内容http://www.linuxidc.com/Linux/2014-05/101683p2.htm

linux
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数

       

评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款