博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hadoop单机模式集群搭建
阅读量:6036 次
发布时间:2019-06-20

本文共 2508 字,大约阅读时间需要 8 分钟。

Hadoop单机模式集群搭建

0、准备192.168.230.13主机,作为搭建hadoop单机模式的主机

1、将压缩/安装文件上传到指定目录

12370404.jpg

[root@node4 ~]# cd /opt/software[root@node4 software]# lltotal 723384-rw-r--r-- 1 root root 311430119 Feb 29 09:07 hadoop-2.5.0.tar.gz-rw-r--r-- 1 root root 147197492 Feb 29 10:09 hadoop-2.5.2.tar.gz-rw-r--r-- 1 root root 142376665 Feb 29 09:07 jdk-7u67-linux-x64.tar.gz-rw-r--r-- 1 root root 138082565 Feb 29 09:06 jdk-7u79-linux-x64.rpm-rw-r--r-- 1 root root   1653240 Feb 29 08:14 tengine-2.1.0.tar.gz

26637253.jpg

1.1、将hadoop解压到指定目录下

[root@node4 software]# tar -zxf hadoop-2.5.2.tar.gz -C /opt/modules

1.2、查看主机是否有安装的jdk

[root@node4 hadoop-2.5.2]# rpm -qa | grep jdk jdk-1.7.0_79-fcs.x86_64

1.3、删除安装的jdk

[root@node4 hadoop-2.5.2]#  yum -y remove jdk-1.7.0_79-fcs.x86_64

1.4、安装jdk的rpm包

[root@node4 software]# rpm -ivh jdk-7u79-linux-x64.rpm

1.5、检查jdk是否安装成功

[root@node4 software]# javac -versionjavac 1.7.0_79

1.6、使用rpm包安装,jdk则默认安装到/usr/java/目录下

[root@node4 software]# cd /usr/java/jdk1.7.0_79

1.7、查看当前路径

[root@node4 jdk1.7.0_79]# pwd/usr/java/jdk1.7.0_79

2、配置/opt/modules/hadoop-2.5.2/etc/hadoop/目录中的hadoop-env.sh

2.1、配置jdk和hadoop路径

export JAVA_HOME=/usr/java/jdk1.7.0_79export HADOOP_PREFIX=/opt/modules/hadoop-2.5.2

99609135.jpg

2.2、进入/opt/modules/hadoop-2.5.2目录,将etc/hadoop/目录下文件全部复制到一个hadoop-2.5.2目录下新创建的文件夹input下

[root@node4 software]#  cd /opt/modules/hadoop-2.5.2[root@node4 hadoop-2.5.2]# mkdir input[root@node4 hadoop-2.5.2]#  cp /opt/modules/hadoop-2.5.2/etc/hadoop/*.xml /opt/modules/hadoop-2.5.2/input

543140.jpg

查看hadoop命令详细描述[root@node4 hadoop-2.5.2]# bin/hadoop

80645334.jpg

3、测试MapReduce单词统计是否能成功

[root@node4 hadoop-2.5.2]# bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.2.jar grep input output 'dfs[a-z.]+'[root@node4 hadoop-2.5.2]# ls outputpart-r-00000  _SUCCESS[root@node4 hadoop-2.5.2]# cat output/part-r-000001   dfsadmin

22181092.jpg

4、配置/opt/modules/hadoop-2.5.2/etc/hadoop目录下的core-site.xml,hdfs-site.xml文件

4.1、配置/opt/modules/hadoop-2.5.2/etc/hadoop/core-site.xml:

fs.defaultFS
hdfs://localhost:9000

65287303.jpg

4.2、配置/opt/modules/hadoop-2.5.2/etc/hadoop/hdfs-site.xml:

dfs.replication
1

23060849.jpg

5、格式化namenode

[root@node4 hadoop-2.5.2]# ./bin/hdfs namenode -format

68341793.jpg

6、启动HDFS

[root@node4 hadoop-2.5.2]# sbin/start-dfs.sh(分别启动namenode、datanode、secondarynamenode)

79564578.jpg

6.1、查看当前进程

[root@node4 hadoop-2.5.2]# jps

21931684.jpg

7、在浏览器地址输入:

http://192.168.230.13:50070/查看hadoop的WebUI

15650696.jpg

转载于:https://www.cnblogs.com/SparseMatrix/p/5255535.html

你可能感兴趣的文章
Ajax 知识
查看>>
学习JAVA自我总结
查看>>
Codeforces D - The Child and Zoo
查看>>
数据结构与算法
查看>>
小小小游戏
查看>>
windows ntp安装及调试
查看>>
MYSQL 备份用户权限
查看>>
上传和设置Mime类型
查看>>
使用python处理selenium中的鼠标悬停问题
查看>>
071:【Django数据库】ORM聚合函数详解-Avg
查看>>
Hadoop在安装snappy过程中的问题
查看>>
py 的 第 7 天
查看>>
Bounce(弹走绵羊)lct裸题
查看>>
BZOJ3238 [Ahoi2013]差异
查看>>
mybatis的动态sql中collection与assoction
查看>>
机器学习二分类模型评价指标:准确率\召回率\特异度等
查看>>
<jsp:include page>和<%@ include file%>的区别
查看>>
js文件、图片上传(原生方法和jquery的ajax两种都有)
查看>>
JS-DOM的知识点及应用
查看>>
webservice测试窗体只能用于来自本地计算机的请求
查看>>