0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

虚拟机:Hadoop集群的测试

如意 来源:百家号 作者: 程序员陌然 2020-07-01 13:03 次阅读

一、格式化文件系统

通过前面的学习,此时还不能直接启动集群,因为在初次启动HDFS集群时,编写对主节点进行格式化处理,具体指令如下:

hdfs namenode -format(只需要在主节点运行即可或hadoop namenode -format)

执行以上任意一条命令若出现“successfully formatted”文字表示格式化成功,然后就可以启动集群了。

二、启动和关闭Hadoop集群

1.单个节点逐个启动和关闭

a.在主节点运行namenode进程

hadoop-daemon.sh start namenode

b.在每个从节点运行datanode进程

hadoop-daemon.sh start datanode

c.在主节点运行yarn resourcemanger进程

yarn-daemon.sh start resourcemanager

d.在每个从节点运行yarn nodemanger进程

yarn-daemon.sh start nodemanager

e.在规划节点hadoop02使用以下指令启动secondarynamenode进程

hadoop-daemon.sh start secondarynamenode

运行完成以上进程命令,如何判断是否成功?需要jps命令查看当前虚拟机进程,hadoop01是四个进程hadoop02是三个进程hadoop03是两个进程

2.脚本一键启动和关闭

(1)在主节点hadoop01上使用以下指令启动所有HDFS服务进程:

start-dfs.sh

(2)在主节点hadoop01上使用以下指令启动所有YARN服务进程:

start-yarn.sh

如果需要停止相关服务进程,只需要将start改为stop即可(即stop-dfs.sh和stop-yarn.sh)

hadoop01 192.168.21.164

通过访问以上IP+端口地址(50070 8088两个端口)

http:192.168.21.164:50070http:192.168.21.164:8088

如果没有关闭防火墙,可能导致无法访问,则使用以下命令关闭防火墙:

systemctl stop firewalld(三台机器都要关闭)

如果以主机名来访问二大集群

http://hadoop01:50070http://hadoop01:8088

则必须配置宿主机hosts文件在C:\Windows\System32\drivers\etc填写如下内容:

192.168.21.164 hadoop01192.168.21.165 hadoop02192.168.21.166 hadoop03

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 集群
    +关注

    关注

    0

    文章

    86

    浏览量

    17173
  • 虚拟机
    +关注

    关注

    1

    文章

    914

    浏览量

    28154
  • Hadoop
    +关注

    关注

    1

    文章

    90

    浏览量

    15970
收藏 人收藏

    评论

    相关推荐

    什么是虚拟机虚拟机真的那么好用吗?

    在日新月异的科技世界中,虚拟化技术如同一座桥梁,连接着现实与数字的鸿沟,为我们打开了全新的计算维度。虚拟机,这一概念,自其诞生以来,就以其独特的魅力和强大的功能,深深地影响了软件开发、系统测试和云
    的头像 发表于 07-06 08:05 463次阅读
    什么是<b class='flag-5'>虚拟机</b>?<b class='flag-5'>虚拟机</b>真的那么好用吗?

    hadoop需要什么基础

    :⑦ 需要掌握虚拟机;⑧ 需要安装linux操作系统⑨ 需要配置虚拟机网络除了上述这几个方面,我们还需要了解hadoop的单机模式、伪分布模式和分布式模式的搭建方式。了解MapReduce分布式计算
    发表于 09-20 16:00

    Hadoop集群环境部署说明

    Hadoop集群环境搭建是很多学习hadoop学习者或者是使用者都必然要面对的一个问题,网上关于hadoop集群环境搭建的博文教程也蛮多的。
    发表于 10-12 15:51

    超详细Dkhadoop虚拟机图文安装步骤

    时经验为基础,给大家整理分享虚拟机的安装、操作系统安装、服务器操作系统配置、DKH系统安装等相关内容。文章篇幅可能会比较长,所以每篇就只分享一到两个点。本篇给大家分享DKHadoop虚拟机的环境安装
    发表于 01-07 15:57

    hadoop集群的NameNod

    hadoop集群部署
    发表于 08-20 14:33

    hadoop集群配置方法

    hadoop集群配置
    发表于 09-30 14:16

    hadoop集群搭建的准备

    hadoop集群搭建系列(step01:集群搭建准备)
    发表于 03-31 09:47

    求一种基于集群的技术和基于虚拟机重启的技术

    什么是IBM Power Systems的地理分散弹性?灾难恢复和高可用性(HA)解决方案主要基于两种技术:基于集群的技术和基于虚拟机重启的技术。 群集高可用性和灾难恢复解决方案通常会部署冗余的硬件
    发表于 12-29 06:23

    如何搭建hadoop平台_hadoop平台搭建步骤

    如何搭建hadoop平台如下所示,一、虚拟机及系统安装二、在虚拟机中配置JAVA环境三、修改hosts...
    发表于 01-02 09:29 9167次阅读

    云环境下虚拟机集群系统动态负载均衡机制

    针对传统的物理集群系统无法灵活应对大型互联网应用的问题,提出一种云环境下虚拟机集群的综合负载均衡机制。该方法首先定期地采集集群虚拟机节点的
    发表于 01-24 15:13 0次下载

    你会用VMware虚拟机安装Linux系统?

    由于要搭建Oracle RAC集群需要模拟环境,所以需要利用VMware虚拟机安装集群节点环境,本章节介绍如何利用VWware虚拟机安装centos系统(Linux)。
    发表于 05-13 10:27 2665次阅读
    你会用VMware<b class='flag-5'>虚拟机</b>安装Linux系统?

    虚拟机:Linux如何测试 DBUS Daemon

    虚拟机:Linux如何测试 DBUS Daemon
    的头像 发表于 06-22 16:35 4319次阅读
    <b class='flag-5'>虚拟机</b>:Linux如何<b class='flag-5'>测试</b> DBUS Daemon

    虚拟机Hadoop集群的搭建

    虚拟机Hadoop集群的搭建
    的头像 发表于 07-01 13:03 3197次阅读
    <b class='flag-5'>虚拟机</b>:<b class='flag-5'>Hadoop</b><b class='flag-5'>集群</b>的搭建

    虚拟机Hadoop集群的配置

    虚拟机Hadoop集群的配置
    的头像 发表于 07-01 14:14 2776次阅读

    怎么安装linux虚拟机

    在计算机领域,虚拟机是一种软件程序,它允许在主操作系统上运行多个虚拟操作系统。Linux虚拟机在开发、测试和学习等环境中得到广泛应用。本文将详细介绍如何安装Linux
    的头像 发表于 11-23 10:50 1084次阅读