hadoop集群配置

2023-10-27


    一个具体的配置:这里只搭建一个三台主机的小机群
    10.37.128.2 - master ,namenode , jobtracker -master (主机名)
    10.37.128.3 - salve ,datanode , tasktracker -slave1 (主机名)
    10.37.128.4 - slave ,datanode , tasktracker -slave2 (主机名)
    首先在三台主机上创建相同的用户(这是Hadoop的基本要求)
    (1) 在三台主机上均安装JDK1.6,并设置环境变量
    (2) 在三台主机上分别设置/etc/hosts 及 /etc/hostname
    (3) 在这三台主机上安装OpenSSH,并配置SSH可以免密码登录
        ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
        cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys
        将文件复制到两台Slave 主机相同的文件夹内,输入命令:
        scp authorized_keys slave1:~/.ssh/
        scp authorized_keys slave2:~/.ssh/
        查看是否可以从Master主机免密码登录slave,输入命令:
        ssh  slave1
        ssh  slave2
    (4) 配置三台主机的Hadoop文件,
        conf/Hadoop-env.sh
        export JAVA_HOME=/usr/lib/jvm/jdk
        
        conf/core-site.xml
        <?xml version="1.0"?>
        <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
        <configuration>
          <property>
             <name>fs.default.name</name>
             <value>hdfs://master:9000</value>
          </property>
          <property>
             <name>hadoop.tmp.dir</name>
             <value>/tmp</value>
          </property>
        </configuration>
        
        conf/hdfs-site.xml
        <?xml version="1.0"?>
        <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
        <configuration>
          <property>
             <name>dfs.replication</name>
             <value>2</value>
          </property>
        </configuration>
        
        conf/mapred-site.xml
        <?xml version="1.0"?>
        <?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
        <configuration>
          <property>
            <name>mapred.job.tracker</name>
            <value>master:9000</value>
          </property>
        </configuration>
        
        
        
        conf/master:
        master
        
        conf/salves:
        slave1
        slave2
        
    (5) 启动Hadoop
        bin/Hadoop  NameNode -format
        bin/start-all.sh
        
       
    当在某个节点坏掉,修复之后不必重启整个系统,只需重启这个节点,它会自动连入整个集群。
    在坏死的节点上输入如下命令即可;
    bin/Hadoop-daemon.sh start datanode
    bin/Hadoop-daemon.sh start jobtracker
    动态加入DataNode 或 TaskTracker。
    bin/Hadoop-daemon.sh --config ./conf start datanode
    bin/Hadoop-daemon.sh --config ./conf start tasktracker
     
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

hadoop集群配置 的相关文章

随机推荐

  • java总结之基础类型与常量池

    1 基础类型有byte short int long char boolean float double八种 其中byte short int long char 的包装类型是存放在常量池 用来维护该类型所用到常量的有序集合 中的 浮点类型
  • IT6302 电源后面板的 DB9 接口输出为 TTL 电平,您需要通过附件电平转换后才可连接到 PC 机的串口上

    IT6302 电源后面板的 DB9 接口输出为 TTL 电平 您需要通过附件电平转换后才可连接到 PC机的串口上 该DB9接口的接口定义为 1 VCC 5V 由IT6302输出 2 RX 5V TTL电平 3 TX 5V TTL电平 5 G
  • html5超酷苹果风格,CSS3 苹果应用商店风格的5星评价组件

    CSS 语言 CSSSCSS 确定 body background 000 review holder position relative clear both display inline block left calc 50 50px
  • 刷题-leetcode-字节跳动高频题

    字节跳动研发岗高频考题之链表 lt 持续更新 7月8日 gt 链表 0 单链表的增删查改 1 反转链表 206 2 相交链表 160 3 环形链表II 142题 4 合并两个有序链表 5 合并K个排序链表 5 回文链表 6 环形链表 7 环
  • 如何设计一个安全的对外接口

    来源 juejin im post 5dd5283af265da47a11f5578 1 前言 最近有个项目需要对外提供一个接口 提供公网域名进行访问 而且接口和交易订单有关 所以安全性很重要 这里整理了一下常用的一些安全措施以及具体如何去
  • blender05乐高中级版

    1 新建一个2 4的平面 2 点击环切 将平面切割为两个平面 3 选中两个面 按下I内部挤压 变成下面的样子 但其实这样不对 x和y的距离不一样长 所以要回到物体模式 点击应用 点击缩放 将x y z的缩放比例都设置为1 4 继续环切 成下
  • IAR使用之破解

    http www amobbs com thread 5526625 1 1 html 对于学习AVR单片机的人来说 IAR是必不可少的开发软件 IAR以编译效率高著称 相比AVR STUDIO 6 0 它有小巧的体型 这点对于电脑配置不是
  • 大数据是什么意思

    在大数据的越来越火的今天 相信很多朋友都不清楚大数据到底是什么 可以解决实际生活中的什么问题 那么今天科多大数据老师就给各位小伙伴儿普及下大数据的概念吧 大数据到底是什么勒 大数据 是一个体量特别大 数据类别特别大的数据集 并且这样的数据集
  • 请用 python 打印出 10000 以内的对称数 (对称数特点:数字左右对称,如:1,2,11,121,1221 等)

    就用正序等于倒序的办法就可解决 lis for i in range 1 10000 i str i if i i 1 lis append i print lis ps 这个面试题在这么大的网站中找起来居然这么费劲 不是收费就是广告
  • 【硬创邦】跟hoowa学做智能路由(二):从芯片开始

    上一章我们讲了 这次DIY活动的来龙去脉 本章我们将一起了解下路由器的架构 芯片 操作系统相关的知识 我们的目标是让大家都能做智能路由 所以hoowa会尽可能少涉及到嵌入式的知识 因为这孩子本身学习就不好 他自己也害怕那些所谓的各种 定义
  • delphi xe10.2 FIREDAC 三种连接

    以下都是在DELPHI XE10 2中测试通过 FireDAC supports three distinct options for connecting to your database These are Temporary conn
  • 越狱iOS设备利用itms-services协议,实现Safari一键安装IPA

    http kryhear asia blog 2012 07 14 use itms services install ipa to a jailbreak ios device 利用MobileInstallation实现IPA程序安装后
  • Python 3.8 pandas 安装不了

    如果您在安装 Pandas 时遇到了问题 有以下几种常见解决方案 检查您的 Python 版本是否为 3 8 Pandas 对于 Python 3 8 的支持可能不是很好 因此您可以尝试安装旧版本的 Pandas 检查您是否安装了所有 Pa
  • C语言这么厉害,它自身又是用什么语言写的?

    作者 码农翻身刘欣 出自 码农翻身 ID coderising 这是来自我的星球的一个提问 C语言本身用什么语言写的 换个角度来问 其实是 C语言在运行之前 得编译才行 那C语言的编译器从哪里来 用什么语言来写的 如果是用C语言本身来写的
  • opencv中图像的旋转

    opencv中进行图像旋转的方法 flip函数 rotate函数但是这两种函数只能进行90 180 270的旋转 CV EXPORTS W void flip InputArray src OutputArray dst int flipC
  • 《数据挖掘导论》笔记(四)

    分类 本章介绍分类的基本概念 讨论诸如模型的过拟合等关键问题 并提供评估和比较分类技术性能的方法 尽管本章主要关注一种称作决策树归纳的技术 但是本章讨论的大部分内容也适用于其他的分类技术 预备知识 分类任务的输入数据是记录的集合 每条记录称
  • SQL查询半年内没有违纪记录,并且期末考试总分为每个班级前10名的学生名单。(日期函数、where、group by)

    面试题 有三张表 学生表 期末成绩表 违纪表 查询半年内没有违纪记录 并且期末考试总分为每个班级前10名的学生名单 解题思路 可以把这个复杂业务问题 使用多维度拆解分析方法 拆解为以下3个子问题 1 从 违纪表 中查询半年内有违纪记录的学生
  • MMClassification Python 教程(二)

    若纠结查看格式可以移步 学习笔记https study chenkequan cn E6 B7 B1 E5 BA A6 E5 AD A6 E4 B9 A0 E6 A1 86 E6 9E B6 openLab E7 B3 BB E5 88 9
  • FBX与Opengl骨骼系统

    转自 http blog csdn net mink365 article details 6328033 FBX是Autodesk提供的一个三维模型格式 由于AutoDesk已经收购了Maya 3D max等流行三维建模软件 FBX可以说
  • hadoop集群配置

    一个具体的配置 这里只搭建一个三台主机的小机群 10 37 128 2 master namenode jobtracker master 主机名 10 37 128 3 salve datanode tasktracker slave1