Linux中Hadoop的安装与配置

2023-11-03

1.首先关闭虚拟机的防火墙:

2.查看防火墙状态:

 

3.然后修改主机名称,配置hosts:

vi etc/hosts

前面是自己的主机IP地址  后面是想要修改的主机名称 

修改完成保存后reboot重启即可修改完成

 

4.把Hadoop和jdk压缩包传进安装好的虚拟机中对应的文件夹中(我这里用的是xftp)

 然后进行解压压缩包

解压格式:(tar -zxvf xxxxxx.tar.gz -C /opt/tools/目录)

都解压完成后进行配置

5.进入根目录 进行配置(vi ~/.bashrc)

 配置完成(source ~/.bashrc)

运行查看jdk版本是否安装成功

 6.然后配置Hadoop的环境(同样在根目录下)

 同样source ~/.bashrc

7.进入要配置信息的目录下:(我这里是cd /opt/tools/hadoop/hadoop-2.7.3/etc/hadoop)

 

8.配置hadoop-env.sh:

 

9.配置hdfs-site.xml:

 

10.配置core-site.xml:

1.首个value值的配置按照主机或ip修改成自己的

2.第二个value先在对应目录下建立tmp文件夹,然后修改配置参数(此处不设置临时目录,重启操作系统会造成文件丢失,namenode无法启动)

3.port默认为8020

先创建一个tmp空文件夹在:

进行配置:

 

11.配置mapred-site.xml

 目录下找不到此文件,先将mapred-site.xml.template复制一份并修改文件名为mapred-site.xml

cp mapred-site.xml.template mapred-site.xml

 

12.配置yarn-site.xml:

 

13. 格式化hdfs

hadoop namenode -format(运行成功会有successful提示)

14. 启动hadoop

start-all.sh(同时启动)

15.jps验证进程(除了jps进程,另外五大进程必须都存在)

注意: 如果缺少节点可能是配置参数代码错误 检查安装目录和配置目录是否一致

 

 

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

Linux中Hadoop的安装与配置 的相关文章

  • Protobuf RPC 在 Hadoop 2.2.0 单节点服务器上不可用?

    我正在尝试在按照本教程安装的本地单节点集群上运行 hadoop 2 2 0 mapreduce 作业 http codesfusion blogspot co at 2013 10 setup hadoop 2x 220 on ubuntu
  • 使用 ioctl 在 C++ 中以编程方式添加路由

    我编写了简单的 C 函数 添加了新路线 void addRoute int fd socket PF INET SOCK DGRAM IPPROTO IP struct rtentry route memset route 0 sizeof
  • 如何从 Bash 命令行在后台 Vim 打开另一个文件?

    我正在从使用 Gvim 过渡到使用控制台 Vim 我在 Vim 中打开一个文件 然后暂停 Vim 在命令行上运行一些命令 然后想返回到 Vim Ctrl Z 在正常模式下 暂停 Vim 并返回到控制台 fg可用于将焦点返回到 Vim job
  • MySQL 与 PHP 的连接无法正常工作

    这是我的情况 我正在尝试使用 Apache 服务器上的 PHP 文件连接到 MySQL 数据库 现在 当我从终端运行 PHP 时 我的 PHP 可以连接到 MySQL 数据库 使用 php f file php 但是当我从网页执行它时 它只
  • Bash:将字符串添加到文件末尾而不换行

    如何将字符串添加到文件末尾而不换行 例如 如果我使用 gt gt 它将添加到文件末尾并换行 cat list txt yourText1 root host 37 echo yourText2 gt gt list txt root hos
  • Linux shell 从用户输入中获取设备 ID

    我正在为一个程序编写安装脚本 该程序需要在其配置中使用 lsusb 的设备 ID 因此我正在考虑执行以下操作 usblist lsusb put the list into a array for each line use the arr
  • Crontab 每 5 分钟一次 [关闭]

    Closed 这个问题是无关 help closed questions 目前不接受答案 我如何告诉 crontab 每 5 分钟运行一次 但从每小时的第二分钟开始 换句话说 我想在以下时间执行我的脚本minute 5 2 例如 我的脚本应
  • 如何并行执行4个shell脚本,我不能使用GNU并行?

    我有4个shell脚本dog sh bird sh cow sh和fox sh 每个文件使用 xargs 并行执行 4 个 wget 来派生一个单独的进程 现在我希望这些脚本本身能够并行执行 由于某些我不知道的可移植性原因 我无法使用 GN
  • Ubuntu Python shebang 线不工作

    无法让 shebang 线在 Ubuntu 中为 python 脚本工作 我每次只收到命令未找到错误 test py usr bin env python print Ran which python usr bin python 在 sh
  • 如何在 Linux 上通过 FTP 递归下载文件夹 [关闭]

    Closed 这个问题不符合堆栈溢出指南 help closed questions 目前不接受答案 Locked 这个问题及其答案是locked help locked posts因为这个问题是题外话 但却具有历史意义 目前不接受新的答案
  • 没有函数映射到名称“coord:formatTime”

    我正在尝试使用 oozie 中的以下内容获取当前时间戳
  • Hadoop 超立方体

    嘿 我正在启动一个基于 hadoop 的超立方体 具有灵活的维度数 有人知道这方面现有的方法吗 我刚刚发现PigOLAP草图 http wiki apache org pig PigOLAPSketch 但没有代码可以使用它 另一种方法是Z
  • 批量删除文件名中包含 BASH 中特殊字符的子字符串

    我的目录中有一个文件列表 opencv calib3d so2410 so opencv contrib so2410 so opencv core so2410 so opencv features2d so2410 so opencv
  • 找不到包“gdk-pixbuf-2.0”

    我正在尝试在 Amazon Linux 发行版实例上构建 librsvg 我已经通过 yum 安装了大部分依赖项 其中一些在实例上启用的默认 yum 存储库中不可用 因此必须从头开始构建它们 我已经走了很远 但还停留在最后一点 跑步时sud
  • ALSA:snd_pcm_writei 调用时缓冲区不足

    当运行我最近从灰烬中带回来的旧程序时 我遇到了缓冲区不足的情况 该程序将原始声音文件完全加载到内存中 2100 字节长 525 帧 并准备 ALSA 进行输出 44 1khz 2 通道 有符号 16 位 if err snd pcm set
  • 为什么 Linux 没有 DirectX API?

    在考虑现代显卡的 Windows 系统上 DirectX API 的驱动程序端实现时 我想知道为什么此实现在非 Windows 系统 尤其是 Linux 上不可用 由于明显缺乏此功能 我只能假设有一个我无视的充分理由 但在我的原始理解中 我
  • linux下无法创建僵尸进程

    嗯 我有一个奇怪的问题 我无法在我的项目中创建僵尸进程 但我可以在其他文件中创建僵尸进程 有简单的说明 int main if fork 0 printf Some instructions n else sleep 10 wait 0 r
  • docker 非 root 绑定安装权限,WITH --userns-remap

    all 尝试让绑定安装权限正常工作 我的目标是在容器中绑定安装卷 以便 a 容器不以 root 用户身份运行入口点 二 docker daemon 配置了 userns remap 这样容器 主机上没有 root c 我可以绑定挂载和读 写
  • Google BQ:运行参数化查询,其中参数变量是 BQ 表目标

    我正在尝试从 Linux 命令行为 BQ 表目标运行 SQL 此 SQL 脚本将用于多个日期 客户端和 BQ 表目标 因此这需要在我的 BQ API 命令行调用中使用参数 标志 parameter 现在 我已经点击此链接来了解参数化查询 h
  • python获取上传/下载速度

    我想在我的计算机上监控上传和下载速度 一个名为 conky 的程序已经在 conky conf 中执行了以下操作 Connection quality alignr wireless link qual perc wlan0 downspe

随机推荐

  • chatgpt 优秀项目

    chagpt token 获取 点击即可 一 pandala 项目 仓库地址 pandora docker 部署方案 拉取镜像 docker pull pengzhile pandora 本地启动镜像 docker run d name c
  • python使用kafka收发消息

    简介 kafka是最近几年很流行的消息队列中间件 在大数据以及后端服务领域有很广泛的应用 废话不多说 接下来直接上代码介绍python如何向kafka发送数据以及订阅数据 消息发布 Kafka的消息是 发布 订阅 模式的 接下来先介绍向ka
  • android二级listview列表实现代码(高仿大众点评)

    今天来实现以下大众点评客户端的横向listview二级列表 先看一下样式 这种横向的listview二级列表在手机软件上还不太常见 但是使用过平板的都应该知道 在平板上市比较常见的 可能是因为平板屏幕比较大 而且也能展现更多的内容 下面来看
  • VC数据类型转换大全 (转)

    VC数据类型转换大全 int i 100 long l 2001 float f 300 2 double d 12345 119 char username 程佩君 char temp 200 char buf CString str v
  • 多任务工作流难管理?看dhtmlxGantt如何实现云管理平台高效管理!

    今天我们分享一个关于KeyWorks OS为意大利公共管理机构提供的工作流解决方案 这是将dhtmlxGantt集成到低代码平台的成功案例 关于KeyWorks OS dhtmlxGantt帮助知名低代码管理平台KeyWorks OS完善B
  • 【HDFS】XXXRpcServer和ClientNamenodeProtocolServerSideTranslatorPB小记

    初始化RouterRpcServer时候会new ClientNamenodeProtocolServerSideTranslatorPB 并把当前RouterRpcServer对象 this 传入构造函数 ClientNamenodePr
  • 嵌入式调试技巧-代码自动初始化

    代码自动初始化 概述 在嵌入式开发过程中 可能会遇到初始化代码自动初始化 比如RTT中就运用到这项技术 那么初始化代码是如何做到自动化调用的呢 在嵌入式实际开发过程中 往往需要对 bsp 部分进行外设配置 以及一些模块 参数进行初始化 常见
  • macOS输入法导致系统卡住鼠标圈圈问题/风火轮

    最终解决方案 使用第三方输入法 如微信键盘 搜狗输入法取代自带的简体拼音输入法直接解决 最终解决方案 使用第三方输入法 如微信键盘 搜狗输入法取代自带的简体拼音输入法直接解决 最终解决方案 使用第三方输入法 如微信键盘 搜狗输入法取代自带的
  • This exception may occur if matchers are combined with raw values

    org mockito exceptions misusing InvalidUseOfMatchersException Invalid use of argument matchers 3 matchers expected 2 rec
  • SpringCloud利用Feign访问外部http请求

    大家好 目前接手了一个项目 具体的逻辑并不复杂 主要是一个 中间商 角色 比如客户端通过我访问高德地图API 就不需要带秘钥 直接带高德API所需的入参和url后缀 就可以访问 目前遇到这样一个问题 项目架构师要求所有的项目自己写的httt
  • 【Windows系统资源】​​​​​​​iexplore.exe命令行参数解释

    资源 C Program Files Internet Explorer iexplore exe 语法 nohome 双击此快捷方式则只打开一个空白IE窗口 可以加快IE启动速度 同时如果IE主页被恶意修改了 利用此法就不会自动打开恶意主
  • Linux指令--别名alias

    文章目录 1 定义别名 2 查看别名 3 取消别名 4 起别名的弊端 5 别名的失效 6 单引号与双引号下别名的区别 7 shell脚本中的别名 1 定义别名 格式 alias name values 等号 前后不能有空格 values中有
  • codeforces Gym 101341 K Competitions

    Problem codeforces com gym 101341 problem K vjudge net contest 162325 problem K Meaning 有 n 场比赛 每一场有 开始时间 a 结束时间 b 价值 c
  • java基于微信小程序旅游管理系统 uniapp 小程序+论文

    本旅游服务软件 主要实现了管理员后端 首页 个人中心 旅游攻略管理 旅游资讯管理 景点信息管理 门票预定管理 用户管理 酒店信息管理 酒店预定管理 推荐路线管理 论坛管理 系统管理 用户前端 首页 景点信息 酒店信息 论坛中心 我的等 总体
  • 对比openai,我更喜欢ppword的近期更新

    刚刚 23年8月17日 openai宣布收购Global Illumination Global Illumination简单说 就是人工智能落地公司 来帮chatGPT找落地场景 昨天 23年8月16日 宣布更新了内容审核的解决方案 号称
  • 机器学习算法 随机森林

    文章目录 一 概述 1 1 集成学习 1 2 决策树 1 3 随机森林 二 Sklearn中的随机森林 2 1 分类树API 2 2 参数 2 2 回归树API 2 2 1 重要参数 2 3 随机森林调参 三 总结 一 概述 1 1 集成学
  • unity渲染队列render quaue

    本文转载自http blog csdn net candycat1992 article details 37345251 本系列主要参考 Unity Shaders and Effects Cookbook 一书 感谢原书作者 同时会加上
  • shell中for循环变量常见使用场景

    shell中for循环变量常见使用场景 1 目的 在shell脚本for循环使用过程中经常出现非常规使用场景 如在awk的条件语句中 输出文本中变量后有字符等 这些场景中需要对for循环中的变量做处理 希望持续完善 2不同场景 2 1 变量
  • React配置webpack(一)

    一 安装 create react app npx create react app react webpack app cd react webpack app npm start 二 初始化项目 npm init y 三 安装所需包 w
  • Linux中Hadoop的安装与配置

    1 首先关闭虚拟机的防火墙 2 查看防火墙状态 3 然后修改主机名称 配置hosts vi etc hosts 前面是自己的主机IP地址 后面是想要修改的主机名称 修改完成保存后reboot重启即可修改完成 4 把Hadoop和jdk压缩包