当前位置: 首页 > news >正文

HADOOP单机系统安装

为什么80%的码农都做不了架构师?>>>   hot3.png

一.安装和配置JDK

1.HADOOP是以JAVA语言写成的,需要预先在本地计算机上安装JDK,由于直接使用wget不能绕过ORACLE的网站验证,可以使用下面代码下载。

wget --no-cookies --no-check-certificate --header "Cookie: gpw_e24=http%3A%2F%2Fwww.oracle.com%2F;oraclelicense=accept-securebackup-cookie" "http://download.oracle.com/otn-pub/java/jdk/8u77-b03/jdk-8u77-linux-x64.rpm"

2.将下载的JDK拷贝到所需要安装的目录下。如:/usr/jdk

3.安装JDK

4.配置JAVA_HOME以及CLASS_PATH,vi 进入/etc/profile,在文件最后加上如下语句

export JAVA_HOME=/usr/jdk/jdk1.7.0_71
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME PATH CLASSPATH

  保存退出,执行下面命令使配置生效:

source /etc/profile

5.执行下面命令查看当前版本配置是否生效

java -version

二.安装ssh及rsync软件

在ubuntu linux上使用如下命令安装:

sudo apt-get install ssh
sudo apt-get install rsync

在RedHat/CentOS上使用如下命令安装:

sudo yum install ssh
sudo yum install rsync

单机伪分布使用如下命令配置免密码登录

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

使用ssh localhost 命令测试是否还需要密码才能登录,如果不需要密码就可以进入,说明配置成功。

三.安装配置HADOOP

1.下载Hadoop稳定版并解压

wget http://mirrors.cnnic.cn/apache/hadoop/core/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz
tar -xzvf hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz

2.配置hadoop环境

切换到hadoop安装路径找到hadoop-1.2.1下的conf/hadoop-env.sh文件,使用vi打开。

vi ./hadoop-env.sh
<!--在文件中添加下面语句--!>
export JAVA_HOME=/usr/java/jdk1.6.0

配置conf/core-site.xml conf/hdfs-site.xml conf/mapred-site.xml

打开conf/core-site.xml文件,编辑如下:

<?xml version="1.0"?>   
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>   
  
<!-- Put site-specific property overrides in this file. -->   
  
<configuration>   
<property>     
  <name>fs.default.name</name>     
  <value>hdfs://localhost:9000</value>      
 </property>     
</configuration>

打开conf/hdfs-site.xml文件,编辑如下:

<configuration>   
<property>   
<name>dfs.name.dir</name>   
<value>/usr/local/Hadoop/datalog1,/usr/local/hadoop/datalog2</value>   
</property>   
<property>   
<name>dfs.data.dir</name>   
<value>/usr/local/hadoop/data1,/usr/local/hadoop/data2</value>   
</property>   
<property>   
<name>dfs.replication</name>   
<value>2</value>   
</property>   
</configuration>

 打开conf/mapred-site.xml文件,编辑如下:

<?xml version="1.0"?>   
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>   
  
<!-- Put site-specific property overrides in this file. -->   
  
    <configuration>     
     <property>      
      <name>mapred.job.tracker</name>     
      <value>localhost:9001</value>      
     </property>     
    </configuration>

建议将HADOOP的bin目录配置到PATH环境变量

PATH="$PATH":你的hadoop的bin目录路径

四:启动和停止HADOOP

1.格式化分布式文件系统HDFS

hadoop namenode -front

2.启动hadoop环境

start-all.sh

3.停止hadoop运行

stop-all.sh

4.运行测试程序

hadoop jar $HADOOP_HOME/hadoop-examples-1.2.1.jar \

5.查看集群状态

jps


转载于:https://my.oschina.net/clgo/blog/600407

相关文章:

  • ASCLL
  • 关于mybatis的学习笔记
  • qt-4.8.4安装和环境变量配置
  • Cacti和Nagios整合
  • linux 运维shell习题
  • iOS Xcode 打包之后,不能输出日志
  • 我们每个人其实都有周杰伦的“影子”
  • 删除heroku上的数据库记录
  • 哈尔滨铁路千余列车加装无线WIFI网络
  • Redis操作命令总结
  • 如何成为一个Java Web工程师
  • 磁盘将死:到2020年将有四分之三PC设备采用SSD
  • linux网络命令(八)之top、htop
  • 《计算机网络课程设计(第2版)》——1.4节课程设计要求及评分标准
  • docker Failed to get D-Bus connection 报错
  • 网络传输文件的问题
  • Google 是如何开发 Web 框架的
  • Android开源项目规范总结
  • Apache的基本使用
  • codis proxy处理流程
  • Docker 1.12实践:Docker Service、Stack与分布式应用捆绑包
  • FastReport在线报表设计器工作原理
  • HTTP请求重发
  • iOS帅气加载动画、通知视图、红包助手、引导页、导航栏、朋友圈、小游戏等效果源码...
  • Mithril.js 入门介绍
  • pdf文件如何在线转换为jpg图片
  • PHP 使用 Swoole - TaskWorker 实现异步操作 Mysql
  • Python socket服务器端、客户端传送信息
  • React-flux杂记
  • Redis的resp协议
  • Synchronized 关键字使用、底层原理、JDK1.6 之后的底层优化以及 和ReenTrantLock 的对比...
  • vue和cordova项目整合打包,并实现vue调用android的相机的demo
  • 仿天猫超市收藏抛物线动画工具库
  • 互联网大裁员:Java程序员失工作,焉知不能进ali?
  • 基于Volley网络库实现加载多种网络图片(包括GIF动态图片、圆形图片、普通图片)...
  • 简单易用的leetcode开发测试工具(npm)
  • 类orAPI - 收藏集 - 掘金
  • 前端每日实战:70# 视频演示如何用纯 CSS 创作一只徘徊的果冻怪兽
  • 前端自动化解决方案
  • 温故知新之javascript面向对象
  • 我的zsh配置, 2019最新方案
  • 写给高年级小学生看的《Bash 指南》
  • 优秀架构师必须掌握的架构思维
  • 自定义函数
  • Mac 上flink的安装与启动
  • ​Kaggle X光肺炎检测比赛第二名方案解析 | CVPR 2020 Workshop
  • #Linux(帮助手册)
  • #LLM入门|Prompt#1.7_文本拓展_Expanding
  • (Redis使用系列) Springboot 实现Redis消息的订阅与分布 四
  • (板子)A* astar算法,AcWing第k短路+八数码 带注释
  • .net core 调用c dll_用C++生成一个简单的DLL文件VS2008
  • .NET 设计模式—适配器模式(Adapter Pattern)
  • .NET 使用 ILMerge 合并多个程序集,避免引入额外的依赖
  • .NET 应用架构指导 V2 学习笔记(一) 软件架构的关键原则
  • .NET单元测试