码迷,mamicode.com
首页 > 移动开发 > 详细

大数据学习——java代码实现对HDFS文件的read、append、write操作

时间:2018-07-14 14:41:15      阅读:1558      评论:0      收藏:0      [点我收藏+]

标签:dfsclient   项目   mon   lin   app   adl   设置   apache   使用   

在之前的环节进行了HDFS 的搭建过程,接下来学习的内容是通过java代码实现对HDFS中文件进行操作。

这部分学习是为了之后在使用到的MapRedce对HDFS 文件进行操作。

在eclipse上编写java代码对HDFS上的文件进行操作首先要在项目中进行jar包导入。这里我们通过建立maven项目,方便jar包的导入。

需要注意的是在使用mave时导入本地不存在的jar包需要在有网的环境下进行

这里我们导入的jar包有以下几部分,在pom.xml中配置以下几个部分,会自动下载相关jar包

<dependencies>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-common</artifactId>
            <version>2.7.3</version>
        </dependency>
        <dependency>
            <groupId>org.apache.hadoop</groupId>
            <artifactId>hadoop-client</artifactId>
            <version>2.7.3</version>
        </dependency>
        <dependency>
            <groupId>jdk.tools</groupId>
            <artifactId>jdk.tools</artifactId>
            <version>1.8</version>
            <scope>system</scope>
            <systemPath>${JAVA_HOME}/lib/tools.jar</systemPath>
        </dependency>
    </dependencies>

 

 建立HDFSClient类,进行操作其中:

write:写入操作,文件不存在时自动创建文件并写入数据

append:追加写入操作,写入文件需存在

read:读取文件操作

代码如下:

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class HDFSClient {
    public static void main(String[] args) {
        
        write();
         //append(); 
         read();
    }
    //主加写入文件,必须是已有文件
    public static void append(){
        Configuration conf=new Configuration();
        conf.set("fs.defaultFS", "hdfs://192.168.98.141:9000");
        conf.set("dfs.support.append", "true");
        conf.set("dfs.client.block.write.replace-datanode-on-failure.policy", "NEVER");//配置权限
        conf.set("dfs.client.block.write.replace-datanode-on-failure.enable", "true");//配置权限
        try {
            FileSystem fs=FileSystem.get(conf);
            FSDataOutputStream outpustream = fs.append(new Path("/hp/abc.txt"));//FSDataOutputStream文件输出流 //追加文件
            outpustream.writeBytes("xxxxxx");//追加内容
            outpustream.close();
        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
    }
    //写入文件
    public static void write(){
        Configuration conf=new Configuration();
        conf.set("fs.defaultFS", "hdfs://192.168.98.141:9000");
        try {
            FileSystem fs=FileSystem.get(conf);
            FSDataOutputStream outputStream = fs.create(new Path("/hp/abc.txt"));
            outputStream.writeBytes("abcde");
            outputStream.close();
        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
    }
    
    public static void read(){
        // 配置对象
        Configuration conf=new Configuration();
        // 在配置对象中设置 namenode
        conf.set("fs.defaultFS", "hdfs://192.168.98.141:9000");
        try {
            // 创建 FileSystem 
            FileSystem fs=FileSystem.get(conf) ;
            // 穿件输入流
            FSDataInputStream inputstream = fs.open(new Path("/hp/abc.txt"));
            // 字节流转字符流
            InputStreamReader isr=new InputStreamReader(inputstream);
            BufferedReader br=new BufferedReader(isr);
            String str=br.readLine();
            while(str!=null){
                System.out.println(str);
                str=br.readLine();
            }
            br.close();
            isr.close();
            inputstream.close();
        } catch (IOException e) {
            // TODO Auto-generated catch block
            e.printStackTrace();
        }
    }
}

注:这里不能write append方法同时使用会报出错误,具体如何解决和原因我也没有弄清楚

大数据学习——java代码实现对HDFS文件的read、append、write操作

标签:dfsclient   项目   mon   lin   app   adl   设置   apache   使用   

原文地址:https://www.cnblogs.com/yuezhihao/p/9308458.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!