码迷,mamicode.com
首页 > 其他好文 > 详细

Sqoop2使用方法简介

时间:2017-05-20 00:06:28      阅读:239      评论:0      收藏:0      [点我收藏+]

标签:大数据 sqoop 数据处理

1.sqoop2-shell 进入 shell


2.show connector 显示支持的连接方式

技术分享技术分享

技术分享


3.show link -all 查看已有连接的信息


ink with id 1 and name .168.1.188-1464317401319 (Enabled: true, Created by Administrator at 5/27/16 10:50 AM, Updated by Administrator at 5/27/16 10:50 AM)

Using Connector generic-jdbc-connector with id 4

  Link configuration

    JDBC Driver Class: com.mysql.jdbc.Driver

    JDBC Connection String: ****************************************

    Username: 

    Password: 

    JDBC Connection Properties: 


4. create link -c 4 表示创建基于connector4 的link


创建的时候要输入步骤3显示的信息



5create job -f -t


-f 从哪个link

-t 到哪个link


(schema name,table name )和 table sql statement 是互斥的只能写其中一个


table sql statement 要写${CONDITIONS}


check column 和last value 两个参数用作增量更新


这里选择普通文件(TEXT_FILE)和不压缩(NONE)的方式进行导入,方便查看导入文件


技术分享技术分享




创建成功会返回id


用show job -jid 18  查看job,id为18的详细信息



6.如果报错,想要显示具体的错误信息,可以执行下列语句。

sqoop:000> set option -name verbose -value true

Verbose option was changed to true


设置前

技术分享

技术分享

设置后,可以在报错信息中查看具体错误信息并排查。


技术分享技术分享




start job -jid 18 -s    

-s:表示实时显示job的执行进度,默认不写的话,只会显示到job开始



7status job -jid 18 

显示 id为18的job的执行状态

技术分享

技术分享



显示执行成功


8.查看Hdfs控制台

技术分享技术分享


表明已经导入成功,如果还不放心 可以用

hadoop dfs -cat /tmp/xktest/文件名

来查看文件具体内容是否和表中的相同。


本文出自 “去买大白兔” 博客,转载请与作者联系!

Sqoop2使用方法简介

标签:大数据 sqoop 数据处理

原文地址:http://xk0230.blog.51cto.com/11859350/1927641

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!