简单配置了sqoop之后开始使用,之前用的时候很好用,也不记得有没有启动hivemetastore,今天用的时候没有启动,结果导入数据时,如果使用了db.tablename,就会出现找不到数据库的错,一直找到不到原因, 换了sqoop还是一样,后来查了一下,在sqoop/conf下多了一个metas ...
分类:
其他好文 时间:
2017-10-15 19:24:48
阅读次数:
132
1):安装JDK环境 2):安装Hadoop和Hive客户端环境,如果需要导出到HBase则需要安装HBase客户端 3):下载sqoop : 命令: wget https://mirrors.tuna.tsinghua.edu.cn/apache/sqoop/1.4.6/sqoop-1.4.6.b ...
分类:
其他好文 时间:
2017-10-10 13:23:33
阅读次数:
183
概述 sqoop是apache旗下一款“Hadoop和关系数据库服务器之间传送数据”的工具。 导入数据:MySQL,Oracle导入数据到Hadoop的HDFS、HIVE、HBASE等数据存储系统; 导出数据:从Hadoop的文件系统中导出数据到关系数据库 工作机制 将导入或导出命令翻译成mapre ...
分类:
其他好文 时间:
2017-10-01 23:44:25
阅读次数:
308
使用sqoop导入增量数据. 核心参数 --check-column 用来指定一些列,这些列在增量导入时用来检查这些数据是否作为增量数据进行导入,和关系行数据库中的自增字段及时间戳类似这些被指定的列的类型不能使用任意字符类型,如char、varchar等类型都是不可以的,同时 --check-col ...
分类:
其他好文 时间:
2017-09-20 19:32:15
阅读次数:
321
1.下载 sqoop-1.4.6-cdh5.7.6.tar.gz 2.在linux中进行安装, tar -zxvf /opt/tools/spark-1.6.1-bin-2.6.0-cdh5.7.6.tgz -C /opt/cdh-5.7.6/ 3.进入sqoop安装目录,我装在/opt/cdh-5 ...
分类:
其他好文 时间:
2017-09-16 21:59:18
阅读次数:
183
mysql导入到hdfs中命令:sqoop import --connect jdbc:mysql://192.168.0.161:3306/angel --username anqi -password anqi --table test2 --fields-terminated-by '\t' ...
分类:
数据库 时间:
2017-09-14 21:52:04
阅读次数:
329
sqoop 大概样例 sqoop import --connect jdbc:oracle:thin:@//XXXX.XXXX.XXXX.XXXX:1531/BDC --username DATAREPORT --password datareport --table NW_AGG_FLIGHT_A ...
分类:
其他好文 时间:
2017-09-14 16:48:51
阅读次数:
183
原文:http://www.cnblogs.com/xiaodf/p/6030102.html#42 1 Sqoop概述 2 版本说明 3 驱动安装 3.1 MySQL 4 基本用法 4.1 导入 4.1.1 保护密码 4.1.2 使用其他文件格式 4.1.3 压缩导入的数据 4.1.4 提高传输速 ...
分类:
其他好文 时间:
2017-09-13 14:06:43
阅读次数:
296
Sqoop 将mysql 数据导入到hive(import) 1.创建mysql表 插入数据 2.hive 建表 3.使用sqoop将mysql数据导入到hive --delete-target-dir:如果目标目录存在则删除。 导入成功,在hive中查看数据。 使用sqoop将hive数据导出到m ...
分类:
数据库 时间:
2017-09-13 11:56:18
阅读次数:
287
恢复内容开始 Caused by: Exception: java.lang.Throwable Message: ERROR: schema "jice" does not exist 位置:35Stack trace: at org.postgresql.core.v3.QueryExecuto ...
分类:
编程语言 时间:
2017-09-08 10:05:16
阅读次数:
184