sqoop同步mysql数据到hive中

标签：hive

一、sqoop 在同步mysql表结构到hive

  sqoop create-hive-table --connect jdbc:mysql://ip:3306/sampledata --table t1--username dev --password 1234 --hive-table t1;

执行到这一步就退出了，但是在hadoop的hdfs上的/hive/warehouse/的目录下是找不到t1表的目录,

但是正常执行完成是下面这样的：

 错误就是hive的jar包有缺失

全部的jar包该是这样的：

这是hadoop-2.2.0和hbase-0.96.2和hive-0.13.1整合的全部jar包

还有就是sqoop-1.4.4.jar 和mysql的驱动包也要放进去，这两个包最好也放在在hadoop/etc/share/common/

hive启动日志检查
hive -hiveconf hive.root.logger=DEBUG,console

控制台查看

或者把hive和hadoop的启动日志优先级调成DEBUG，

输出到一个文件中查看

如果没有异常信息，那就说明sqoop执行是没有问题的，至此问题解决！

sqoop同步mysql数据到hive中

标签：hive

原文地址：http://blog.csdn.net/manburen01/article/details/39233973