码迷,mamicode.com
首页 > 其他好文 > 详细

2020年寒假假期总结0203

时间:2020-02-03 15:56:29      阅读:286      评论:0      收藏:0      [点我收藏+]

标签:lte   mysql   jdb   mic   bin   设置   character   pass   ash   

  使用sqoop将hive中的统计数据导入到mysql中

  思路:首先在hive上创建临时表,然后将统计数据放在临时表中,最后通过sqoop将临时表中的数据导入到mysql中。

  例子:将各个官方部门回答的数量都导入到mysql中。

  1.在hive中创建capital_temp表

create table capital_temp(
object string,
num int);

  2.统计结果放入到临时表当中

insert capital_temp
select object,count(1) as num from capital_info group by object

  3.因为每个hive的表都在hdfs上有文件存储,所以我们只需将hdfs上的数据导入到mysql上即可。

技术图片

 

 

   

bin/sqoop export --connect jdbc:mysql://192.168.133.130:3306/holiday2020?useUnicode=true\&characterEncoding=utf-8 \
--username root --password heiyang123 --table capital_temp --export-dir /user/hive/warehouse/capital_temp/000000_0 --input-fields-terminated-by \001

  注意点:

  1.sqoop jdbc中含有参数 导致–-username: 未找到命令的错误

  解决方案:在jdbc的URL中如果含有&字符,会出现–-username: 未找到命令的错误的报错信息,解决办法:在&字符前添加\即可。

  2.sqoop导入报错Can‘t parse input data

  解决方案:在sqoop命令中对于字符的分割形式出现了错误,我的数据分割符号是制表符“\t“,但是语句中写的是“,”,所以出现了以下的错误,改成自己的分割符号就好

  3.sqoop导出报错Incorrect string value: ‘\xE5\xBC\xA0\xE6\x96\x87...‘

  解决方案:没有给mysql的字段设置编码,加上就好

alter table capital_temp change answerobject answerobject varchar(200) character set utf8;

  4.sqoop导入数据之后查看数据,发现num没有数值,而是一起去了第一列,基本上确认问题所在:分隔符的问题。

  解决方案:所以只需要将分隔符修改就行。

将原本命令中的--fields-terminated-by \t
改为--fields-terminated-by \001

 

2020年寒假假期总结0203

标签:lte   mysql   jdb   mic   bin   设置   character   pass   ash   

原文地址:https://www.cnblogs.com/heiyang/p/12255631.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!