码迷,mamicode.com
首页 > 数据库 > 详细

使用shell分页读取600万+的MySQL数据脚本

时间:2015-07-15 15:22:59      阅读:158      评论:0      收藏:0      [点我收藏+]

标签:

shell-mysql 
(1)脚本背景: 
由于要在Linux上,远程读取mysql的表的数据,然后做一定清洗后,把数据上传至Hadoop集群中,使用Java写吧,感觉太麻烦了,得在Win上开发好,还得打成jar包, 上传到Linux上,如果那里出了问题,还得重复这样,非常不方便,那就用shell写一个吧,也不需要什么jdbc驱动包,只需要在Linux上装个MySQL的 客户端即可,用一行yum命令即可搞定,所以就花了点时间,封装了一个小脚本 

(2)功能介绍: 
直接在Linux下使用shell脚本远程分页读取MySQL表的数据的一个小脚本,已测过读取600万+的数据 效率与jdbc相差无几 

(3)脚本介绍: 
主要有三个脚本构成 
1,page.sh 这是一主脚本,里面定义了分页的条件,大家看下便知 
2,f.sh 一个小包装的脚本吧,里面会用sed去掉表头一些信息 
3,port.sh 分页读取数据的执行脚本 

(4)如何使用? 
使用非常简单,需要改下page.sh里面的查询字段,以及分页查询的数量,默认是10000,然后执行sh page.sh databaseName tableName传入数据库名和表名即可 

 

Github地址:https://github.com/qindongliang/shell-mysql

 


 

 

使用shell分页读取600万+的MySQL数据脚本

标签:

原文地址:http://my.oschina.net/u/1027043/blog/478789

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!