码迷,mamicode.com
首页 > 数据库 > 详细

Spark读取Mysql,Redis,Hbase数据(一)

时间:2020-05-10 17:31:37      阅读:97      评论:0      收藏:0      [点我收藏+]

标签:数据   tap   hbase   ase   demo   class   rman   dde   sele   

1、读取Mysql数据

object JdbcRddDemo {

  def getConn() = {
    Class.forName("com.mysql.jdbc.Driver").newInstance()
    DriverManager.getConnection("jdbc:mysql://hadoop000:3306/hive", "root", "root")
  }

  def main(args: Array[String]): Unit = {
    val sparkConf = new SparkConf().setAppName("jdbcRdd").setMaster("local[*]")
    val sc = new SparkContext(sparkConf)

    val jdbcRDD = new JdbcRDD(
      sc,
      getConn,
      "select * from TBLS where TBL_ID >= ? and TBL_ID <= ?",
      1,
      10,
      2,
      rs => {
        val id = rs.getInt(1)
        val name = rs.getString(2)
        val age = rs.getInt(3)
        (id,name,age)
      }
    )

    jdbcRDD.collect().toBuffer
  }
}

 

Spark读取Mysql,Redis,Hbase数据(一)

标签:数据   tap   hbase   ase   demo   class   rman   dde   sele   

原文地址:https://www.cnblogs.com/hgc-bky/p/12863544.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!