什么是任务调度 大数据平台技术框架支持的开发语言多种多样,开发人员的背景差异也很大,这就产生出很多不同类型的程序(任务)运行在大数据平台之上,如:MapReduce、Hive、Pig、Spark、Java、Shell、Python 等。 这些任务需要不同的运行环境,并且除了定时运行,各种类型之间的任 ...
分类:
其他好文 时间:
2021-06-23 17:16:53
阅读次数:
0
JdbcTemplate1、JdbcTemplate概念及使用? a)Spring 框架对 JDBC 进行封装,使用 JdbcTemplate 方便实现对数据库操作 ? b)引入相关 jar 包 ? c)在 spring 配置文件配置数据库连接池 <bean id="dataSource" clas ...
分类:
数据库 时间:
2021-06-23 17:02:06
阅读次数:
0
前期准备工作 数据库表 dp.properties driver=com.mysql.jdbc.Driver url=jdbc:mysql://localhost:3306/netshop?useSSL=true&useUnicode=true&characterEncoding=utf-8 use ...
分类:
其他好文 时间:
2021-06-23 16:40:43
阅读次数:
0
为什么要分库分表? 将承受并发的能力提升3倍 将大数据了拆成多份 提升sql效率 用过哪些分库分表中间件/不同中间件的优缺点 cobar TDDL 只支持基本的crud操作 atlas 社区不咋维护了 sharding-jdbc(集成client) 运维成本低 缺点是耦合系统版本 mycat(pro ...
分类:
数据库 时间:
2021-06-23 16:37:48
阅读次数:
0
什么是Mybatis 一款优秀的持久层框架,避免了JDBC底层繁杂的手动设置参数和获取结果集的过程。能够使用xml文件或注解形式来映射实体类和数据库内容。 Mybatis官方文档: http://www.mybatis.org/mybatis-3/zh/index.html Github上地址:ht ...
分类:
其他好文 时间:
2021-06-22 18:13:22
阅读次数:
0
HIVE中处理的数据往往比较多,在处理数据的时候希望给处理得到的数据一个ID标识,这时候可以用到UUID。 UUID的算法的核心思想是结合机器的网卡、当地时间、一个随即数来生成UUID。从理论上讲,如果一台机器每秒产生10000000个UUID,则可以保证(概率意义上)3240年不重复。UUID 的 ...
分类:
其他好文 时间:
2021-06-21 20:24:19
阅读次数:
0
MongoDB概述 MongoDB是一款NoSQL类型的文档型数据库。 NoSQL NoSQL是一种非关系型DMS,不需要固定的架构,可以避免joins链接,并且易于扩展。NoSQL数据库用于具有庞大数据存储需求的分布式数据存储。NoSQL用于大数据和实时Web应用程序。 MongoDB特点 面向文 ...
分类:
数据库 时间:
2021-06-20 18:39:42
阅读次数:
0
package com.jdbc; import java.sql.*; import java.util.*; import javax.sql.DataSource; import org.apache.commons.dbutils.QueryRunner; import org.apache ...
分类:
数据库 时间:
2021-06-20 18:04:50
阅读次数:
0
jmeter支持哪些测试场景? jmeter能够对不同的应用程序/服务器/协议类型进行负载测试和性能测试 Web - HTTP, HTTPS (Java, NodeJS, PHP, ASP.NET, …) SOAP / REST Webservices FTP 通过JDBC连接数据库(支持各种数据库 ...
分类:
其他好文 时间:
2021-06-20 17:40:46
阅读次数:
0
Sqoop(发音:skup)是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据 ...
分类:
数据库 时间:
2021-06-19 19:26:27
阅读次数:
0