kafka Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的、多副本的,基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/ngin ...
分类:
其他好文 时间:
2020-04-12 16:38:30
阅读次数:
65
MySQL 1. 什么是事务,MySQL是如何支持事务的? 事务就是一段sql 语句的批处理,但是这个批处理是一个原子 ,不可分割,要么都执行,要么回滚(rollback)都不执行。 事务具体四大特性,也就是经常说的ACID : 1.原子性(所有操作要么全部成功,要么全部失败回滚) 2.一致性(事务 ...
分类:
数据库 时间:
2020-04-12 12:23:29
阅读次数:
76
差不多每次安装软件都是一个波折的过程,这次webpack的安装也不例外,安装成功之后立马来记录解决错误的方法,以备不时之需 前提条件 webpack是依赖于node安装的,所以在安装前要确保自己是否安装了node.js,在命令行运行 如果情况如下就是安装了node.js,如果没有安装请参考 "nod ...
分类:
Web程序 时间:
2020-04-10 13:34:30
阅读次数:
295
接上2篇案例: "Python_批量下载1000个apk" , "Python_批量验证1000个apk" , 都下载完了, 也验证了下载文件的版本号和MD5后,就要开始批量安装了, 然后开始尝试运行打开这个app, 做最基本的功能检点,最后就要考虑卸载App了。 本篇内容主要介绍如何用Python ...
分类:
编程语言 时间:
2020-04-09 21:36:34
阅读次数:
111
docker网络模式有五种,分别是none,host,container,bridge(默认模式),自定义模式大家都知道,docker,也就是容器使用了linux的namespaces技术进行资源隔离,如PIDNamespace隔离进程,MountNamespace隔离文件系统,NetworkNamespace隔离网络等1.bridge模式此模式是docker网络的默认模式,可以使用dockeri
分类:
其他好文 时间:
2020-04-09 12:30:12
阅读次数:
83
GitHUB:https://github.com/daozhangXDZ/DZGameEngine 后续再把DZProgrameNote公开,正在批处理过程中。一堆markdown. MARKDOWN: ...
分类:
其他好文 时间:
2020-04-08 09:26:34
阅读次数:
58
#函数/*含义:一组预先编译好的SQL语句的集合,理解成批处理语句1、提高代码的重用性2、简化操作3、减少了编译次数并且减少了和数据库服务器的连接次数,提高了效率 区别: 存储过程:可以有0个返回,也可以有多个返回,适合做批量插入、批量更新函数:有且仅有1 个返回,适合做处理数据后返回一个结果 */ ...
分类:
数据库 时间:
2020-04-07 20:24:29
阅读次数:
81
学习了这么久hadoop,都没有搭过集群,是不合格的。这次搭建完,细扣具体的Job运行情况,日志信息,对Hadoop了解更深了。后面也要陆续搭建分布式flume,kafka,hbase,mysql来完成最终的离线批处理分析项目。 搭建步骤 1. 虚拟机环境准备(IP地址、主机名、新用户、防火墙、SS ...
分类:
其他好文 时间:
2020-04-04 15:00:32
阅读次数:
81
一、什么是Presto? 背景知识:Hive的缺点和Presto的背景 Hive使用MapReduce作为底层计算框架,是专为批处理设计的。但随着数据越来越多,使用Hive进行一个简单的数据查询可能要花费几分到几小时,显然不能满足交互式查询的需求。Presto是一个分布式SQL查询引擎,它被设计为用 ...
分类:
其他好文 时间:
2020-04-04 11:41:05
阅读次数:
80
该工具类使用mybatis的会话来手动提交事务,从而对批量sql进行控制。事务提交,多条sql执行结果会被更新到数据库,出现异常则回滚。 测试采用的表为oracle数据库scott下的dept表和salgrade表 MyBatisBatchHelper.java package com.alphaj ...
分类:
编程语言 时间:
2020-04-04 11:12:03
阅读次数:
89