线程池参数详解 |参数|说明| |: |: | |corePoolSize|表示常驻核心线程数量。| |maximumPoolSize|表示线程池中能同时执行的最大线程数量。这个值必须大于等于corePoolSize,如果这两个值相等,那就是固定大小的线程池。| |keepAliveTime|表示线 ...
分类:
编程语言 时间:
2020-01-25 10:31:29
阅读次数:
98
文章目录 线程生命周期的开销:线程比较少的情况使用new Thread(task)无多大影响,但是如果涉及到线程比较多的情况,应用的性能就会受到影响,如果jdbc创建连接一样,new Thead创建线程也会耗资源、耗时间的。资源的消耗量:活动线程会消耗系统性能,如果运行的线程数量多余可用的处理器数,... ...
分类:
其他好文 时间:
2020-01-23 18:16:47
阅读次数:
80
spark动态资源调整其实也就是说的executor数目支持动态增减,动态增减是根据spark应用的实际负载情况来决定。 开启动态资源调整需要(on yarn情况下) 1.将spark.dynamicAllocation.enabled设置为true。意思就是启动动态资源功能 2.将spark.sh ...
分类:
其他好文 时间:
2020-01-22 18:07:12
阅读次数:
159
管理一组线程集合,方便线程的复用,免了频繁创建和销毁线程所带来的开销,相关类的继承关系如下: Executor 仅声明了一个方法execute,代表要执行某个任务。ExecutorService 接口在其父类接口基础上,声明了包含但不限于shutdown、submit、invokeAll、invok ...
分类:
编程语言 时间:
2020-01-22 14:43:36
阅读次数:
82
环境:CDH5.13.3 spark2.3 在提交任务之后,发现executor运行少量几台nodemanager,而其他nodemanager没有executor分配。 通过spark-shell模拟如下: 第一次尝试分配6个exeutor,具体如下 spark2-shell \ --driver ...
分类:
其他好文 时间:
2020-01-21 10:33:56
阅读次数:
120
默认的分页机制 通过查询时指定 RowBounds 参数,如executor查询数据得出1000条数据,然后使用 DefaultResultSetHandler 处理结果集,内部使用基于内存的分页,即对这1000条数据进行不停地跳过,最终返回特定页码范围的数据 RowBounds类包装了两个分页参数 ...
分类:
其他好文 时间:
2020-01-20 19:16:49
阅读次数:
60
一、EventLoop和EventLoopGroup EventLoop如同它的名字,它是一个无限循环(Loop),在循环中不断处理接收到的事件(Event)。 Netty线程模型的基石是建立在EventLoop上的,从设计上来看,EventLoop采用了一种协同设计,它建立在两个基本的API之上: ...
分类:
编程语言 时间:
2020-01-19 11:03:58
阅读次数:
90
环境 jdk version:jdk1.8.0_171 一、Executor接口执行器接口,也是最顶层的抽象核心接口, 分离了任务和任务的执行。 二、ExecutorService接口在Executor的基础上提供了执行器生命周期管理,任务异步执行等功能。在Executor的基础上增强了对任务的控制 ...
分类:
编程语言 时间:
2020-01-18 14:53:28
阅读次数:
107
以前面的博客为基础,最近一篇为Spring Boot 入门(十):集成Redis哨兵模式,实现Mybatis二级缓存。本篇博客主要介绍了Spring Boot集成 Web Socket进行日志的推送,并实时显示在页面上。 1.导入jar包 第一个jar包是websocket的,第二个jar包是关于环 ...
分类:
编程语言 时间:
2020-01-16 23:45:12
阅读次数:
98
目录 一、简介 二、Executor 框架 三、ThreadPoolExecutor 四、Executors 参考资料 一、简介 什么是线程池 线程池是一种多线程处理形式,处理过程中将任务添加到队列,然后在创建线程后自动启动这些任务。 为什么要用线程池 如果并发请求数量很多,但每个线程执行的时间很短 ...
分类:
编程语言 时间:
2020-01-16 14:18:56
阅读次数:
67