1. 首先理解资源调度的含义: 看了很多云计算资源调度和任务调度方面的论文,发现很多情况下这两者的意义是相同的,不知道这两者是同一件事的不同表述还是我没分清吧,任务调度或者资源调度大概就是讲这样一件事情: 用户有m个计算任务(Task),{t1,t2,t3,...tm},将这m个任务分配到n个资源( ...
分类:
编程语言 时间:
2016-12-24 20:28:00
阅读次数:
1555
Spark资源调度机制源码分析--基于spreadOutApps及非spreadOutApps两种资源调度算法 1、spreadOutApp尽量平均分配到每个executor上; 2、非spreadOutApp尽量在使用单个executor的资源。 源码分析 org.apache.spark.dep ...
分类:
移动开发 时间:
2016-12-14 01:26:16
阅读次数:
327
原文出自【听云技术博客】:http://blog.tingyun.com/web/article/detail/1345时至今日,接触kubernetes也有一段时间了,而我们的大部分业务也已经稳定地运行在不同规模的kubernetes集群上,不得不说,无论是从应用部署、迭代,还是从资源调度管理等方面都有其难以言喻的优势,..
分类:
编程语言 时间:
2016-12-09 19:57:24
阅读次数:
314
一:任务调度与资源调度的区别
1. 任务调度:是通过DAGScheduler,TaskScheduler,SchedulerBackend等进行的作业调度;
2. 资源调度:是指应用程序如何获...
分类:
其他好文 时间:
2016-11-02 18:20:09
阅读次数:
418
面对各种各样的服务需要的计算系统和框架,对于资源而言,常见的资源调度方法时静态划分方法,框架之间各行其是,但是利用效率低。 调度设计的基本问题: 资源具有异质性(有的机器配置高,有的低)所以要分成一个个小粒度的资源 数据局部性(移动计算而不是移动数据) 支持抢占资源 or not 分配资源粒度:全分 ...
分类:
其他好文 时间:
2016-10-25 14:11:23
阅读次数:
175
#!/bin/envbash#Usage:totalwebpv.#addcrontab#0****/usr/local/scripts/download_create_nginx.sh#add/etc/hosts10.200.0.20opscenter.dalegames.com#http://opscenter.dalegames.com/backend/idcdataapi.php?get#Createdbycs.zhang<liangliang.yu@dalegames.com>2013-0..
分类:
其他好文 时间:
2016-10-22 01:00:54
阅读次数:
202
PDCCH中承载的是DCI(Downlink Control Information),包含一个或多个UE上的资源分配和其他的控制信息。在LTE中上下行的资源调度信息(MCS, Resource allocation等等的信息)都是由PDCCH来承载的。一般来说,在一个子帧内,可以有多个PDCCH。 ...
分类:
其他好文 时间:
2016-10-06 00:12:51
阅读次数:
212
1.为什么要使用DRX在讲解DRX的概念前,我们需要先了解下什么是“空闲态”,什么是“连接态”。我们经常会听到“空闲态”、“连接态”这样的术语,这个概念是从RRC层角度来说的。简单来说,当UE在某个小...
分类:
其他好文 时间:
2016-09-23 21:38:41
阅读次数:
159
一个开源的,高可靠,可扩展的分布式计算框架 解决的问题 1 海量数据的存储(HDFS) 2海量数据的分析(Mapreduce) 3 分布式资源调度 (Yarn) 应用场景 日志分析,基于海量数据的在线应用,推荐系统,计算广告,复杂算法,网盘,搜素引擎,,,, 一 HDFS 动态增加,自动备份 二 m ...
分类:
其他好文 时间:
2016-09-17 23:32:08
阅读次数:
194
数据库连接池只有100个连接,有3000个连接请求 (1)如果是长期请求都比较多,根据实际情况与经验适当增加连接池中连接的数量 (2)使用资源调度,建立合适的队列,设置优先级,让优先级高的先执行,优先级低的排队执行 (3)使用二八分配原则,使用缓存技术,实际上百分之八十的访问只集中在百分之二十的数据 ...
分类:
数据库 时间:
2016-09-15 21:37:55
阅读次数:
220