Pinpoint接入业务监控后数据量大涨,平均每周Hbase数据增量25G左右,数据量太大,需要对数据进行定期清理,否则监控可用性降低。 操作步骤 查找出数据大的hbase表 [root@iZ28ovlz7ccZ worker]# du -sh hbase/data/default/* 2.2M h ...
分类:
其他好文 时间:
2019-09-30 14:37:17
阅读次数:
115
这题讲的是 每个worker 只能做比他能力难度小的或者一样的工作, 每个工作创造的价值不同,为workers 们能创造的最高价值。 比如worker0 = 4, diff = {1,3,4} profit= {100,10,10} 那这个worker 显然要挑选 100这个高的profit 去做。 ...
分类:
其他好文 时间:
2019-09-30 09:47:44
阅读次数:
58
一:使用Nginx搭建虚拟主机服务器时,每个虚拟WEB站点拥有独立的"server {}"配置段,各自监听的IP地址、端口号可以单独指定,当然网站名称也是不同的。 二:虚拟机的分类: 1:基于域名虚拟主机(一个ip地址对应多个域名,不同域名就是不同的站点,其内容也不一样) 2:基于端口虚拟主机(服务 ...
分类:
其他好文 时间:
2019-09-28 11:10:08
阅读次数:
123
celery 1.概念 基本概念:Broker, Backend 什么是broker? broker是一个消息传输的中间件,可以理解为一个队列。每当应用程序调用celery的异步任务的时候,会向broker传递消息,而后celery的worker将会取到消息,进行对应的程序执行。 Broker的中文 ...
分类:
其他好文 时间:
2019-09-28 00:36:54
阅读次数:
105
50070:HDFSwebUI的端口号 8485:journalnode默认的端口号 9000:非高可用访问数rpc端口 8020:高可用访问数据rpc 8088:yarn的webUI的端口号 8080:master的webUI,Tomcat的端口号 7077:spark基于standalone的提 ...
分类:
其他好文 时间:
2019-09-27 19:34:16
阅读次数:
365
CPU 架构SMP/NUMA,调优 SMP:全称是“对称多处理”(Symmetrical Multi Processing)技术 。 是指在一个计算机上汇集了一组处理器(多CPU),各CPU之间共享内存以及总线。 弱点:CPU变多后,但是内存和内存控制器只有一个,CPU是通过内存控制器访问内存的,所 ...
分类:
其他好文 时间:
2019-09-27 19:13:22
阅读次数:
100
Spark 集群相关 来源于官方, 可以理解为是官方译文, 外加一点自己的理解. 版本是2.4.4 本篇文章涉及到: 集群概述 master, worker, driver, executor的理解 打包提交,发布 Spark application standalone模式 SparkCluste ...
分类:
其他好文 时间:
2019-09-27 19:01:08
阅读次数:
111
installability( 可安装性 ),可被添加自主屏与全屏运行。app shell: 第一次渲染个壳,等异步数据来了在填充。offline( 离线能力 ):离线和弱网环境也能秒开,server worker 给了 web 一个可以跑后台的线程,它可以搭配非常靠谱的 cache Api 做缓存... ...
分类:
其他好文 时间:
2019-09-26 09:32:17
阅读次数:
128
原理 master-workers的机制的好处 首先,对于每个worker进程来说,独立的进程,不需要加锁,所以省掉了锁带来的开销,同时在编程以及问题查找时,也会方便很多。其次,采用独立的进程,可以让互相之间不会影响,一个进程退出后,其它进程还在工作,服务不会中断,master 进程则很快启动新的w ...
分类:
其他好文 时间:
2019-09-24 17:46:04
阅读次数:
84