码迷,mamicode.com
首页 >  
搜索关键字:spark executor worker    ( 10463个结果
ThreadPoolExecutor添加线程源码解析——addWorker
ThreadPoolExecutor添加线程源码解析——addWorker 该方法的主要目的就是为了向线程池中创建线程(worker),并执行线程。 private boolean addWorker(Runnable firstTask, boolean core) { retry: for (; ...
分类:编程语言   时间:2021-07-27 17:35:04    阅读次数:0
K8s 通过 firewalld 放行端口
#对于etcd、controlplane 和 worker节点,运行以下命令: firewall-cmd --permanent --add-port=22/tcp firewall-cmd --permanent --add-port=80/tcp firewall-cmd --permanent ...
分类:其他好文   时间:2021-07-21 17:40:59    阅读次数:0
Rancher RKE 集群中 K8s 节点的角色说明
本节描述 Kubernetes 中的 etcd 节点、 controlplane 节点和 worker 节点的角色,以及这些角色如何在集群中协同工作。 线条显示了组件之间的通信。颜色纯粹用于视觉辅助。 ##etcd etcd 角色的节点将运行 etcd,etcd 是一个拥有一致性和高可用性的键值对存 ...
分类:其他好文   时间:2021-07-21 17:38:33    阅读次数:0
数据积压
数据积压指的是消费者因为一些外部的IO、一些比较耗时的操作(full GC--stop the world),就会造成消息在partition中一直存在得不到消费,就会产生数据积压。 所以需要监控系统(kafka的监控系统Eagle),如果出现这种情况,需要尽快处理,虽然后续的spark strea ...
分类:其他好文   时间:2021-07-13 17:40:18    阅读次数:0
Kubernetes集群部署Prometheus和Grafana
Kubernetes集群部署Prometheus和Grafana 一、环境规划 K8S集群角色 Ip 主机名 控制节点 192.168.40.180 k8s-master1 工作节点 192.168.40.181 k8s-node1 工作节点 192.168.40.182 k8s-node2 实验环 ...
分类:Web程序   时间:2021-07-12 18:16:54    阅读次数:0
《机器学习Python实现_10_10_集成学习_xgboost_原理介绍及回归树的简单实现》
一.简介 xgboost在集成学习中占有重要的一席之位,通常在各大竞赛中作为杀器使用,同时它在工业落地上也很方便,目前针对大数据领域也有各种分布式实现版本,比如xgboost4j-spark,xgboost4j-flink等。xgboost的基础也是gbm,即梯度提升模型,它在此基础上做了进一步优化 ...
分类:编程语言   时间:2021-07-05 19:03:36    阅读次数:0
使用kube-vip搭建高可用kubernetes集群,并结合metallb作为worker节点的LB
本篇内容参考: CNCF: https://mp.weixin.qq.com/s?__biz=MzI5ODk5ODI4Nw==&mid=2247502809&idx=4&sn=df581ea3008dffdd2cc3a035934a4ffd&chksm=ec9fc4b9dbe84daf224aa55 ...
分类:Web程序   时间:2021-07-05 18:19:40    阅读次数:0
[源码解析] 深度学习分布式训练框架 horovod (9) --- 启动 on spark
Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架,在业界得到了广泛应用。本文是系列第九篇,介绍 horovod on spark 如何启动。 ...
分类:其他好文   时间:2021-07-05 17:30:40    阅读次数:0
Spark分析sogou日志, RDD
import com.hankcs.hanlp.HanLPimport org.apache.spark.rdd.RDDimport org.apache.spark.{SparkConf, SparkContext}import scala.collection.immutable.StringO ...
分类:其他好文   时间:2021-07-02 16:33:14    阅读次数:0
sparkStreaming
import org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}// 创建一个本地模式的StreamingContext, 两个工作线程, 1s的批处理间隔//Master要求 ...
分类:其他好文   时间:2021-07-02 16:32:11    阅读次数:0
10463条   1 2 3 4 ... 1047 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!