数据积压指的是消费者因为一些外部的IO、一些比较耗时的操作（full GC--stop the world），就会造成消息在partition中一直存在得不到消费，就会产生数据积压。 所以需要监控系统（kafka的监控系统Eagle），如果出现这种情况，需要尽快处理，虽然后续的spark strea ...
分类：
其他好文 时间：
2021-07-13 17:40:18
阅读次数：
0
一.简介 xgboost在集成学习中占有重要的一席之位，通常在各大竞赛中作为杀器使用，同时它在工业落地上也很方便，目前针对大数据领域也有各种分布式实现版本，比如xgboost4j-spark,xgboost4j-flink等。xgboost的基础也是gbm，即梯度提升模型，它在此基础上做了进一步优化 ...
分类：
编程语言 时间：
2021-07-05 19:03:36
阅读次数：
0
目录 编辑器显示 文件编码 数据库工具 lombok的设置 自动下载依赖包代码 JDK spring-boot-devtools热部署启用 代码提交自动基本规范 提交前的常见的问题修改 Markdown IDEA运行设置 常用插件 jar包依赖 Ubuntu20中文输入 详细内容和截图参考 http ...
分类：
其他好文 时间：
2021-07-05 18:35:03
阅读次数：
0
Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是系列第九篇，介绍 horovod on spark 如何启动。 ...
分类：
其他好文 时间：
2021-07-05 17:30:40
阅读次数：
0
import com.hankcs.hanlp.HanLPimport org.apache.spark.rdd.RDDimport org.apache.spark.{SparkConf, SparkContext}import scala.collection.immutable.StringO ...
分类：
其他好文 时间：
2021-07-02 16:33:14
阅读次数：
0
import org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}// 创建一个本地模式的StreamingContext, 两个工作线程， 1s的批处理间隔//Master要求 ...
分类：
其他好文 时间：
2021-07-02 16:32:11
阅读次数：
0
效果图 备注：前后端分离实现效果 接下来是代码环节 <template> <div class="comprehensive-table-container"> <el-alert :closable="false" show-icon title="三级路由【缓存路由、固定表格高度、并根据窗口大小 ...
分类：
其他好文 时间：
2021-07-02 16:14:42
阅读次数：
0
【推荐系统算法实战】 基于网页的 Notebook：Zeppelin 交互式数据分析 如果有一个工具，可以让你在同一个Web页面上写Shell代码，Python代码，Scala代码，你想要么？ 如果还可以执行PySpark代码和Spark代码呢？心动了吗？ 如果还可以写Hive-SQL，Spark- ...
分类：
编程语言 时间：
2021-07-02 15:35:46
阅读次数：
0
1、Selenium对元素常用操作 操作 说明 click() 单击元素 send_keys() 模拟输入 clear() 清除文本 submit() 点击提交 示例，页面代码片段如下： <!DOCTYPE html> <html lang="zh-cn"> <body> <div id="zc"> ...
分类：
其他好文 时间：
2021-07-01 16:47:41
阅读次数：
0
摘要：CarbonData 在 Apache Spark 和存储系统之间起到中介服务的作用，为 Spark 提供的4个重要功能。 本文分享自华为云社区《Make Apache Spark better with CarbonData》，原文作者：大数据修行者 。 Spark 无疑是一个强大的处理引擎 ...
分类：
Web程序 时间：
2021-06-30 18:44:44
阅读次数：
0
