1、基本架构 (1)、应用程序Spark 应用程序由一个驱动器进程和一组执行器进程组成。驱动进程运行 main()函数，位于集群中的一个节点上，它负责三件事：维护 Spark 应用程序的相关信息；回应用户的程序或输入；分析任务并分发给若干执行器进行处理。驱动器是必须的，它是 Spark 应用程序的核 ...
分类：
其他好文 时间：
2020-12-17 12:09:25
阅读次数：
2
前言近期在维护公司的调度平台，其中有个关键功能那就是定时任务；定时任务大家平时肯定接触的不少，比如JDK中的Timer、ScheduledExecutorService、调度框架Quartz等。通常用于实现XX时间后的延时任务，或周期性任务；比如一个常见的业务场景：用户下单N分钟未能支付便自动取消订单。实现这类需求通常有两种方式：轮询定时任务：给定周期内扫描所有未支付的订单，查看时间是否到期。延时
分类：
其他好文 时间：
2020-12-16 12:51:24
阅读次数：
2
自从成为架构师之后，李大胖的学习动力似乎少了一些，尤其是今年（当然也有一些客观因素）。临近岁末，内心着实有些惭愧，决定学习一把大数据。跟随一下业界前沿（其实已经不是前沿了），梦想着有一天能够拥有拥有梦想的权力。操练起来启动装有CentOS的虚拟机（IP是172.18.232.181），按照官方文档内容选择hadoop-2.8.5和hbase-2.0.2，还有zookeeper-3.4.11进行下载
分类：
其他好文 时间：
2020-12-16 12:26:00
阅读次数：
3
1. 概述 在2.x中，spark有两个用来与kafka整合的代码，版本代号为0.8和0.10，由于在0.8，kafka有两套消费者api，根据高级api得到了Receiver-based Approach，根据低级api得到了Direct Approach，而在0.10由于kafka只有一套消费者 ...
分类：
其他好文 时间：
2020-12-16 11:50:30
阅读次数：
4
Ambari2.7.4+HDP3.1.4安装Centos7离线安装标签（空格分隔）：大数据平台构建一：关于HDP的介绍二：系统环境介绍三：系统环境初始化四：安装HDP3.1.4平台一：关于HDP的介绍1.1ambari的介绍Ambari是一种基于Web的工具，支持ApacheHadoop集群的创建、管理和监控。Ambari已支持大多数Hadoop组件，包括HDFS、MapReduce、Hive、P
分类：
其他好文 时间：
2020-12-16 11:45:59
阅读次数：
4
业务使用 // 使用虚拟列表 const virtualComponents = useVirtualTable({ height: 350 // 设置可视高度 }) const components = useMemo(() => { return { body: { wrapper: virtu ...
分类：
其他好文 时间：
2020-12-15 12:23:17
阅读次数：
3
一.plugin有什么用 plugin是webpack核心功能，通过plugin（插件）webpack可以实现loader所不能完成的复杂功能，使用plugin丰富的自定义API，可以控制webpack编译流程的每个环节，实现对webpack的自定义功能扩展。欢迎访问 这里 查看更多关于大数据平台建 ...
分类：
Web程序 时间：
2020-12-15 12:02:43
阅读次数：
3
【福利】北风网大数据之spark从入门到精通（三）北风网大数据之spark从入门到精通今天给大家带来的教程是北风网大数据spark从入门到精通，分为四个阶段：Scala编程详解、Scala编程进阶、Spark深入剖析、内存计算框架Spark，今天分享的是SSpark深入剖析。
分类：
其他好文 时间：
2020-12-11 12:23:58
阅读次数：
2
【福利】北风网大数据之spark从入门到精通（四）北风网大数据之spark从入门到精通今天给大家带来的教程是北风网大数据spark从入门到精通，分为四个阶段：Scala编程详解、Scala编程进阶、Spark深入剖析、内存计算框架Spark，今天分享的是内存计算框架Spark。
分类：
其他好文 时间：
2020-12-11 12:23:45
阅读次数：
3
https://blog.csdn.net/culuo4781/article/details/107627394 sql tempdb清理_SQL Server TempDB数据库和闩锁争用 culuo4781 2020-07-25 09:18:12 127 收藏 1 文章标签： 数据库 大数据 ...
分类：
数据库 时间：
2020-12-11 12:13:33
阅读次数：
3
