@ Hadoop RPC 框架解析 网络通信模块是分布式系统中最底层的模块。它直接支撑了上层分布式环境下复杂的进程间通信(Inter-Process Communication, IPC)逻辑,是所有分布式系统的基础。远程过程调用(Remote Procedure Call, RPC)是一种常用的分 ...
分类:
其他好文 时间:
2021-06-02 19:49:37
阅读次数:
0
@ 前言-MR概述 MapReduce是一个分布式计算框架,是用户开发“基于Hadoop的数据分析应用”的核心框架。主要由两部分组成:编程模型和运行时环 境。其中,编程模型为用户提供了非常易用的编程接口,用户只需要像编写串行程序 一样实现几个简单的函数即可实现一个分布式程序,而其他比较复杂的工作,如 ...
分类:
其他好文 时间:
2021-06-02 19:46:24
阅读次数:
0
环境介绍 RHEL8 nginx 192.168.92.129 RHEL8 myxql 192.168.92.130 RHEL8 php 192.168.92.131 nginx配置 //关闭服务器和selinux [root@nginx ~]# systemctl disable --now fi ...
分类:
其他好文 时间:
2021-06-02 19:38:14
阅读次数:
0
集群网络配置 分别设置修改主机名 master slave1 slave2 hostnamectl set-hostname 名字 分别配置/etc/hosts文件 查看openssh和rsync安装 rpm -qa | grep 名字 切换到Hadoop用户 各节点生成秘钥 ssh-keygen ...
分类:
系统相关 时间:
2021-06-02 15:27:52
阅读次数:
0
springboot之定时任务@Scheduled详解 1.使用SpringBoot创建定时任务非常简单,目前主要有以下三种创建方式: 一、基于注解(@Scheduled) 二、基于接口(SchedulingConfigurer) 前者相信大家都很熟悉,但是实际使用中我们往往想从数据库中读取指定时间 ...
分类:
编程语言 时间:
2021-06-02 14:25:49
阅读次数:
0
hadoop 1.0 1. 创建用户hadoop 2. 下载: curl -o hadoop-1.2.1-bin.tar.gz https://archive.apache.org/dist/hadoop/common/hadoop-1.2.1/hadoop-1.2.1-bin.tar.gz 3. ...
分类:
其他好文 时间:
2021-06-02 14:05:53
阅读次数:
0
挣值管理法中的PV、EV、AC、SV、CV、SPI、CPI这些英文简写相信把大家都搞得晕头转向的。在挣值管理法中,需要记忆理解的有三个参数:PV、AC、EV。 PV:计划值,在即定时间点前计划完成活动或WBS组件工作的预算成本。 记忆技巧:PLaned,计划,Value,数值,简写是PV AC:实际 ...
分类:
其他好文 时间:
2021-06-02 13:48:15
阅读次数:
0
一、大数据分析工具——Hadoop Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop是可靠的,因为它假设计算元素和存储会失败,因此它维护多个工作数据副本,确保能够针对失败的节点重新分布处理。Hadoop是高效的,因为它 ...
分类:
其他好文 时间:
2021-06-02 13:17:23
阅读次数:
0
1. brew update error (i) 问题出现及现象描述 昨天换了台电脑,有些软件需要重新安装或更新一下,遇到了下面的问题 cv@xys-MacBook-Pro ~ % brew update touch: /usr/local/Homebrew/.git/FETCH_HEAD: Per ...
分类:
系统相关 时间:
2021-05-24 17:16:15
阅读次数:
0
安装准备 Spark 集群和 Hadoop 类似,也是采用主从架构,Spark 中的主服务器进程就叫 Master(standalone 模式),从服务器进程叫 Worker Spark 集群规划如下: node-01:Master node-02:Worker node-03:Worker 安装步 ...
分类:
其他好文 时间:
2021-05-24 17:07:05
阅读次数:
0