项目预计第一阶段花费十天的时间,第二阶段粗略估计要花一个月,因为第二阶段所需要的技术,像 Hadoop,kafka之类的之前并没有接触过,而第一阶段的工作,css、JavaScript、HTML,echarts等 在之前的学习中已有涉猎。目前已经花费十天,还剩余一个月 产品状态:目前已实现获取当前热 ...
分类:
其他好文 时间:
2021-05-24 07:14:48
阅读次数:
0
https://blog.csdn.net/linuxvfast/article/details/93720931 在Hadoop安装目录下找到sbin文件夹 在里面修改四个文件 对于start-dfs.sh和stop-dfs.sh文件,添加下列参数: #!/usr/bin/env bash HDF ...
分类:
其他好文 时间:
2021-05-24 06:40:05
阅读次数:
0
1:业务背景介绍 本次为22届的实习生校招,请不符合要求的同学不要投简历过来。 本岗位为技术开发和大数据研发岗位,想做产品和运营的同学请移步其他地方投简历谢谢 业务相关的背景请参照: https://job.alibaba.com/zhaopin/position_detail.htm?spm=a2 ...
分类:
其他好文 时间:
2021-05-24 05:53:07
阅读次数:
0
2、安装3台虚拟机并实现SSH免密登录 (1)安装三台虚拟机centos7 第一台正常安装,后两台做克隆。配置好IP地址,关闭防火墙跟SELINUX。 106.14.69.185 server1 121.5.218.141 server2 (2)修改用户名以及对应的IP # vi /etc/host ...
分类:
其他好文 时间:
2021-05-24 05:35:32
阅读次数:
0
在新版的 Kafka Producer 中,设计了一个消息缓冲池,在创建 Producer 时会默认创建一个大小为 32M 的缓冲池,也可以通过 buffer.memory 参数指定缓冲池的大小,同时缓冲池被切分成多个内存块,内存块的大小就是我们创建 Producer 时传的 batch.size ...
分类:
其他好文 时间:
2021-05-24 05:22:26
阅读次数:
0
Spark SQL 及其 DataFrame 的基本操作 Q & A 1. Spark SQL 出现的原因是什么? 关系数据库已经流行多年,能较好的满足各类商业公司的业务数据管理需求,但关系数据库在大数据时代已经不能满足各种新增的用户需求。用户需要从不同数据源执行各种操作(包括结构化和非结构化数据) ...
分类:
数据库 时间:
2021-05-24 04:48:45
阅读次数:
0
本文从高可用的角度观察一下 RabbitMQ、Kafka、RocketMQ,看看它们各自的实现思路。 1. RabbitMQ RabbitMQ 有 3 种部署模式: 单机模式 普通集群模式 镜像集群模式 单机模式与高可用完全没关系,咱就不说了,直接看看这2种集群模式。 1.1 普通集群模式 某一个 ...
分类:
其他好文 时间:
2021-05-24 04:17:36
阅读次数:
0
前言 Elastic自身设计了集群分片的负载平衡机制,当有新数据节点加入集群或者离开集群,集群会自动平衡分片的负载分布。 需求背景 公司原有大数据平台基于公有云构建,由于种种原因,现在需要迁移到自建机房,Elasticsearch集群承担了大数据平台主要的对外查询需求,也有部分实时计算需求基于Ela ...
分类:
其他好文 时间:
2021-05-24 03:46:38
阅读次数:
0
1. Glue与Hudi简介 AWS Glue AWS Glue是Amazon Web Services(AWS)云平台推出的一款无服务器(Serverless)的大数据分析服务。对于不了解该产品的读者来说,可以用一句话概括其实质:Glue是一个无服务器的全托管的Spark运行环境,只需提供Spar ...
分类:
Web程序 时间:
2021-05-24 03:46:26
阅读次数:
0
云服务器在部署Hadoop后便被黑了,查看进程发现了kthreaddi占满了CPU。 ...
分类:
其他好文 时间:
2021-05-24 01:55:01
阅读次数:
0