码迷,mamicode.com
首页 >  
搜索关键字:大数据 hadoop apark flume kafka    ( 29364个结果
团队冲刺阶段的要求2
项目预计第一阶段花费十天的时间,第二阶段粗略估计要花一个月,因为第二阶段所需要的技术,像 Hadoop,kafka之类的之前并没有接触过,而第一阶段的工作,css、JavaScript、HTML,echarts等 在之前的学习中已有涉猎。目前已经花费十天,还剩余一个月 产品状态:目前已实现获取当前热 ...
分类:其他好文   时间:2021-05-24 07:14:48    阅读次数:0
hadoop 启动dfs失败(but there is no HDFS_NAMENODE_USER defined)
https://blog.csdn.net/linuxvfast/article/details/93720931 在Hadoop安装目录下找到sbin文件夹 在里面修改四个文件 对于start-dfs.sh和stop-dfs.sh文件,添加下列参数: #!/usr/bin/env bash HDF ...
分类:其他好文   时间:2021-05-24 06:40:05    阅读次数:0
杭州蚂蚁中台技术部-22届应届生-校招实习
1:业务背景介绍 本次为22届的实习生校招,请不符合要求的同学不要投简历过来。 本岗位为技术开发和大数据研发岗位,想做产品和运营的同学请移步其他地方投简历谢谢 业务相关的背景请参照: https://job.alibaba.com/zhaopin/position_detail.htm?spm=a2 ...
分类:其他好文   时间:2021-05-24 05:53:07    阅读次数:0
centos7安装配置Hadoop集群
2、安装3台虚拟机并实现SSH免密登录 (1)安装三台虚拟机centos7 第一台正常安装,后两台做克隆。配置好IP地址,关闭防火墙跟SELINUX。 106.14.69.185 server1 121.5.218.141 server2 (2)修改用户名以及对应的IP # vi /etc/host ...
分类:其他好文   时间:2021-05-24 05:35:32    阅读次数:0
Kafka Producer 的缓冲池机制【转】
在新版的 Kafka Producer 中,设计了一个消息缓冲池,在创建 Producer 时会默认创建一个大小为 32M 的缓冲池,也可以通过 buffer.memory 参数指定缓冲池的大小,同时缓冲池被切分成多个内存块,内存块的大小就是我们创建 Producer 时传的 batch.size ...
分类:其他好文   时间:2021-05-24 05:22:26    阅读次数:0
Spark SQL 及其 DataFrame 的基本操作
Spark SQL 及其 DataFrame 的基本操作 Q & A 1. Spark SQL 出现的原因是什么? 关系数据库已经流行多年,能较好的满足各类商业公司的业务数据管理需求,但关系数据库在大数据时代已经不能满足各种新增的用户需求。用户需要从不同数据源执行各种操作(包括结构化和非结构化数据) ...
分类:数据库   时间:2021-05-24 04:48:45    阅读次数:0
RabbitMQ、Kafka、RocketMQ 是如何实现高可用的?
本文从高可用的角度观察一下 RabbitMQ、Kafka、RocketMQ,看看它们各自的实现思路。 1. RabbitMQ RabbitMQ 有 3 种部署模式: 单机模式 普通集群模式 镜像集群模式 单机模式与高可用完全没关系,咱就不说了,直接看看这2种集群模式。 1.1 普通集群模式 某一个 ...
分类:其他好文   时间:2021-05-24 04:17:36    阅读次数:0
完美避坑!记一次Elasticsearch集群迁移架构实战
前言 Elastic自身设计了集群分片的负载平衡机制,当有新数据节点加入集群或者离开集群,集群会自动平衡分片的负载分布。 需求背景 公司原有大数据平台基于公有云构建,由于种种原因,现在需要迁移到自建机房,Elasticsearch集群承担了大数据平台主要的对外查询需求,也有部分实时计算需求基于Ela ...
分类:其他好文   时间:2021-05-24 03:46:38    阅读次数:0
在AWS Glue中使用Apache Hudi
1. Glue与Hudi简介 AWS Glue AWS Glue是Amazon Web Services(AWS)云平台推出的一款无服务器(Serverless)的大数据分析服务。对于不了解该产品的读者来说,可以用一句话概括其实质:Glue是一个无服务器的全托管的Spark运行环境,只需提供Spar ...
分类:Web程序   时间:2021-05-24 03:46:26    阅读次数:0
记一次部署Hadoop后遭受kthreaddi挖矿病毒
云服务器在部署Hadoop后便被黑了,查看进程发现了kthreaddi占满了CPU。 ...
分类:其他好文   时间:2021-05-24 01:55:01    阅读次数:0
29364条   上一页 1 ... 10 11 12 13 14 ... 2937 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!