1、轮询策略：按照消息尽量保证每个分区的负载，消息会均匀分布到每个partition。写入消息的时候，key为null的时候，默认使用的是轮询策略。 2、随机策略：不使用。 3、按key写入策略：key.hash()%分区的数量。 4、自定义分区策略：类似于mapReduce指定分区。 乱序问题： ...
分类：
其他好文 时间：
2021-07-26 16:34:25
阅读次数：
0
1、启动过程中出现Configuration has multiple addresses that match local node's address. Please configure the system with dfs.nameservice.id and dfs.ha.namenode ...
分类：
其他好文 时间：
2021-07-16 17:32:09
阅读次数：
0
在使用MapReduce的小测试的时候，Driver类启动，或报下面的错误 log4j:WARN No appenders could be found for logger (org.apache.hadoop.metrics2.lib.MutableMetricsFactory). log4j: ...
分类：
编程语言 时间：
2021-07-12 18:06:41
阅读次数：
0
今天学习了大数据的一些基本的概念。 什么是Hadoop： 大数据主要还是解决海量数据的存储和海量数据的分析计算。 大数据的特点：大量、高效、多样（结构化数据和非结构化数据）、低价值密度。 Hadoop的三大发行版本： Apache、cloundera、hortonworks。 当然现在clounde ...
分类：
其他好文 时间：
2021-07-09 17:52:26
阅读次数：
0
事情的背景：入职新公司刚满三个月，测试组六个人离职了四个···做业务功能测试的就我一个了。由于项目较复杂，我一直是边测边问之前的老员工，很多功能里面的数据流转 和后台交互并不清楚， 属于知其然不知其所以然的状况，刚好这次版本有迭代了l 发现的现象：系统中的人口管理中添加了人口（称之为实有人口）后，发 ...
分类：
其他好文 时间：
2021-07-05 17:11:32
阅读次数：
0
问题描述： （1）使用Java API创建HDFS文件并写入内容的副本系数为3 （2）使用命令上传至HDFS中的文件副本数为1：举例[hadoop@hadoop000 software]$ hadoop fs -put jdk-8u91-linux-x64.tar.gz / 问题回答： （1）使用J ...
分类：
编程语言 时间：
2021-07-05 16:38:12
阅读次数：
0
运行 HDFS 命令，总是出现恼人的 “WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable”... ...
分类：
其他好文 时间：
2021-07-02 16:04:09
阅读次数：
0
一、应用场景： SYS-UTIL(系统工具)项目部署、构建成JAR包(SYS-UTIL-1.0.0.jar)存储到Nexus私服上，以供其它项目（依赖）使用。 二、过程如下： 1、创建SYS-UTIL(系统工具)项目，即Maven 项目 2、配置SYS-UTIL(系统工具)项目POM.xml文件，指 ...
分类：
系统相关 时间：
2021-07-01 16:51:52
阅读次数：
0
HDFS 概述 HDFS的产生背景和定义 HDFS产生背景 解决海量数据的存储问题 需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统。HDFS 只是分布式文件管理系统中的一种。 HDFS定义 HDFS（Hadoop Distributed File System），它是一个文件系统，用于 ...
分类：
其他好文 时间：
2021-06-30 17:40:30
阅读次数：
0
