ApacheRanger简介ApacheRanger提供一个集中式安全管理框架,并解决授权和审计。它可以对Hadoop生态的组件如HDFS、Yarn、Hive、Hbase等进行细粒度的数据访问控制。通过操作Ranger控制台，管理员可以轻松的通过配置策略来控制用户访问权限。Ranger优点：丰富的组件支持（HDFS，HBASE，HIVE，YARN，KAFKA，STORM）提供了细粒度级权限控制（h
分类：
其他好文 时间：
2020-11-18 13:10:32
阅读次数：
10
Hadoop/Hive自带权限控制集群安全下需求：支持多组件，最好能支持当前大数据技术栈的主要组件，HDFS、HBASE、HIVE、YARN、KAFKA等支持细粒度的权限控制，可以达到HIVE列，HDFS目录，HBASE列,YARN队列开源，社区活跃，按照现有的集群情况改动尽可能的小，而且要符合业界的趋势。现有方案：Hadoop、Hive本身的权限控制Kerberos安全认证ApacheRange
分类：
其他好文 时间：
2020-11-18 12:15:31
阅读次数：
8
1. 产品的架构是数据采集到 kafka，由 flink 读取，送入ES 2. 这个过程中，涉及： kafka分区数，flink并行度，ES 分区数和副本 3. kafka 分区数决定了后面 flink 的并行度，最好是 kafka 的分区数和 flink 的并行度一致 4. 写入 ES 时，需要先 ...
分类：
其他好文 时间：
2020-11-16 14:01:57
阅读次数：
18
Flume概述官方文档：https://flume.apache.org/documentation.htmlFlume是一种分布式、高可靠和高可用的日志数据采集服务，可高效地收集、聚合和移动大量日志数据。它具有一种基于流数据的简单且灵活的体系结构。它具有健壮性和容错性，具有可调整的可靠性机制和许多故障切换和恢复机制。它使用一个简单的可扩展数据模型，允许在线分析应用程序。Flume架构及核心组件F
分类：
Web程序 时间：
2020-11-08 16:36:50
阅读次数：
26
RabbitMQ的基本使用 一、引言 模块之间的耦合度多高，导致一个模块宕机后，全部功能都不能用了， 并且同步通讯的成本过高，用户体验差。 RabbitMQ引言 二、RabbitMQ介绍 市面上比较火爆的几款MQ： ActiveMQ，RocketMQ，Kafka，RabbitMQ。 语言的支持：Ac ...
分类：
其他好文 时间：
2020-11-07 17:04:31
阅读次数：
25
1、为什么Kafka有很高的吞吐量？ 1、分区设计，分区分散在多个服务器中实现水平扩展 2、批量写入和读出，查看在kafka的实现会发现，kafka写入和读出的单位是一个消息集合，而不是单条消息 2、分区可以随时增加或减少吗？ 不可以，在设计一个topic时要考虑具体需要多少分区，一旦决定好就不能改 ...
分类：
其他好文 时间：
2020-11-06 01:44:21
阅读次数：
14
知乎基于Kubernetes的kafka平台的设计和实现我是知乎技术中台工程师，负责知乎存储相关的组件。我的分享主要基于三个，第一，简单介绍一下Kafka在知乎的应用，第二，为什么做基于Kubernetes的Kafka平台。第三，我们如何去实现基于Kubernetes的kafka平台。Kafka在知乎的应用Kafka是一个非常优秀的消息或者数据流的组件，在知乎承载了日志、数据收集、消息队列等服务，
分类：
Web程序 时间：
2020-11-06 01:08:22
阅读次数：
22
在讲kafka使用之前，可以简要介绍一下安装local版本： 在linux下安装本地版（localhost）： 1. 首先下载 kafka：http://kafka.apache.org/downloads 2. 其次解压（命令：tar -xzf kafka_2.12-2.6.0.tgz）到某个文件 ...
分类：
其他好文 时间：
2020-11-02 10:46:16
阅读次数：
36
Kafka 是一个优秀的分布式消息中间件，许多系统中都会使用到 Kafka 来做消息通信。对分布式消息系统的了解和使用几乎成为一个后台开发人员必备的技能。今天就从常见的 Kafka 面试题入手，和大家聊聊 Kafka 的那些事儿。
分类：
其他好文 时间：
2020-11-02 09:47:04
阅读次数：
18
背景 一个Python项目中要使用kafka去deliver log，1个producer，5个consumer。单条消息的大小是100KB ～ 500KB，producer要在1秒钟之内能够发送30个这样的message。然后每个consumer也要在1秒钟之内消费30个这样的message。另外 ...
分类：
其他好文 时间：
2020-11-01 10:07:48
阅读次数：
19
