一、简介 Kafka 是一个实现了分布式的、具有分区、以及复制的日志的一个服务。它通过一套独特的设计提供了消息系统中间件的功能。它是一种发布订阅功能的消息系统。 1、名词介绍 Message 消息,就是要发送的内容,一般包装成一个消息对象。 Topic 通俗来讲的话,就是放置“消息”的地方,也就是说 ...
分类:
Windows程序 时间:
2017-11-05 00:32:36
阅读次数:
1680
Zookeeper集群搭建 1、软件环境 (3台服务器-测试环境) 192.168.56.9 192.168.56.6 192.168.56.7 1、Linux服务器一台、三台、五台、(2*n+1),Zookeeper集群的工作是超过半数才能对外提供服务,3台中超过两台超过半数,允许1台挂掉 ,是否 ...
分类:
其他好文 时间:
2017-10-18 14:56:24
阅读次数:
216
之前写过kafka_2.9.2-0.8.2.2版本的安装,kafka在新的0.9版本以上改动比较大,配置和api都有很大更新,并且broker对应的partition支持多线程生产和消费,所以性能比之前好得多,比如老版本的kafka单机每秒可以推送100条数据,但是新版的可以每秒推送达到上千条数据, ...
分类:
其他好文 时间:
2017-08-17 12:39:47
阅读次数:
1267
Kafka初识 1、Kafka使用背景 <!--?xml version="1.0" encoding="UTF-8" standalone="no"?--> 在我们大量使用分布式数据库、分布式计算集群的时候,是否会遇到这样的一些问题: 我们想分析下用户行为(pageviews),以便我们设计出更好 ...
分类:
其他好文 时间:
2017-07-26 11:41:04
阅读次数:
193
一、简介Kafka是Apache下的一个子项目,是一个高性能跨语言分布式发布/订阅消息队列系统,使用Scala编写,它以可水平扩展和高吞吐率而被广泛使用。目前越来越多的开源分布式处理系统如Cloudera、ApacheStorm、Spark都支持与Kafka集成。Kafka适合做什么?官方文档介绍,它通常被..
分类:
其他好文 时间:
2017-06-12 22:33:45
阅读次数:
236
虚拟机三台 192.168.1.133;192.168.1.134;192.168.1.135 启动顺序首先启动Zookeeper集群,再启动Kafka集群 一、Zookeeper: 1、找到解压目录下的conf文件夹,在该文件夹下新建zoo.cfg文件,并且将一下配置写入(三台Zookeeper配 ...
分类:
其他好文 时间:
2017-06-10 16:56:10
阅读次数:
226
本文安装环境 操作系统:CentOS6.7 64位 JDK版本:jdk1.8.0_131(要求JDK1.8以上) ZooKeeper版本:3.4.8 Kakfa版本:0.9.0.1(Scala 2.11) Java安装 需要使用JDK1.8以上版本,安装和环境变量的配置参考Linux下安装JDK1. ...
分类:
其他好文 时间:
2017-05-13 19:03:44
阅读次数:
276
一 :环境准备: 物理机window7 64位 vmware 3个虚拟机 centos6.8 IP为:192.168.17.[129 -131] JDK1.7安装配置 各虚拟机之间配置免密登录 安装clustershell用于集群各节点统一操作配置 1 :在此说明一下免密和clustershell的 ...
分类:
其他好文 时间:
2017-03-10 17:43:53
阅读次数:
224
kafka集群搭建 Java代码 1.zookeeper集群 搭建在110, 111,112 2.kafka使用3个节点110, 111,112 修改配置文件config/server.properties broker.id=110 host.name=192.168.1.110 log.dirs ...
分类:
编程语言 时间:
2016-10-02 21:35:29
阅读次数:
190
kafka集群搭建 下面简单的介绍一下kafka的集群搭建,单个kafka的安装更简单,下面以集群搭建为例子。 我们设置并部署有三个节点的 kafka 集合体,必须在每个节点上遵循下面的步骤来启动 kafka 服务器,kafka集群需要依赖zookeeper集群,上一篇已经说道了zookeeper的 ...
分类:
其他好文 时间:
2016-06-26 00:37:13
阅读次数:
475