摘要 Kafka在0.8以前的版本中,并不提供High Availablity机制,一旦一个或多个Broker宕机,则宕机期间其上所有Partition都无法继续提供服务。若该Broker永远不能再恢复,亦或磁盘故障,则其上数据将丢失。而Kafka的设计目标之一即是提供数据持久化,同时对于分布式系....
分类:
其他好文 时间:
2015-05-27 15:23:04
阅读次数:
132
1.ProducerRecord 含义:发送给Kafka Broker的key/value值对2.内部数据结构:-- Topic(名字)-- PartitionID (可选)-- Key[(可选)-- Value3.生产者记录(简称PR)的发送逻辑: 若指定Partition ID,则PR被发送至指...
分类:
其他好文 时间:
2015-05-25 18:07:47
阅读次数:
208
Celery?(芹菜)是基于Python开发的分布式任务队列。它支持使用任务队列的方式在分布的机器/进程/线程上执行任务调度。 架构设计 Celery的架构由三部分组成,消息中间件(message broker),任务执行单元(wor...
分类:
编程语言 时间:
2015-05-20 18:53:15
阅读次数:
158
kafka简介Kafka由linkedln开发,主要用于处理linkedln的大面积的活跃数据流(active stream)。此类数据经常用于反应网站的一些有用信息,如uv或pv。它是一个分布式的消息发布和订阅系统,由producer发布,broker存储、consusmer消费组成。安装为分布式...
分类:
其他好文 时间:
2015-05-20 02:04:41
阅读次数:
236
转自:http://www.cnblogs.com/tippoint/archive/2013/04/18/3029019.html一、前言: 网络上关于dataguard的配置文章很多,但是很多打着oracle11g的文章实际都是只能在9 10 上运行,比如FAL_CLIENT在11g中已经废弃,...
分类:
数据库 时间:
2015-05-19 20:30:02
阅读次数:
313
activemq-web-console的默认使用方式是通过在activemq.xml中导入jetty.xml配置一个jetty server来实现的。其实activemq-web-console完全可以和activemq-broker分开来部署。部署的两种方式:1、直接把apache-active...
分类:
Web程序 时间:
2015-05-18 16:33:46
阅读次数:
121
kafka是一个分布式的消息队列由scala编写,不同于传统的一些消息队列,kafka的设计理念与众不同。
1、kafka的特点
。快速
单台kafka的broker实例能够支撑几千台机器每秒几百兆字节的读写,如果组成集群性能会更强进,从很多人的测试情况来看kafka的读写性能表现不输于当前流行的消息队,甚至领先很多。
。扩展性
弹性透明的扩展,不需要停机,kafka的数据是分区的,可以...
分类:
其他好文 时间:
2015-05-18 01:13:38
阅读次数:
389
下载ActiveMQ下载最新的发布版本。安装直接解压,然后运行bin目录下的activemq.bat文件。配置修改服务端口打开conf/activemq.xml文件,修改以下红色字体部分控制台端口打开conf/jetty.xml文件,修改以下红色字体部分部署这里以Broker-A + Broker-...
分类:
其他好文 时间:
2015-05-14 18:01:17
阅读次数:
129
kafka集群部署多机多broker模式环境IP:172.16.1.35zookeeperkafka172.16.1.36zookeeperkafka172.16.1.37zookeeperkafka开放端口2181288838889092编辑server.properties文件(以下为172.16.1.35的配置)#在默认的配置上,我只修改了4个地方。broker.id=三个主机172.16.1.35,172.16..
分类:
其他好文 时间:
2015-05-14 14:29:56
阅读次数:
261
Kafka集群中的一个broker会被作为controller负责管理分区和副本的状态以及执行类似于重分配分区之类的管理任务。如果当前的controller失败了,会从剩下的broker中选出新的controller。一、PartitionLeaderSelector.scala顾名思义就是为分区选...
分类:
其他好文 时间:
2015-05-13 18:42:48
阅读次数:
223