KafkaOffsetMonitor是不错的kafka监控的web工具,官方提供的版本需要在线下载js和css,其中angulajs的下载不了,在不联网的内部环境下不能正常使用,所以本人将其所有到的js和css单独下载整到当前这个jar包中,下载在内部环境可以直接使用...
分类:
Web程序 时间:
2014-09-21 11:38:20
阅读次数:
265
# consumer offset commit 使用kafka的python api时遇到了offset回滚的问题,因为最初使用了autocommit参数,发现有时会重复取记录,发现autocommit是批量提交,并且有offset回滚的问题,具体原因未发现,解决方法...
分类:
其他好文 时间:
2014-09-21 02:23:20
阅读次数:
439
生产者消费者问题读者作家问题哲学家吃饭问题生产者消费者问题http://en.wikipedia.org/wiki/Producer%E2%80%93consumer_problem分别用锁、信号量、同步监视器模拟的例子。package thread;import java.util.Random;...
分类:
编程语言 时间:
2014-09-15 22:44:59
阅读次数:
379
目前中央库中 org.apache.kafka 是用jdk1.7编译的, 故跑在1.6的jvm中会报错解决方案:1. 下载kafka源码, 本地sbt进行install, 编译前 java -version确认classpath中的jdk版本是1.62. 编译打包成功后, 进入当前kafka目录的 ...
分类:
编程语言 时间:
2014-09-14 22:06:27
阅读次数:
1889
通常而言我们的kafka的配置如下所示: broker.id=0
num.network.threads=2
num.io.threads=8
socket.send.buffer.bytes=1048576
socket.receive.buffer.bytes=1048576
socket.request.max.bytes=1...
分类:
其他好文 时间:
2014-09-12 17:29:24
阅读次数:
215
spark自带的example中就有streaming结合kafka使用的案例:$SPARK_HOME/examples/src/main/scala/org/apache/spark/examples/streaming/KafkaWordCount.scala使用方法参见代码描述:Usage: ...
分类:
其他好文 时间:
2014-09-10 17:29:50
阅读次数:
219
使用版本:kafka_2.10-0.8.1.1安装:tar -zxvf kafka_2.10-0.8.1.1.tgz -C ~/app/添加环境变量:.bash_profileexport KAFKA_HOME=/home/spark/app/kafka_2.10-0.8.1.1export PAT...
分类:
其他好文 时间:
2014-09-10 17:18:30
阅读次数:
231
阅读前提: ????????1 : 您可能需要对 ?logback 日志系统有所了解 ???? ? ?2 :您可能需要对于?kafka 有初步的了解 ???? ? ?3:请代码查看之前,请您仔细参考系统的业务图解 ? ? ? ? ...
分类:
其他好文 时间:
2014-09-10 16:01:21
阅读次数:
258
一、什么是kafka?kafka是LinkedIn开发并开源的一个分布式MQ系统,现在是Apache的一个孵化项目。在它的主页描述kafka为一个高吞吐量的分布式(能将消息分散到不同的节点上)MQ。Kafka仅仅由7000行Scala编写,据了解,Kafka每秒可以生产约25万消息(50MB),每秒处理55万消息(11..
分类:
其他好文 时间:
2014-09-10 02:50:40
阅读次数:
342
package sync;
public class Test {
public static void main(String[] args) {
Test test = new Test();
//Factory factory = Factory.getInstance();
Producer producer = test.new Producer();
produc...
分类:
编程语言 时间:
2014-09-06 12:30:43
阅读次数:
214