# 生产者消费者模型 # 在线程世界里,生产者就是生产数据的线程,消费者就是消费数据的线程 # 如果生产者速度快而消费者处理速度慢,或生产者处理速度慢而消费者处理速度快,这样就会发生等待 # 为了解决这个问题于是就引入了生产者和消费者模式 # 生产者消费者模式是通过一个容器来解决生产者与消费者强耦合... ...
分类:
其他好文 时间:
2018-08-18 22:28:38
阅读次数:
179
Python递归网上的例子很多大多是数学计算,我在工作遇到一个问题也需要递归来解决但是稍有不同,我们生产环境使用Dubbo分布式服务,Dubbo monitor可以显示应用的调用关系,但是现实情况是随着时间推移应用增多功能增多就会发生循环调用的情况,比如应用A的生产者是由应用A的消费者调用,这就是自 ...
分类:
其他好文 时间:
2018-08-18 20:37:02
阅读次数:
228
[TOC] 一、前言 笔者最近在做一个项目,项目中为了提升吞吐量,使用了消息队列,中间实现了 生产消费模式 ,在生产消费者模式中需要有一个集合,来存储生产者所生产的物品,笔者使用了最常见的 集合类型。 由于生产者线程有很多个,消费者线程也有很多个,所以不可避免的就产生了线程同步的问题。开始笔者是使用 ...
4.6 Message Delivery Semantic(消息传递语义) 现在我们了解了生产者和消费者的工作方式,让我们讨论Kafka在生产者和消费者之间提供的语义保证。显然,可以提供多种可能的消息传递保证: 最多一次 -消息可能会丢失,但永远不会被重新发送。 至少一次 -消息永远不会丢失,但可能 ...
分类:
其他好文 时间:
2018-08-18 10:28:59
阅读次数:
172
一:flume复习 1.flume是收集,聚合,移动日志的框架 2.agent: source: //接受数据的,生产者 //netcat //ExecSource实时收集:tail -F xxx.txt //spooldir监控文件夹 //seq //Stress 压力测试 //avroSourc ...
分类:
其他好文 时间:
2018-08-17 22:21:56
阅读次数:
210
celery内置了kombu库,看了一下kombu的源码,从官网最简单的一个例子来分析 消息发布,源码如下: 运行之前开启redis服务。这真是简单到不能到简单的例子-.- 一步步分析画出如下类图: 大概十七八个类。流程省略几百万个字。 记一下关键步骤: 1、创建生产者 messaging.Prod ...
分类:
其他好文 时间:
2018-08-17 19:09:36
阅读次数:
225
一.总共分为三个目录: dubbo-api 服务的接口用于对接客户端和服务端 dubbo-client 客户端配置文件为:consumer.xml dubbo-service 服务端配置文件为:provide.xml 二.配置文件 1.consumer.xml: 2.provide.xml: 3po ...
分类:
编程语言 时间:
2018-08-17 11:22:46
阅读次数:
188
添加Maven依赖: 使用rabbitmq client的最新Maven坐标: 添加账户 默认情况下,访问RabbitMQ服务的用户名和密码都是“guest”,这个账号有限制,默认只能通过本地网络(如localhost)访问,远程网络访问受限,所以在实现生产和消费消息之前,需要另外添加一个用户,并设 ...
分类:
编程语言 时间:
2018-08-16 23:49:34
阅读次数:
307
Python中queue模块常用来处理队列相关问题 队列常用于生产者消费者模型,主要功能为提高效率和程序解耦 1. queue模块的基本使用和相关说明 2. queue模块的简单应用 1 # -*- coding:utf-8 -*- 2 # Author:Wong Du 3 4 import tim ...
分类:
编程语言 时间:
2018-08-16 16:32:48
阅读次数:
163