上篇我们介绍了distributed pub/sub消息传递机制。这是在同一个集群内的消息共享机制:发布者(publisher)和订阅者(subscriber)都在同一个集群的节点上,所有节点上的DistributedPubSubMediator通过集群内部的沟通机制在底层构建了消息流通渠道。在ac ...
分类:
其他好文 时间:
2018-12-10 11:31:16
阅读次数:
221
最近在项目中需要实现图的一些操作,因此,初步考虑使用Akka Stream的Graph实现。从而学习了下: 一、介绍 我们知道在Akka Stream中有三种简单的线性数据流操作:Source/Flow/Sink。但是当我们需要使用一些复杂的操作,例如扇入和扇出时,可能就需要使用图相关的流操作了。因 ...
分类:
其他好文 时间:
2018-11-25 17:55:43
阅读次数:
255
在《使用Akka构建集群(一)》一文中通过简单集群监听器的例子演示了如何使用Akka搭建一个简单的集群,本文将介绍一个相对看来更符合我们对于集群使用的业务需求的例子。 ...
分类:
其他好文 时间:
2018-11-23 14:11:48
阅读次数:
211
第102讲:通过案例解析Akka中的Actor运行机制以及Actor的生命周期 Actor是构建akka程序的核心基石,akka中actor提供了构建可伸缩的,容错的,分布式的应用程序的基本抽象, actor是异步的,非阻塞式的,事件驱动的轻量级的模型, actor中都有自己的成员,也有receiv ...
分类:
其他好文 时间:
2018-11-15 15:28:48
阅读次数:
141
1.容器里面安装spark,外面的程序(安装spark主机的容器)会连接不上集群。理由:这个组件用的akka,连接上集群,会提示: akka.ErrorMonitor: dropping message [class akka.actor.ActorSelectionMessage] for non ...
分类:
其他好文 时间:
2018-11-13 20:26:57
阅读次数:
234
根据经验Json处理是比较简单的,但是Play和akka-http的序列化让我烦恼了不少时间,所以我从自己的角度记录一下Play的JSON处理,代码也都是从官方文档复制后重新整理的,下面是参考的官方文档下有几篇JSON的文章 Working with Json 实体序列化例子 1.本例中使用的实体类 ...
分类:
Web程序 时间:
2018-11-10 15:17:36
阅读次数:
301
一、背景 最近在开发一个项目,项目的各模块之间是使用akka grpc传输音频帧的,并且各模块中的actor分别都进行了persist。本周在开发过程中遇到了一个bug,就是音频帧在通行一段时间后,整个系统处于卡死状态,没有了反应。刚开始怀疑是akka grpc通信时,流中断了,或者没有传输过来,可 ...
分类:
其他好文 时间:
2018-10-14 14:13:45
阅读次数:
196
Flink中支持的BLOB文件类型 jar包 被user classloader使用的jar包 高负荷RPC消息 1. RPC消息长度超出了akka.framesize的大小 2. 在HA摸式中,利用底层分布式文件系统分发单个高负荷RPC消息,比如: TaskDeploymentDescriptor ...
分类:
其他好文 时间:
2018-10-09 19:04:20
阅读次数:
1091
1.scala开发环境介绍 2.scala插件的demo模板介绍 3.akka-http提供demo研究 4.添加路由机制解析 5.akka-http与actor结合 ...
分类:
Web程序 时间:
2018-10-08 16:38:02
阅读次数:
583
解决方案:一直以来,基于Akka实现的RPC通信框架是Spark引以为豪的主要特性,也是与Hadoop等分布式计算框架对比过程中一大亮点。 但是时代和技术都在演化,从Spark1.3.1版本开始,为了解决大块数据(如Shuffle)的传输问题,Spark引入了Netty通信框架,到了1.6.0版本, ...
分类:
Web程序 时间:
2018-09-27 20:11:29
阅读次数:
259