用 Protobuf 很久了,但是一直觉得很简单,所以就没有做一个总结,今天想尝试一下 gRPC,顺带就一起总结一下。ProtoBuf 是个老同志了,应该是 2010 的时候发布的,然后被广泛使用,目前在市面上应该和 Facebook 的 thrift 应该是不相上下,无论是性能上,还是用户的支持度... ...
分类:
其他好文 时间:
2018-01-27 18:55:04
阅读次数:
198
利用oozie,执行sqoop action将DB2中的数据导入到hive分区表中。
实例中遇到了一些坑。。。
分类:
数据库 时间:
2018-01-26 17:12:41
阅读次数:
227
看到的错误信息如出一辙都是这样的:Method threw 'org.apache.ibatis.binding.BindingException' exception.Invalid bound statement (not found): **.dao.**Dao.select 1.考虑返回值类 ...
分类:
其他好文 时间:
2018-01-22 20:07:22
阅读次数:
401
安装Thrift 安装Thrift的具体操作,请点击链接 安装happybase 连接(happybase.Connection) happybase.Connection(host=’localhost’, port=9090, timeout=None, autoconnect=True, ta ...
分类:
移动开发 时间:
2018-01-21 00:09:46
阅读次数:
1841
进入到第四章了,本篇主要聊的点是编码(也就是 序列化 )与代码升级的一些场景,来梳理存储之中涉及到的编解码的流程。目前主流的编解码便是来自Apache的 Avro ,来自Facebook的 Thrift 与Google的 Protocolbuf ,在本篇之中,我们也会一一梳理各种编码的优点与痛点。 ...
分类:
移动开发 时间:
2018-01-13 22:20:28
阅读次数:
215
Client Thrift客户端有两种:同步客户端和异步客户端。 同步客户端 同步客户端比较简单,以RPC-Thrift(一)中的的例子为基础进行研究源码,先看一下类图。 TServiceClient:用于以同步方式与TService进行通信; Iface接口和Client类都是通过Thrift文件 ...
分类:
其他好文 时间:
2018-01-11 20:40:10
阅读次数:
242
一个简单例子 IDL文件如下,详细的IDL语法参考官方文档http://thrift.apache.org/docs/idl。 通过代码生成工具得到两个文件:HelloService.java和ResultCommon.java。 Thrift业务HelloService.Iface接口的实现如下 ...
分类:
其他好文 时间:
2018-01-05 20:51:24
阅读次数:
275
1. Flume Sinks 1.1 HDFS Sink 该sink把events写进Hadoop分布式文件系统(HDFS)。它目前支持创建文本和序列文件。它支持在两种文件类型压缩。文件可以基于数据的经过时间或者大小或者事件的数量周期性地滚动。它还通过属性(如时间戳或发生事件的机器)把数据划分为桶或 ...
分类:
Web程序 时间:
2018-01-02 01:26:08
阅读次数:
380
echo 'export PATH="/usr/local/opt/thrift@0.9/bin:$PATH"' >> ~/.zshrc echo 'export LDFLAGS='-L/usr/local/opt/thrift@0.9/lib'' >> ~/.zshrc echo 'export ... ...
分类:
其他好文 时间:
2017-12-23 23:12:52
阅读次数:
228
最近在和小伙伴们做充电与通信程序的架构迁移。迁移前的架构是,通信程序负责接收来自充电集控设备的数据实时数据,通过Thrift调用后端的充电服务,充电服务收到响应后放到进程的Queue中,然后在管理线程的调度下,启动多线程进程数据处理。 随着业务规模的不断扩大和对系统可用性的逐步提高。现在这个架构存在 ...
分类:
Web程序 时间:
2017-12-23 15:50:42
阅读次数:
181