线上使用cdh4.6.0和hive0.13.1,在hive0.11之后开始支持orcfile,hive0.13.1使用的是pb2.5.0,cdh4.6.0是用的2.4.0a,线上测试orcfile,建表正常,但是插入数据时报错报错:java.lang.VerifyError:classorg.apache.hadoop.hive.ql.io.orc.OrcProto$RowIndexoverridesfinalmethodge..
分类:
其他好文 时间:
2015-01-05 07:07:48
阅读次数:
244
最近在玩hadoop,发现官网下的二进制包经常包警告,不爽,不如自己编译安装 1. 下载源码 2. 安装编译环境(gccbuild-essential ....) 3. 安装protobuf (编译hadoop需要用) 4. 安装mvn 5. 在解压源码目录执行mvn -Pdist,nat...
分类:
其他好文 时间:
2015-01-03 23:42:24
阅读次数:
257
python google protobuf 使用google protobuf由于采用二进制打包,数据量很小,又支持主流的java,c,python语言,所以尤其适合于mobile客户端与服务器的通信。相对于xml,html,json等格式,有其独特优势解压protobuf-2.5.0.tar.g...
分类:
编程语言 时间:
2015-01-03 21:00:28
阅读次数:
870
原本打算在window下在quick里面嵌入protobuf,发现错误很多。研究一天都没搞好。只能休息下搞下erlang服务端,先将服务端搞好再回头嵌入protobuf到quick。
在window下不能用rebar,只能自己管理。erlang 是自己弱项。做个简单的服务端基于OTP框架,是一个标准的实现,以后再慢慢扩张吧。
(1).建立好目录doc,ebin,include,priv,src...
分类:
其他好文 时间:
2015-01-03 13:13:20
阅读次数:
321
Protobuf现在已经越来越多在移动端游戏中使用,其序列化和反序列化非常方便开发者使用,如果使用Unity开发,我们该如何使用?在这里给大家总结一下:第一步:把其中“protobuf-net”文件夹拷贝到unity即可。下载地址:https://github.com/mgravell/protobuf-net我会在后面提供..
分类:
Web程序 时间:
2014-12-27 06:48:12
阅读次数:
314
早之前就用过Google的Protobuf做数据编码,一直没有深入理解其中的原理,最近做了一次通讯抓包,发现其中很多Protobuf编码的数据包,于是决定分析一下其中的数据包及其编码。一、Protobuf的使用首先来简单介绍一下Protobuf的使用,这里以windows下java开发为例,几个步骤:编写*.proto ->使用google提供的protoc.exe生成*.java->项目中导入p...
分类:
其他好文 时间:
2014-12-24 11:45:45
阅读次数:
277
线上一个项目需要操作hdfs和hive,在使用时报如下错误:java.lang.UnsupportedOperationException:Thisissupposedtobeoverriddenbysubclasses.
atcom.google.protobuf.GeneratedMessage.getUnknownFields(GeneratedMessage.java:180)
atorg.apache.hadoop.hdfs.protocol.proto...
分类:
其他好文 时间:
2014-12-23 06:51:06
阅读次数:
258
这里面选择的HADOOP的版本为2.6.编译前需要准备的如下工具:HADOOP:hadoop-2.6.0-src.tar.gzJDK:jdk-7u71-linux-x64.tar.gzMAVEN:apache-maven-3.0.5-bin.tar.gzPROTOBUF:protobuf-2.5.0.tar.gzFINDBUGS:findbugs-3.0.0.tar.gzANT:apache-ant-1.9.4-bin.tar.gz1、分别解压hadoo..
分类:
其他好文 时间:
2014-12-22 02:09:01
阅读次数:
809
一、概述
thrift :是由 Facebook
主导开发的一个跨平台、支持多语言的,通过定义 IDL 文件,自动生成
RPC 客户端与服务端通信代码的工具,以构建在 C++, Java, Python, PHP, Ruby, Erlang, Perl, Haskell, C#, Cocoa, JavaScript, Node.js, Smalltalk, and OCaml
这些编程...
分类:
编程语言 时间:
2014-12-19 14:34:37
阅读次数:
349