1. 常用 rcfile + gzip parquet + snappy 2. 压缩比,参考 如果是数据源的话,采用 RCFile+bz 或 RCFile+gz 的方式,这样可以很大程度上节省磁盘空间; 而在计算的过程中,为了不影响执行的速度,可以浪费一点磁盘空间,建议采用 RCFile+snapp ...
分类:
其他好文 时间:
2017-09-07 14:51:43
阅读次数:
169
#!/bin/bashyum install wget -yyum install snappy-devel protobuf-devel glog-devel gcc-c++ -ywget http://people.centos.org/tru/devtools-2/devtools-2.rep ...
分类:
其他好文 时间:
2017-09-02 16:51:13
阅读次数:
128
一、首先看看自己的系统,Ubuntu16.04,cpu,没有Nvidia,没有opencv 二、安装依赖包 安装protobuf,leveldb,snappy,OpenCV,hdf5, protobuf compiler andboost: ...
分类:
系统相关 时间:
2017-08-03 13:47:26
阅读次数:
234
http://blog.csdn.net/yan_joy/article/details/70241319 标签: 深度学习 2017-04-19 15:31 5970人阅读 评论(0) 收藏 举报 标签: 深度学习 2017-04-19 15:31 5970人阅读 评论(0) 收藏 举报 分类: ...
分类:
其他好文 时间:
2017-07-07 13:25:10
阅读次数:
994
1、安装依赖包 yum install snappy-devel bz2 libzip-dev libsnappy-dev libprotobuf-dev libevent-dev protobuf-compiler libgoogle-glog-dev protobuf-devel libeven ...
分类:
其他好文 时间:
2017-07-07 10:07:23
阅读次数:
298
目录 算法与数据结构(Algorithms and Data structures) 应用程序接口(API) 应用程序框架(Application Frameworks) 模板引擎(Application Templates) 人工智能(Artificial Intelligence) 程序集与装配 ...
分类:
Web程序 时间:
2017-06-14 14:23:14
阅读次数:
494
原文地址:http://www.cnblogs.com/qiaoyihang/p/6995146.html 1、下载源码:http://archive-primary.cloudera.com/cdh5/cdh/5/ 2、准备编译环境 a、安装maven b、安装protobuffer ./conf ...
分类:
移动开发 时间:
2017-06-13 00:03:22
阅读次数:
319
依赖库:yum -y install gcc+ gcc-c++ 官方文档中提到编译前提需要:gcc c++, autoconf, automake, libtool, Java 6, JAVA_HOME set, Maven 3 1:下载所需的动态库和hadoop snappy插件工程 snappy ...
分类:
移动开发 时间:
2017-06-06 13:15:10
阅读次数:
308
1、下载源码,通过编译源码安装 tar -zxvf /home/zfll/soft/snappy-1.1.2.tar.gz cd snappy-1.1.2 ./configure make sudo make install(输入root的密码)2、安装hadoop-snappy包 解压 unzip ...
分类:
移动开发 时间:
2017-05-24 22:49:10
阅读次数:
561
问题导读: 1.zookeeper在kafka的作用是什么? 2.kafka中几乎不允许对消息进行“随机读写”的原因是什么? 3.kafka集群consumer和producer状态信息是如何保存的? 4.partitions设计的目的的根本原因是什么? 一、入门 1、简介 Kafka is a d ...
分类:
其他好文 时间:
2017-05-06 15:12:57
阅读次数:
281