Pig Pig是一种编程语言,它简化了Hadoop常见的工作任务。Pig可加载数据、表达转换数据以及存储最终结果。Pig内置的操作使得半结构化数据变得有意义(如日志文件)。同时Pig可扩展使用Java中添加的自定义数据类型并支持数据转换。 Hive Hive在Hadoop中扮演数据仓库的角色。Hiv ...
分类:
其他好文 时间:
2017-08-20 00:47:57
阅读次数:
215
Redis集群的相关概念 redis-cluster架构图 (1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽. (2)节点的fail是通过集群中超过半数的节点检测失效时才生效. (3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连 ...
分类:
其他好文 时间:
2017-08-09 16:54:19
阅读次数:
238
?? 磁带备份是最早的存储应用之中的一个,磁带价格低廉,介质稳定,能够异地脱机保存,运输方便。一開始就是存储、备份和恢复的主要介质。但近年来,硬盘存储取得长足发展。訪问速度与可靠性均不断提升,单位容量成本则不断减少。而CDP(Continuous Data Protection,持续数据保护)技术的 ...
分类:
其他好文 时间:
2017-07-03 12:05:36
阅读次数:
158
20170701_03_GradientDescend.md—/Users/haoyou/Codes/MyLogs 机器学习梯度下降可导函数在任一点的梯度是自变量空间中的一个向量(二元函数的梯度是 xy 平面上的向量,而不是 xyz 空间里的向量)函数图形在这一点的切平面的法向量投影在自变量空间中,... ...
分类:
其他好文 时间:
2017-07-02 22:13:07
阅读次数:
173
摘要: 目前MySQL JDBC提供了多种将数据写入MySQL的方式,本文将介绍数据集成(DataX、同步中心、原CDP)支持的几种模式: * insert into xxx values (..), (..), (..) * replace into xxx values (..), (..), ...
分类:
数据库 时间:
2017-06-12 14:56:33
阅读次数:
1481
第一步安装3台nginx服务器地址为192.168.1.35,192.168.1.36,192.168.1.37安装varnish的服务器IP为192.168.1.33第二步获取安装varnish所需要的包编译安装varnish2.0需要pcre库,pcre库为了兼容正则表达式下载地址http://down.51cto.com/data/2315007#tarxvfpcre-8.39.tar.gz#cdp..
分类:
其他好文 时间:
2017-06-07 14:28:02
阅读次数:
143