最近在做一个人群标签的项目,也就是根据客户的一些交易行为自动给客户打标签,而这些标签更有利于我们做商品推荐,目前打上标签的数据已达5亿+, 用户量大概1亿+,项目需求就是根据各种组合条件寻找标签和人群信息。 举个例子: 集合A: ( 购买过“牙膏“的人交易金额在10-500元并且交易次数在5次的客户 ...
分类:
其他好文 时间:
2018-05-29 17:11:15
阅读次数:
277
机器:ubuntu 2台 ip: 192.168.0.131 host1 192.168.0.132 host2 安装mongodb port: 27017 mongos 路由 30000 configServer 配置服务 27018 分片 dbpath: null mongos /app/mon ...
分类:
数据库 时间:
2018-05-27 21:43:30
阅读次数:
198
主机名ip地址角色viplvs01192.168.1.904层负载192.168.1.206lvs02192.168.1.914层负载192.168.1.206lb01192.168.1.57层负载lb02?192.168.1.67层负载web-nginx01?172.16.1.33静态服务器web-nginx02172.16.1.34静态服务器web-tomcat01172.
分类:
Web程序 时间:
2018-05-24 18:05:00
阅读次数:
282
Redis集群搭建教程 一、概述 Redis3.0之后的版本支持集群。1.1 Redis cluster现状 节点自动发现 slave->master选举,集群容错 Hot resharding:在线分片 集群管理,cluster xxx 给予配置(nodes-port.conf)的集群管理 ASK ...
分类:
其他好文 时间:
2018-05-24 16:32:09
阅读次数:
194
一、redis-cluster设计 Redis集群搭建的方式有多种,例如使用zookeeper等,但从redis 3.0之后版本支持redis-cluster集群,Redis-Cluster采用无中心结构,每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。其redis-cluster架构 ...
分类:
其他好文 时间:
2018-05-23 10:22:45
阅读次数:
211
配置好Hadoop、HDFS、YARN、Zookeeper集群后,需要按照顺序启动。 前期准备 配置好Hadoop、HDFS、YARN、Zookeeper集群 先stop掉所有的hadoop服务 使用 命令查看进程,确保只有 进程存在,没有其他的Hadoop服务进程。若存在Hadoop服务进程,使用 ...
分类:
其他好文 时间:
2018-05-23 00:00:08
阅读次数:
261
上篇: Hadoop3集群搭建之——虚拟机安装 Hadoop3集群搭建之——安装hadoop,配置环境 Hadoop3集群搭建之——配置ntp服务 Hadoop3集群搭建之——hive安装 Hadoop3集群搭建之——hbase安装及简单操作 Hadoop3集群搭建之——hive添加自定义函数UDF ...
分类:
其他好文 时间:
2018-05-20 18:08:05
阅读次数:
222
上篇: Hadoop3集群搭建之——虚拟机安装 Hadoop3集群搭建之——安装hadoop,配置环境 Hadoop3集群搭建之——配置ntp服务 Hadoop3集群搭建之——hive安装 Hadoop3集群搭建之——hbase安装及简单操作 ...
分类:
其他好文 时间:
2018-05-20 16:37:16
阅读次数:
325
说明:在安装zookeeper+Hbase之前,我们应该已经将hadoop集群搭建好了(三个节点),并且验证启动成功。因为HBase是一种构建在HDFS之上的分布式、面向列的存储系 统。 zookeeper 安装及配置 貌似hBase自带的zookeeper只能用作伪分布式,想用于完全分布式要下载外 ...
分类:
其他好文 时间:
2018-05-20 14:14:36
阅读次数:
268