标签：虚拟机 获取 统计 消息队列 拉取 .com 功能 海量 项目
电竞出现在人们视野中的频率越来越高了，此次选取FunData作为电竞数据平台，v1.0 beta版本主要提供由Valve公司出品的顶级MOBA类游戏DOTA2相关数据接口(详情：open.varena.com)。
本文将介绍FunData的架构演进中的设计思路及其涉及的相关技术，包括大数据流处理方案、结构化存储转非结构化存储方案和数据API服务设计等。
电竞数据的丰富性从受众角度来看，可分为赛事、战队和玩家数据；从游戏角度来看，维度可由英雄、战斗、道具以及技能等组成；电竞数据的实时性包括赛前两支战队的历史交战记录、赛中的实时比分、胜率预测、赛后比赛分析和英雄对比等。
因此多维度的数据支持，TB到PB级别的海量数据存储与实时分析都对底层系统的架构设计有着更高的要求，亦带来了更严峻的挑战。
架构
系统主要有两个模块：Master与Slave。
Master模块功能如下：
定时调用Steam接口获取比赛ID与基础信息
通过In-Memory的消息队列分发比赛分析任务到Slave节点
记录比赛分析进度，并探测各Slave节点状态
Slave模块功能如下：
监听队列消息并获取任务(任务主要为录像分析，录像分析参考github项目clarity(https://github.com/skadistats/clarity)与manta(https://github.com/dotabuff/manta)）
分析数据入库
系统上线初期运行相对稳定，各维度的数据都可快速拉取。然而随着数据量的增多，数据与系统的可维护性问题却日益突出。
新增数据字段需要重新构建DB索引，数据表行数过亿构建时间太长且造成长时间锁表。
系统耦合度高，不易于维护，Master节点的更新重启后，Slave无重连机制需要全部重启；同时In-Memory消息队列有丢消息的风险。
系统可扩展性低，Slave节点扩容时需要频繁的制作虚拟机镜像，配置无统一管理，维护成本高。
DB为主从模式且存储空间有限，导致数据API层需要定制逻辑来分库读取数据做聚合分析。
节点粒度大，Slave可能承载的多个分析任务，故障时影响面大。
在本篇的技术分享中，我们介绍了FunData数据平台架构演进的过程，分析了旧系统在架构上的缺点，以及在新系统中通过什么技术和架构手段来解决。FunData自4月10日上线以来，已有300多位技术开发者申请了API-KEY。我们也在着力于新数据点的快速迭代开发，如联赛统计数据，比赛实时数据等。
标签：虚拟机 获取 统计 消息队列 拉取 .com 功能 海量 项目
原文地址：https://www.cnblogs.com/z12568/p/10663954.html
