1.配置Intellij idea -->file -->project structure -->artifacts -->+ -->jar -->from ... >main class选择主类 -->ok(spark-assembly.jar包比较大,可以删除,大数据平台已经安装了) -->o ...
分类:
编程语言 时间:
2019-09-30 14:32:46
阅读次数:
72
今天我们来看一下淘宝、美团和滴滴的大数据平台,一方面进一步学习大厂大数据平台的架构,另一方面也学习大厂的工程师如何画架构图。通过大厂的这些架构图,你就会发现,不但这些知名大厂的大数据平台设计方案大同小异,架构图的画法也有套路可以寻觅。 淘宝大数据平台 淘宝可能是中国互联网业界较早搭建了自己大数据平台 ...
分类:
其他好文 时间:
2019-09-30 12:59:28
阅读次数:
77
tushare是一个开放的,免费的金融数据平台,包含沪深股票数据,指数数据,基金数据,期货数据,期权数据,债券数据,外汇数据,港股数据,行业经济数据,宏观经济数据以及新闻快讯等特色数据。其中以沪深股票数据最为丰富,包含了有: 基础数据 股票列表 交易日历 股票曾用名 沪深股通成分股 上市公司基本信息 ...
分类:
其他好文 时间:
2019-09-28 14:39:28
阅读次数:
775
声明:本文参考了淘宝/滴滴/美团发表的关于大数据平台建设的文章基础上予以整理。参考链接和作者在文末给出。 在此对三家公司的技术人员无私奉献精神表示感谢,如果文章造成了侵权行为,请联系本人删除。本人在尊重事实的基础上重新组织了语言和内容,旨在给读者揭开一个完善的大数据平台的组成和发展过程。 本文在未经 ...
分类:
其他好文 时间:
2019-09-13 17:30:56
阅读次数:
122
kafka是基于构建实时数据管道和数据流的应用。具有实时横向扩展、高吞吐量、支持大量堆积具有容错性和速度快等特点。它是一个高性能分布式消息系统。通常一个分布式流数据平台它具有三个特点: 发布和订阅功能,类似于消息系统 以容错的方式记录流 处理流 OpdenDJ 为企业提供了一个高性能,高可靠性的身份 ...
分类:
其他好文 时间:
2019-09-05 23:09:30
阅读次数:
100
Mock.js: 前后端分离之后,前端迫切需要一种机制,不再需要依赖后端接口开发,而mockjs就可以做到这一点 Mock.js是一个模拟数据的生成器,用来帮助前端调试开发、进行前后端的原型分离以及用来提高自动化测试效率。 众所周知Mock.js因为两个重要的特性风靡前端: 数据类型丰富 支持生成随 ...
分类:
其他好文 时间:
2019-08-29 21:44:53
阅读次数:
135
![](https://s1.51cto.com/images/blog/201908/28/15d1b6d00e6cde1024a6794ea188a6f5.png?x-oss-process=image/watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3p
分类:
其他好文 时间:
2019-08-28 17:17:27
阅读次数:
224
随着企业业务的不断扩展,业务线越来越多,对业务数据的监控越来越重要,但各个业务系统间的数据往往独立、分散,对数据进行价值挖掘的难度较大。借助一个数据平台将数据进行汇集处理,并能根据企业运营管理需求将数据进行个性化的可视化展现,已成为各大企业的刚需。相比于单一的图表与静态仪表盘,日志易Galaxee大屏可视化应用致力于用更生动、友好的形式,即时呈现隐藏在瞬息万变且庞杂的数据背后的业务洞察。无论在能源
分类:
其他好文 时间:
2019-08-27 12:31:50
阅读次数:
88
AmazonKinesis概念处理AWS上大量流数据的数据平台KinesisStreams用于搜集数据,ClientLibrary用于分析后的展示构建用于处理或分析流数据的自定义应用程序可以支持从数十万中来源捕获和存储TB级的数据,如网站点击流、财务交易、媒体馈送、IT日志等使用IAM限制用户和角色对Kinesis的访问,使用角色的临时安全凭证可以提高安全性Kiesis只能使用SSL加密进行访问K
分类:
其他好文 时间:
2019-08-20 11:05:34
阅读次数:
94
随着业务的发展,数据量剧增,我们一些简单报表大盘类的任务,就不能简单的依赖于RDBMS了,而是依赖于数仓之类的大数据平台。 数仓有着巨量数据的存储能力,但是一般都存在一定数据延迟,所以要想完全依赖数数仓来解决实时报表问题,是困难的。 其实,所谓的实时报表,往简单了说就是: 对现在的一些数据进行加减乘 ...
分类:
其他好文 时间:
2019-08-18 11:42:09
阅读次数:
67