1.用图表描述Hadoop生态系统的各个组件及其关系。 2.阐述Hadoop生态系统中,HDFS, MapReduce, Yarn, Hbase及Spark的相互关系。 Hadoop对应于Google三驾马车:HDFS对应于GFS,即分布式文件系统,MapReduce即并行计算框架,HBase对应于 ...
分类:
其他好文 时间:
2021-03-02 12:20:23
阅读次数:
0
目前,编程人员面对的最大挑战就是复杂性,硬件越来越复杂,OS越来越复杂,编程语言和API越来越复杂,我们构建的应用也越来越复杂。根据外媒的一项调查报告,以下列出了Java程序员在过去12个月内一直使用的一些工具或框架,或许会对你有意义。 先来看看大数据的概念。根据维基百科,大数据是庞大或复杂的数据集 ...
分类:
编程语言 时间:
2021-03-02 12:15:50
阅读次数:
0
1.用图表描述Hadoop生态系统的各个组件及其关系。 2.阐述Hadoop生态系统中,HDFS, MapReduce, Yarn, Hbase及Spark的相互关系。 Hadoop对应于Google三驾马车:HDFS对应于GFS,即分布式文件系统,MapReduce即并行计算框架,HBase对应于 ...
分类:
其他好文 时间:
2021-03-02 12:10:47
阅读次数:
0
面试题 一、Hadoop 1.Hadoop面试题总结(一) 2.Hadoop面试题总结(二)——HDFS 3.Hadoop面试题总结(三)——MapReduce 4.Hadoop面试题总结(四)——YARN 5.Hadoop面试题总结(五)——优化问题 二、Zookeeper 1.Zookeeper ...
分类:
其他好文 时间:
2021-03-02 11:41:45
阅读次数:
0
1.概述 在大数据的浪潮下,时时刻刻都会产生大量的数据。比如社交媒体、博客、电子商务等等,这些数据会以不同的类型存储在不同的平台里面。为了执行ETL(提取、转换、加载)操作,需要一个消息中间件系统,该系统应该是异步和低耦合的,即来自各种存储系统(如HDFS、Cassandra、RDBMS等)的数据可 ...
分类:
其他好文 时间:
2021-03-01 13:50:00
阅读次数:
0
大数据分析——数据抓取 IOT数据抓取 1、系统架构 2、架构说明 系统架构分成三层和四个功能 ,三层分布式M2M层、M2C层、平台应用层,四个功能是 数据采集、连接、逻辑处理、存储 M2M层: 主要指的是硬件数据采集层,它包括但设备数据通过NB-IOT、WIFI、4G、5G、RJ45的方式直接上传 ...
分类:
其他好文 时间:
2021-03-01 13:48:41
阅读次数:
0
部分主要阐述 Thread 的基础知识,详细介绍线程的 API 使用、线程安全、线程间数据通信,以及如何保护共享资源等内容,它是深入学习多线程内容的基础。 第二部分引入了 ClassLoader,这是因为 ClassLoader 与线程不无关系,我们可以通过 synchronized 关键字,或者 ...
分类:
编程语言 时间:
2021-03-01 13:34:44
阅读次数:
0
1. 管道相关命令 1.1 cut cut:以某种方式按照文件的行进行分割 参数列表: 参数 英文 含义 -c characters 按字符选取 -b 按字节选取 忽略多字节字符边界,除非也指定了 -n 标志 -d '分隔符' delimiter 自定义分隔符,默认为制表符。 -f 'n1,n2' ...
分类:
系统相关 时间:
2021-02-26 13:01:54
阅读次数:
0
数据的基本类型及扩展 1. 数据类型: public class Demo01 { public static void main(String[] args) { //八大数据类型 int num1 = 10; byte num2 = 20; short num3 = 30; long num4 ...
分类:
其他好文 时间:
2021-02-22 11:54:36
阅读次数:
0
TensorFlow: 深度学习框架——Caffe(卷积神经网络框架):Caffe 是一个深度学习框架,由表达式,速度和模块化组成。 起源:开发于伯克利人工智能研究小组和伯克利视觉和学习中心; 软件类型:教学科研相关 |授权协议:BSD|开发语言:C/C++、Python; 特点:Caffe 完全开 ...
分类:
其他好文 时间:
2021-02-20 12:46:08
阅读次数:
0