1.用图表描述Hadoop生态系统的各个组件及其关系。 Hadoop生态系统除了核心的HDFS和MapReduce以外,Hadoop生态系统还包括Zookeeper、HBase、Hive、Pig、Mahout、Sqoop、Flume、Ambari等功能组件。 (1).HDFS:具有处理超大数据、流式 ...
分类:
其他好文 时间:
2021-03-02 12:28:59
阅读次数:
0
1.概述 在大数据的浪潮下,时时刻刻都会产生大量的数据。比如社交媒体、博客、电子商务等等,这些数据会以不同的类型存储在不同的平台里面。为了执行ETL(提取、转换、加载)操作,需要一个消息中间件系统,该系统应该是异步和低耦合的,即来自各种存储系统(如HDFS、Cassandra、RDBMS等)的数据可 ...
分类:
其他好文 时间:
2021-03-01 13:50:00
阅读次数:
0
现在的mq产品主流有4中:rabbitmq,rocketmq,activemq,kafka;有时候很意外的是:学的其中一个,公司用的又是另外一个,导致学习成本提高。有或者是 业务服务使用rabbitmq,而数据库后台使用kafka,整个项目使用了2种mq,可能会导致切换困难,维护成本高等因素。 我们 ...
分类:
编程语言 时间:
2021-02-27 12:58:02
阅读次数:
0
?曾经在你的应用程序中使用过异步处理吗?在处理不需要立即执行的任务时,异步代码似乎是不可避免的。Apache Kafka是最常用和最健壮的开源事件流平台之一。许多公司和开发者利用它的强大功能来创建高性能的异步操作,用于微服务的数据集成,以及用于应用程序健康指标的监控工具。这篇文章解释了在.NET应用 ...
分类:
Web程序 时间:
2021-02-23 14:04:35
阅读次数:
0
安装部署 先下载zookeeper、kafka zookeeper下载地址:Download kafka下载地址:Download 集群规划 hadoop001 hadoop002 zk zk kafka kafka 集群部署 1) 解压安装包 [root@hadoop001 software]# ...
分类:
其他好文 时间:
2021-02-22 12:46:23
阅读次数:
0
test.kafka.eagle.sasl.enable=true test.kafka.eagle.sasl.protocol=SASL_PLAINTEXT test.kafka.eagle.sasl.mechanism=PLAIN test.kafka.eagle.sasl.jaas.confi ...
分类:
其他好文 时间:
2021-02-22 12:41:44
阅读次数:
0
tomcat 启动tomcat cd /usr/tomcat/apache-tomcat-7.0.57/bin/ ./startup.sh 停止tomcat ./shutdown.sh 查看tomcat日志信息 tail -200f /usr/tomcat/apache-tomcat-7.0.57/ ...
分类:
其他好文 时间:
2021-02-20 11:58:57
阅读次数:
0
线上有一个消息消费服务,主线程批量从kafka拉取消息,然后提交到子线程池中挨个消费。分布式追踪用到的kafka插件会使子线程创建的ThreadLocalScope被循环引用,从而造成内存泄漏。 ...
分类:
其他好文 时间:
2021-02-20 11:53:15
阅读次数:
0
一、概述 1.1、Kafka Streams Kafka Streams。Apache Kafka开源项目的一个组成部分。是一个功能强大,易于使用的库。用于在Kafka上构建高可分布式、拓展性,容错的应用程序。 1.2、Kafka Streams特点 功能强大 高扩展性,弹性,容错 轻量级 轻量级 ...
分类:
其他好文 时间:
2021-02-10 13:05:33
阅读次数:
0
单机启动 1、获取Kafka 2、解压Kafka $ tar -xzf kafka_2.13-2.7.0.tgz $ cd kafka_2.13-2.7.0 3、启动zk(Kafka包中自带zk程序和配置文件) 配置ZK的日志路径 # Start the ZooKeeper service # No ...
分类:
其他好文 时间:
2021-02-04 12:16:31
阅读次数:
0