这几天由于项目的需要，需要将Flume收集到的日志插入到Hbase中，有人说，这不很简单么？Flume里面自带了Hbase sink，可以直接调用啊，还用说么？是的，我在本博客的《Flume-1.4.0和Hbase-0.96.0整合》文章中就提到如何用Flume和Hbase整合，从文章中就看出整个过 ...
分类：
Web程序 时间：
2020-06-04 10:26:08
阅读次数：
83
第1章 Flume概述 1.1 Flume定义 Flume(水槽) 是 Cloudera 提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。 在2009年Flume被捐赠了apache软件基金会，为hadoop相关组件之一。尤其近几年随着flum ...
分类：
Web程序 时间：
2020-05-30 19:56:36
阅读次数：
89
jenkins安装 mac下 jenkins配置allure commandline报错 is not a directory on the Jenkins master (but perhaps it exists on some agents) 查找的方法： https://blog.csdn. ...
分类：
系统相关 时间：
2020-05-23 11:22:23
阅读次数：
424
1 1:监控端口数据官方案例 2 vim flume-netcat-logger.conf 3 添加内容如下： 4 # Name the components on this agent 5 a1.sources = r1 6 a1.sinks = k1 7 a1.channels = c1 8 9 ...
分类：
其他好文 时间：
2020-05-20 14:27:35
阅读次数：
74
1 导入pom依赖 2 <dependencies> 3 <dependency> 4 <groupId>org.apache.flume</groupId> 5 <artifactId>flume-ng-core</artifactId> 6 <version>1.7.0</version> 7 ...
分类：
其他好文 时间：
2020-05-20 14:03:09
阅读次数：
60
主要是利用命令envsubst能实现变量的替换并生成新得配置文件以及docker命令行的变量输入等。 本次实验主要是编写flume镜像，并在容器启动(docker run)时动态修改配置文件并启动，并向flume发数据，然后发给kafka。 此实验的基础： 会dockerfile的编写，熟悉flum ...
分类：
其他好文 时间：
2020-05-15 17:44:38
阅读次数：
237
一、flume是什么 Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。 flume的架构： flume的组成架构： 二、flume的组件介绍 1、Agent Agent是一个JVM进程，它以事件的形式将数据从源头送至 ...
分类：
Web程序 时间：
2020-05-14 00:59:14
阅读次数：
91
解决方法： 1登录esxi UI 界面，重启管理代理服务 Configuration——Restart Management Agents 2.通过ssh 登录esxi主机 运行/etc/init.d/hostd restart 运行/etc/init.d/vpxa restart 注意：重启后es ...
分类：
其他好文 时间：
2020-05-11 13:20:12
阅读次数：
132
1 package com.bawei.stream 2 3 import java.net.InetSocketAddress 4 5 import org.apache.spark.storage.StorageLevel 6 import org.apache.spark.streaming. ...
分类：
Web程序 时间：
2020-05-05 18:21:50
阅读次数：
79
1 package com.spark_sql 2 3 import java.util.Properties 4 import org.apache.spark.sql.{DataFrame, SparkSession} 5 6 object DataFromMysql { 7 def main( ...
分类：
数据库 时间：
2020-05-02 11:31:58
阅读次数：
63
