日志采集框架Flume Flume介绍 概述 Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。 Flume可以采集文件，socket数据包、文件、文件夹、kafka等各种形式源数据，又可以将采集到的数据(下沉sink)输出到HDFS、hbase、hive、kafka等众多外部 ...
分类：
Web程序 时间：
2019-09-02 09:35:39
阅读次数：
86
1.1 flume（日志收集系统） 1.1.1 flume介绍 flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。支持在日志系统中定制各类数据发送方，用于收集数据;同时，Flume提供对数据进行简单处理，并写到各种数据接受方(比如文本、HDFS、Hbase等)的能力 。 flu ...
分类：
Web程序 时间：
2019-08-14 12:53:23
阅读次数：
131
简单概述 最近在了解ELK做日志采集相关的内容，这篇文章主要讲解通过filebeat来实现日志的收集。日志采集的工具有很多种，如fluentd, flume, logstash,betas等等。首先要知道为什么要使用filebeat呢？因为logstash是jvm跑的，资源消耗比较大，启动一个log ...
分类：
其他好文 时间：
2019-08-09 19:55:07
阅读次数：
201
Flume背景及应用场景 Flume是什么？ 由Cloudera公司开源； 分布式、可靠、高可用的海量日志采集系统； 数据源可定制，可扩展; 数据存储系统可定制，可扩展。 中间件：屏蔽了数据源和数据存储系统的异构性 Flume特点 可靠性 保证数据不丢失 可扩展性高性能 各组件数目可扩展 - 吞吐率 ...
分类：
Web程序 时间：
2019-07-16 18:22:36
阅读次数：
139
架构图 考虑到日志系统的可扩展性以及目前的资源（部分功能复用），整个ELK架构如下： 架构解读 : （整个架构从左到右，总共分为5层） 第一层、数据采集层 最左边的是业务服务器集群，上面安装了filebeat做日志采集，同时把采集的日志分别发送给两个logstash服务（2.187、2.189） 第 ...
分类：
其他好文 时间：
2019-07-04 17:38:00
阅读次数：
181
【导读】数据采集是进行大数据分析的前提也是必要条件，在整个流程中占据重要地位。本文将介绍大数据三种采集形式：系统日志采集法、网络数据采集法以及其他数据采集法。（一）系统日志采集法系统日志是记录系统中硬件、软件和系统问题的信息，同时还可以监视系统中发生的事件。用户可以通过它来检查错误发生的原因，或者寻找受到***时***者留下的痕迹。系统日志包括系统日志、应用程序日志和安全日志。（百度百科）大数据平台或
分类：
其他好文 时间：
2019-06-19 12:02:23
阅读次数：
149
一、ELK 介绍 二、ELK的几种常见架构 一、ELK 介绍 二、ELK的几种常见架构 >>ELK 介绍<< ELK 构建在开源基础之上，让您能够安全可靠地获取任何来源、任何格式的数据，并且能够实时地对数据进行搜索、分析和可视化。 最近查看 ELK 官方网站，发现新一代的日志采集器 Filebeat ...
分类：
其他好文 时间：
2019-06-19 00:24:14
阅读次数：
126
大数据是对海量数据进行存储、计算、统计、分析处理的一系列处理手段，处理的数据量通常是TB级，甚至是PB或EB级的数据，这是传统数据处理手段所无法完成的，其涉及的技术有分布式计算、高并发处理、高可用处理、集群、实时性计算等，汇集了当前IT领域热门流行的IT技术。想要学好大数据需掌握以下技术：Java编程技术Java编程技术是大数据学习的基础，Java是一种强类型语言，拥有极高的跨平台能力，可以编写桌
分类：
其他好文 时间：
2019-06-18 14:00:57
阅读次数：
109
解耦场景 1. spark 发告警，同过kafka来解耦 削峰场景 1. 日志采集生产环境几百台，当后续数量持续增加时，如果不加消息队列或者内存队列，可能把数据库打死 一个中间件： 1. 为什么用 》解决什么问题 2. 有什么作用，优点和缺点 3. 是否横向对比 为什么用 解决什么问题 有什么作用 ...
分类：
其他好文 时间：
2019-06-05 00:19:09
阅读次数：
101
filebeat:
prospectors:
# - #每个日志文件的开始
# paths: #定义路径
# - /var/www/logs/access.log #绝对路径
# input_type: log #日志类型为log
# document_type: api4-nginx-accesslog # 此名称要与logstash定义的名称相对应，logstash要使用此名称做type判断使用
-
paths:
- /opt/apps/huhu/logs/ase.log
input_type: log
document_type: "ase-ase-log"
encoding: utf-8
tail_files: true #每次最后一行
multiline.pattern: ‘^\[‘ #分割符
multiline.negate: true
multiline.match: after #最后合并
分类：
其他好文 时间：
2019-05-23 15:46:34
阅读次数：
137
