Elastic 技术栈之 Filebeat 简介 Beats 是安装在服务器上的数据中转代理。 Beats 可以将数据直接传输到 Elasticsearch 或传输到 Logstash 。 Beats 有多种类型,可以根据实际应用需要选择合适的类型。 常用的类型有: Packetbeat: 网络数据 ...
分类:
其他好文 时间:
2018-01-03 21:05:20
阅读次数:
1466
字符含义 . 表示匹配除了换行符外的任何字符注:通过设置 re.DOTALL 标志可以使 . 匹配任何字符(包含换行符) | A | B,表示匹配正则表达式 A 或者 B ^ 1.(脱字符)匹配输入字符串的开始位置2.如果设置了 re.MULTILINE 标志,^ 也匹配换行符之后的位置 $ 1.匹 ...
分类:
编程语言 时间:
2018-01-03 11:33:31
阅读次数:
209
5.4 RegExp 类型 实例 g全局 i不区分大小写 m多行 5.4.1 RegExp 实例属性(global,ignoreCase, lastIndex, multiline, source) global: 布尔,是否设置了g ignoreCase 布尔,是否设置了i lastIndex 整 ...
分类:
其他好文 时间:
2017-12-30 19:10:15
阅读次数:
125
cfssl生成证书 filebeat多输入(不能多输出)参考: https://www.elastic.co/guide/en/beats/filebeat/current/migration configuration.html filebeat配置ssl wireshark抓包: 看不到任何传输 ...
分类:
其他好文 时间:
2017-12-24 12:46:26
阅读次数:
452
re.compile(strPattern[, flag])可用r'strpattern' r表示对后面的模式进行转义re.I(re.IGNORECASE): 忽略大小写(括号内是完整写法,下同)M(MULTILINE): 多行模式,改变'^'和'$'的行为(参见上图)S(DOTALL): 点任意匹 ...
分类:
编程语言 时间:
2017-12-22 23:57:01
阅读次数:
236
filebeat的registry文件中存放的是被采集的所有日志的相关信息。 linux中registry中一条日志记录的内容如下 这条记录中的各个字段的意义分别为 device一列的数字64768有些难理解。这个数字可以通过stat命令得到: 64768为十进制数,对应十六进制数fd00,对应磁盘 ...
分类:
其他好文 时间:
2017-12-22 14:59:29
阅读次数:
366
配置Filebeat输出到Logstash Logstash中配置Filebeat输入 使用Grok Filter插件解析日志 使用Geoip插件丰富数据 将数据索引到Elasticsearch 多个输入输出插件配置介绍来自为知笔记(Wiz) ...
分类:
其他好文 时间:
2017-12-21 00:10:14
阅读次数:
135
过滤器插件: grok mutate split 编码插件: json multiline 输出插件: stdout file 输入插件: stdin file来自为知笔记(Wiz) ...
分类:
其他好文 时间:
2017-12-21 00:04:49
阅读次数:
188
最近使用filebeat进行日志采集,并通过logstash对日志进行格式化处理。 filebeat采集数据后,会给日志增加字段@timestamp,@timestamp是UTC时间,查看日志很不方便。 从网上找到了解决办法【http://blog.51cto.com/11067470/172987 ...
分类:
其他好文 时间:
2017-12-15 18:58:33
阅读次数:
1528
最近部署filebeat采集日志。 发现配置multiline后,日志偶尔会丢失数据,而且采集到的数据长度都不相同,所以和日志长度没有关系。 查阅filebeat官网后,找到了问题。filebeat有个配置max_lines,默认值为500。查看了我们的日志文件,发现需要合并的日志行数超过了500行 ...
分类:
其他好文 时间:
2017-12-14 15:47:31
阅读次数:
743