因业务需要,我们现有得服务器上一个节点上装了多个服务,前后端都有涉及,因此就需要用 filebeat 将这些日志收集起来生成不一样得索引,配置如下(仅供参考): input: filebeat.inputs: # Each - is an input. Most options can be set ...
分类:
其他好文 时间:
2021-07-05 16:37:41
阅读次数:
0
采集nginx日志的时候发现从filebeat采集的json日志到elasticsearch里面都是keyword类型,导致我模糊查询部分字段的时候无法模糊匹配,所以需要将某些字段改成text类型。 filebeat.inputs: - type: log enabled: true json.ke ...
分类:
移动开发 时间:
2021-03-30 13:11:53
阅读次数:
0
大数据技术板块划分 数据采集 flume kafka logstash filebeat ... 数据存储 mysql redis hbase hdfs ... 虽然mysql不属于大数据范畴 但是我在这也列出来了,因为你在工作中离不开它 数据查询 hive impala elasticsearch ...
分类:
其他好文 时间:
2021-03-17 14:04:41
阅读次数:
0
安装参考脚本######elk配置文档##########filebeat.ymlfilebeat.inputs:- type: log enabled: True #True表示收集 #pasths配置收集日志的路径,支持配置多条路径,及多目录 paths: - /opt/app/nacos-1. ...
分类:
其他好文 时间:
2021-01-21 10:41:46
阅读次数:
0
收集TCP/UDP日志 通过logstash的tcp/udp插件收集日志,通常用于在向elasticsearch日志补录丢失的部分日志,可以将丢失的日志通过一个TCP端口直接写入到elasticsearch服务器。 1.配置Logstash #进入Logstash配置文件目录 [root@redis ...
分类:
其他好文 时间:
2020-12-15 11:48:37
阅读次数:
1
本文已经收录至我的GitHub,欢迎大家踊跃star和issues。https://github.com/midou-tech/articles题外话这次本来是准备用filebeat写数据到es,然后下一篇写查询语法和一些查询操作。就在我要写数据的时候,发现不对啊。mapping配置什么的都不知道,只是把数据塞进去了,完全不知道数据怎么结构化存储的,也不知道怎么查询。一般去对接es业务,都需要告诉
分类:
移动开发 时间:
2020-12-11 11:39:48
阅读次数:
7
ELK--使用redis与logstash结合收集数据
分类:
其他好文 时间:
2020-11-18 12:15:15
阅读次数:
5
docker-compose安装loki套件(loki+promtail+grafana) loki进行日志聚合处理 类似elk中的es promtail是日志收集,类似elk中的logstash filebeat等,如果是只收集docker容器的日志则可以用loki的docker plugin替代 ...
分类:
其他好文 时间:
2020-11-01 20:42:03
阅读次数:
55
1.下载logstash https://www.elastic.co/cn/downloads/logstash 2.配置 input { stdin { } jdbc { type => "tb_role" jdbc_connection_string => "jdbc:mysql://192. ...
分类:
数据库 时间:
2020-10-19 22:59:20
阅读次数:
35
系统版本 centos 7.0 elk:6.7.2 jdk:1.8.0 1.elk结构 filebeat==>redis==>logstash==>es(群集)==>kibana 2.安装es群集 vim /etc/hosts 172.16.206.110 node-1 172.16.206.114 ...
分类:
其他好文 时间:
2020-09-18 00:56:30
阅读次数:
33