1.1 Elasticsearch 是什么 The Elastic Stack, 包括 Elasticsearch、Kibana、Beats 和 Logstash(也称为 ELK Stack)。能够安全可靠地获取任何来源、任何格式的数据,然后实时地对数据进行搜索、分析和可视化。Elaticsearc ...
分类:
其他好文 时间:
2021-04-19 15:27:46
阅读次数:
0
大数据技术板块划分 数据采集 flume kafka logstash filebeat ... 数据存储 mysql redis hbase hdfs ... 虽然mysql不属于大数据范畴 但是我在这也列出来了,因为你在工作中离不开它 数据查询 hive impala elasticsearch ...
分类:
其他好文 时间:
2021-03-17 14:04:41
阅读次数:
0
日志进程rsyslog httpd/nginx/mysql: 各类应用程序,可以以自己的方式记录日志 Rsyslog 是处理系统相关日志的进程 处理日志的进程 rsyslog rsyslog可以处理绝大部分日志记录,比如系统操作有关信息,如登录信息,程序的启动关闭信息 [root@CatdeXin- ...
分类:
其他好文 时间:
2021-02-27 13:03:19
阅读次数:
0
安装logstash 手动导入Mysql驱动 新建jdbc.conf vim jdbc.conf input { stdin { } jdbc { # 连接的数据库地址和哪一个数据库,指定编码格式,禁用SSL协议,设定自动重连 jdbc_connection_string => "jdbc:mysq ...
分类:
其他好文 时间:
2021-02-01 12:50:17
阅读次数:
0
在windows下,新建一个 config_rabbitmq.conf 配置文件 开始logstash的时候,新建一个 run_rabbitMQ.bat 批处理,内容是 logstash -f config_rabbitMQ.conf 运行 run_rabbitMQ.bat 批处理文件就行了 先在r ...
分类:
其他好文 时间:
2021-01-11 10:32:31
阅读次数:
0
需要通过 Kibana 导入Sample Data的电商数据。具体参考“2.2节-Kibana的安装与界面快速浏览” 需导入Movie测试数据,具体参考“2.4-Logstash安装与导入数据” #ignore_unavailable=true,可以忽略尝试访问不存在的索引“404_idx”导致的报 ...
分类:
其他好文 时间:
2020-12-31 12:29:54
阅读次数:
0
一、安装相应版本的logstash wget https://artifacts.elastic.co/downloads/beats/logstash/logstash-7.5.2-x86_64.rpm rpm -ivh logstash-7.5.2-x86_64.rpm 二、配置rsyslog接 ...
分类:
其他好文 时间:
2020-12-25 12:34:22
阅读次数:
0
参考图 简单说明 metrics以及log是组合监控的核心,log 的处理需要pg 实例配置相关的log 参数可以基于syslog 以及logstash 收集到 graylog,对于metrcis 的处理基于了telegraf(使用各类plugin,db,os。。。) 说明 pmm 也是一个不错的工 ...
分类:
其他好文 时间:
2020-12-25 11:47:16
阅读次数:
0
开始导数据之前考虑必须考虑清楚需要什么。1.导入数据需要读数据库JDBCConnector(因为这个是基于JAVA的)2.中间件工具Logstash(这个ES官网提供的)那么开始咯。试试看呀伐!把**JDBCforSQL**解压到D盘(我只是做个示范噢。)把Logstash解压到D盘。注意看下我的两个版本,我把我的数据库版本也贴出来,这样更直观。思路:Logstash来使用JDBC驱动连接sql数
分类:
数据库 时间:
2020-12-23 11:58:28
阅读次数:
0
ELK ELK是有Elastic(https://www.elastic.co/cn/)公司的三个组件配合进行日志收集,分别是: ElasticSearch:用于存储日志信息。 Logstash:用于收集、处理和转发日志信息。 Kibana:提供可搜索的Web可视化界面。 上面3个组件的关系,项目日 ...
分类:
编程语言 时间:
2020-12-22 12:09:59
阅读次数:
0