secret apiVersion: v1 data: password: MTIzNDU2 username: YWRtaW4= kind: Secret metadata: creationTimestamp: null name: my-secret configmap apiVersion: ...
分类：
其他好文 时间：
2020-12-21 10:56:00
阅读次数：
0
1、ELK部署 ELK是elasticsearch、kibana、Logstash组合而成的整套解决方案，前面我们使用skywalking时候已经部署好elasticsearch(参见上一篇随笔)，接下来只需要安装Logstash和kibana即可 1.1、安装kibana 前面使用的elastic ...
分类：
Web程序 时间：
2020-12-16 13:01:27
阅读次数：
10
0、题记实际业务场景中，会遇到基础数据存在Mysql中，实时写入数据量比较大的情景。迁移至kafka是一种比较好的业务选型方案。而mysql写入kafka的选型方案有：方案一：logstash_output_kafka插件。方案二：kafka_connector。方案三：debezium插件。方案四：flume。方案五：其他类似方案。其中：debezium和flume是基于mysqlbinlog实
分类：
数据库 时间：
2020-12-15 12:34:47
阅读次数：
9
题记来自Elasticsearch中文社区的问题——MySQL中表无唯一递增字段，也无唯一递增时间字段，该怎么使用logstash实现MySQL实时增量导数据到es中？logstash和kafka_connector都仅支持基于自增id或者时间戳更新的方式增量同步数据。回到问题本身：如果库表里没有相关字段，该如何处理呢？本文给出相关探讨和解决方案。1、binlog认知1.1啥是binlog？bin
分类：
数据库 时间：
2020-12-15 12:28:58
阅读次数：
5
题记关系型数据库Mysql/Oracle增量同步Elasticsearch是持续关注的问题，也是社区、QQ群等讨论最多的问题之一。问题包含但不限于：1、Mysql如何同步到Elasticsearch?2、Logstash、kafka_connector、canal选型有什么不同，如何取舍？3、能实现同步增删改查吗？.....本文给出答案。1、Canal同步1.1canal官方已支持Mysql同步E
分类：
数据库 时间：
2020-12-15 12:28:41
阅读次数：
4
收集TCP/UDP日志 通过logstash的tcp/udp插件收集日志，通常用于在向elasticsearch日志补录丢失的部分日志，可以将丢失的日志通过一个TCP端口直接写入到elasticsearch服务器。 1.配置Logstash #进入Logstash配置文件目录 [root@redis ...
分类：
其他好文 时间：
2020-12-15 11:48:37
阅读次数：
1
1.时间值中的小数秒MySQL的TIME、DATETIME和TIMESTAMP类型的值都支持小数秒，精度高达微秒（6位）：●要定义包含小数秒部分的列，请使用语法type_name(fsp)，其中type_name是TIME、DATETIME或TIMESTAMP，fsp是小数秒精度。例如：fsp值（如果给定）必须在0到6的范围内。值为0表示不存在小数部分。如果省略，则默认精度为0。（这和标准的SQL
分类：
数据库 时间：
2020-12-14 13:11:53
阅读次数：
3
1.TIMESTAMP和DATETIME的自动初始化和更新TIMESTAMP和DATETIME列可以自动初始化和更新为当前日期和时间（即当前时间戳）。对于表中的任何TIMESTAMP或DATETIME列，可以将当前时间戳指定为默认值、自动更新值或同时指定这两个值：●当向表中插入新的记录时，如果没有为自动初始化列指定值，该列会设置为当前时间戳。●当行中任何其他列的值更改时，自动更新列将自动更新为当前
分类：
数据库 时间：
2020-12-14 13:11:38
阅读次数：
3
1.日期和时间数据类型语法用于表示时间值的日期和时间数据类型是DATE,TIME,DATETIME,TIMESTAMP和YEAR。对于TIME,DATETIME和TIMESTAMP值，MySQL支持小数秒，精度可达微秒（6位数）。要定义包含小数秒部分的列，请使用语法type_name(fsp)，其中type_name是TIME、DATETIME或TIMESTAMP，fsp是小数秒精度。例如：fsp
分类：
数据库 时间：
2020-12-14 13:11:23
阅读次数：
3
在线安装： bin/logstash-plugin install logstash-filter-json_encode 这里可能会保一个mmap 的错误 Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00 ...
分类：
Web程序 时间：
2020-12-08 13:03:23
阅读次数：
15
