说起ELK相信大家都不陌生,他可不是一个软件,是三个软件 logstash,elasticsearch,Kibana 组成的可以打造大规模日志实时处理的系统。 Elasticsearch 是一个基于 Lucene 的、支持全文索引的分布式存储和索引引擎,主要负责将日志索引并存储起来,方便业务方检索查 ...
分类:
其他好文 时间:
2020-07-26 15:54:23
阅读次数:
71
下载地址:https://www.elastic.co/cn/downloads/past-releases#elasticsearch ELK的主版本号需要统一:ElasticSearch-5.5 + Logstash-5.5 + Kibana-5.5 安装ElasticSearch 在安装 El ...
分类:
其他好文 时间:
2020-07-26 15:38:49
阅读次数:
69
1. 简要介绍 HBase 是一个开源的非关系型分布式数据库(NoSQL),它参考了谷歌的 BigTable 建模,实现的编程语言为 Java。它是 Apache 软件基金会的 Hadoop 项目的一部分,运行于 HDFS 文件系统之上,为 Hadoop 提供类似于 BigTable 规模的服务,可 ...
分类:
其他好文 时间:
2020-07-26 01:59:15
阅读次数:
89
mysql时间转换和事务 涉及的函数 date_format(date, format) 函数,MySQL日期格式化函数date_format() unix_timestamp() 函数 str_to_date(str, format) 函数 from_unixtime(unix_timestamp ...
分类:
数据库 时间:
2020-07-25 23:30:39
阅读次数:
136
概念解析 垂直分片 按照业务拆分的方式称为垂直分片,又称为纵向拆分,它的核心理念是专库专用。 在拆分之前,一个数据库由多个数据表构成,每个表对应着不同的业务。而拆分之后,则是按照业务将表进行归类,分布到不同的数据库中,从而将压力分散至不同的数据库。 下图展示了根据业务需要,将用户表和订单表垂直分片到 ...
分类:
编程语言 时间:
2020-07-25 23:27:14
阅读次数:
84
时间格式转换 日期格式→Unix时间戳 转10位Unix时间戳 数据:2020-07-23 15:01:13 Presto:select to_unixtime(cast('2020-07-23 15:01:13' as timestamp)) Hive:select unix_timestamp( ...
分类:
其他好文 时间:
2020-07-24 16:10:55
阅读次数:
181
#时间戳格式改为YYYY-mm-DD hh:MM:ss df['pdate']=pd.to_datetime(df['Timestamp'],unit='s') #从日期中快速取出月份 df_group=df.groupby([df["pdate"].dt.month,"Rating"])["Use ...
分类:
其他好文 时间:
2020-07-23 23:15:48
阅读次数:
126
报错 SQL Error(1067):Invalid default value for ‘sys_create’ 原因 mysql5.6以后才支持datetime默认为CURRENT_TIMESTAMP,之前的不支持 解决方案 方案1.把DEFAULT CURRENT_TIMESTAMP改为DEF ...
分类:
数据库 时间:
2020-07-23 22:45:51
阅读次数:
80
-- 创建函数CREATE OR REPLACE FUNCTION "upd_timestamp"()RETURNS TRIGGER AS $$BEGIN NEW.update_time = now(); -- updated_time 为自动更新的字段,如果你创建字段的时候有带双引号,该字段也需带 ...
分类:
数据库 时间:
2020-07-23 15:53:27
阅读次数:
175
Logstash logstash基于JRuby实现,可以跨平台运行在JVM上 优点 主要的优点就是它的灵活性,这还主要因为它有很多插件。然后它清楚的文档已经直白的配置格式让它可以再多种场景下应用。这样的良性循环让我们可以在网上找到很多资源,几乎可以处理任何问题。 劣势 Logstash 致命的问题 ...
分类:
其他好文 时间:
2020-07-23 01:53:50
阅读次数:
171