用户行为日志分析是实时数据处理很常见的一个应用场景，比如常见的PV、UV统计。本文将基于Flink从0到1构建一个用户行为日志分析系统，包括架构设计与代码实现。本文分享将完整呈现日志分析系统的数据处理链路，通过本文，你可以了解到：基于discuz搭建一个论坛平台Flume日志收集系统使用方式Apache日志格式分析Flume与Kafka集成日志分析处理流程架构设计与完整的代码实现项目简介本文分享会
分类：
其他好文 时间：
2020-09-11 16:03:01
阅读次数：
41
corePoolSizevs.maxPoolSize#原创liululee锅外的大佬3月6日点击左上角蓝字，关注“锅外的大佬”专注分享国外最新技术内容1.概览Spring中的ThreadPoolTaskExecutor是一个JavaBean，提供围绕java.util.concurrent.ThreadPoolExecutor的抽象实例，并作为Spring中org.springframework.
分类：
其他好文 时间：
2020-09-03 16:52:56
阅读次数：
37
本篇文章主要是手把手教你搭建ELK实时日志分析平台，那么，ELK到底是什么呢？ELK是三个开源项目的首字母缩写，这三个项目分别是：Elasticsearch、Logstash和Kibana。Elasticsearch是一个搜索和分析引擎。Logstash是服务器端数据处理管道，能够同时从多个来源采集数据，转换数据，然后将数据发送到诸如Elasticsearch等存储库中。Kibana则可以让用户在
分类：
其他好文 时间：
2020-08-28 11:57:17
阅读次数：
289
数据预处理 在正式处理数据之前对收集的数据进行预先处理的操作。 原因：不管通过何种手段收集的数据 往往是不利于直接分析的 数据中存在的格式规整的差异。 目的：把不干净的数据 格式不规则的数据 通过预处理清洗变成格式统一规整的结构化数据 技术：MapReduce 预处理的编程思路问题 在使用mr编程的 ...
分类：
Web程序 时间：
2020-08-10 17:26:02
阅读次数：
80
0、题记日志分析是ELK最常用、最核心业务场景之一。如果你正在使用ElasticStack并且正尝试将自定义Logstash日志映射到Elasticsearch，那么这篇文章适合你。Logstash写入ES之前的中间数据处理过程一般叫做：数据ETL或者数据清洗。本文重点介绍数据清洗环节的非结构数据转化为结构化数据的——Grok实现。1、认知前提老生常谈，夯实基础认知。ELKStack是三个开源项目
分类：
其他好文 时间：
2020-07-31 01:06:57
阅读次数：
77
0、问题引出经群讨论，建议从以下几个方面展开，大家有好的想法，也欢迎留言交流。1、可视化展示ELK效果如果条件允许，demo的内容是：通过logstash同步日志或数据库（oracle、mysql）表的数据到Elasticsearch，然后通过kibana进行可视化。1通过Canvas对数据进行可视化布局与展现，可以实现非常酷炫的大屏展示效果。2展示实时数据的数据量。3展示你定的几个维度的数据信息
分类：
其他好文 时间：
2020-07-31 01:05:26
阅读次数：
101
配置日志收集系统 ELK需求背景：业务发展越来越庞大，服务器越来越多各种访问日志、应用日志、错误日志量越来越多，导致运维人员无法很好的去管理日志开发人员排查问题，需要到服务器上查日志，不方便运营人员需要一些数据，需要我们运维到服务器上分析日志为什么要用到ELK：1.一般我们需要进行日志分析场景：直接 ...
分类：
其他好文 时间：
2020-07-27 15:45:28
阅读次数：
63
nginx官网 http://nginx.org windows安装nginx 安装包下载路径 http://nginx.org/en/download.html 选择nginx-windows版下载 nginx-1.18.0.zip 解压到当前目录，进入nginx-1.18.0 启动服务 直接启动 ...
什么是正则表达式？ 一套规则，匹配字符串的 能做什么 检测一个输入的字符串是否合法 ——web开发项目 表单验证 用户输入一个内容的时候，我们要提前做检测 能够提高程序的效率并且减轻服务器的压力 从一个大文件中找到所有符合规则的内容——日志分析，爬虫 能够有效的从一大段文字中快速找到符合规则的内容 ...
分类：
其他好文 时间：
2020-07-19 00:44:23
阅读次数：
121
慢查询分析工具【mysqldumpslow】 常用的慢查询日志分析工具 汇总除查询条件外其他完全相同的SQL，并将分析结果按照参数中所指定的顺序输出 语法： mysqldumpslow -s r -t 10 slow-mysql.log -s order(c,t,l,r,at,al,ar) c:总次 ...
分类：
数据库 时间：
2020-07-09 00:59:37
阅读次数：
223
