前置条件: (1)、安装了VMware (2)、安装了centos7,其他操作系统也可以 1、从官网jdk下载安装包 http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 我用的包名:j ...
分类:
系统相关 时间:
2020-06-21 20:28:49
阅读次数:
71
报错信息如下 [2020-06-21T17:19:49,618][INFO ][o.e.n.Node ] [xKxJzr3] starting ... [2020-06-21T17:19:49,948][INFO ][o.e.t.TransportService ] [xKxJzr3] publis ...
分类:
其他好文 时间:
2020-06-21 20:19:12
阅读次数:
52
描述: 之前我已经完成了使用ElasticSearch、kibana、filebeat、三个工具完成分布式集群收集 分布在各个ip地址上的微服务日志,这样就可以统一的在一个服务器上查看了所有的微服务产生的日志了,避免了一个个通过工具远程linux服务器去查看日志,极大提高了日志查看分析的效率了。当时 ...
分类:
其他好文 时间:
2020-06-21 15:45:49
阅读次数:
215
Beats介绍 Beats 是轻量型数据采集器,Beats 是一个免费且开放的平台,集合了多种单一用途数据采集器。它们从成百上千或成千上万台机器和系统向 Logstash 或 Elasticsearch 发送数据。 官网:https://www.elastic.co/cn/beats/ 文档:htt ...
分类:
其他好文 时间:
2020-06-21 13:39:09
阅读次数:
71
[root@localhost ~]# docker pull elasticsearch:7.8.0 安装elasticsearch:7.8.0[root@localhost ~]# docker pull kibana:7.8.0 安装安装elasticsearch:7.8.0版本对应的可视化工 ...
分类:
系统相关 时间:
2020-06-21 13:29:25
阅读次数:
170
想了解 ES 集群的底层原理,不再只关注业务层面了。 前置前提: 1、只有候选主节点(master:true)的节点才能成为主节点。 2、最小主节点数(min_master_nodes)的目的是防止脑裂。 这个我看了各种网上分析的版本和源码分析的书籍,云里雾里。 核对了一下代码,核心入口为 find ...
分类:
其他好文 时间:
2020-06-21 09:54:22
阅读次数:
96
解答:索引数据的规划,应在前期做好规划,正所谓“设计先行,编码在后”, 这样才能有效的避免突如其来的数据激增导致集群处理能力不足引发的线上客户 检索或者其他业务受到影响。 如何调优,正如问题 1 所说,这里细化一下: 3.1 动态索引层面 基于模板+时间+rollover api 滚动创建索引,举例 ...
分类:
其他好文 时间:
2020-06-20 21:10:53
阅读次数:
53
面试官:想了解应聘者之前公司接触的 ES 使用场景、规模,有没有做过比较大 规模的索引设计、规划、调优。 解答: 如实结合自己的实践场景回答即可。 比如:ES 集群架构 13 个节点,索引根据通道不同共 20+索引,根据日期,每日 递增 20+,索引:10 分片,每日递增 1 亿+数据, 每个通道每 ...
分类:
其他好文 时间:
2020-06-20 19:36:09
阅读次数:
80
这里的索引文档应该理解为文档写入 ES,创建索引的过程。 文档写入包含:单文档写入和批量 bulk 写入,这里只解释一下:单文档写入流程。 记住官方文档中的这个图。 第一步:客户写集群某节点写入数据,发送请求。(如果没有指定路由/协调节点, 请求的节点扮演路由节点的角色。)第二步:节点 1 接受到请 ...
分类:
其他好文 时间:
2020-06-20 11:38:43
阅读次数:
168
协调节点默认使用文档 ID 参与计算(也支持通过 routing),以便为路由提供合适的分片。 shard = hash(document_id) % (num_of_primary_shards) 1、当分片所在的节点接收到来自协调节点的请求后,会将请求写入到 Memory Buffer,然后定时 ...
分类:
其他好文 时间:
2020-06-20 11:24:13
阅读次数:
115