1、日志平台的工作流程多个独立的agent(Shipper)负责收集不同来源的数据,一个中心agent(Indexer)负责汇总和分析数据,在中心agent前的Broker(使用redis实现)作为缓冲区,中心agent后的ElasticSearch用于存储和搜索数据,前端的Kibana提供丰富的图表展示。Shipper表示日志收集..
分类:
其他好文 时间:
2015-08-14 17:18:40
阅读次数:
668
Elasticsearch 的基本信息大致如图所示,这里就不具体介绍了。本次分享主要包含两个方面的实战经验:索引性能和查询性能。一. 索引性能(Index Performance)首先要考虑的是,索引性能是否有必要做优化?索引速度提高与否?主要是看瓶颈在什么地方,若是 Read DB(产生DOC)的...
分类:
其他好文 时间:
2015-08-14 15:12:50
阅读次数:
313
ElasticSearch的安装 http://www.elasticsearch.org/下载最新的ElastiSearch版本。 解压下载文件。 cd到${esroot}/bin/,执行elasticsearch启动。 使用curl -XPOST localhost:9200/_shutdown关闭ES。 插件安装(h...
分类:
其他好文 时间:
2015-08-13 20:38:13
阅读次数:
154
目录1.Java1.7版本JDK的安装2.Elasticsearch的安装和简介a.安装b.es存储数据的结构简介3.Elasticsearch常用插件head的安装4.数据从Mysql导入Elasticsearcha.Elasticsearch-river-jdbc插件安装b.建立自定义mapping的elasticsearch索引5.Elasticsearch-sql插件安装6.自定义PHP版..
分类:
其他好文 时间:
2015-08-13 20:30:50
阅读次数:
143
为了搞清楚elastic search背后是如何计算文档搜索时候的相关度,我决定自己做实验去探索
这篇博客讲得还不错
http://blog.csdn.net/dm_vincent/article/details/42099063
而博客本身也只是翻译了官方文档
https://www.elastic.co/guide/en/elasticsearch/guide/current/scori...
分类:
其他好文 时间:
2015-08-13 01:12:19
阅读次数:
216
这里我们使用和之前完全相同的测试数据,来测试 elasticsearch 存储时间序列的表结构选择问题。 一个点一个doc的表结构 同样我们以最简单的表结构开始。在elasticsearch中,先要创建index,然后index下有mapping...
分类:
其他好文 时间:
2015-08-12 20:00:13
阅读次数:
262
es的mapping设置很关键,mapping设置不到位可能导致索引重建。如何更好的设置mapping? 请看下面各个类型介绍^_^ core types 每一个JSON字段可以被映射到一个特定的核心类型。JSON本身已经为我们提供了一些输入,...
分类:
移动开发 时间:
2015-08-12 17:11:37
阅读次数:
206
当我们使用中文分词器的时候,其实也希望它能够支持对于英文的分词。试想,任何一个存储文字的字段都有可能是中英文夹杂的。
我们的项目中使用IKAnalyzer作为中文分词器,它在处理文档过程中遇到英文时,利用空格和标点将英文单词取出来,同时也会对其转全小写处理。其实这和真正的英文分词已经很接近了,只有一墙之隔:词干提取。一个真正的英文分词器除了...
分类:
其他好文 时间:
2015-08-12 13:18:15
阅读次数:
1638
Marvel几乎是所有Elasticsearch用户的标配。以前我常用bigdesk来做ES集群的监控,直到项目需要上线时,方感觉到marvel才是想要的:它可以把观测值和重要事件记录下来!当出问题时打开bigdesk已经迟了,因为我们往往想知道过去的两小时发生了什么造成现在的情况。marvel则不同,它时刻保留观测数据。
Marvel保留观测数据的代价是,它默认每天会新建一个index...
分类:
其他好文 时间:
2015-08-11 18:40:56
阅读次数:
2749
elasticsearch的config文件夹里面有两个配置文件:elasticsearch.yml和logging.yml,第一个是es的基本配置文件,第二个是日志配置文件,es也是使用log4j来记录日志的,所以logging.yml里的设置按普通log4j配置文件...
分类:
其他好文 时间:
2015-08-11 16:28:33
阅读次数:
447