码迷,mamicode.com
首页 > 其他好文 > 详细

elasticsearch使用BulkProcessor批量入库数据

时间:2019-10-10 23:01:03      阅读:259      评论:0      收藏:0      [点我收藏+]

标签:使用   因此   批量   http   size   丢失   测试   roc   last   

在解决es入库问题上,之前使用过rest方式,经过一段时间的测试发现千万级别的数据会存在10至上百条数据的丢失问题,

在需要保证数据的准确性的场景下,rest方式并不能保证结果的准确性,因此采用了elasticsearch的BulkProcessor方式来进行数据入库,

实际上采用es客户端不同,rest方式采用的是restClient,基于http协议,BulkProcessor使用的是TransportClient,基于Tcp协议。

 

 



原文链接:https://blog.csdn.net/wslyk606/article/details/79413980

elasticsearch使用BulkProcessor批量入库数据

标签:使用   因此   批量   http   size   丢失   测试   roc   last   

原文地址:https://www.cnblogs.com/Allen-rg/p/11650770.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!