使用零拷贝对文件高效的切片和合并 对文件的切片/合并在应用中是一个很常见的需求,使用 FileChannel的 transferTo / transferFrom 的零拷贝方法(需要操作系统支持),可以高效的完成。 切片 /** * 对文件按照指定大小进行分片,在文件所在目录生成分片后的文件块儿 * ...
分类:
其他好文 时间:
2020-07-01 12:19:31
阅读次数:
70
##一、消费者消费原理 在实际生产过程中,每个topic都会对对应多个partitions,好处如下: 能够对 broker 上的数据进行分片有效减少了消息的容量从而提升 io 性能 为了提高消费端的消费能力,一般会通过多个consumer 去消费同一个 topic #####Q1. 在开启多个co ...
分类:
其他好文 时间:
2020-06-26 18:44:03
阅读次数:
62
1、搜索被执行成一个两阶段过程,我们称之为 Query Then Fetch; 2、在初始查询阶段时,查询会广播到索引中每一个分片拷贝(主分片或者副本分 片)。 每个分片在本地执行搜索并构建一个匹配文档的大小为 from + size 的 优先队列。 PS:在搜索的时候是会查询 Filesystem ...
分类:
其他好文 时间:
2020-06-26 12:47:39
阅读次数:
95
在微服务架构中,随着服务的逐步拆分,数据库私有已经成为共识,这也导致所面临的分布式事务问题成为微服务落地过程中一个非常难以逾越的障碍,但是目前尚没有一个完整通用的解决方案。 其实不仅仅是在微服务架构中,随着用户访问量的逐渐上涨,数据库甚至是服务的分片、分区、水平拆分、垂直拆分已经逐渐成为较为常用的提 ...
分类:
其他好文 时间:
2020-06-25 15:24:03
阅读次数:
54
一,shardingjdbc的用途 1,官方站介绍: Apache ShardingSphere 是一套开源的分布式数据库中间件解决方案组成的生态圈, 它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款相互独立,却又能够混合部署配合使用的产品组成。 它们均提供标准化的数据分片、分布式 ...
分类:
数据库 时间:
2020-06-24 20:09:19
阅读次数:
224
1)、Redis Sentinal 着眼于高可用,在 master 宕机时会自动将 slave 提升为 master,继续提供服务。 2)、Redis Cluster 着眼于扩展性,在单个 redis 内存不足时,使用 Cluster 进行 分片存储。 ...
分类:
其他好文 时间:
2020-06-24 19:39:46
阅读次数:
89
前言前几天由于工作的原因一直没怎么看私信,昨天在整理私信的时候看到了一个粉丝给我疯狂私信想要我帮忙整理一份大厂面经,说自己工作也有几年了想跳槽冲刺一下,但是不知道该怎么做好前期准备。我看到这个粉丝也是挺执着的,一直在给我私信,也是花了两天时间把之前几个朋友的跳槽面试经历和经验整理了一下,具体干货都给大家放在下面了!准备敲定了方向和目标后就开始系统准备,主要分为以下几个方面来准备。算法题事先已经看过
分类:
其他好文 时间:
2020-06-22 19:16:05
阅读次数:
241
https://www.jianshu.com/p/8848f6a802b1 SuSE上运行MyCat(二):配置单点MyCat 目标 通过本文操作,搭建静态结构如下图的一个MyCat集群。为了节省资源,3个物理库都将存放在同一个MySQL实例当中。 部署MySQL节点 创建分片节点(库) CREA ...
分类:
其他好文 时间:
2020-06-22 15:18:29
阅读次数:
50
前面已经介绍过,水平分库是把同一个表的数据按一定规则拆到不同的数据库中,每个库可以放在不同的服务器上。接下来看一下如何使用Sharding-JDBC实现水平分库,咱们继续对快速入门中的例子进行完善。 (1)将原有order_db库拆分为order_db_1、order_db_2 (2)分片规则修改 ...
分类:
数据库 时间:
2020-06-21 16:25:30
阅读次数:
70
基本概念 在了解Sharding-JDBC的执行原理前,需要了解以下概念: 逻辑表 水平拆分的数据表的总称。例:订单数据表根据主键尾数拆分为10张表,分别是 t_order_0 、 t_order_1 到 t_order_9 ,他们的逻辑表名为 t_order 。 真实表 在分片的数据库中真实存在的 ...
分类:
数据库 时间:
2020-06-21 00:55:20
阅读次数:
140