目前几乎很多大型网站及应用都是分布式部署的,分布式场景中的数据一致性问题一直是一个比较重要的话题。分布式的CAP理论告诉我们“任何一个分布式系统都无法同时满足一致性(Consistency)、可用性(Availability)和分区容错性(Partition tolerance),最多只能同时满足两 ...
分类:
其他好文 时间:
2019-01-15 19:05:19
阅读次数:
222
大多数互联网系统都是分布式部署的,分布式部署确实能带来性能和效率上的提升,但为此,我们就需要多解决一个分布式环境下,数据一致性的问题。 当某个资源在多系统之间,具有共享性的时候,为了保证大家访问这个资源数据是一致的,那么就必须要求在同一时刻只能被一个客户端处理,不能并发的执行,否者就会出现同一时刻有 ...
分类:
其他好文 时间:
2019-01-15 14:03:04
阅读次数:
138
在.NetCore中默认使用DataProtection来保护数据,例如Cooike等。一般情况下DataProtection生成的密钥会被加密后存储,例如默认的文件存储 可以看到使用了Windows DPAPI加密。 但是如果更改默认设置例如使用的外部存储如redis则此时密钥默认是不加密的 微软 ...
分类:
Web程序 时间:
2019-01-12 17:58:34
阅读次数:
152
项目应用实现分布式部署 不关心硬件细节。 mesos 分布式文件系统 excutor(调度器) -> master(选举只有一个Master 还有被的standby.master) -> slave(执行任务)->若干个task(跑的一个个实例) marthon 通过application实例 自动 ...
分类:
其他好文 时间:
2019-01-11 20:14:37
阅读次数:
180
环境及版本: Centos7 (64位) JDK(1.8) hadoop(3.1) hbase(2.0.0) 为了避免版本导致的怪异问题,请多多注意! 在已经装好jdk和hadoop之后装hbase,此hadoop和hbase为分布式的 1.解压hbase2.0.0 2./bin/hbase-env ...
分类:
其他好文 时间:
2019-01-11 20:08:07
阅读次数:
201
1.SparkCore的核心功能 (1)SparkContext: 通常而言,DriverApplication的执行与输出都是通过SparkContext完成的,在正式提交Application之前,首先需要初始化SparkContext。SparkContext隐藏了网络通信、分布式部署、消息通信、存储能力、计算能力、缓存、测量系统、文件服务、web服务等内容。
分类:
其他好文 时间:
2019-01-02 21:41:45
阅读次数:
194
概述 在分布式部署的情况下,每台tomcat 都会有自己的session ,这样如果 用户A 在tomcat1 下登录,在tomcat2 下并没有session信息。如果 tomcat1宕机,tomcat2 将会变成非登录状态。可以将tomcat的session信息放到 redis上,通过redis ...
分类:
其他好文 时间:
2018-12-29 23:27:31
阅读次数:
252
目前市面上很多网站及应用都是分布式部署的,分布式场景中,数据一致性问题一直都是比较重要的话题。在单机环境中,Java提供了很多方法去处理多线程并发方面的情况,例如synchronized,ReentrantLock,ReentrantReadWriteLock等等,而在分布式场景中,这些API就无能 ...
分类:
其他好文 时间:
2018-12-27 00:29:02
阅读次数:
154
一 环境准备 1.1 基础环境 ntp配置:略 #建议配置ntp服务,保证时间一致性 etcd版本:v3.3.9 防火墙及SELinux:关闭防火墙和SELinux 名称 地址 主机名 备注 etcd1 172.24.8.71 etcd1.example.com 用于保存相关IP信息 docker0 ...
分类:
其他好文 时间:
2018-12-25 20:04:01
阅读次数:
190
一、背景 在电商系统中,库存的概念一定是有的,例如配一些商品的库存,做商品秒杀活动等,而由于库存操作频繁且要求原子性操作,所以绝大多数电商系统都用Redis来实现库存的加减,最近公司项目做架构升级,以微服务的形式做分布式部署,对库存的操作也单独封装为一个微服务,这样在高并发情况下,加减库存时,就会出 ...
分类:
其他好文 时间:
2018-12-20 14:24:20
阅读次数:
250