1. 基本原理 2.x版本中,HDFS架构解决了单点故障问题,即引入双NameNode架构,同时借助共享存储系统来进行元数据的同步,共享存储系统类型一般有几类,如:Shared NAS+NFS、BookKeeper、BackupNode 和 Quorum Journal Manager(QJM),上 ...
分类:
其他好文 时间:
2019-12-12 12:57:17
阅读次数:
87
本来我一直想搭建一个hadoop分布式平台,没有高性能机器,也没有那么多机器,搞很很久,都没有能搞定。但基于docker,5-10min轻易搞定。 感谢大神KiwenLau的分享,网址是https://kiwenlau.com/2016/06/12/160612-hadoop-cluster-doc ...
分类:
其他好文 时间:
2019-12-12 11:37:41
阅读次数:
89
简述 在文本语义相似度等句子对的回归任务上,BERT , RoBERTa 拿到sota。 但是,它要求两个句子都被输入到网络中,从而导致巨大开销:从10000个句子集合中找到最相似的sentence-pair需要进行大约5000万个推理计算(约65小时)。 BERT不适合语义相似度搜索,也不适合非监 ...
分类:
Web程序 时间:
2019-12-11 23:26:27
阅读次数:
801
Squares and rectangles fascinated the famous Dutch painter Piet Mondriaan. One night, after producing the drawings in his 'toilet series' (where he ha ...
分类:
其他好文 时间:
2019-12-11 21:51:08
阅读次数:
113
哈希表结构 哈希表是由数组+链表组成的,首先有一个数组,数组的每一个位置都用来存储一个链表,链表的基本节点为:【hash值,key值,value值,next】,当存入一个键值对时,首先调用hashcode()方法获得key的hashcode,然后通过算法计算出hash值,当不同的key取到相同的ha ...
分类:
编程语言 时间:
2019-12-11 13:12:42
阅读次数:
70
nutanix@NTNX-XXXX-A-CVM:IP:~$ncchealth_checksrun_all#####################################TIMESTAMP:12/11/201911:11:51AM####################################ncc_version:3.8.0.1-e1c40011clusterid:4371306
分类:
其他好文 时间:
2019-12-11 12:49:48
阅读次数:
147
https://sqlserver.code.blog/2019/12/10/different-ag-groups-have-the-exactly-same-group_id-value-if-the-group-names-are-same-and-the-cluster_type-exter ...
分类:
其他好文 时间:
2019-12-11 09:33:11
阅读次数:
72
推荐学习材料:中华石杉公众号和B站视频; 分布式ID: 1)生成方式有几种,优缺点对比;UUID/snowFlake/ 分布式缓存: 1)缓存架构? 2)Redis,AOP、cluster方案 3)真正支撑高并发及高可用的复杂系统中缓存架构是? 如何让redis集群支撑几十万QPS高并发+99.99 ...
分类:
其他好文 时间:
2019-12-11 00:43:19
阅读次数:
128
一,redis集群介绍 Redis cluster(redis集群)是在版本3.0后才支持的架构,和其他集群一样,都是为了解决单台服务器不够用的情况,也防止了主服务器宕机无备用服务器,多个节点网络互联数据共享,所有节点都是一主一从(也可以一主多从),其中不提供服务,只做为备份,emmm我就不多说废话 ...
1.官网 https://hadoop.apache.org/docs/r3.1.2/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html 2.namenode支持3个及3个以上的namenode,官方建议3个,journa ...
分类:
其他好文 时间:
2019-12-10 17:12:56
阅读次数:
109