码迷,mamicode.com
首页 >  
搜索关键字:hdfs 读写    ( 21363个结果
【原创】Java并发编程系列17 | 读写锁八讲(上)
【原创】Java并发编程系列17|读写锁八讲(上)收录于话题#进阶架构师|并发编程专题12个点击上方“java进阶架构师”,选择右上角“置顶公众号”20大进阶架构专题每日送达写在前面本文为何适原创并发编程系列第17篇,文末有本系列文章汇总。通过以下几部分来分析Java提供的读写锁ReentrantReadWriteLock:为什么需要读写锁读写锁的使用DemoReentrantReadWriteL
分类:编程语言   时间:2020-11-24 12:50:31    阅读次数:5
重要 | Spark分区并行度决定机制
最近经常有小伙伴留言,核心问题都比较类似,就是虽然接触Spark有一段时间了,但是搞不明白一个问题,为什么我从HDFS上加载不同的文件时,打印的分区数不一样,并且好像spark.default.parallelism这个参数时不是一直起作用?其实笔者之前的文章已有相关介绍,想知道为什么,就必须了解S... ...
分类:其他好文   时间:2020-11-23 12:25:04    阅读次数:5
我要进大厂之大数据Hadoop HDFS知识点(1)
01 我们一起学大数据 老刘今天开始了大数据Hadoop知识点的复习,Hadoop包含三个模块,这次先分享出Hadoop中的HDFS模块的基础知识点,也算是对今天复习的内容进行一次总结,希望能够给想学大数据的同学一点帮助,也希望能够得到大佬们的批评和指点!(每个点都很重要,都不能忽视) 02 需谨记 ...
分类:其他好文   时间:2020-11-23 12:18:23    阅读次数:6
hdfs的写入过程和读取过程
hdfs的写入过程和读取过程 hdfs的写入过程 1、客户端(Client)发出请求(将请求发给namenode),要将大小为300M的a.txt文件上传到 根目录下(/a.txt) 2、namenode对收到的请求做出检测;检测1:所上传的路径下是否存在该文件,(即根目录下是否有a.txt),检测 ...
分类:其他好文   时间:2020-11-23 12:16:27    阅读次数:4
mysql的分区
第12章MySQL分区本章学习目标?理解分区的概念?了解分区的类型?了解分区管理MySQL从5.1版本开始支持分区的功能,分区是一种物理数据库设计技术,其主要目的是在特定的SQL操作中,通过减少数据读写的总量来缩减SQL语句的响应时间,同时对于应用来说分区完全是透明的,本章将对MySQL分区详细讲解。12.1分区概述12.1.1分区的概念MySQL数据库中的数据是以文件的形式存在磁盘上,默认放在/
分类:数据库   时间:2020-11-23 11:44:11    阅读次数:11
MapReduce
2. MAPREDUCE框架结构及核心运行机制 2.1 框架架构 一个完整的mapreduce程序在分布式运行时有三类实例进程:1、MRAppMaster(Mapreduce application master):负责整个程序的过程调度及状态协调2、MapTask:负责map阶段的整个数据处理流程 ...
分类:其他好文   时间:2020-11-21 12:15:54    阅读次数:6
Java7 新特性 —— java.nio.file 文件操作
本文部分摘自 On Java 8 自 Java7 开始,Java 终于简化了文件读写的基本操作,新增了 java.nio.file 库,通过与 Java8 新增的 stream 结合可以使得文件操作变得更加优雅 文件和目录路径 java.nio.file.Paths 类包含一个重载方法 static ...
分类:编程语言   时间:2020-11-21 12:14:46    阅读次数:15
redis集群
redis集群 一、概述 主从模式: 就是把数据库分为两类:主数据库和从数据库 特点: 主数据库可以进行读写操作,当读写操作导致数据变化时会自动将数据同步给从数据库 从数据库一般都是只读的,并且接受主数据库同步过来的数据 一个master可以拥有多个slave,但是一个slave只能对应一个mast ...
分类:其他好文   时间:2020-11-21 12:11:40    阅读次数:5
Python图像读写方法对比
训练视觉相关的神经网络模型时,总是要用到图像的读写。方法有很多,比如matplotlib、cv2、PIL等。下面比较几种读写方式,旨在选出一个最快的方式,提升训练速度。 实验标准 因为训练使用的框架是Pytorch,因此读取的实验标准如下: 1、读取分辨率都为1920x1080的5张图片(png格式 ...
分类:编程语言   时间:2020-11-19 12:58:15    阅读次数:23
Python实现文件读写,并添加异常处理
#写古诗到文件中f = open("gushi.txt","w",encoding="utf-8") #不加encoding="utf-8"文件会出现乱码f.write(''' 静夜思 李白窗前明月光,疑是地上霜。举头望明月,低头思故乡。 ''')f.close()#复制:先读出文件中内容,再写入新 ...
分类:编程语言   时间:2020-11-18 13:24:20    阅读次数:28
21363条   上一页 1 ... 29 30 31 32 33 ... 2137 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!