下图是HDFS的架构: 从上图中可以知道,HDFS包含了NameNode、DataNode以及Client三个角色,当我们的HDFS没有配置HA的时候,那还有一个角色就是SecondaryNameNode,这四个角色都是基于JVM之上的Java进程。既然是Java进程,那我们肯定可以调整这四个角色使 ...
分类:
其他好文 时间:
2019-09-08 20:20:22
阅读次数:
444
lwip 使用 pbuf 数据结构 进行收发数据。 pbuf 数据结构分四种类型 :(参考<<LwIP 应用开发实战指南>>第6章 网络数据包) LWIP 内存配置 和 内存 使用 什么 关系那? 1、PBUF_RAM类型的pbuf 空间是通过动态内存堆(heap)分配而来 2、PBUF_POOL ...
分类:
其他好文 时间:
2019-09-06 23:12:33
阅读次数:
271
-Xmx 最大堆 -Xms 最小堆 -Xmn 年轻代大小 -XXSurvivorRation 代表Eden :Survivor 比值 一般根据对象的生存周期将堆内存分为若干不同的区域,一般情况将新生代分为Eden ,两块Survivor; —————————————————————————————— ...
分类:
其他好文 时间:
2019-07-16 15:24:06
阅读次数:
99
一、什么影响了数据库查询速度1.1影响数据库查询速度的四个因素1.2风险分析QPS:QueriesPerSecond意思是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。TPS:是TransactionsPerSecond的缩写,也就是事务数/秒。它是软件测试结果的测量单位。客户机在发送请求时开始计时,收到服务器响应后结束计时,以此
分类:
数据库 时间:
2019-06-19 10:02:33
阅读次数:
170
原标题:蜡炬教育:如何处理机器学习中大型数据的加载问题?蜡炬教育老师表示,在处理机器学习算法时,经常会因为数据库太大而导致无法放入内存中,而遇到这样几个问题:当运行数据集算法而导致崩溃时如何解决?当需要处理大容量数据文件时该如何加载?如何方便快捷的解决内存不足的问题?针对以上问题,蜡炬教育老师给出7个建议:1.分配更多内存某些ML工具或数据库默认内存配置不合理,可以看看是否可以手动分配。2.使用较
分类:
其他好文 时间:
2019-05-29 13:06:13
阅读次数:
120
1. 常规性能调优 一:最优资源配置 Spark性能调优的第一步,就是为任务分配更多的资源,在一定范围内,增加资源的分配与性能的提升是成正比的,实现了最优的资源配置后,在此基础上再考虑进行后面论述的性能调优策略。 --driver-memory 配置Driver内存(影响不大) 内存大小影响不大 资 ...
分类:
其他好文 时间:
2019-04-26 09:24:02
阅读次数:
106
用top命令查看系统占用内存的情况 top -p $(pidof mongod),发现mongod占用了8G内存的35.6%。在服务器上运行两个mongod进程,很容易导致mongod异常退出。 一度以为是C++程序发生内存泄漏导致了系统异常崩溃,现在可以肯定是由mongod配置的内存占用太高导致的 ...
分类:
数据库 时间:
2019-04-23 21:12:36
阅读次数:
735
一键搭建dhcpd服务脚本 使用Windows客户端查看dhcp-client端获取地址正常 ...
分类:
系统相关 时间:
2019-04-14 12:33:56
阅读次数:
140
1.Windows版Redis疯狂占用C盘空间的解决方案! 2.redis.windows.conf各项配置参数介绍 3.Redis内存配置参数 4.redis内存限制管理 maxmemory配置详解5. 5.redis中的maxmemory ...
分类:
其他好文 时间:
2019-02-28 22:48:55
阅读次数:
193
一、内存优化 默认情况下Tomcat的相关内存配置较低,这对于一些大型项目显然是不够用的,这些项目运行就已经耗费了大部分内存空间,何况大规模访问的情况。在并发达到一定程度后也会抛出以下类似异常: 说明Tomcat已经无力支持访问处理,内部GC也已经“无能无力”。所以一般情况下我们需要重新配置Tomc ...
分类:
其他好文 时间:
2019-02-21 16:13:52
阅读次数:
151