最近一段时间看了许多Hadoop性能优化相关的资料,于是花了点时间整理了一下,希望给正在苦于Hadoop集群性能问题的博友们一点建议吧。
1、Hadoop在存储有输入数据的节点上运行map任务,可以获得最佳性能,称为“数据本地化优化“,所以一般会设置最大分片的大小应该与块大小相同,如果分片跨越2个块的大小,必然要经过网络传输到不同的节点上读取数据。
2、适当的时候使用Combine函数。Com...
分类:
其他好文 时间:
2015-05-05 09:00:46
阅读次数:
195
题目传送:Palindrome
思路:一看题目思路很清晰,就是求出字符串s和倒转s后的字符串t的最长公共子序列,但是一看空间开销有点大,如果开int就会爆,5000*5000有100MB了,这里可以开short int,差不多正好可以过去,还有一种做法就是弄一个滚动数组,因为求LCS,根据状态转移方程可以知道,只需要前一行和当前行就行了,所以开个2*5005就OK了,具体看代码
...
分类:
其他好文 时间:
2015-05-05 09:00:35
阅读次数:
121
题目链接:http://acm.hust.edu.cn/vjudge/problem/viewProblem.action?id=17751
题目描述:求最近点对
题目分析:分治,(nlogn);
为什么,第二轮按排序:http://noalgo.info/793.html
代码:
//problem: zoj 2107 Quoit Design
//author: A...
分类:
其他好文 时间:
2015-05-05 09:00:46
阅读次数:
184
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#define INF 100000000
using namespace std;
struct node{
int b,p;
bool operator <(const node& a)con...
分类:
其他好文 时间:
2015-05-05 09:00:49
阅读次数:
132
Tomcat的组成部分
Tomcat容器的处理请求过程
servlet的生命周期
HttpServletRequest
HttpServletResponse...
分类:
其他好文 时间:
2015-05-05 08:57:49
阅读次数:
349
题目描述:
Given a binary tree, check whether it is a mirror of itself (ie, symmetric around its center).
For example, this binary tree is symmetric:
1
/ 2 2
/ \ / 3 4 4 3
...
分类:
其他好文 时间:
2015-05-05 08:58:49
阅读次数:
146
今天在手机上测试一个程序的时候无意间发现了一个kernel进程kmemleak,于是就认识了memleak。内存泄露是一个很严重的问题,特别是移动平台上面的开发,如果内存泄露不严重那么查起来的难度将会加大,有了这个小tool对我们的开发或多或少有些帮助。
关于MemLeak官方她自己已经描述得很清楚了,MemLeak -- a module to debug memory lea...
分类:
其他好文 时间:
2015-05-05 08:59:39
阅读次数:
1377
这一题,是简单的取尺法的应用。
题目大概的意思是:一个人复习一本书,这本书的每一页都有一个知识点ai,每一页的知识点可能会与其他页的知识点相同,问你如何读最少页,将所以知识点读完。
使用STL中的 set 来判断里面有多少个不同的知识点num, 用STL中的 map 表示知识点与出现次数的映射。
同样的设置知识点数sum,页数的起点和终点s和t。首先将知识点的数组a 加入map中,直到sum...
分类:
其他好文 时间:
2015-05-05 09:00:06
阅读次数:
203
Dungeon Master
Time Limit: 1000MS
Memory Limit: 65536K
Total Submissions: 18773
Accepted: 7285
Description
You are trapped in a 3D dungeon and need to find the quicke...
分类:
其他好文 时间:
2015-05-05 08:59:24
阅读次数:
118
题目传送:Common Subsequence
思路:LCS
AC代码:
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#define LL long long
#define INF...
分类:
其他好文 时间:
2015-05-05 08:58:24
阅读次数:
167
Hardwood Species
Time Limit: 10000MS
Memory Limit: 65536K
Total Submissions: 20085
Accepted: 7911
Description
Hardwoods are the botanical group of trees that have bro...
分类:
其他好文 时间:
2015-05-05 08:59:24
阅读次数:
144
Necklace of Beads
Time Limit: 1000MS
Memory Limit: 10000K
Total Submissions: 7061
Accepted: 2942
Description
Beads of red, blue or green colors are connected together...
分类:
其他好文 时间:
2015-05-05 08:59:13
阅读次数:
179
代码实现:
import java.io.IOException;
import java.io.InputStream;
import java.io.OutputStream;
import java.io.PrintWriter;
import javax.servlet.ServletContext;
import javax.servlet.ServletEx...
分类:
其他好文 时间:
2015-05-05 08:56:52
阅读次数:
187
Shuffle'm Up
Time Limit: 1000MS
Memory Limit: 65536K
Total Submissions: 6625
Accepted: 3105
Description
A common pastime for poker players at a poker table is to shuf...
分类:
其他好文 时间:
2015-05-05 08:56:03
阅读次数:
101
循环的功能是:当测试表达式的条件为真时,重复执行表达式后面的语句。循环常常被用来对记录中的每个字段重复执行某种操作,或者在END块中用来循环处理某个数组中的所有元素。awk有3种类型的循环:while 循环、for循环和特殊for循环。
1. while循环
使用while循环的第一步是给一个变量设初值,然后在while表达式中测试该变量。如果求得表达式的值为真(非0),则进入循环体执...
分类:
其他好文 时间:
2015-05-05 08:58:10
阅读次数:
139
Prime Path
Time Limit: 1000MS
Memory Limit: 65536K
Total Submissions: 12974
Accepted: 7342
Description
The ministers of the cabinet were quite upset by the message fr...
分类:
其他好文 时间:
2015-05-05 08:57:28
阅读次数:
324
这一题,主要是快速求幂的方法的应用。
可以看看快速求幂方法的原理:http://blog.csdn.net/qq_25425023/article/details/44316463
题目的大概意思是:
输入两个数p,a,p为素数,则直接输出no,否则判断a^p % p == a?等于就yes,不等于就no。
理解了题目的意思,就很容易了。
下面的是AC代码:
#include ...
分类:
其他好文 时间:
2015-05-05 08:57:17
阅读次数:
212