首先,目标是写个python脚本,跑spark程序来统计hdfs中的一些数据。参考了别人的代码,故用了luigi框架。 至于luigi的原理 底层的一些东西Google就好。本文主要就是聚焦快速使用,知其然不知其所以然。 python写Spark或mapreduce还有其他的方法,google上很多 ...
分类:
编程语言 时间:
2017-06-12 23:50:03
阅读次数:
399
C10K问题: 网络服务在处理数以万计的客户端连接时,往往出现效率底下甚至完全瘫痪,这被成为C10K问题。 (C10K = connection 10 kilo 问题)。k 表示 kilo,即 1000 比如:kilometer(千米), kilogram(千克)。 非阻塞I/O,最关键的部分是 r ...
分类:
其他好文 时间:
2017-06-12 23:49:54
阅读次数:
196
Contains Duplicate Given an array of integers, find if the array contains any duplicates. Your function should return true if any value appears at lea ...
分类:
其他好文 时间:
2017-06-12 23:49:44
阅读次数:
259
刚接触openfire的配置就出现了这个错误。解决方法非常easy,忘记了将openfire的源文件加入到user entries中了 ...
分类:
其他好文 时间:
2017-06-12 23:49:36
阅读次数:
197
Description 辉辉热衷于洞穴勘测。某天,他按照地图来到了一片被标记为JSZX的洞穴群地区。经过初步勘测,辉辉发现这片区域由n个洞穴(分别编号为1到n)以及若干通道组成,并且每条通道连接了恰好两个洞穴。假如两个洞穴可以通过一条或者多条通道按一定顺序连接起来,那么这两个洞穴就是连通的,按顺序连 ...
分类:
其他好文 时间:
2017-06-12 23:49:27
阅读次数:
221
class A; 类成员: 1.函数成员 构造函数:一种特殊的成员函数,不能声明为const 的 常量指针this:this类型为“A *const”,总是指向调用成员函数的“这个”对象; const成员函数:用于修改隐式this指针的类型,修改后this指针类型为“const A *const”。 ...
分类:
编程语言 时间:
2017-06-12 23:49:17
阅读次数:
230
参考 https://rustdt.github.io/ https://github.com/RustDT/RustDT/blob/latest/documentation/UserGuide.md#user-guide https://stackoverflow.com/questions/33 ...
分类:
系统相关 时间:
2017-06-12 23:49:11
阅读次数:
597
记录命令历史我们敲过的命令,linux是会有记录的,预设可以记录1000条历史命令。这些命令保存在用户的家目录中的.bash_history文件中。有一点需要你知道的是,只有当用户正常退出当前shell时,在当前shell中运行的命令才会保存至.bash_history文件中。与命令历史有关的有一个有..
分类:
系统相关 时间:
2017-06-12 22:40:31
阅读次数:
299
在Linux中,为了方便这些权限,可以使用数字去代替rwx,具体规则为:r=4,w=2,x=1,-=0;举例:“-rwxrwx---”用数字表示就是770;具体是这样来的:rwx=4+2+1=7;rwx=4+2+1=7;---=0+0+0=0.chmod语法:chmod[-R]xyz文件名(这里的xyz表示数字)-R选项作用同chown的-R选项,表示级联更..
分类:
其他好文 时间:
2017-06-12 22:40:24
阅读次数:
150
部署ip分配nginx192.168.1.5主机192.168.1.6备机浮动ip192.168.1.7首先设置浮动ip(主备机器都要设置)打开网卡eth0配置好网络参数复制eth0为eth0:1修改vimeth0:1NAME=eth0:1DEVICE=eth0:1IPADDR=192.168.1.7开启转发echo"1">/proc/sys/net/ipv4/ip_forward修改/etc/sysctl...
分类:
其他好文 时间:
2017-06-12 22:40:11
阅读次数:
203
Flume+Kafka整合一、准备工作准备5台内网服务器创建Zookeeper和Kafka集群服务器地址:192.168.2.240192.168.2.241192.168.2.242192.168.2.243192.168.2.244服务器系统:Centos6.564位下载安装包Zookeeper:http://apache.fayea.com/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6...
分类:
Web程序 时间:
2017-06-12 22:40:05
阅读次数:
277
第三方插件Internet Explorer 具有在浏览器窗口内呈现若干种不同文件类型的功能。例如,Internet Explorer 能够在浏览器窗口内呈现 Microsoft Word 文档文件,而无需用户打开 Word 应用程序本身。第三方也可以使用此功能向 Internet Explorer ...
分类:
其他好文 时间:
2017-06-12 22:39:56
阅读次数:
217
语法:passwd[username]等创建完账户后,默认是没有设置密码的。虽然没有密码,但该账户同样登录不了系统。只有设置好密码后才可以登录系统。在为用户创建密码时,安全起见,请尽量设置复杂一些。建议按照以下规则设置密码:(1)长度大于10个字符;(2)密码中包含大小写字母..
分类:
其他好文 时间:
2017-06-12 22:39:49
阅读次数:
293
function xmlToJson(xml) { // Create the return object var obj = {}; if (xml.nodeType == 1) { // element // do attributes if (xml.attributes.length > 0... ...
分类:
编程语言 时间:
2017-06-12 22:39:40
阅读次数:
145
活动说明:挨踢部落是为核心开发者提供深度技术交流,解决开发需求,资源共享的服务社群。基于此社群,我们邀请了业界技术大咖对开发需求进行一对一突破,解除开发过程中的绊脚石。以最专业、最高效的答复为开发者解决开发难题。话题关键词:大数据来源/数据安全/云计算/Linux..
分类:
其他好文 时间:
2017-06-12 22:39:33
阅读次数:
202
1.Redis简介Redis是一个开源软件项目(BSD许可),用ANSIC编写,适用于大多数的POSIX系统,是一个可用作数据库、缓存和消息代理的内存数据库。Redis是一个非关系型数据库,Redis可以存储键与五种不同数据结构类型之间的映射,这五种类型分别为:字符串、列表、集合、有序集合和..
分类:
其他好文 时间:
2017-06-12 22:39:24
阅读次数:
229
先决条件DockerEE要安装DockerEnterpriseEdition(DockerEE),您需要知道与您的试用或订阅相关联的DockerEE存储库URL。要获取此信息:转到https://store.docker.com/?overlay=subscriptions。在CentOS的DockerEnterpriseEdition中选择“获取详细信息/安装说明”部分。从标记为..
分类:
其他好文 时间:
2017-06-12 22:39:15
阅读次数:
266