Spark SQL加载数据
SparkSQl 数据输入输入输出主要是DataFrame,DataFrame提供了一些通用的load和save操作。
通过load可以创建出DataFrame;通过save可以将DataFrame数据保存到文件中或者说以具体的格式来指明要读取的文件是什么格式或者输出的数据是什么格式;直接读取 文件的指定类型:
SQLContext源码:
load 和sa...
分类:
数据库 时间:
2016-05-13 01:11:30
阅读次数:
350
for_each()算法非常灵活,允许不同方式访问、处理、修改每一个元素。UnaryProcfor_each(InputIterator beg, InputIterator end, UnaryProc op)1、 对区间[beg, end)中每一个元素调用:op(elem)2、 返回op的一个拷贝(副本),自C++11起,返回的op已被改动过
3、 op可以改动元素。
4、 op的任...
分类:
编程语言 时间:
2016-05-13 01:13:57
阅读次数:
239
在我看来,Spark编程中的action算子的作用就像一个触发器,用来触发之前的transformation算子。transformation操作具有懒加载的特性,你定义完操作之后并不会立即加载,只有当某个action的算子执行之后,前面所有的transformation算子才会全部执行。常用的action算子如下代码所列:(java版)
package cn.spark.study.core;i...
分类:
编程语言 时间:
2016-05-13 01:14:30
阅读次数:
218
排序在各次面试的过程中问道的次数不少,冒泡排序和快速排序尤多。因此做一些总结,尤其是代码部分。
1. 冒泡排序
(1)思想
在一组数中,对当前未排好序的数,自上而下地对相邻的两个数依次进行比较和调整,让较大的数往下沉,较小的数往上冒。
(2)复杂度
平均情况-O(n^2)
最坏情况-O(n^2)(逆序有序)
最好情况-O(n)(正序有序)
空间复杂度-O(1)
(3)稳定...
分类:
编程语言 时间:
2016-05-13 01:14:13
阅读次数:
275
类ReentrantLock具有完全互斥排他的效果,即同一时间只有一个线程在执行ReentrantLock.lock()方法后面的任务。这样做虽然保证了实例变量的线程安全性,但效率却是非常低下的。所以在JDK中提供了一种读写锁ReentrantReadWriteLock类,使用它可以加快运行效率,在某些不需要操作实例变量的方法中,完全可以使用读写锁ReentrantReadWriteLock来提升...
分类:
编程语言 时间:
2016-05-13 01:12:59
阅读次数:
202
TCP数据传输(三)...
分类:
其他好文 时间:
2016-05-13 01:13:50
阅读次数:
252
点击打开链接http://acm.fzu.edu.cn/problem.php?pid=2180
#include
#include
#include
typedef struct{
int x;
int y;
}Move;
Move move[8]={{1,2},{1,-2},{-1,2},{-1,-2},{2,1},{2,-1},{-2,1},{-2,-1}};...
分类:
其他好文 时间:
2016-05-13 01:13:37
阅读次数:
237
本篇将介绍SpringMVC请求参数传递的几种方式。1、RequestParam注解@RequestMapping("/login")
public String login(@RequestParam(value="username", required=true) String username, @RequestParam(value="password", required=true...
分类:
编程语言 时间:
2016-05-13 01:12:09
阅读次数:
262
idea开发系列教程(-)-创建maven webapp项目可能大家在学习web的时候使用最多就是myeclipse和eclipse,我也是,我个人比较喜欢myeclipse,因为他会自加载xmlcatlog,eclipse貌似不会,每次我都得自己配置本地,但是作为向web进军的学习者,我们止步于ide的限制,作为开发者,我们不应该纠结于那种工具最好,那种是坨屎,我们应该关注的我们需要的功能,所以,...
分类:
Web程序 时间:
2016-05-13 01:12:10
阅读次数:
259
1.java.io.File基本的API
File(String)
long length()
long lastModified()
String getName()
String getPath()
boolean exists()
boolean dir.isFile()
boolean dir.isDirectory()
boolean mkdir()//创建一个目录...
分类:
编程语言 时间:
2016-05-13 01:11:24
阅读次数:
232
System.Timers.Timer是多线程定时器,如果一个Timer没有处理完成,到达下一个时间点,新的Timer同样会被启动,所以在使用Timer时需要注意。下面的实例显示了Timer的使用方法。using System;
using System.Threading;
using System.Windows;namespace TimerExp
{
/// ...
分类:
编程语言 时间:
2016-05-13 01:10:48
阅读次数:
205
正则还可以这样匹配。。。
geeksquiz 网站提供代码题,可用于自测一门语言的掌握情况,今天做python有了有趣的发现——原来正则还可以这样写>>>
sentence = 'cats are fast'
regex = re.compile('(?P\w+) (?P\w+) (?P\w+)')
matched = re.search(regex, sentence)
prin...
分类:
编程语言 时间:
2016-05-13 01:09:48
阅读次数:
276
自动引用计数(Automatic Reference Counting)简称ARC,是Swift对应用程序内存的跟踪和管理。跟Java里面的Gc类似,但是又不太一样。
ARC是实例的引用数为0,ARC就会销毁这个实例。
GC是当程序不能访问这个实例,称为该实例”不可达的”,GC就会负责回收这些”不可达的”的实例,回收算法很复杂,Java规范对GC的很多行为都没有进行严格的规定,不同的厂商在各自实...
分类:
编程语言 时间:
2016-05-13 01:11:24
阅读次数:
190
首先搭建好struts2的开发环境,先新建一个下载的页面
My JSP 'download.jsp' starting page
下载
在WebRoot下面建立一个download文件夹。里面放一个1.txt文件
之后再新建一个DownloadAction类,然后查看struts2的文档得知进行文件...
分类:
其他好文 时间:
2016-05-13 01:11:20
阅读次数:
98
原题:http://acm.hdu.edu.cn/showproblem.php?pid=2732
#include
#include
#include
#include
#include
#include
#define inf 1e9
using namespace std;
const int maxn = 850;
const int maxm = 200000;
int cas...
#1299 : 打折机票
时间限制:10000ms
单点时限:1000ms
内存限制:256MB
描述
因为思念新宿的"小姐姐"们,岛娘计划6月份再去一趟东京,不过这次看来她需要自掏腰包。经过了几天的夜战,岛娘终于在体力耗尽之前,用Python抓下了所有6月份,上海至东京的全部共 n 张机票。现在请你帮助债台高筑的岛娘筛选出符合时间区间要求的...
分类:
其他好文 时间:
2016-05-13 01:10:22
阅读次数:
166
本例只能用于查看比较简单的网页,像是现在jsp开发的网页有很多地方时无法显示的,但这种程序还是值得学习一下的
package cn.hncu.url;
import java.util.Date;
import java.text.SimpleDateFormat;
import java.awt.event.*;
import javax.swing.*;
import javax.swin...
分类:
编程语言 时间:
2016-05-13 01:09:12
阅读次数:
224