码迷,mamicode.com
首页 > 编程语言 > 详细

第一个在Python 环境中开发的Spark应用示例

时间:2015-06-22 06:31:49      阅读:162      评论:0      收藏:0      [点我收藏+]

标签:

# -*- coding:utf-8 -*-
‘‘‘
1, 从网站上下载spark
2, py4j和pyspark这两个库放到Python环境中,
‘‘‘
import os
os.environ[‘SPARK_HOME‘] = r‘E:\Dev\spark-1.4.0-bin-hadoop2.6‘
from pyspark import SparkContext, SparkConf

appName ="jhl_spark_1" #你的应用程序名称
#Master URLs, 参见http://spark.apache.org/docs/latest/submitting-applications.html#master-urls
master= "local" 
conf = SparkConf().setAppName(appName).setMaster(master)
sc = SparkContext(conf=conf)

data = [1, 2, 3, 4, 5]
distData = sc.parallelize(data)
res = distData.reduce(lambda a, b: a + b)
print (res)


第一个在Python 环境中开发的Spark应用示例

标签:

原文地址:http://my.oschina.net/cppblog/blog/469321

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!