5.3 KiB
Spark开发环境搭建
一、安装Spark
1.1 下载安装包
官网下载地址:http://spark.apache.org/downloads.html
因为Spark常常和Hadoop联合使用,所以下载时候需要选择Spark版本和对应的Hadoop版本后再下载

1.2 解压安装包
# tar -zxvf spark-2.2.3-bin-hadoop2.6.tgz
1.3 配置环境变量
# vim /etc/profile
添加环境变量:
export SPARK_HOME=/usr/app/spark-2.2.3-bin-hadoop2.6
export PATH=${SPARK_HOME}/bin:$PATH
使得配置的环境变量生效:
# source /etc/profile
1.4 Local模式
Local 模式是最简单的一种运行方式,它采用单节点多线程(cpu)方式运行,不用部署,开箱即用,适合日常测试开发。
# 启动命令
spark-shell --master local[2]
- local:只启动一个工作线程;
- local[k]:启动k个工作线程;
- local[*]:启动跟cpu数目相同的工作线程数。
采用这种模式创建后,你会进入Scala交互式命令行,并且程序已经自动创建了SparkContext,即Spark的应用上下文,等效于执行了下面的Scala代码:
val conf = new SparkConf().setAppName("Spark shell").setMaster("local[2]")
val sc = new SparkContext(conf)
同时从输出的日志也可以看出来,Local模式还提供了对应的Web UI界面,端口为4040。
二、词频统计案例
安装完成后可以先做一个简单的词频统计例子,感受spark的魅力。准备一个词频统计的文件样本wc.txt,内容如下:
hadoop,spark,hadoop
spark,flink,flink,spark
hadoop,hadoop
在scala交互式命令行中执行如下Scala语句:
val file = spark.sparkContext.textFile("file:///usr/app/wc.txt")
val wordCounts = file.flatMap(line => line.split(",")).map((word => (word, 1))).reduceByKey(_ + _)
wordCounts.collect
执行过程如下:

可以通过spark shell web-ui可以查看作业的执行情况,访问端口为4040

三、Scala开发环境配置
Spark是基于Scala语言进行开发的,分别提供了基于Scala、Java、Python语言的API,如果你想使用Scala语言进行开发,则需要搭建Scala语言的开发环境。
2.1 前置条件
首先Scala的运行依赖于Java环境,目前最新的Scala 2.12.x要求你必须安装JDK 1.8或以上版本。
2.2 安装Scala插件
首先需要安装Scala插件,使得IDEA支持scala语言的开发。打开 IDEA,依次点击File => settings=> plugins选项卡,搜索Scala插件(如下图)。找到插件后进行安装,并重启IDEA使得安装生效。

2.3 创建Scala项目
在IDEA中依次点击 File => New => Project选项卡,然后选择创建Scala—IDEA工程:

2.4 下载Scala SDK
1.方式一
此时看到Scala SDK为空,依次点击Create
=> Download
,选择所需的版本后,点击OK
按钮进行下载,下载完成点击Finish
进入工程。

2.方式二
方式一是Scala官方安装指南里使用的方式,但下载速度可能会比较慢,且这种安装下并没有直接提供Scala命令行工具。所以个人推荐使用方式二进行安装。
这里我的系统是Windows,下载msi版本的安装包后,一直点击下一步安装即可,安装完成后会自动配置好环境变量。

由于安装时已经自动配置好环境变量,所以IDEA会自动选择对应版本的SDK。

2.5 创建Hello World
在工程 src
目录上右击New => Scala class.创建Hello.scala
。输入代码如下,完成后点击运行按钮,成功运行则代表搭建成功。

2.6 切换Scala版本
在日常的开发中,由于对应Spark的版本切换,可能导致需要切换Scala的版本,则可以在Project Structures
中的Global Libraries
选项卡中进行切换。
