Merge branch 'master' of github.com:heibaiying/BigData-Notes

This commit is contained in:
罗祥 2019-06-04 13:59:53 +08:00
commit b4399d8ab7

View File

@ -5,6 +5,7 @@
<a href="#二词频统计案例">二、词频统计案例</a><br/>
<a href="#三Scala开发环境配置">三、Scala开发环境配置</a><br/>
</nav>
## 一、安装Spark
### 1.1 下载并解压
@ -42,7 +43,7 @@ export PATH=${SPARK_HOME}/bin:$PATH
### 1.3 Local模式
Local 模式是最简单的一种运行方式,它采用单节点多线程(cpu)方式运行,不用部署,开箱即用,适合日常测试开发。
Local 模式是最简单的一种运行方式,它采用单节点多线程方式运行,不用部署,开箱即用,适合日常测试开发。
```shell
# 启动spark-shell
@ -64,9 +65,6 @@ val conf = new SparkConf().setAppName("Spark shell").setMaster("local[2]")
val sc = new SparkContext(conf)
```
同时从输出的日志也可以看出来Local模式还提供了对应的Web UI界面端口为4040。
## 二、词频统计案例