spark1.4 Windows local调试环境如何搭建

55次阅读

共计 1258 个字符，预计需要花费 4 分钟才能阅读完成。

丸趣 TV 小编给大家分享一下 spark1.4 Windows local 调试环境如何搭建，相信大部分人都还不怎么了解，因此分享这篇文章给大家参考一下，希望大家阅读完这篇文章后大有收获，下面让我们一起去了解一下吧！

spark1.4 Windows local 调试环境搭建总结

1.scala 版本 scala-2.10.4 官方推荐 scala-2.11.7【不推荐，非 sbt 项目、需要后加载】

2.spark 版本 spark-1.4.0-bin-hadoop2.6.tgz

3.hadoop 3.1 版本 hadoop-2.6.0.tar.gz 3.2 环境变量 HADOOP_HOME=E:/ysg.tools/spark/hadoop-2.6.0 或 System.setProperty(hadoop.home.dir , E:\ysg.tools\spark\hadoop-2.6.0 3.3winutils.exe

winutils.exe 拷贝至 spark/hadoop-2.6.0/bin

文件下载地址 http://files.cnblogs.com/files/yjmyzz/hadoop2.6%28×64%29V0.2.zip

4.idea 新建 NO-SBT 项目

libraties  增加  scala sdk 
spark-1.4.0-bin-hadoop2.6\lib\spark-assembly-1.4.0-hadoop2.6.0.jar

spark.test.iml 先加载 spark-assembly-1.4.0-hadoop2.6.0 再加载 scala-sdk-2.11.7

?xml version= 1.0  encoding= UTF-8 ? 
 module type= JAVA_MODULE  version= 4 
  component name= NewModuleRootManager  inherit-compiler-output= true 
  exclude-output / 
  content url= file://$MODULE_DIR$ 
  sourceFolder url= file://$MODULE_DIR$/src  isTestSource= false  / 
  /content 
  orderEntry type= inheritedJdk  / 
  orderEntry type= sourceFolder  forTests= false  / 
  orderEntry type= library  name= spark-assembly-1.4.0-hadoop2.6.0  level= project  / 
  orderEntry type= library  name= scala-sdk-2.11.7  level= project  / 
  /component 
 /module

以上是“spark1.4 Windows local 调试环境如何搭建”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注丸趣 TV 行业资讯频道！

正文完