欢迎访问 生活随笔!

生活随笔

当前位置: 首页 > 运维知识 > Ubuntu >内容正文

Ubuntu

ubuntu 14.04下spark简易安装

发布时间:2025/7/25 Ubuntu 85 豆豆
生活随笔 收集整理的这篇文章主要介绍了 ubuntu 14.04下spark简易安装 小编觉得挺不错的,现在分享给大家,帮大家做个参考.

java安装

首先需要上oracle的网站下载

在lib目录下建立一个jvm文件夹

  • sudo mkdir /usr/lib/jvm
  • 然后解压文件到这个文件夹

  • sudo tar zxvf jdk-8u40-linux-i586.tar.gz -C /usr/lib/jvm
  • 进入解压文件夹

  • cd /usr/lib/jvm
  • 然后为了方便改个名字
    sudo mv jdk1.8.0_40 java

    打开配置文件

  • sudo gedit ~/.bashrc
  • 加入以下设置

  • export JAVA_HOME=/usr/lib/jvm/java
  • export JRE_HOME=${JAVA_HOME}/jre  
  •     export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib  
  •     export PATH=${JAVA_HOME}/bin:$PATH
  • 使之生效:

  • source ~/.bashrc
  • 完成

    安装spark

    下载prebuild的spark安装包

    解压

  • tar -xzf spark-1.2.0-bin-hadoop2.4.tgz
  • 然后其实这个时候spark的python模式就可以使用了。只要cd进去运行bin目录下的pyspark就可以了。但是我们下面要做的就是链接和选择一个好些的位置存放文件

    链接

    先把文件岁半换个地方放

  • sudo mv spark-1.2.1-bin-hadoop2.4 /srv/
  • 然后设个链接

  • sudo ln -s /srv/spark-1.2.1-bin-hadoop2.4/ /srv/spark
  • 再修改下~/.bash_profile就可以了

  • export SPARK_HOME=/srv/spark
  • export PATH=$SPARK_HOME/bin:$PATH
  • 完成

    命令行直接执行pyspark



    来自为知笔记(Wiz)

    转载于:https://www.cnblogs.com/MrLJC/p/4355417.html

    总结

    以上是生活随笔为你收集整理的ubuntu 14.04下spark简易安装的全部内容,希望文章能够帮你解决所遇到的问题。

    如果觉得生活随笔网站内容还不错,欢迎将生活随笔推荐给好友。