數(shù)據(jù)分析 | MAC Big Sur搭建hadoop+spark環(huán)境


一、組件包下載

組件包名稱 下載鏈接 備注
Java
Hadoop hadoop-3.2.0.tar.gz
Spark spark-3.1.2-bin-hadoop3.2.tgz

二、安裝步驟

2.1 環(huán)境變量配置

vim .zsh_profilevim .bash_profile

變量名 變量值 備注
JAVA_HOME
HADOOP_HOME export HADOOP_HOME=/Users/ricsy/hadoop/hadoop
SPARK_HOME export SPARK_HOME=/Users/ricsy/hadoop/spark
PYSPARK_DRIVER_PYTHON jupyter
PYSPARK_DRIVER_PYTHON_OPTS notebook
PATH export PATH=${PATH}:${HADOOP_HOME}/bin:${SPARK_HOME}/bin

source .zsh_profilesource .bash_profile

2.2 安裝Hadoop

2.3 MAC設(shè)置

1、系統(tǒng)偏好設(shè)置 => 共享 => 遠(yuǎn)程登錄


三、使用步驟

1、command+空格輸入terminal后回車打開終端
2、執(zhí)行以下命令
pyspark

參閱:

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容