Hadoop進(jìn)階

在部署了hadoop的各個(gè)組件熟悉了控制臺(tái)命令行模式之后,下一步就是熟悉各組件的API了,這就涉及到在Windows環(huán)境下進(jìn)行編程。

Windows下使用Eclipse進(jìn)行開(kāi)發(fā)

打開(kāi)eclipse新建maven項(xiàng)目,添加依賴

<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-client</artifactId>
    <version>2.5.0</version>
</dependency>

測(cè)試HDFS的API時(shí)遇到問(wèn)題

ERROR util.Shell: Failed to locate the winutils binary in the hadoop binary path
java.io.IOException: Could not locate executable null\bin\winutils.exe in the Hadoop binaries.

這個(gè)錯(cuò)誤好像不影響后面代碼的運(yùn)行,但是影響美觀。這里有兩個(gè)點(diǎn):

  • 1、路徑最前面是null,說(shuō)明是HADOOP_HOME的問(wèn)題,所以需要在Windows上安裝hadoop,然后配置環(huán)境變量,也可以手動(dòng)在MapReduce程序里加上環(huán)境變量System.setProperty("hadoop.home.dir", "...")。
  • 2、winutils.exe這個(gè)文件默認(rèn)是沒(méi)有的,需要去網(wǎng)上下載之后放在hadoop的bin目錄下

hdfs API示例
mapreduce API

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容