hadoop單機(jī),偽分布搭建運(yùn)行總結(jié)

1. hadoop的搭建

hadoop的搭建可參考文章 http://www.powerxing.com/install-hadoop/,文章比較完整且詳細(xì)的介紹了單機(jī)和偽分布的搭建。


2. mapreduce的學(xué)習(xí)

mapreduce程序的學(xué)習(xí),可參考官方的mapreduce tutorial。同樣附上鏈接http://hadoop.apache.org/docs/r2.8.3/hadoop-mapreduce-client/hadoop-mapreduce-client-core/MapReduceTutorial.html

(由于我本地裝的是hadoop2.8所以參考的是2.8系列的,別的版本可以參考別的對(duì)應(yīng)版本下的指導(dǎo)文檔)


3. 調(diào)試遇到的問(wèn)題總結(jié):

在調(diào)試2中的wordcount的程序的時(shí)候,遇到了兩個(gè)問(wèn)題吧。

(1).? ?Output directory hdfs://localhost:9000/output2 already exists

執(zhí)行命令?./bin/hadoop jar wc.jar WordCount2 /input1 /output2

之后提示??Exception in thread "main" org.apache.hadoop.mapred.FileAlreadyExistsException: Output directory hdfs://localhost:9000/output2 already exists

從報(bào)錯(cuò)信息可以看出輸出目錄output2已經(jīng)存在了。在hadoop執(zhí)行mapreduce的輸出路徑一定要先保證是不存在的,如果存在就會(huì)有這樣的問(wèn)題。刪除掉./bin/hadoop dfs -rm -r output2之后,就成功了。

(2).? ?Input path does not exist: hdfs://localhost:9000/input1

在執(zhí)行命令./bin/hadoop jar wc.jar WordCount2 /input1 /output2之后提示出了這樣的一個(gè)錯(cuò)誤。

使用./bin/hadoop dfs -ls查看確實(shí)存在了input1文件,那提示這樣的原因是什么呢?原來(lái)是命令的路徑前不用加 /,可能hdfs文件系統(tǒng)不需要加/吧。

所以命令改成?./bin/hadoop jar wc.jar WordCount2 input1 output2? 這樣再執(zhí)行后,成功。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 首先,我們?cè)谑褂们跋瓤纯碒DFS是什麼?這將有助于我們是以后的運(yùn)維使用和故障排除思路的獲得。 HDFS采用mast...
    W_Bousquet閱讀 4,474評(píng)論 0 2
  • 具體可以參考Hadoop官網(wǎng)http://hadoop.apache.org/docs/current/hadoo...
    pandaAnthony閱讀 1,210評(píng)論 0 4
  • 設(shè)置固定IP地址及網(wǎng)關(guān) 設(shè)置IP 設(shè)置網(wǎng)關(guān) 設(shè)置DNS 重啟網(wǎng)卡 測(cè)試網(wǎng)絡(luò) 設(shè)置主機(jī)名對(duì)應(yīng)IP地址 添加Hadoo...
    isgiker閱讀 1,975評(píng)論 0 1
  • 看到題目有沒(méi)有一種高大上的感覺(jué)?毛線,當(dāng)前是個(gè)人、是個(gè)公司都在說(shuō)自己搞大數(shù)據(jù),每天沒(méi)有幾個(gè)PB的數(shù)據(jù)入庫(kù),每天沒(méi)有...
    丁小晶的晶小丁閱讀 4,662評(píng)論 0 50
  • 自從參加親子課程后,慢慢踐行,在踐行過(guò)程中,有想法,不想再堅(jiān)持,有時(shí)自己也會(huì)懈怠、會(huì)放棄、憤怒,父母也是人...
    胡仙莉閱讀 661評(píng)論 0 1

友情鏈接更多精彩內(nèi)容