Hadoop開發(fā)學(xué)習(xí)-hdfs

hdfs的下載機(jī)制

hdfs中:
1.主節(jié)點(namdnode)負(fù)責(zé)存儲元數(shù)據(jù),即為目標(biāo)數(shù)據(jù)的路徑

  1. 從節(jié)點(datanode)負(fù)責(zé)存儲真實數(shù)據(jù),通過checkpoint機(jī)制在經(jīng)過一定時間之后,向主節(jié)點更新只身路徑

步驟1,通過主節(jié)namenode中的元數(shù)據(jù),找到要下載文件塊block所在的服務(wù)器。


下載.png

步驟2,挑選一臺datanode(就近原則,然后隨機(jī))服務(wù)器,請求建立socket流--->用于傳遞具體的信息


下載2.png

步驟3,datanode開始發(fā)送數(shù)據(jù),在服務(wù)器端的本地磁盤中讀出數(shù)據(jù),以packet的形式進(jìn)行校驗


下載3.png

步驟4,客戶端本地進(jìn)行接受,以packet為基本單位,先存儲在本地緩存中,在存入本地文件


下載4.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容