Tensorflow分布式簡單實(shí)踐

之前在公司的項(xiàng)目用了tf的分布式,但是效率一直很低,經(jīng)過一些簡單的調(diào)試也沒有解決問題。還是得把基礎(chǔ)概念一一搞清,才能有針對性地解決問題。所以開始看《Hands On Machine Learning with Scikit Learn and TensorFlow》里的相關(guān)章節(jié),并做下記錄。

單機(jī)多卡

分布式可以理解為把計算分配到多個設(shè)備上,并讓他們協(xié)同工作。最簡單的模式就是在一臺機(jī)器上的多個設(shè)備。

tensorflow分配計算單元的默認(rèn)規(guī)則就是優(yōu)先分配到GPU0上(如果沒有GPU就是CPU0),如果用戶設(shè)定了條件就按用戶的設(shè)定放置。

未完待續(xù)...

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

友情鏈接更多精彩內(nèi)容