2019-08-08工作總結(jié)

1. 遇到的問題:?

? ? 現(xiàn)象: eii有6條數(shù)據(jù)符合撈數(shù)條件,但是沒有被撈出來. 也沒有日志, 也沒有修改痕跡.?

? ? 根因:? partition分區(qū)異常時,? 第二次跑會重新查數(shù)據(jù), 同時,為了支持異常重跑,會記錄異常點, 但是異常點的記錄只記錄分區(qū)和第幾條異常;? 當(dāng)?shù)诙萎惓V嘏苤匦虏閿?shù)據(jù)時,如果第一次改變了狀態(tài)的字段, 是partition的where條件字段, 則會導(dǎo)致兩次partition的撈取數(shù)據(jù)量不一致, 從而導(dǎo)致異常點錯位.?

? ? 解決辦法: 保證partitioner的where條件中, 沒有程序會修改的字段即可 .?

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容