1、dropout一定在激活函數(shù)之后
2、問題在Batch Normalization在激活函數(shù)之后還是之前
兩種位置排列:
CONV / FC - > ReLu(或其他激活) - > Dropout - > BatchNorm - > CONV / FC
CONV / FC - > BatchNorm - > ReLu(或其他激活) - > Dropout - > CONV / FC
1、dropout一定在激活函數(shù)之后
2、問題在Batch Normalization在激活函數(shù)之后還是之前
兩種位置排列:
CONV / FC - > ReLu(或其他激活) - > Dropout - > BatchNorm - > CONV / FC
CONV / FC - > BatchNorm - > ReLu(或其他激活) - > Dropout - > CONV / FC