發(fā)簡(jiǎn)信
IP屬地：浙江
-
2021 BDCI 華為零售商品識(shí)別競(jìng)賽一等獎(jiǎng)方案分享
【GiantPandaCV導(dǎo)語(yǔ)】上學(xué)期快結(jié)束的時(shí)候參加了華為和CCF組織的零售商品識(shí)別的比賽，隊(duì)伍名稱為GiantPandaCV隊(duì)，比賽大約持續(xù)...
-
當(dāng)可變形注意力機(jī)制引入Vision Transformer
【GiantPandaCV導(dǎo)語(yǔ)】通過(guò)在Transformer基礎(chǔ)上引入Deformable CNN中的可變性能力，在降低模型參數(shù)量的同時(shí)提升獲取...
-
CoAtNet: 90.88% Paperwithcode榜單第一，層層深入考慮模型設(shè)計(jì)
【GiantPandaCV導(dǎo)語(yǔ)】CoAt=Convolution + Attention，paperwithcode榜單第一名，通過(guò)結(jié)合卷積與T...
-
CeiT：訓(xùn)練更快的多層特征抽取ViT
【GiantPandaCV導(dǎo)語(yǔ)】來(lái)自商湯和南洋理工的工作，也是使用卷積來(lái)增強(qiáng)模型提出low-level特征的能力，增強(qiáng)模型獲取局部性的能力，核心...
-
BoTNet:Bottleneck Transformers for Visual Recognition
【GiantPandaCV導(dǎo)語(yǔ)】基于Transformer的骨干網(wǎng)絡(luò)，同時(shí)使用卷積與自注意力機(jī)制來(lái)保持全局性和局部性。模型在ResNet最后三個(gè)...
-
CvT: 如何將卷積的優(yōu)勢(shì)融入Transformer
【GiantPandaCV導(dǎo)語(yǔ)】與之前BoTNet不同，CvT雖然題目中有卷積的字樣，但是實(shí)際總體來(lái)說(shuō)依然是以Transformer Block...
-
CNN、Transformer、MLP架構(gòu)的經(jīng)驗(yàn)性分析
A Battle of Network Structures: An Empirical Study of CNN, Transformer, ...
-
知識(shí)蒸餾綜述：代碼整理
【GiantPandaCV導(dǎo)語(yǔ)】收集自RepDistiller中的蒸餾方法，盡可能簡(jiǎn)單解釋蒸餾用到的策略，并提供了實(shí)現(xiàn)源碼。 1. KD: Kn...
-
知識(shí)蒸餾綜述:網(wǎng)絡(luò)結(jié)構(gòu)搜索應(yīng)用
【GiantPandaCV導(dǎo)語(yǔ)】知識(shí)蒸餾將教師網(wǎng)絡(luò)中的知識(shí)遷移到學(xué)生網(wǎng)絡(luò)，而NAS中天然的存在大量的網(wǎng)絡(luò)，使用KD有助于提升超網(wǎng)整體性能。兩者結(jié)...