原文：Going deeper with convolutions

大賽往年冠軍

GoogLeNet 在使用更深網(wǎng)絡的同時，通過 1x1 卷積以及 Global Average Pooling盡可能的使模型的參數(shù)數(shù)量減少，主要考慮了未來在邊緣設備中對于能耗和內(nèi)存的考慮，較少的參數(shù)意味著更低的能耗和更少內(nèi)存消耗。

Inception 模塊的主要思想是將前層的 feature map 通過不同尺度的卷積核進行卷積（也可能是下采樣），再將多路的輸出匯總后作為當前層的輸出發(fā)送給下一層：

完整網(wǎng)絡結構

GoogLeNet

1x1 卷積

作用：

1. 降維或升維
2. 跨通道信息交融
3. 減少參數(shù)量
4. 增加模型深度，提高非線性表示能力

示意圖如下：

1x1卷積核卷積過程

Global Average Pooling

針對每個通道求平均進行池化

Inception 模塊

由多尺度的卷積處理 堆疊在一起。

原始版本和優(yōu)化版本

后者通過 1x1 卷積進行升維和降維，能夠有效地降低參數(shù)量。

用密集的模塊去近似出局部最優(yōu)的稀疏結構

Hebbian principle

赫布學習法則：'neurons that fire together， wire together'。神經(jīng)元之間的突觸“用進廢退”

體系結構

GoogLeNet incarnation of the Inception architecture

輔助分類器

促進更快收斂，損失函數(shù)系數(shù) 0.3