プーリングの操作
特徴マップを小さな領域(例えば2×2)に区切り、各領域を1つの値にまとめて縮小する操作です。最大値プーリングは領域の最大値、平均値プーリングは平均を取ります。領域「[3, 8; 1, 5]」なら最大値プーリングで8、平均値プーリングで4.25です。
役割
- 計算量とパラメータの削減(後続の層の入力が小さくなる)
- 不変性の獲得: 最も強く反応した位置の値だけを残すため、特徴が領域内で少しずれても出力が変わらず、位置のずれに強くなる
畳み込み層と異なり、プーリング層には学習するパラメータがありません。近年はストライド付き畳み込みで代用するモデルもあります。
グローバルアベレージプーリング(GAP)
CNNの最終段で、各チャネルの特徴マップ全体の平均を1つの値にまとめ、全結合層の代わりに使う手法です。パラメータ数を大幅に減らし、過学習を抑えられます。GoogLeNet以降の多くのモデルで採用され、CAMによる可視化にも利用されます。
試験で問われる観点
- 最大値・平均値プーリングの計算
- 不変性の獲得の意味
- プーリング層はパラメータを持たない
- GAPは全結合層の代替でパラメータ削減