G検定 › Web参考書 › 第5章

プーリング層(最大値プーリング、平均値プーリング、GAP、不変性の獲得)

第5章 ディープラーニングの要素技術 / 節 4

シラバスのキーワード: 最大値プーリング平均値プーリンググローバルアベレージプーリング (GAP)不変性の獲得

本文を読んだあと、覚えているか確認してください。

プーリングの操作

特徴マップを小さな領域(例えば2×2)に区切り、各領域を1つの値にまとめて縮小する操作です。最大値プーリングは領域の最大値、平均値プーリングは平均を取ります。領域「[3, 8; 1, 5]」なら最大値プーリングで8、平均値プーリングで4.25です。

役割

畳み込み層と異なり、プーリング層には学習するパラメータがありません。近年はストライド付き畳み込みで代用するモデルもあります。

グローバルアベレージプーリング(GAP)

CNNの最終段で、各チャネルの特徴マップ全体の平均を1つの値にまとめ、全結合層の代わりに使う手法です。パラメータ数を大幅に減らし、過学習を抑えられます。GoogLeNet以降の多くのモデルで採用され、CAMによる可視化にも利用されます。

試験で問われる観点

この節の練習問題(5問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    プーリング層の役割の説明として、最も適切なものを選びなさい。
    1. 1特徴マップの小領域ごとに最大値や平均値を取って縮小することで、計算量を減らし、位置の小さなずれに対する不変性を獲得する。学習するパラメータは持たない
    2. 2カーネルを入力上でスライドさせながら積和演算を行い、エッジや模様などの局所的な特徴を抽出する。カーネルの重みは学習によって更新されるパラメータである
    3. 3ミニバッチごとに各チャネルの平均と分散で入力を正規化することで、学習を安定させ収束を速める。スケールとシフトのための学習パラメータを持つ
    4. 4前の層のすべての出力を結合して重み付き和を計算し、クラスごとのスコアを出力する。層の間のすべての結合に対応する重みを学習パラメータとして持つ
    答えと解説

    正解: 1

    プーリング層は、2×2などの領域ごとに最大値(最大値プーリング)や平均値(平均値プーリング)を取って特徴マップをダウンサンプリングします。これにより計算量が減り、対象が少し動いても出力が変わりにくい位置不変性が得られます。重みのような学習パラメータは持ちません。カーネルの学習は畳み込み層、正規化はバッチ正規化、クラス分類の出力は全結合層の役割です。

  2. 問2
    CNNの最終段で、各チャネルの特徴マップ全体の平均を1つの値にまとめ、全結合層の代わりに使うことでパラメータ数を大幅に減らし過学習を抑える手法として最も適切なものを選びなさい。
    1. 1バッチノーマライゼーション(BN)
    2. 2グローバルアベレージプーリング(GAP)
    3. 3グローバルマックスプーリング(GMP)
    4. 4空間ピラミッドプーリング(SPP)
    答えと解説

    正解: 2

    グローバルアベレージプーリングは、特徴マップの空間方向すべてを平均して、チャネル数と同じ長さのベクトルにする操作です。全結合層に比べてパラメータがなく、入力画像のサイズに依存しない利点があり、GoogLeNetやResNetなど多くのモデルで採用されています。グローバルマックスプーリングは平均ではなく最大値を取る操作、空間ピラミッドプーリングは複数の分割サイズで領域ごとにプーリングする手法、バッチノーマライゼーションは層の入力を正規化する別の目的の手法です。

  3. 問3
    プーリング層と畳み込み層の違いとして、最も適切なものを選びなさい。
    1. 1プーリング層は特徴マップを元の画像と同じサイズまで拡大する役割を持ち、畳み込み層はフィルタで特徴マップを縮小する役割を持つため、両者は交互に配置される
    2. 2プーリング層は全結合層の別名で、畳み込み層で抽出した特徴を統合してクラス分類の出力に変換するため、畳み込み層より多くのパラメータを学習する
    3. 3プーリング層には学習するパラメータがなく、決められた演算(最大値や平均値)で特徴マップを縮小するのに対し、畳み込み層はフィルタの重みを学習する
    4. 4プーリング層はフィルタの重みを学習して特徴マップを縮小するのに対し、畳み込み層には学習するパラメータがなく、決められた演算(最大値や平均値)で特徴を抽出する
    答えと解説

    正解: 3

    プーリング層は最大値や平均値といった固定の演算で局所領域を1つの値にまとめるため、学習するパラメータを持ちません。これに対し畳み込み層はフィルタの重みとバイアスを学習します。プーリングは特徴マップを縮小して計算量を減らし、位置の小さなずれに対する不変性を獲得します。近年はストライド付き畳み込みで代用するモデルもあり、必ず置かれるわけではありません。

  4. 問4
    2×2の領域「[3, 8; 1, 5]」に最大値プーリングを適用したときの出力と、その操作がもたらす効果の組み合わせとして最も適切なものを選びなさい。
    1. 1出力 4.25:領域内の反応を平均して残し、特徴の位置が少しずれると出力が大きく変わるようになる
    2. 2出力 17:領域内の反応をすべて足し合わせて残し、特徴マップの大きさを入力の2倍に拡大する
    3. 3出力 8:領域内で最も強く反応した特徴を残し、特徴の位置のずれに敏感になって位置を正確に検出できる
    4. 4出力 8:領域内で最も強く反応した特徴を残し、特徴の位置が少しずれても出力が変わりにくくなる
    答えと解説

    正解: 4

    最大値プーリングは領域内の最大値である8を出力します。最も強く反応した位置の値だけを残すため、特徴が領域内で少しずれても同じ出力が得られ、位置のずれに対する不変性が獲得できます。4.25は平均値プーリングの出力に相当し、合計や最小値を取る操作は標準的なプーリングではありません。

  5. 問5
    プーリング層に関する記述として、不適切なものを選びなさい。
    1. 1領域「[2, 6; 4, 0]」に平均値プーリングを適用すると出力は3になる
    2. 2最大値プーリングは、学習によって領域ごとの重みを更新する
    3. 3グローバルアベレージプーリングは、CAMによる可視化にも利用される
    4. 4近年は、ストライド付きの畳み込みでプーリングを代用するモデルもある
    答えと解説

    正解: 2

    プーリング層には学習するパラメータがなく、最大値や平均値という決められた演算で特徴マップを縮小します。領域「[2, 6; 4, 0]」の平均は(2+6+4+0)÷4=3で正しく、GAPのCAMへの利用やストライド付き畳み込みによる代用も正しい記述です。