G検定 › Web参考書 › 第5章

データ拡張(Random Flip・Rotate・Crop、Cutout、Mixup、CutMix、RandAugment、テキストの拡張)

第5章 ディープラーニングの要素技術 / 節 9

シラバスのキーワード: Random FlipRotateCropBrightnessContrastCutoutRandom ErasingMixupCutMixRandAugumentnoisingparaphrasing

本文を読んだあと、覚えているか確認してください。

目的

訓練データに「ラベルが変わらない範囲の変換」を加えて疑似的にデータを増やし、過学習を抑えて汎化性能を高める手法です。データ収集のコストを下げる効果もあります。

画像の拡張手法

分類 手法 内容
幾何変換 Random Flip、Rotate、Crop 反転、回転、切り抜き
色の変換 Brightness、Contrast 明るさ、コントラストの変更
一部を隠す Cutout、Random Erasing 矩形領域をマスクし、一部が見えなくても認識できるようにする
画像を混ぜる Mixup 2枚の画像を画素値ごとに重み付き平均し、ラベルも同じ比率で混ぜる
CutMix 一方の画像の矩形領域を他方で置き換え、ラベルは面積比で混ぜる
自動選択 RandAugment 拡張の種類と強さをランダムに選んで組み合わせる

テキストの拡張

単語の削除・置換・入れ替えなどでノイズを加えるnoising、同義語への置き換えや言い換えによるparaphrasing、他言語に翻訳して戻す逆翻訳などがあります。

タスクに応じた選択

変換によってラベルが変わってはいけません。手書き数字の6を上下反転すると9になるため、数字認識では反転は不適切です。医用画像で色を変えると病変の情報が失われることもあります。タスクごとにラベルが保存される変換を選びます。

試験で問われる観点

この節の練習問題(4問)

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

  1. 問1
    データ拡張の手法に関する記述として、最も適切なものを選びなさい。
    1. 1画像では反転・回転・切り抜きに加え、2枚の画像を左右に並べて1枚にし片方のラベルだけを使うMixup、画素値をランダムに入れ替えるRandom Erasingなどがあり、テキストでは単語の並べ替えだけが用いられる
    2. 2画像では反転・回転・切り抜きに加え、一部を矩形で隠すCutoutやRandom Erasing、2枚を混ぜ合わせるMixup、一部を別の画像で置き換えるCutMixなどがあり、テキストではノイズ付加や言い換え(paraphrasing)が使われる
    3. 3画像では反転・回転・切り抜きなどの幾何変換に限られ、CutoutやMixupは画像ではなく音声データの拡張手法として提案された。テキストにはラベルが変わってしまうため拡張は適用されず、代わりに検証データを増やして評価する
    4. 4画像では反転・回転・切り抜きに加え、一部を矩形で隠すMixup、2枚を混ぜ合わせるCutMix、一部を別の画像で置き換えるCutoutなどがあり、テキストでは言い換えは意味が変わるため用いず、ノイズ付加のみが使われる
    答えと解説

    正解: 2

    データ拡張は訓練データに変換を加えて見かけ上のデータ量と多様性を増やし、過学習を抑える手法です。画像ではRandom Flip、Rotate、Crop、明るさやコントラストの変更、Cutout・Random Erasing(一部を隠す)、Mixup(2枚とラベルを比率で混合)、CutMix(一部を別画像で置換しラベルも面積比で混合)、複数の変換をランダムに組み合わせるRandAugmentなどがあり、テキストにも単語の置換や言い換えなどの拡張があります。検証データには適用しません。

  2. 問2
    画像のデータ拡張手法の説明の組み合わせとして正しいものを選びなさい。
    1. 1Mixup:画像の一部の領域をマスクして隠す。CutMix:2枚の画像とラベルを一定の比率で混ぜ合わせる。Cutout/Random Erasing:画像の一部を切り取って別の画像の一部をはめ込み、面積に応じてラベルも混ぜる
    2. 2Mixup:画像の一部を切り取って別の画像の一部をはめ込み、面積に応じてラベルも混ぜる。CutMix:2枚の画像とラベルを一定の比率で混ぜ合わせる。Cutout/Random Erasing:画像の一部の領域をマスクして隠す
    3. 3Mixup:2枚の画像とラベルを一定の比率で混ぜ合わせる。CutMix:画像の一部を切り取って別の画像の一部をはめ込み、面積に応じてラベルも混ぜる。Cutout/Random Erasing:画像の一部の領域をマスクして隠す
    4. 4Mixup:2枚の画像を混ぜるがラベルは元の画像のものを使う。CutMix:画像の一部を切り取って同じ画像の別の位置に貼り付ける。Cutout/Random Erasing:画像全体にランダムなノイズを加えて明るさとコントラストを変える
    答えと解説

    正解: 3

    Mixupは2枚の画像を画素値ごとに重み付き平均し、ラベルも同じ比率で混ぜます。CutMixは一方の画像の矩形領域を他方の画像で置き換え、ラベルは面積比で混ぜます。CutoutとRandom Erasingは画像の一部を矩形で隠して、一部が見えなくても認識できるように学習させます。反転や回転はRandom FlipやRotate、同義語置き換えはテキストのparaphrasingです。

  3. 問3
    手書き数字(0〜9)を分類するモデルの訓練データを増やすためにデータ拡張を検討している。適用すると逆に精度を下げるおそれが最も高い手法を選びなさい。
    1. 1画像を数ピクセルだけ平行移動させる
    2. 2画像を数度だけわずかに回転させる
    3. 3画像の明るさやコントラストを少し変える
    4. 4画像を上下・左右に反転させる
    答えと解説

    正解: 4

    データ拡張は「変換してもラベルが変わらない」範囲で行う必要があります。手書き数字では、6を上下反転すると9に、左右反転すると別の形になり、ラベルと矛盾する画像が生まれてしまいます。わずかな回転、明るさの変化、平行移動は数字の意味を保つため安全な拡張です。タスクごとにラベルが保存される変換を選ぶことが重要です。

  4. 問4
    テキストのデータ拡張のうち、単語の削除・置換・入れ替えなどで文にノイズを加える手法として最も適切なものを選びなさい。
    1. 1noising
    2. 2paraphrasing
    3. 3逆翻訳
    4. 4CutMix
    答えと解説

    正解: 1

    単語の削除・置換・入れ替えでノイズを加えるのはnoisingです。paraphrasingは同義語への置き換えや言い換え、逆翻訳は他言語に翻訳して元の言語に戻す手法です。CutMixは画像の矩形領域を別の画像で置き換える画像向けの手法です。