データ収集時の注意
学習データを取得する際は、個人情報保護法や著作権法などの法律、データの利用規約、オープンデータセットのライセンス(商用利用・再配布・改変の可否、出典表示)を確認します。公開されているデータがすべて自由に使えるわけではなく、含まれる個人情報には公開後も配慮が必要です。
学習データに含まれる状況や属性が本番と異なると、見ていない状況で精度が落ちたり特定の属性に不利な判断をしたりします。本番環境を代表するデータを集め、偏りを確認することが精度と公平性の両面で重要です。
アノテーション
画像や文章に正解ラベルや領域などの情報を付与する作業です。教師あり学習にはラベル付きデータが必要で、アノテーションの品質がモデルの精度の上限を決めます。作業者ごとにラベルがぶれる場合は、判断に迷う事例を含む明確なガイドラインを整備し、複数人で同じデータにラベルを付けて一致率を確認します。コストが大きな部分を占めるため、自己教師あり学習や半教師あり学習で軽減する方法も検討されます。
オープンデータセットとコーパス
ImageNetのように公開されて誰でも利用できるデータセットは研究開発を加速しますが、ライセンスによって条件が異なります。コーパスは自然言語処理で用いる大規模なテキストデータの集合で、言語モデルの学習や評価に使われます。
データリーケージ
本来は予測時点で得られないはずの情報(正解に直結する情報や未来の情報)が訓練データに混入し、検証時の精度が実際より高く出る問題です。典型例は、時系列データをランダムに分割して検証日の前後のデータで学習してしまうケースや、正解ラベルから派生した特徴量を含めてしまうケースです。時系列は過去のデータで学習し、その後の期間で検証します。
共同開発での留意点
複数の企業がデータを持ち寄る場合は、データの利用範囲、学習済みモデルや派生データの権利の帰属、個人情報や営業秘密の扱いを事前に契約で取り決め、各社のデータの偏りやラベル基準の違いも確認します。
試験で問われる観点
- 収集時に確認する法律・ライセンス・偏り
- アノテーションの品質管理の方法
- データリーケージの例と時系列の分割方法
- 共同開発での契約上の取り決め