機械学習とは
人がルールを書く代わりに、データから規則性やパターンを自動で学習する手法の総称です。ルールベース手法は判断の根拠が明確ですが、複雑な問題ではルールが膨大になり網羅できません。機械学習はルールを書く必要がなく複雑な判断に対応できる一方、十分な量のデータが必要で、モデルによっては判断根拠がブラックボックスになります。
機械学習が効果を発揮するのは、判断基準を明示的に書き切れず、かつ大量のデータがある場面です。税額計算のように式が明確な処理にはルールベースが適しています。
注目された背景
1990年代後半以降、インターネットの普及で大量のデータ(ビッグデータ)が利用可能になり、計算機の性能も向上したことで機械学習が実用化しました。自然言語処理では、人が文法ルールを書くルールベース機械翻訳から、対訳コーパスの統計を使う統計的自然言語処理・統計的機械翻訳へ主流が移りました。
応用例
- スパムフィルタ: 迷惑メールの文面の特徴を学習して判定。送信者が手口を変え続けるため固定ルールでは追いつかない
- レコメンデーションエンジン: 購買履歴などから利用者の好みを学習して商品を推薦
- 検索エンジンのランキング、与信審査、需要予測、異常検知など
次元の呪い
特徴量の次元(変数の数)が増えるほどデータ空間が疎になり、同じ精度を得るために必要なデータ量が指数的に増える問題です。対策として、主成分分析などの次元削減や特徴選択が使われます。
試験で問われる観点
- ルールベースと機械学習のメリット・デメリット
- 機械学習が向く場面(基準を書き切れない、データが多い)
- ビッグデータと統計的自然言語処理という背景
- 次元の呪いの意味と対策