教師なし学習の枠組み
正解ラベルを使わず、特徴量だけからデータの構造(グループ、分布、潜在的な因子)を見つけます。顧客のセグメンテーション、推薦、異常検知、可視化などに使われます。
クラスタリング
- k-means法: クラスタ数kを人が指定し、各データを最も近い重心に割り当てて重心を更新する処理を繰り返す。初期値によって結果が変わる
- 階層的クラスタリング: 近いデータやクラスタから順に併合していく。ウォード法は併合時のクラスタ内分散の増加が最小になる組み合わせを選ぶ。結果はデンドログラム(樹形図)で表され、どの高さで切るかでクラスタ数を後から決められる
次元削減
| 手法 | 特徴 |
|---|---|
| 主成分分析(PCA) | データの分散が最大になる方向(主成分)を順に見つけ、少数の軸で表現する線形手法 |
| 特異値分解(SVD) | 行列を3つの行列の積に分解する線形代数の手法。PCAの計算や推薦の評価行列の分解に使う |
| 多次元尺度構成法(MDS) | データ間の距離をできるだけ保ったまま低次元に配置 |
| t-SNE | 高次元での近さを確率で表し低次元でも保つ。クラスタ構造の可視化に強いが、新しいデータの変換には向かない |
推薦システム
協調フィルタリングは「似た利用者が買ったもの」を推薦し、コンテンツベースフィルタリングは商品の属性と利用者の好みの類似で推薦します。協調フィルタリングは履歴のない新規利用者や新商品に対応できないコールドスタート問題を持ち、コンテンツベースとの併用が対策になります。
トピックモデル
文書が複数の「トピック」の混合で構成され、各トピックが単語の確率分布であると仮定して文書の潜在的な構造を推定する手法で、潜在的ディリクレ配分法(LDA)が代表です。
試験で問われる観点
- k-means法はkを事前指定、階層的クラスタリングは後から決められる
- PCA・SVD・MDS・t-SNEの使い分け
- 協調フィルタリングとコンテンツベースの違い、コールドスタート問題
- LDAはトピックモデル(線形判別分析のLDAと混同しない)