生成モデルの系譜：ボルツマンマシンからVAE・GAN・RNN・LSTMまで

第2章生成AI（ジェネレーティブAI）　／　節 1

シラバスのキーワード: 生成AI（ジェネレーティブAI）ボルツマンマシン制約付きボルツマンマシン自己回帰モデルCNN（畳み込みニューラルネットワーク）VAE（変分自己符号化器）GAN（敵対的生成ネットワーク）RNN（回帰型ニューラルネットワーク）LSTM（長・短期記憶）

本文を読んだあと、覚えているか確認してください。

生成AIとは

**生成AI（ジェネレーティブAI）**は、学習したデータの特徴をもとに、文章・画像・音声・動画などの新しいコンテンツを生み出す AI です。入力を既存の分類に振り分ける「識別系AI」と対比されます。ここでは、生成AIに至るまでに登場したモデルを順に見ていきます。

各モデルの要点

モデル	仕組みの要点	得意分野・位置づけ
ボルツマンマシン	確率的に動くニューラルネットワーク。1980年代の初期の生成モデル	生成モデルの原点
制約付きボルツマンマシン（RBM）	可視層と隠れ層の2層。同じ層内のノード同士は結合しない	学習を効率化した改良版
自己回帰モデル	直前までの出力を入力にして、次の要素を1つずつ予測する	テキスト生成（GPT）、一部の画像生成
CNN（畳み込みニューラルネットワーク）	小さなフィルタを画像上でずらしながら局所的な特徴を抽出する「畳み込み」	画像認識
VAE（変分自己符号化器）	エンコーダで入力を潜在ベクトルに圧縮し、デコーダで復元・生成。潜在ベクトルにノイズを加えて多様な出力を得る	画像生成
GAN（敵対的生成ネットワーク）	偽物を作る生成器と、本物か偽物かを見分ける識別器を競わせる	本物そっくりの画像生成、ディープフェイク
RNN（回帰型ニューラルネットワーク）	隠れ層（リカレント層）の出力を次の時刻の入力に戻し、過去の情報を保持する	文章・音声・時系列などのシーケンスデータ
LSTM（長・短期記憶）	記憶セルとゲートで、必要な情報を長く保持し不要な情報を忘れる	RNN の弱点（長期依存）を改善

押さえておきたい対応関係

エンコーダとデコーダは VAE の構成要素。潜在ベクトルは圧縮された特徴表現。
生成器と識別器は GAN の構成要素。人間が仕分けするのではなく、両方ともニューラルネットワーク。
隠れ層・リカレント層・シーケンスデータは RNN の用語。
畳み込みは CNN の用語。
可視層と隠れ層はボルツマンマシンの用語。

試験では、これらの用語がどのモデルのものかを入れ替えた選択肢が出ます。

登場順

ボルツマンマシン（1980年代）→ GAN（2014年）→ Transformer（2017年）の順です。Transformer は次の節で扱います。

ケースで考える

画像から傷を検出する課題には CNN、実在しない人物の顔写真を生成する課題には GAN が代表的に使われてきました。文章や音声のような順序のあるデータには RNN・LSTM、現在はその発展形の Transformer が主流です。

この節の練習問題（24問）

答えを見る前に選んでから開いてください。同じ問題は章別演習でランダム出題されます。

問1
生成AI（ジェネレーティブAI）の説明として、最も適切なものを1つ選びなさい。
1. 1学習したデータの特徴をもとに、文章・画像・音声などの新しいコンテンツを生み出すAI
2. 2人間があらかじめ用意した定型文の中から最も近いものを返すAI
3. 3データベースに保存された情報をそのまま検索して表示するシステム
4. 4入力されたデータを既存の分類のいずれかに振り分けることに特化したAI
答えと解説
正解: 1
生成AIは、大量のデータから学んだ特徴やパターンをもとに、新しい文章・画像・音声・動画などを生成するAIです。分類に特化したAIは「識別系AI」と呼ばれ、生成AIと対比されます。定型文の選択や単なるデータベース検索は、新しいコンテンツを生み出していないため生成AIとは言えません。
問2
制約付きボルツマンマシン（RBM）の構造上の特徴として、最も適切なものを1つ選びなさい。
1. 1エンコーダとデコーダが対になっている。
2. 2可視層と隠れ層の2層からなり、同じ層の中のノード同士は結合しない。
3. 3入力層・中間層・出力層のすべてのノードが互いに結合している。
4. 4畳み込み層とプーリング層を交互に重ねている。
答えと解説
正解: 2
ボルツマンマシンは確率的に動作するニューラルネットワークで、生成モデルの初期の代表例です。その中でも制約付きボルツマンマシン（RBM）は、可視層と隠れ層の2層構造で、同じ層内のノード同士の結合を持たないという「制約」を設けることで学習を効率化しました。すべてのノードが結合しているのは制約のない元のボルツマンマシン、畳み込み層とプーリング層はCNN、エンコーダとデコーダの対はVAEの特徴です。
問3
自己回帰モデルによるテキスト生成の仕組みとして、最も適切なものを1つ選びなさい。
1. 1入力文の全体を一つのベクトルに圧縮し、その圧縮表現を復元することで文章を出力する。
2. 2文章全体の語を一度にまとめて出力し、その後に前後関係の矛盾を修正して整えていく。
3. 3直前までに生成した語を入力として次の語を予測し、それを繰り返して文章を伸ばしていく。
4. 4あらかじめ用意された文の断片を、入力との類似度が高い順に並べ替えて文章を組み立てる。
答えと解説
正解: 3
自己回帰モデルは、それまでに出力した系列を次の入力として使い、「次に来る語（トークン）」を1つずつ予測していく方式です。GPTをはじめとする大規模言語モデルはこの方式で文章を生成します。入力文全体を1つのベクトルに圧縮して復元するのはオートエンコーダ的な考え方、文章全体を一度に出力してから修正する方式や、断片を類似度順に並べ替える方式は自己回帰モデルの説明ではありません。
問4
画像認識で広く使われるCNN（畳み込みニューラルネットワーク）の特徴として、最も適切なものを1つ選びなさい。
1. 1入力を低次元の潜在ベクトルに圧縮し、そこから元の画像を復元することで特徴を学習する。
2. 2時系列データを1ステップずつ読み込み、前の時点の状態を記憶しながら順番に処理する。
3. 3本物らしい画像を作る生成器と、本物か偽物かを見分ける識別器を競わせながら学習する。
4. 4小さなフィルタを画像上でずらしながら適用し、局所的な特徴（エッジや模様）を抽出する。
答えと解説
正解: 4
CNNは、フィルタ（カーネル）を画像上でスライドさせながら適用する「畳み込み」によって、輪郭や模様などの局所的な特徴を抽出します。この層を重ねることで、単純な特徴から複雑な特徴へと段階的に認識できるため、画像認識に強いネットワークです。時系列の前後関係を記憶するのはRNN、生成器と識別器を競わせるのはGAN、潜在ベクトルへの圧縮と復元はVAEの特徴です。
問5
VAE（変分自己符号化器）において、入力データを圧縮して潜在ベクトルに変換する部分と、潜在ベクトルからデータを復元・生成する部分の名称の組み合わせとして正しいものを1つ選びなさい。
1. 1エンコーダとデコーダ
2. 2隠れ層とリカレント層
3. 3可視層と隠れ層
4. 4生成器と識別器
答えと解説
正解: 1
VAEは、入力を潜在ベクトル（データの特徴を圧縮した低次元の表現）に変換するエンコーダと、潜在ベクトルから元のデータに近いものを復元・生成するデコーダで構成されます。潜在ベクトルに確率的なノイズを加えて学習することで、学習データに似た新しいデータを生成できます。生成器と識別器はGAN、隠れ層とリカレント層はRNN、可視層と隠れ層はボルツマンマシンの構成要素です。
問6
GAN（敵対的生成ネットワーク）の学習の仕組みとして、最も適切なものを1つ選びなさい。
1. 1入力を潜在変数に圧縮する符号化器と、そこから元を復元する復号化器を組み合わせ、再構成誤差を減らしていく。
2. 2本物に似たデータを作る生成器と、本物か偽物かを見分ける識別器を競わせ、互いに精度を高めていく。
3. 3本物のデータに人間が正解ラベルを付け、生成器がそのラベルと出力の誤差を最小化するように教師あり学習を行う。
4. 4データに少しずつノイズを加えていく過程を学習し、その逆をたどってノイズから段階的にデータを復元していく。
答えと解説
正解: 2
GANは、偽物のデータを生成する生成器（Generator）と、入力が本物か生成器の作った偽物かを判定する識別器（Discriminator）を対戦させる仕組みです。生成器は識別器をだませるように、識別器は見破れるように学習を繰り返すことで、本物と見分けがつかないデータを生成できるようになります。人間がラベルを付ける方式や、出力を保存・平均する方式はGANの仕組みではありません。
問7
RNN（回帰型ニューラルネットワーク）が得意とするデータの種類として、最も適切なものを1つ選びなさい。
1. 1SNSの友人関係のように、ノード同士のつながりを表すグラフ構造のデータ
2. 2顧客名簿のように、行の順序を入れ替えても意味が変わらない表形式のデータ
3. 3文章や音声、株価のように、順序や前後関係に意味があるシーケンスデータ
4. 4写真のように、縦横の画素の位置関係が重要な2次元の静止画像データ
答えと解説
正解: 3
RNNは、隠れ層（リカレント層）の出力を次の時刻の入力に戻す構造を持ち、過去の情報を保持しながら順番に処理できます。そのため文章、音声、時系列の数値など、並び順に意味があるシーケンスデータの処理に向いています。静止画像はCNNが得意とする分野で、順序のない表データやネットワーク構造はRNNの主な対象ではありません。
問8
LSTM（長・短期記憶）が開発された主な目的として、最も適切なものを1つ選びなさい。
1. 1CNNが苦手としていた、画像の中の離れた画素どうしの関係（大域的な文脈）を扱えるようにするため
2. 2GANが苦手としていた、生成器と識別器の学習の不安定さ（モード崩壊）を抑えて安定させるため
3. 3RNNが苦手としていた、系列を時刻順に処理する構造を捨てて系列全体を並列に計算できるようにするため
4. 4RNNが苦手としていた、長い系列の中の離れた情報の関係（長期依存）を扱えるようにするため
答えと解説
正解: 4
単純なRNNは、系列が長くなると初めの方の情報が薄れてしまい、離れた位置にある情報同士の関係（長期依存）をうまく学習できませんでした。LSTMは記憶セルとゲート機構を導入し、必要な情報を長く保持し、不要な情報を忘れる仕組みを持たせることでこの弱点を改善しました。系列全体を並列に計算できるようにしたのはTransformer（Self-Attention）、GANの学習の安定化やCNNの大域的な文脈の扱いはLSTMの目的ではありません。
問9
生成モデルに関する記述として、不適切なものを1つ選びなさい。
1. 1GANの識別器は、人間が手作業で本物と偽物を仕分けする担当者のことを指す。
2. 2VAEは潜在ベクトルにノイズを加えることで、学習データに似た多様なデータを生成できる。
3. 3GANは生成器と識別器という2つのネットワークで構成される。
4. 4VAEもGANも、画像生成の分野で用いられてきた代表的な生成モデルである。
答えと解説
正解: 1
GANの識別器は人間ではなく、本物か偽物かを判定するように学習するニューラルネットワークです。生成器と識別器がともにモデルであり、自動的に対戦して学習が進む点がGANの特徴です。VAEが潜在ベクトルにノイズを加えて多様なデータを生成すること、GANが2つのネットワークで構成されること、両者が画像生成の代表的な生成モデルであることは、いずれも正しい記述です。
問10
RNNの「リカレント（回帰）」という名前の由来として、最も適切なものを1つ選びなさい。
1. 1同じ学習データを何度も繰り返し（エポック単位で）読み込みながら重みを更新するから
2. 2隠れ層の出力を次の時刻の自分自身の入力として戻す（ループする）構造を持つから
3. 3出力層の値を誤差として入力層まで逆向きに戻す（逆伝播する）計算を繰り返すから
4. 4統計学の回帰分析と同じく、入力値から連続値の出力を直線で当てはめる構造を持つから
答えと解説
正解: 2
RNNは、ある時刻の隠れ層の出力を次の時刻の入力に戻す（再帰的に利用する）構造を持ちます。この「戻す・繰り返す」構造が「リカレント（回帰型）」という名前の由来で、これによって過去の情報を保持しながら系列を処理できます。学習データを繰り返し読むことは多くのモデルに共通で名前の由来ではなく、出力が入力と同じになるわけでも、統計の回帰分析そのものでもありません。
問11
生成モデルに関係する技術を登場した時期の古い順に並べたものとして、正しいものを1つ選びなさい。
1. 1Transformer → GAN → ボルツマンマシン
2. 2GAN → ボルツマンマシン → Transformer
3. 3ボルツマンマシン → GAN → Transformer
4. 4GAN → Transformer → ボルツマンマシン
答えと解説
正解: 3
ボルツマンマシンは1980年代に提案された初期の生成モデルです。GANは2014年に発表され、画像生成で大きな注目を集めました。Transformerは2017年に発表され、現在の大規模言語モデルの基盤になっています。したがって古い順は、ボルツマンマシン、GAN、Transformerです。
問12
次の課題と、それに適したモデルの組み合わせとして最も適切なものを1つ選びなさい。「課題A: 工場の製品画像から傷を検出する」「課題B: 実在しない人物の顔写真を生成する」
1. 1課題A: GAN、課題B: CNN
2. 2課題A: ボルツマンマシン、課題B: RNN
3. 3課題A: RNN、課題B: LSTM
4. 4課題A: CNN、課題B: GAN
答えと解説
正解: 4
画像から特徴を抽出して傷の有無を判定する課題には、畳み込みで局所特徴をとらえるCNNが適しています。実在しない人物の顔写真のような本物に近い画像を生成する課題には、生成器と識別器を競わせるGANが代表的に使われてきました。RNNやLSTMは文章や時系列などのシーケンスデータ向きで、画像の検出や生成には適していません。
問13
実在しない人物の顔写真を本物そっくりに生成したい。歴史的に代表的に使われてきたモデルとして、最も適切なものを1つ選びなさい。
1. 1GAN。偽物を作る生成器と本物かを見分ける識別器を競わせて精度を上げる
2. 2CNN。小さなフィルタを画像上でずらして局所的な特徴を抽出する
3. 3RNN。隠れ層の出力を次の時刻に戻して過去の情報を保持する
4. 4LSTM。記憶セルとゲートで必要な情報を長く保持する
答えと解説
正解: 1
本物そっくりの画像生成にはGAN（敵対的生成ネットワーク）が代表的に使われてきました。生成器が偽物を作り、識別器が本物かを見分け、両者を競わせることで精度が上がります。CNNは画像認識、RNNとLSTMは文章や音声のような順序のあるデータに使われるモデルで、顔写真の生成の代表例ではありません。
問14
VAE（変分自己符号化器）に関する記述として、不適切なものを1つ選びなさい。
1. 1潜在ベクトルにノイズを加えることで、多様な出力を得ることができる
2. 2生成器と識別器の2つのネットワークを競わせて学習する構成である
3. 3エンコーダで入力を潜在ベクトルに圧縮し、デコーダで復元・生成する
4. 4潜在ベクトルは入力の特徴を圧縮して表した表現である
答えと解説
正解: 2
VAEはエンコーダで入力を潜在ベクトルに圧縮し、デコーダで復元・生成するモデルで、潜在ベクトルにノイズを加えて多様な出力を得ます。生成器と識別器を競わせるのはGANの構成で、VAEの記述としては不適切です。
問15
自己回帰モデルの説明として、最も適切なものを1つ選びなさい。
1. 1入力を潜在ベクトルに圧縮してから復元することで新しいデータを生成するモデル
2. 2フィルタを画像の上でずらしながら局所的な特徴を抽出していくモデル
3. 3直前までの出力を入力にして、次の要素を1つずつ予測していくモデル
4. 4可視層と隠れ層の2層からなり、同じ層内のノード同士は結合しないモデル
答えと解説
正解: 3
自己回帰モデルは、直前までの出力を入力にして次の要素を1つずつ予測するモデルで、GPTのテキスト生成や一部の画像生成に使われます。可視層と隠れ層の2層は制約付きボルツマンマシン、潜在ベクトルへの圧縮と復元はVAE、フィルタによる特徴抽出はCNNの説明です。
問16
LSTMがRNNの弱点をどう改善したかの説明として、最も適切なものを1つ選びなさい。
1. 1隠れ層をなくして計算を単純にし、順序のあるデータを一度にまとめて並列処理できるようにしたことで高速化した
2. 2生成器と識別器の2つのネットワークを追加し、生成した文章が本物らしいかを判定しながら学習できるようにした
3. 3画像用のフィルタを文章に適用し、隣り合う単語のまとまりだけを局所的に抽出して処理できるようにした
4. 4記憶セルとゲートで必要な情報を長く保持し、不要な情報を忘れることで長期の依存関係を扱えるようにした
答えと解説
正解: 4
RNNは過去の情報を隠れ層に戻して保持しますが、長い系列では古い情報が失われやすいという弱点（長期依存の問題）がありました。LSTMは記憶セルとゲートで必要な情報を長く保持し、不要な情報を忘れる仕組みでこれを改善しました。並列処理はTransformerの特徴、生成器と識別器はGAN、フィルタはCNNの話です。
問17
CNN（畳み込みニューラルネットワーク）に関する記述として、不適切なものを1つ選びなさい。
1. 1直前の出力を次の入力に戻す仕組みで、文章や音声の順序を扱うことが本来の用途である
2. 2小さなフィルタを画像上でずらしながら局所的な特徴を抽出する「畳み込み」を行う
3. 3画像認識の分野で高い成果を上げ、傷の検出や物体の分類などに使われる
4. 4浅い層で単純な特徴を、深い層で複雑な特徴を段階的に抽出する
答えと解説
正解: 1
CNNはフィルタをずらしながら局所的な特徴を抽出する畳み込みを行い、画像認識で高い成果を上げたモデルです。直前の出力を次の入力に戻して順序のあるデータを扱うのはRNNの説明で、CNNの記述としては不適切です。
問18
制約付きボルツマンマシン（RBM）の説明として、最も適切なものを1つ選びなさい。
1. 1入力層と出力層の間に中間層を多数重ね、特徴を自動的に学習する構造にしたモデル
2. 2可視層と隠れ層の2層からなり、同じ層内のノード同士は結合しない構造にして学習を効率化したモデル
3. 3エンコーダとデコーダの2つからなり、潜在ベクトルを介して入力を復元する構造にしたモデル
4. 4生成器と識別器の2つからなり、互いに競わせることで本物に近い出力を得る構造にしたモデル
答えと解説
正解: 2
制約付きボルツマンマシンは、可視層と隠れ層の2層からなり、同じ層内のノード同士を結合させないことで学習を効率化した、ボルツマンマシンの改良版です。エンコーダとデコーダはVAE、生成器と識別器はGAN、中間層を多数重ねる構造はディープラーニング一般の説明です。
問19
生成モデルの登場順として、最も適切なものを1つ選びなさい。
1. 1Transformer → GAN → ボルツマンマシン
2. 2ボルツマンマシン → Transformer → GAN
3. 3ボルツマンマシン → GAN → Transformer
4. 4GAN → ボルツマンマシン → Transformer
答えと解説
正解: 3
ボルツマンマシンは1980年代の初期の生成モデル、GANは2014年、Transformerは2017年に発表されました。この順序で覚えます。
問20
店舗の過去3年分の日ごとの売上という順序のあるデータから、翌週の売上を予測したい。歴史的にこの種のデータに使われてきたモデルとして、最も適切なものを1つ選びなさい。
1. 1GAN。生成器と識別器を競わせて本物らしいデータを作り出せる
2. 2CNN。画像の局所的な特徴をフィルタで抽出するのに向いている
3. 3ボルツマンマシン。確率的に動く1980年代の初期の生成モデル
4. 4RNNやLSTM。過去の情報を保持しながら順序のあるデータを扱える
答えと解説
正解: 4
日ごとの売上のような時系列（シーケンスデータ）には、過去の情報を隠れ層に保持しながら処理するRNNや、その改良版であるLSTMが使われてきました。GANは画像生成、CNNは画像認識、ボルツマンマシンは初期の生成モデルで、順序のあるデータの予測の代表例ではありません。
問21
GAN（敵対的生成ネットワーク）に関する記述として、不適切なものを1つ選びなさい。
1. 1識別器は人間の審査員が担当し、生成器が作った画像を目で見て本物かを判定する
2. 2偽物を作る生成器と、本物か偽物かを見分ける識別器の2つで構成される
3. 3生成器と識別器はどちらもニューラルネットワークで、人間が仕分けを行うわけではない
4. 4両者を競わせることで、本物に近い画像を生成できるようになる
答えと解説
正解: 1
GANは生成器と識別器という2つのニューラルネットワークを競わせるモデルで、識別器も人間ではなくニューラルネットワークです。「人間の審査員が識別器を担当する」という記述は誤りです。
問22
生成AIと識別系AIの違いの説明として、最も適切なものを1つ選びなさい。
1. 1生成AIは人間がルールを書いて動かし、識別系AIはデータから自動で学習するという仕組みの違いである
2. 2生成AIは学習データの特徴をもとに新しいコンテンツを生み出し、識別系AIは入力を既存の分類に振り分ける
3. 3生成AIは入力を既存の分類に振り分け、識別系AIは学習データから新しいコンテンツを生み出す
4. 4生成AIは画像だけを扱い、識別系AIは文章だけを扱うという扱うデータの種類の違いである
答えと解説
正解: 2
生成AIは学習したデータの特徴をもとに文章・画像・音声などの新しいコンテンツを生み出すAIで、入力を既存の分類に振り分ける識別系AIと対比されます。両者を逆にした説明、扱うデータの種類の違いだとする説明、ルールベースと機械学習の違いだとする説明はいずれも誤りです。
問23
「エンコーダ」「デコーダ」「潜在ベクトル」という用語が構成要素として使われるモデルとして、最も適切なものを1つ選びなさい。
1. 1CNN
2. 2RNN
3. 3VAE
4. 4GAN
答えと解説
正解: 3
エンコーダで入力を潜在ベクトルに圧縮し、デコーダで復元・生成するのはVAEの構成です。GANは生成器と識別器、CNNは畳み込みとフィルタ、RNNは隠れ層（リカレント層）とシーケンスデータが対応する用語で、試験ではこれらを入れ替えた選択肢が出ます。
問24
製造ラインの写真から部品の傷を検出するAIを作りたい。歴史的に画像のこの種の課題に代表的に使われてきたモデルとして、最も適切なものを1つ選びなさい。
1. 1LSTM。記憶セルとゲートで長い系列の情報を保持し、時系列の予測に強い
2. 2自己回帰モデル。直前までの出力をもとに次の要素を1つずつ予測する
3. 3VAE。潜在ベクトルにノイズを加えて多様な画像を新しく生成する
4. 4CNN。フィルタをずらして局所的な特徴を抽出し、画像の分類や検出に強い
答えと解説
正解: 4
画像から傷を検出する課題にはCNN（畳み込みニューラルネットワーク）が代表的に使われてきました。小さなフィルタを画像上でずらして局所的な特徴を抽出する仕組みが画像の分類や検出に向いています。LSTMは系列データ、自己回帰モデルは逐次生成、VAEは画像の生成に使うモデルで、検出の代表例ではありません。