生成AIとは？

総務省と経済産業省の「AI事業者ガイドライン」（第1.2版、2026年3月）は、生成AIを「文章、画像、プログラム等を生成できるAIモデルにもとづくAIの総称」と定めています。総務省の情報通信白書（令和6年版）も、「テキスト、画像、音声などを自律的に生成できるAI技術の総称」と説明しています。どちらも「総称」、つまり1つのしくみの名前ではなく、新しい中身を作り出せるAIを、まとめて呼ぶ言葉です。

アメリカの国立標準技術研究所（NIST）の用語集は、生成AIを「入力したデータの構造や特徴をまねて、そこから派生した合成の中身を作り出す、AIモデルのなかま」と定め、画像・動画・音声・文章などが入る、としています。生成モデルは、学んだデータの統計的な分布（どんなものが、どれくらいの割合であるか）に近いものを出力します。

2000年代からは、画像の見分け・翻訳・音声の聞き取りのように、決まった分野で予測・提案・決定をするシステムがAIと呼ばれるようになり、今はそれにとどまらず、画像や文章を作る生成AIも広まりつつあります。

機械学習のモデルは、見分けるモデル（識別モデル）と、作るモデル（生成モデル）に分けて説明されることがあります。たとえば、見分けるモデルは犬とねこを見分けられ、生成モデルは本物の動物のように見える、新しい動物の写真を作れます。

見分けるモデルは、データの中に「ここからこっちは犬」という境い目を引こうとし、生成モデルは、データが全体にどう散らばっているかを、まねようとします。全体をまねるほうが、ずっと多くのことをつかまなければならないので、難しい仕事です。

深層学習で、先に大きな成功をしたのは見分けるほうでした。2014年に GAN の論文が出たころ、深層学習のいちばん目立つ成功は、写真のような入力に、種類の名前（ラベル）を付ける、見分けるモデルでした。

ChatGPT のようなチャットAIの中心にあるのは、大規模言語モデル（LLM）です。ものすごくたくさんの文章で「次に来る言葉」を当てる練習をしたモデルで、答えを書くときも、次に来るトークン（言葉のかけら）を予想して1つ足す、をくり返します。

文章を作るAIは、質問への答え、要約、言い換え、翻訳、プログラミングの補助などができます。そして生成AIは、使う人が特別な調整や技術を身につけなくても、ふだんの言葉で指示を出すだけで使えます。

ただし、予想でつなぐ作り方なので、もっともらしいのに事実とちがう文を書くことがあります（ハルシネーション）。これは、生成モデルの作りから自然に出てくる結果です。統計的な予想は、正しくてつじつまの合う文を作ることもあれば、事実とちがう文や、前後で食いちがう文を作ることもあるからです。くわしくは「ハルシネーション」のページで説明しています。

今の、絵を作るAIの多くは「拡散モデル」を使っています。2023年1月の論文（Google・DeepMind などの研究者）は、それまでの2年ほどで、拡散モデルが GAN にほぼ取って代わり、Stable Diffusion・DALL-E 2・Midjourney・Imagen といった、広く知られた絵を作るAIのもとになっている、と書いています。

しくみは、考え方としては単純です。学ぶときは、きれいな絵にノイズ（ザラザラの点）をまぜ、まぜたノイズを当てさせて、ノイズを取りのぞく練習をします。作るときは、ノイズだけの「絵」から始めて、ノイズを取りのぞいていきます。一度に全部を取らず、何回にも分けて少しずつ取るのが、うまくいくこつです。

「月の上の馬の写真」のような言葉で頼めるAIは、ノイズを取りのぞくときに、頼みの言葉を数の並びに置きかえたものも受け取り、それに合う絵に近づけていきます。拡散モデルの考えは、2015年の論文が、物理学（非平衡の統計物理学）をヒントに出したもので、データの形をゆっくりこわしていく過程と、それを元にもどす過程を使います。2020年の論文（DDPM）は、この方法で、GAN の代表的なもの（ProgressiveGAN）と同じくらいの質の絵を作れることを示しました。

2014年6月、カナダのモントリオール大学のグッドフェロー（Ian Goodfellow）たちが、GAN（敵対的生成ネットワーク）を発表しました。データに似たものを作るAIと、それが本物のデータか作り物かを見分けるAIを、同時に競わせて鍛えます。論文は、作る側を「見つからないように、にせのお札を作って使おうとする、にせ札作りの一味」に、見分ける側を「にせ札を見つけようとする警察」にたとえました。競い合ううちに、どちらも腕を上げ、にせ札が本物と見分けられなくなっていく、というのです。2023年の論文は、GAN を、きめの細かい絵をたくさん作れるようにした、最初の大きな進歩としています。

2017年には、Google の研究者たちが、トランスフォーマーという作り方を発表しました。今の大規模言語モデルの多くが、この作り方です。深層学習やトランスフォーマーの開発と大規模化で、言葉の処理や画像の生成などの精度が大きく上がったことが、生成AIのブームの背景の1つです。

2022年11月、OpenAI が対話型のAI「ChatGPT」を発表しました。ChatGPT は5日で100万人、公開から2か月で1億人を超える人に使われるようになり、生成AIが特に注目されるきっかけになりました。2022年ごろからの生成AIの急速な広まりで、今は「第4次AIブーム」に入ったとも言われています。

NIST が2024年7月に出した資料は、生成AIで新しく生まれたり、大きくなったりする危険を、12に分けています。たとえば、まちがった内容を自信ありげに出す「作話」（俗にハルシネーションと呼ばれるもの）、個人の情報がもれること、偏見を強めること、著作権などの知的財産の問題、うその情報を作りやすくなること、などです。生成AIによって、真実らしく見せた情報をだれでも作れるようになり、AIが作った偽情報・誤情報が社会を混乱させる危険も高まっています。

本物そっくりの偽物も、その1つです。今の生成AIでは、文章の偽情報だけでなく、とても本物らしい「ディープフェイク」（作り物の音声や動画、写真のような画像）も作れるようになりました。アメリカの国防総省（ペンタゴン）で爆発があったように見せた作り物の画像が広まり、株の値段が一時下がった例もあります。

使うときは、答えをうのみにせず、大事なことは元の資料で確かめましょう。AIの答えをうのみにしない工夫や、使うときに人の判断をはさむことが大切です。なお、事実でないものを作ってしまうのが特に困るのは文章で、絵や音・動画では、事実でないものを自由に作ることが、むしろ望まれる場合もあります。

あります。2020年12月の論文（Carlini ほか）は、文章を作るAI「GPT-2」にくり返し文章を作らせて、学習に使った文章を、一字一句そのまま、何百も取り出しました。その中には、ネットに出ていた名前・電話番号・メールアドレスのような個人の情報や、プログラムもありました。学習のデータの中で、1つの文書にしか出てこない文も取り出せました。大きなモデルほど、取り出されやすいことも分かりました。

絵でも起きます。2023年1月の論文（Carlini ほか）は、Stable Diffusion の学習のデータの中で、くり返し出てくる回数が多い絵を35万枚選び、その説明文を頼みの言葉にして、500枚ずつ、合わせて1億7500万枚の絵を作らせました。その中から、学習に使った絵とほぼ同じものが、100枚あまり（109枚）見つかりました。多くは人が写った写真で、ほかに売り物の写真、ロゴやポスターなどがありました。見つかりやすかったのは、学習のデータに100回以上入っていた絵でした。

こうした「データの丸暗記」（memorization）は、個人の情報がもれる危険になり、学習のデータに著作物が入っていれば、出てきたものが著作権の侵害になりえます。

日本では、文化庁の文化審議会の小委員会が、2024年3月に「AIと著作権に関する考え方について」をまとめました。法律のような決まりではなく、今の著作権法をどう読むかについての、その時点の考え方です。AIを作って学ばせる段階と、AIで絵などを作って使う段階では、かかわる法律の条文がちがうので、分けて考えます。

学ばせる段階では、著作権法の第30条の4により、作品を、見たり読んだりして楽しむためではなく、AIの学習のような情報の解析に使うことは、原則として、著作権者の許しを得なくてもできます。ただし、学んだ作品と表現が共通するものを出させることをねらって追加で学ばせる場合や、著作権者の利益を不当に害する場合などは、この条文は使えません。

作って使う段階では、ふつうの著作権の侵害と同じように考えます。作った絵などが、元の作品と似ていて（類似性）、元の作品をもとにして作った（依拠性。「よりどころにした」という意味）と認められれば、SNSに上げたり、売ったりすると、侵害になりえます（自分だけで楽しむ場合などは別です）。また、人が何も指示しないか、簡単な指示だけで「生成」のボタンを押してAIが作ったものは、著作物には当たらない、という考え方です。人がAIを道具として使い、創作の工夫を重ねた場合は、著作物と認められることもあります。アメリカでも、生成AIと著作権の関係は、法廷などでまだ議論されています。