科学なるほど新聞English

トップ › 用語集 › AI

ディープフェイク(AIで作った、本物そっくりのにせの映像や声)とは?

別の呼び名:Deepfake、Deep fake

用語解説 ・ 確かめた日 2026年11月13日 ・ 読む 14分

1分で解説

ディープフェイクとは、AIで作ったり作り替えたりして、実在の人が言っていないことや、していないことを、本物のように見せる映像・写真・声のことです。

深層学習(ディープラーニング。たくさんのデータから学ぶAIのやり方)の「ディープ」と、偽物の「フェイク」を合わせた言葉です。AIに本人の写真や声をたくさん学ばせると、顔や声の特徴をつかみ、別の人の動画の顔を本人の顔に変えたり、口の動きを別の言葉に合わせたり、本人そっくりの声で話させたりできます。

人をだましてお金を取る、うその情報を広める、本人の同意のない性的な画像を作る、といった悪用が問題になっています。見た目や声だけで見分けるのは難しいことがあるので、出どころを確かめることが大切です。

よくある思い込み

「よく見れば、顔や影の不自然なところで見分けられる」

半分だけ合っています。AIで作った映像や写真には、手や歯・目の形がおかしい、影の向きが合わない、動きや声が少しずれる、といった不自然なところが出ることがあり、見分ける手がかりになります。でも、不自然なところが見つからないからといって、本物とは限りません。2022年に発表された実験では、AIで作った顔の写真と本物の顔の写真を混ぜて見せ、どちらかを当ててもらうと、正しく当てられたのは平均48.2%で、でたらめに選んだときと変わりませんでした(2つから1つを選ぶので、でたらめでも半分の50%は当たります)。おかしなところの見つけ方を先に教わった人たちでも、59.0%でした(使ったAIの顔は、はっきりおかしなところがあるものを除いてありました)。作る技術が進むほど、人が見分けるのは難しくなるとも考えられています。見た目だけで決めず、出どころや本人に確かめることが大切です。

図で解説

ディープフェイクができるまでの流れを表した模式図(顔は記号で、実在の人ではない)。題「本人の写真や声を学んで、そっくりに作る」。左の紺の枠「① たくさん学ぶ」:めがねをかけた同じ人の顔が、笑う・口を開ける・かたむくなど6通り並び、「写真・動画」。その下に音の波の印と「声の録音」。一番下に「本人のものを、たくさん」。矢印で、真ん中の枠「② 特徴をつかむ」「深層学習のAI」:3つの札「顔の形」「表情の動き」「声の高さ・癖」と、「たくさん見比べて」「AIが自分で見つける」。矢印で、右のオレンジの枠「③ 重ねる・作る」:動画の画面の中で、長い髪の別の人の頭と体に、めがねの本人の顔が重なっている。下に「別の人の動画の顔を」「本人の顔にする」「声も本人そっくりに」。一番下の帯:本人の写真や声が多いほど、そっくりに作りやすい。
ディープフェイクが本物そっくりになるまでを、左から右へ3つの箱で表した模式図です。矢印は流れの向きです。左の箱で、深層学習のAIが、本人の写真や動画、声の録音をたくさん学びます。真ん中の箱で、AIはたくさんの例を見比べ、顔の形や表情の動き、声の高さや癖といった、どの例にも共通する特徴を、自分で見つけ出します。右の箱で、その特徴を使い、別の人の動画の顔を本人の顔にしたり、本人そっくりの声を作ったりします。本人の写真や声が多いほど、そっくりに作りやすくなります。
ディープフェイクの主な4つの形を、4枚の札に分けた図(顔は記号で、実在の人ではない)。題「ディープフェイクの、主な4つの形」。副題:どれも、本人が言っていない・していないことを、本物のように見せる。左上「顔の入れ替え」:めがねの人の顔から矢印が、長い髪の別の人が映る画面へ向かい、画面の中の顔がめがねの顔になっている。「別の人の動画の顔を、本人の顔に変える」。右上「口や表情を動かす」:めがねの人の口がオレンジで大きく開き、音の波の入った吹き出しがある。「本物の映像の口を、別の言葉に合わせる」。左下「声のまね」:めがねの人の顔の横に、オレンジの音の波。「本人そっくりの声で、言っていないことを話す」。右下「まるごと作る」:建物の前に人が立つ絵の画面に、オレンジの星形のきらめき。「起きていない場面を、一から作る」。一番下の帯:動画だけでなく、写真や声のディープフェイクもある。
ディープフェイクの、主な4つの形を並べた図です。左上の「顔の入れ替え」は、別の人が映った動画の顔を、本人の顔に変えます。右上の「口や表情を動かす」は、本物の映像の口の周りを、本人が言っていない言葉に合わせて動かします。左下の「声のまね」は、本人そっくりの声で、言っていないことを話させます。右下の「まるごと作る」は、起きていない場面の画像や動画を一から作ります。ディープフェイクは動画だけでなく、写真や声のこともあります。
ディープフェイクかもしれないときの確かめ方を、3段に並べた図。題「見た目より、出どころと本人に確かめる」。副題:ディープフェイクかもしれないときの、3つの確かめ方。上の帯:大きく「48%」、「2022年の実験:AIで作った顔の写真か、本物かを当てられた割合」「(何も教わらずに当てた人たちの平均。でたらめに選んでも半分は当たる)」。その下に番号つきの3段。1「出どころの記録があるかを見る」:いつ・何で作り、AIを使ったかの手がかり。無くても、偽物とは限らない(右に、チェックの印つきの書類の絵)。2「発信元を確かめ、ほかとも読み比べる」:信頼できるところでも同じことを伝えているか。分かるまで広めない(右に、重なった2枚の書類の絵)。3(オレンジの段)「お金の話は、本人に別の方法で」:いったん切って、自分で調べた番号にかけ直す。家族の合い言葉も(右に、スマートフォンの絵)。一番下の帯:見た目だけで決めず、出どころと本人に確かめる。
ディープフェイクかもしれないものに出会ったときの、3つの確かめ方を並べた図です。上の帯の48%は、2022年の実験で、AIで作った顔の写真と本物の顔の写真を、何も教わらずに見分けた人たちが正しく当てた割合です。2つから1つを選ぶので、でたらめに選んでも半分の50%は当たり、それと変わりませんでした。だから、見た目より、1 出どころの記録があるかを見る(記録は手がかりで、決め手ではありません)、2 発信元を確かめ、ほかの信頼できるところとも読み比べる、3 お金の話は、いったん切って、自分で調べた番号で本人に確かめる、の3つが大切です。

図は、出典(科学なるほど新聞 naru.news)を書けば、授業・資料・ブログなどで自由に使えます(CC BY 4.0)。

たとえるなら

本人そっくりに動く、お面

似顔絵の名人が、ある人の写真を何百枚も見て、顔の形や笑い方の癖を覚え、本人そっくりのお面を作ったとします。このお面は、かぶった人の表情に合わせて、目や口まで動きます。別の人がかぶって話すと、画面ごしに見た人には、本人が話しているように見えます。ディープフェイクの「顔の入れ替え」は、このお面をAIが作るようなものです。

名人は、写真が多いほど、本人に近いお面を作れます。AIも、本人の写真や声が多いほど、そっくりに作りやすくなります。だから、自分の顔写真や声をネットに広く出しすぎないことが、備えの1つになります。

ただ、たとえが合わないところもあります。お面がまねるのは顔だけですが、ディープフェイクは声もまねでき、本物の映像の口を別の言葉に合わせて動かしたり、起きていない場面をまるごと作ったりもできます。また、お面は近くで見ればたいてい分かりますが、ディープフェイクは、よく見ても見分けにくいことがあります。AIは、だまそうと考えて作っているわけではありません。だますために使うかどうかを決めるのは、作って使う人です。

ポイント解説

なぜ「ディープフェイク」と呼ぶの?

英語の deepfake をカタカナにした言葉で、深層学習(ディープラーニング)の「ディープ」と、偽物という意味の「フェイク」を合わせて作られました。深層学習は、たくさんのデータから学ぶAIのやり方の1つで、AIの中で、計算を何段にも重ねて進めます。「ディープ(深い)」は、この段の重なりが深いことを指します。

2017年の終わりごろ、海外の大きなネットの掲示板(Reddit)で、「deepfakes」という名前の利用者が、深層学習を使って、有名人の顔を、性的な動画に出ている人の顔と入れ替えた動画を作り、投稿していました。このことが知られて大きな騒ぎになり、その後、ディープフェイクの動画が次々に出てくるようになりました。

今では、顔の入れ替えだけでなく、AIで作ったり作り替えたりした、本物と見間違えるような画像・音声・動画を、広くディープフェイクと呼んでいます。

どうして本物そっくりにできるの?

AIが、本人の写真や動画、声の録音をたくさん学ぶからです。深層学習のAIは、同じ人の写真をたくさん見比べるうちに、どの写真にも共通する顔の形や、表情が変わるときの動き方を、自分で見つけ出します。声も同じで、たくさんの録音から、声の高さや話し方の癖をつかみます。どこを手がかりにするかを、人が1つずつ教えなくてもよいのです。同じ人の写真や声が多いほど、その人らしさをよくまねられます。

顔の入れ替えでは、AIが、元の動画の顔から表情や顔の向きを読み取り、それを本人の顔として描き直します。口の動きを合わせるものでは、本物の映像の口の周りを、別の言葉に合うように描き替えます。声のまねでは、本人の録音から声の特徴を学び、本人が言っていない文を、その声で話させます。

一から作るものもあります。生成AI(新しい文章や絵などを作り出すAI)が進んで、写真と見分けにくい画像や、本物らしい声や動画も作れるようになりました。作るAIと、本物か作り物かを見分けるAIを競わせて、作る方を鍛えるやり方も、本物そっくりの顔の写真を作るのに使われてきました。

何が困るの?

まず、人をだましてお金を取ることに使われます。2024年1月の終わりに香港の警察に届けられた事件では、ある人が、イギリスにある本社で会社のお金を管理する役の人を名乗るメールを受け取り、ひみつの取り引きの話だとして、何人もが参加する動画の会議にさそわれました。その人は最後には、5つの口座へお金を送ることを認め、約2億香港ドルを失いました。香港の警察は、会議の映像を、ネットで公開されていた動画と、なりすまされた人の声を使って、前もって作ったものとみています。

家族の声をまねて、困っているからすぐにお金を送ってほしいと頼む電話や、会社の上の人や警察などを名乗る動画の通話にも使われています。

うその情報を広めることにも使われます。2022年3月には、ウクライナの大統領が、兵士に戦うのをやめて降参するよう呼びかけたように見せる偽の動画が、SNSで広まりました。2024年1月には、アメリカの大統領選挙の予備選挙(党の候補者を決める選挙)を前に、大統領の声をまねた電話が、予備選挙で投票しないように呼びかけました。

本人の同意のない性的な画像を作ることも、大きな問題です。日本でも、卒業アルバムなどの顔写真を、生成AIなどで性的な画像に加工される被害が、急に増えています。

さらに、ディープフェイクが知られるほど、本物の映像や録音まで「作り物だ」と言いのがれしやすくなる、という心配もあります。2019年の論文の著者たちは、これを「うそつきの配当」と名付けました。配当は、もうけの分け前のことで、うそをつく人が得をする、という意味です。

人は見分けられるの?

見た目だけで見分けるのは、難しいことがあります。2022年に発表された実験では、AIで作った顔の写真(実在しない人の顔)と本物の顔の写真を混ぜて、315人に、1人128枚ずつ見せ、どちらかを当ててもらいました。正しく当てられたのは平均48.2%でした。2つから1つを選ぶので、でたらめに選んでも半分の50%は当たります。それと変わらなかったのです。別の219人に、作り物に出やすいおかしなところを先に教え、1枚ごとに答え合わせをしながら当ててもらっても、59.0%でした。この実験では、はっきりおかしなところがあるAIの顔は、前もって除いてありました。

同じ実験で、別の223人に、顔がどれくらい信頼できそうかを1〜7の点で付けてもらうと、AIで作った顔の平均は4.82点で、本物の顔の4.48点より、少し高くなりました。

見分けるAIも作られていますが、新しい見分け方ができると、作る側のAIもよくなり、見つからないように工夫する人も出てきます。見分けるAIは、学んだ作り方の偽物をよく見つけても、ほかの作り方の偽物には弱いことがあります。こうした、いたちごっこが続いています。

そこで、見た目で見分けるのではなく、出どころの記録で確かめる仕組みも作られています。C2PA は、いくつもの団体が集まって決めた、出どころの記録の付け方の、みんなで使う決まった形です。写真や動画に、いつ・何の道具で作り、どう直したか、AIを使ったかといった記録を付けます。記録には、データが途中で書き換えられていないかを確かめられる印(電子の署名)も付くので、後から記録や中身が書き換えられると分かります。

ただし、この記録は、中身が事実かどうかまでは教えてくれません。記録を付けるかどうかは自由で、SNSなどで共有されるときに消えることも多いので、記録が無いからといって、偽物とは限りません。では、どう使えばよいのでしょう。記録があれば、誰が出し、どの道具で作り、どう直したかを知る手がかりになります。でも、それだけでは決め手にならないので、発信元を確かめる、ほかの信頼できるところの伝え方と読み比べる、お金の話は本人に別の方法で確かめる、といったことと合わせて使います。

AIで作った画像や音の中に、目に見えない印(電子透かし)を入れる方法もありますが、消されてしまうことがあります。

決まりはあるの?

EUのAI法(2024年にできた、AIについてのEUの法律)は、ディープフェイクを「実在の人や物、場所、団体、出来事に似せた、AIで作ったり作り替えたりした画像・音声・動画で、見た人に本物や真実だと誤って思わせるもの」と決めています。

その上で、2026年8月2日から、ディープフェイクの画像・音声・動画を作るAIを、仕事などで使う側(個人の、仕事でない利用はのぞく)に、それがAIで作った・作り替えたものだと示すことを求めています。映画や物語、人や世の中をからかって笑わせる作品のように、作品だとはっきり分かるものでは、作品を楽しむじゃまにならない形で示せばよいとしています。また、画像・音声・動画・文を作るAIを提供する会社などには、作ったものに機械で読み取れる印を付け、AIで作ったと見分けられるようにすることを求めています。2026年8月2日より前から出ていたAIは、少し遅く、2026年12月2日までにそうすればよいとしています。

2026年の改正では、本人のはっきりした同意なく、誰だか分かる人の性的な画像や動画などを作るAIを禁じる決まりも足されました。そうした画像を作るためのAIや、防ぐ仕組みが足りずに簡単に作れてしまうAIを提供することと、そうした画像を作るためにAIを使うことが禁じられます。子どもの性的な画像などを作るAIも、同じように禁じられます。どちらも2026年12月2日から当てはまります。

日本では、総務省と経済産業省の「AI事業者ガイドライン」が、AIに関わる事業者に、偽情報への対策をとることや、国々が話し合って決めたAIの約束ごとにそって、技術的にできる場合は電子透かしなどで、AIが作ったものを見分けられる仕組みを入れることを求めています。ただし、これは法律のように守らせる力のない手引きで、事業者が自分から取り組むことを後押しするものです。

どう備えればいい?

まず、見た目だけで決めないことです。驚くような映像や音声を見たら、最初に出した人やところ(発信元)が信頼できるかを確かめ、ほかの信頼できるところでも同じことを伝えているか、複数の情報を読み比べましょう。本当かどうか分からないうちは、広めないことも大切です。

お金の話は、別の方法で本人に確かめます。家族や会社の人を名乗る電話や動画の通話で、お金を送ってと言われたら、いったん切って、自分で調べた番号にかけ直しましょう。家族で、本人だと確かめるための合い言葉を決めておく方法もあります。動画の通話なら、相手に顔を上下左右に動かしてもらい、画面がおかしくならないかを見る、話の中身にそった質問をして確かめる、といった方法もあります。

自分の顔や声を、ネットに広く出しすぎないことも備えになります。自分の写真や声の公開を減らし、SNSのアカウントを、知っている人だけが見られる設定にしましょう。自分や友だちの顔写真を、SNSなどに気軽に載せないことも大切です。

もし、自分の写真を性的な画像に加工されたり、それを消す代わりにお金を求められたりしたら、お金は払わずに、親や先生など、周りの大人に相談しましょう。

確認問題

  1. 問12022年に発表された実験で、315人に、AIで作った顔の写真と本物の顔の写真を混ぜて1枚ずつ見せ、AIで作ったものか本物かを当ててもらった。正しく当てられた割合は、平均でどのくらいだった?

    答えと解説

    答え:A 約48%

    315人が正しく当てられたのは、平均48.2%でした。2つから1つを選ぶので、でたらめに選んでも半分の50%は当たります。それと変わらなかったのです。約59%は、別の219人に、作り物に出やすいおかしなところを先に教え、1枚ごとに答え合わせをしながら当ててもらったときの割合です(はっきりおかしなところがあるAIの顔は、前もって除いてありました)。見た目だけで見分けるのは、難しいことがあるのです。

    くわしくは → ポイント解説:人は見分けられるの?

  2. 問2EUのAI法では、2026年8月2日から、ディープフェイクの画像・音声・動画を作るAIを、仕事などで使う人や会社(AIを作って提供する会社ではなく、そのAIを使って作る側)に、ある決まりが当てはまる。その人や会社がしなければならないのは、どれ?

    答えと解説

    答え:B AIで作ったものだと、見る人に示す

    EUのAI法は、ディープフェイクを作るAIを仕事などで使う側に、それがAIで作った・作り替えたものだと示すことを求めています。映画や物語のように、作品だとはっきり分かるものでは、楽しむじゃまにならない形で示せばよいとしています。機械で読める印を作ったものに付けるのは、AIを提供する会社などへの決まりです。使ったAIの名前を示すことは、この決まりには書かれていません。

    くわしくは → ポイント解説:決まりはあるの?

  3. 問32024年1月の終わりに香港の警察に届けられた事件では、ある人が、イギリスにある本社で会社のお金を管理する役の人を名乗るメールで、何人もが参加する動画の会議にさそわれ、約2億香港ドルをだまし取られた。香港の警察は、会議に映った人たちの姿と声を、何を使って作ったとみている?

    答えと解説

    答え:C ネットに公開されていた動画と、本人の声

    香港の警察は、会議の映像を、ネットで公開されていた動画と、なりすまされた人の声を使って、前もって作ったものとみています。ディープフェイクは、本人の写真や動画、声が多くあるほど、そっくりに作りやすくなります。お金の話は、いったん切って、自分で調べた番号で本人に確かめることが大切です。

    くわしくは → ポイント解説:何が困るの?

参考文献と確かめ方

このページは、上の資料をもとにAIが書き、書いたAIとは別のAIが、資料の本文と照らして確かめました(2026年11月13日)。理学の修士号と、高校理科の教員免許を持つ人も読んで確かめてから出しています。数字は、その時点のものです。わかりにくかったところ、誤りのご指摘、解説してほしい用語は、[email protected] へお寄せください。

AIの用語

AIの用語をすべて見る(58) →