ディープフェイク(AIで作った、本物そっくりのにせの映像や声)とは?
別の呼び名:Deepfake、Deep fake
1分で解説
ディープフェイクとは、AIで作ったり作り替えたりして、実在の人が言っていないことや、していないことを、本物のように見せる映像・写真・声のことです。
深層学習(ディープラーニング。たくさんのデータから学ぶAIのやり方)の「ディープ」と、偽物の「フェイク」を合わせた言葉です。AIに本人の写真や声をたくさん学ばせると、顔や声の特徴をつかみ、別の人の動画の顔を本人の顔に変えたり、口の動きを別の言葉に合わせたり、本人そっくりの声で話させたりできます。
人をだましてお金を取る、うその情報を広める、本人の同意のない性的な画像を作る、といった悪用が問題になっています。見た目や声だけで見分けるのは難しいことがあるので、出どころを確かめることが大切です。
よくある思い込み
「よく見れば、顔や影の不自然なところで見分けられる」
半分だけ合っています。AIで作った映像や写真には、手や歯・目の形がおかしい、影の向きが合わない、動きや声が少しずれる、といった不自然なところが出ることがあり、見分ける手がかりになります。でも、不自然なところが見つからないからといって、本物とは限りません。2022年に発表された実験では、AIで作った顔の写真と本物の顔の写真を混ぜて見せ、どちらかを当ててもらうと、正しく当てられたのは平均48.2%で、でたらめに選んだときと変わりませんでした(2つから1つを選ぶので、でたらめでも半分の50%は当たります)。おかしなところの見つけ方を先に教わった人たちでも、59.0%でした(使ったAIの顔は、はっきりおかしなところがあるものを除いてありました)。作る技術が進むほど、人が見分けるのは難しくなるとも考えられています。見た目だけで決めず、出どころや本人に確かめることが大切です。
図で解説
図は、出典(科学なるほど新聞 naru.news)を書けば、授業・資料・ブログなどで自由に使えます(CC BY 4.0)。
たとえるなら
本人そっくりに動く、お面
似顔絵の名人が、ある人の写真を何百枚も見て、顔の形や笑い方の癖を覚え、本人そっくりのお面を作ったとします。このお面は、かぶった人の表情に合わせて、目や口まで動きます。別の人がかぶって話すと、画面ごしに見た人には、本人が話しているように見えます。ディープフェイクの「顔の入れ替え」は、このお面をAIが作るようなものです。
名人は、写真が多いほど、本人に近いお面を作れます。AIも、本人の写真や声が多いほど、そっくりに作りやすくなります。だから、自分の顔写真や声をネットに広く出しすぎないことが、備えの1つになります。
ただ、たとえが合わないところもあります。お面がまねるのは顔だけですが、ディープフェイクは声もまねでき、本物の映像の口を別の言葉に合わせて動かしたり、起きていない場面をまるごと作ったりもできます。また、お面は近くで見ればたいてい分かりますが、ディープフェイクは、よく見ても見分けにくいことがあります。AIは、だまそうと考えて作っているわけではありません。だますために使うかどうかを決めるのは、作って使う人です。
ポイント解説
なぜ「ディープフェイク」と呼ぶの?
英語の deepfake をカタカナにした言葉で、深層学習(ディープラーニング)の「ディープ」と、偽物という意味の「フェイク」を合わせて作られました。深層学習は、たくさんのデータから学ぶAIのやり方の1つで、AIの中で、計算を何段にも重ねて進めます。「ディープ(深い)」は、この段の重なりが深いことを指します。
2017年の終わりごろ、海外の大きなネットの掲示板(Reddit)で、「deepfakes」という名前の利用者が、深層学習を使って、有名人の顔を、性的な動画に出ている人の顔と入れ替えた動画を作り、投稿していました。このことが知られて大きな騒ぎになり、その後、ディープフェイクの動画が次々に出てくるようになりました。
今では、顔の入れ替えだけでなく、AIで作ったり作り替えたりした、本物と見間違えるような画像・音声・動画を、広くディープフェイクと呼んでいます。
どうして本物そっくりにできるの?
AIが、本人の写真や動画、声の録音をたくさん学ぶからです。深層学習のAIは、同じ人の写真をたくさん見比べるうちに、どの写真にも共通する顔の形や、表情が変わるときの動き方を、自分で見つけ出します。声も同じで、たくさんの録音から、声の高さや話し方の癖をつかみます。どこを手がかりにするかを、人が1つずつ教えなくてもよいのです。同じ人の写真や声が多いほど、その人らしさをよくまねられます。
顔の入れ替えでは、AIが、元の動画の顔から表情や顔の向きを読み取り、それを本人の顔として描き直します。口の動きを合わせるものでは、本物の映像の口の周りを、別の言葉に合うように描き替えます。声のまねでは、本人の録音から声の特徴を学び、本人が言っていない文を、その声で話させます。
一から作るものもあります。生成AI(新しい文章や絵などを作り出すAI)が進んで、写真と見分けにくい画像や、本物らしい声や動画も作れるようになりました。作るAIと、本物か作り物かを見分けるAIを競わせて、作る方を鍛えるやり方も、本物そっくりの顔の写真を作るのに使われてきました。
何が困るの?
まず、人をだましてお金を取ることに使われます。2024年1月の終わりに香港の警察に届けられた事件では、ある人が、イギリスにある本社で会社のお金を管理する役の人を名乗るメールを受け取り、ひみつの取り引きの話だとして、何人もが参加する動画の会議にさそわれました。その人は最後には、5つの口座へお金を送ることを認め、約2億香港ドルを失いました。香港の警察は、会議の映像を、ネットで公開されていた動画と、なりすまされた人の声を使って、前もって作ったものとみています。
家族の声をまねて、困っているからすぐにお金を送ってほしいと頼む電話や、会社の上の人や警察などを名乗る動画の通話にも使われています。
うその情報を広めることにも使われます。2022年3月には、ウクライナの大統領が、兵士に戦うのをやめて降参するよう呼びかけたように見せる偽の動画が、SNSで広まりました。2024年1月には、アメリカの大統領選挙の予備選挙(党の候補者を決める選挙)を前に、大統領の声をまねた電話が、予備選挙で投票しないように呼びかけました。
本人の同意のない性的な画像を作ることも、大きな問題です。日本でも、卒業アルバムなどの顔写真を、生成AIなどで性的な画像に加工される被害が、急に増えています。
さらに、ディープフェイクが知られるほど、本物の映像や録音まで「作り物だ」と言いのがれしやすくなる、という心配もあります。2019年の論文の著者たちは、これを「うそつきの配当」と名付けました。配当は、もうけの分け前のことで、うそをつく人が得をする、という意味です。
人は見分けられるの?
見た目だけで見分けるのは、難しいことがあります。2022年に発表された実験では、AIで作った顔の写真(実在しない人の顔)と本物の顔の写真を混ぜて、315人に、1人128枚ずつ見せ、どちらかを当ててもらいました。正しく当てられたのは平均48.2%でした。2つから1つを選ぶので、でたらめに選んでも半分の50%は当たります。それと変わらなかったのです。別の219人に、作り物に出やすいおかしなところを先に教え、1枚ごとに答え合わせをしながら当ててもらっても、59.0%でした。この実験では、はっきりおかしなところがあるAIの顔は、前もって除いてありました。
同じ実験で、別の223人に、顔がどれくらい信頼できそうかを1〜7の点で付けてもらうと、AIで作った顔の平均は4.82点で、本物の顔の4.48点より、少し高くなりました。
見分けるAIも作られていますが、新しい見分け方ができると、作る側のAIもよくなり、見つからないように工夫する人も出てきます。見分けるAIは、学んだ作り方の偽物をよく見つけても、ほかの作り方の偽物には弱いことがあります。こうした、いたちごっこが続いています。
そこで、見た目で見分けるのではなく、出どころの記録で確かめる仕組みも作られています。C2PA は、いくつもの団体が集まって決めた、出どころの記録の付け方の、みんなで使う決まった形です。写真や動画に、いつ・何の道具で作り、どう直したか、AIを使ったかといった記録を付けます。記録には、データが途中で書き換えられていないかを確かめられる印(電子の署名)も付くので、後から記録や中身が書き換えられると分かります。
ただし、この記録は、中身が事実かどうかまでは教えてくれません。記録を付けるかどうかは自由で、SNSなどで共有されるときに消えることも多いので、記録が無いからといって、偽物とは限りません。では、どう使えばよいのでしょう。記録があれば、誰が出し、どの道具で作り、どう直したかを知る手がかりになります。でも、それだけでは決め手にならないので、発信元を確かめる、ほかの信頼できるところの伝え方と読み比べる、お金の話は本人に別の方法で確かめる、といったことと合わせて使います。
AIで作った画像や音の中に、目に見えない印(電子透かし)を入れる方法もありますが、消されてしまうことがあります。
決まりはあるの?
EUのAI法(2024年にできた、AIについてのEUの法律)は、ディープフェイクを「実在の人や物、場所、団体、出来事に似せた、AIで作ったり作り替えたりした画像・音声・動画で、見た人に本物や真実だと誤って思わせるもの」と決めています。
その上で、2026年8月2日から、ディープフェイクの画像・音声・動画を作るAIを、仕事などで使う側(個人の、仕事でない利用はのぞく)に、それがAIで作った・作り替えたものだと示すことを求めています。映画や物語、人や世の中をからかって笑わせる作品のように、作品だとはっきり分かるものでは、作品を楽しむじゃまにならない形で示せばよいとしています。また、画像・音声・動画・文を作るAIを提供する会社などには、作ったものに機械で読み取れる印を付け、AIで作ったと見分けられるようにすることを求めています。2026年8月2日より前から出ていたAIは、少し遅く、2026年12月2日までにそうすればよいとしています。
2026年の改正では、本人のはっきりした同意なく、誰だか分かる人の性的な画像や動画などを作るAIを禁じる決まりも足されました。そうした画像を作るためのAIや、防ぐ仕組みが足りずに簡単に作れてしまうAIを提供することと、そうした画像を作るためにAIを使うことが禁じられます。子どもの性的な画像などを作るAIも、同じように禁じられます。どちらも2026年12月2日から当てはまります。
日本では、総務省と経済産業省の「AI事業者ガイドライン」が、AIに関わる事業者に、偽情報への対策をとることや、国々が話し合って決めたAIの約束ごとにそって、技術的にできる場合は電子透かしなどで、AIが作ったものを見分けられる仕組みを入れることを求めています。ただし、これは法律のように守らせる力のない手引きで、事業者が自分から取り組むことを後押しするものです。
どう備えればいい?
まず、見た目だけで決めないことです。驚くような映像や音声を見たら、最初に出した人やところ(発信元)が信頼できるかを確かめ、ほかの信頼できるところでも同じことを伝えているか、複数の情報を読み比べましょう。本当かどうか分からないうちは、広めないことも大切です。
お金の話は、別の方法で本人に確かめます。家族や会社の人を名乗る電話や動画の通話で、お金を送ってと言われたら、いったん切って、自分で調べた番号にかけ直しましょう。家族で、本人だと確かめるための合い言葉を決めておく方法もあります。動画の通話なら、相手に顔を上下左右に動かしてもらい、画面がおかしくならないかを見る、話の中身にそった質問をして確かめる、といった方法もあります。
自分の顔や声を、ネットに広く出しすぎないことも備えになります。自分の写真や声の公開を減らし、SNSのアカウントを、知っている人だけが見られる設定にしましょう。自分や友だちの顔写真を、SNSなどに気軽に載せないことも大切です。
もし、自分の写真を性的な画像に加工されたり、それを消す代わりにお金を求められたりしたら、お金は払わずに、親や先生など、周りの大人に相談しましょう。
確認問題
問12022年に発表された実験で、315人に、AIで作った顔の写真と本物の顔の写真を混ぜて1枚ずつ見せ、AIで作ったものか本物かを当ててもらった。正しく当てられた割合は、平均でどのくらいだった?
答えと解説
答え:A 約48%
315人が正しく当てられたのは、平均48.2%でした。2つから1つを選ぶので、でたらめに選んでも半分の50%は当たります。それと変わらなかったのです。約59%は、別の219人に、作り物に出やすいおかしなところを先に教え、1枚ごとに答え合わせをしながら当ててもらったときの割合です(はっきりおかしなところがあるAIの顔は、前もって除いてありました)。見た目だけで見分けるのは、難しいことがあるのです。
問2EUのAI法では、2026年8月2日から、ディープフェイクの画像・音声・動画を作るAIを、仕事などで使う人や会社(AIを作って提供する会社ではなく、そのAIを使って作る側)に、ある決まりが当てはまる。その人や会社がしなければならないのは、どれ?
答えと解説
答え:B AIで作ったものだと、見る人に示す
EUのAI法は、ディープフェイクを作るAIを仕事などで使う側に、それがAIで作った・作り替えたものだと示すことを求めています。映画や物語のように、作品だとはっきり分かるものでは、楽しむじゃまにならない形で示せばよいとしています。機械で読める印を作ったものに付けるのは、AIを提供する会社などへの決まりです。使ったAIの名前を示すことは、この決まりには書かれていません。
問32024年1月の終わりに香港の警察に届けられた事件では、ある人が、イギリスにある本社で会社のお金を管理する役の人を名乗るメールで、何人もが参加する動画の会議にさそわれ、約2億香港ドルをだまし取られた。香港の警察は、会議に映った人たちの姿と声を、何を使って作ったとみている?
答えと解説
答え:C ネットに公開されていた動画と、本人の声
香港の警察は、会議の映像を、ネットで公開されていた動画と、なりすまされた人の声を使って、前もって作ったものとみています。ディープフェイクは、本人の写真や動画、声が多くあるほど、そっくりに作りやすくなります。お金の話は、いったん切って、自分で調べた番号で本人に確かめることが大切です。
関連用語
- 生成AI
- 深層学習
- ニューラルネットワーク
- 拡散モデル
- 敵対的生成ネットワーク(GAN)
- 潜在空間
- ハルシネーション
- 電子透かし
- コンテンツの来歴(C2PA)
参考文献と確かめ方
- 欧州委員会 AI Act Service Desk「Article 3: Definitions」(EUのAI法〔Regulation (EU) 2024/1689〕の本文。EUR-Lex の2026年7月27日時点の統合版にもとづく。(3) provider・(4) deployer・(60) deep fake の定義。2026年11月13日に読んだ)
- 欧州委員会 AI Act Service Desk「Article 50: Transparency obligations for providers and deployers of certain AI systems」(EUのAI法の第50条の1〜7項。2026年7月27日時点の統合版。2026年11月13日に読んだ)
- 欧州委員会 AI Act Service Desk「Article 5: Prohibited AI practices」(EUのAI法の第5条。2026年の改正〔Digital Omnibus on AI〕で足された1項の (ba)・(bb) と、1a・1b 項。2026年11月13日に読んだ)
- 欧州委員会 AI Act Service Desk「Article 113: Entry into force and application」(EUのAI法が当てはまる日。2026年の改正で直された所を含む。2026年11月13日に読んだ)
- 欧州委員会 AI Act Service Desk「Article 111」(EUのAI法の第111条4項。2026年8月2日より前に出ていたAIが第50条2項に合わせる期限。2026年11月13日に読んだ)
- EUR-Lex「Regulation (EU) 2026/1744」(2026年の改正〔Digital Omnibus on AI〕の本文。2026年7月8日、EU官報 2026年7月24日。第5条1項 (ba)・(bb) を足す所、第111条4項、第113条の当てはまる日〔2026年12月2日〕。2026年11月13日に読んだ)
- 総務省『令和6年版 情報通信白書』第I部 第4章 第1節「AIの進化に伴う課題と現状の取組」(ディープフェイクの定義、図表I-4-1-3「生成AIを利用したディープフェイクによる情報操作の事例」、対策。2026年11月13日に読んだ)
- 総務省・経済産業省「AI事業者ガイドライン(第1.2版)」本編(2026年3月31日。はじめに〔非拘束的なソフトロー〕、第2部の「偽情報等への対策」、広島AIプロセスの国際指針の⑦。2026年11月13日に読んだ)
- 総務省「あなたの卒アル写真が狙われる?!生成AIによる画像被害とは」(上手にネットと付き合おう!のインターネットトラブル事例集の特集。2026年11月13日に読んだ)
- 総務省「インターネット上に流通する真偽の不確かな情報」(上手にネットと付き合おう!の特集。情報の確かめ方。2026年11月13日に読んだ)
- Mirsky・Lee「The Creation and Detection of Deepfakes: A Survey」(ACM Computing Surveys、DOI 10.1145/3425780。arXiv の第3版〔2020年9月〕を ar5iv の HTML で読んだ。1章〔名前の始まり〕・2章〔種類〕・3章〔しくみ〕・6.1節〔見分け方〕。2026年11月13日に読んだ)
- Chesney・Citron「Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security」(California Law Review 107巻、2019年12月。前半〔名前の始まり・しくみ・うそつきの配当〕。2026年11月13日に読んだ)
- Nightingale・Farid「AI-synthesized faces are indistinguishable from real faces and more trustworthy」(PNAS 119巻8号、e2120481119、2022年2月。DOI 10.1073/pnas.2120481119。PubMed Central の版で、実験1〜3〔見分けた割合・信頼できそうかの点〕・顔の選び方・議論を読んだ。2026年11月13日に読んだ)
- C2PA「C2PA Explainer」(仕様 2.2 の説明。来歴・Content Credentials・電子の署名・できないこと。2026年11月13日に読んだ)
- NIST「Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency」(NIST AI 100-4、2024年11月。要旨、電子透かしのはずしやすさ〔3.1.1.3節〕、メタデータが消えること、自動の見分け方と人による見分け方、CSAM・NCII の節。2026年11月13日に読んだ)
- FBI(IC3)「Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud」(公共広告 I-120324-PSA、2024年12月3日。声のまね・動画の通話の悪用と、身を守るこつ。2026年11月13日に読んだ)
- 香港特別行政区政府「LCQ9: Combating frauds involving deepfake」(2024年6月26日。立法会での保安局長の答え。警察が受けたディープフェイクの詐欺の3件と、警察のよびかけ。2026年11月13日に読んだ)
このページは、上の資料をもとにAIが書き、書いたAIとは別のAIが、資料の本文と照らして確かめました(2026年11月13日)。理学の修士号と、高校理科の教員免許を持つ人も読んで確かめてから出しています。数字は、その時点のものです。わかりにくかったところ、誤りのご指摘、解説してほしい用語は、[email protected] へお寄せください。
AIの用語
- アライメント偽装
- AIアライメント
- AIエージェント
- エンベディング
- 解釈可能性
- 過学習
- 拡散モデル
- 機械学習
- 強化学習(RL)
- 形式検証
- 検索拡張生成(RAG)
- 混合エキスパート(MoE)
- コンテキストウィンドウ
- 再帰言語モデル(RLM)
- 再帰的自己改善(RSI)
- サブリミナル学習
- 時間地平線
- 思考の連鎖(CoT)
- システムプロンプト
- 事前学習
- 自動形式化
- シャットダウン抵抗
- シンギュラリティ
- 人工知能(AI)
- 深層学習
- 推論モデル
- スリーパーエージェント
- 生成AI
- 潜在空間
- 創発的ミスアライメント
- 大規模言語モデル(LLM)
- 脱獄
- 段階的無力化
- 知能爆発
- 超知能(ASI)
- 読んでいるページディープフェイク
- データポイズニング
- 敵対的生成ネットワーク(GAN)
- 転移学習
- トークン
- トランスフォーマー
- ニューラリーズ
- ニューラルネットワーク
- ハイパーパラメーター
- バックドア
- パラメーター
- ハルシネーション
- 汎化
- 汎用人工知能(AGI)
- 評価認識
- ファインチューニング
- プロンプト
- プロンプトインジェクション
- ペルソナベクトル
- ベンチマーク
- 報酬ハッキング
- Lean
- レッドチーム