転移学習(AIが、学んだことを別の課題に生かすやり方)とは?
別の呼び名:Transfer learning
1分で解説
転移学習とは、AIがある課題で学んだことを、別の課題を学ぶときに生かすやり方のことです。
例えば、100万枚を超える写真で物の名前を当てる練習をしたAIを、数の少ない医療の画像で病気を見分けるAIの出発点にします。写真を見分けるAIの前の方の層(計算の段)は、線や模様のような、どの写真にも役立つ手がかりを学んでいます。それを借りるので、一から学ぶより、ずっと少ないデータで済みます。
生かし方には、借りた層を固定して最後の層だけを学ばせる形と、借りた層も少し学び直す形(ファインチューニング)があります。生かす元を大量のデータで作る段が、事前学習です。ただ、元の課題と新しい課題が違いすぎると、かえって成績が下がること(負の転移)もあります。
よくある思い込み
「転移学習とファインチューニングは、別々のやり方」
一部だけ合っています。転移学習は、ある課題で学んだことを別の課題に生かす、という考え方の名前です。その生かし方に、主に2つの形があります。1つは、学んだ層を固定して変えず、新しく足した最後の層だけを学ばせる形です。学んだ層が取り出す手がかり(特徴)だけを借りるので、特徴抽出とも呼びます。もう1つは、学んだ中の数(パラメーター)を出発点にして、借りた層も新しいデータで少しずつ学び直す形で、これがファインチューニングです。この2つの形が違うのは本当です。でも、ファインチューニングは、転移学習の外にある別の技術ではありません。機械学習の教科書や、AIを作る道具の手引きでも、転移学習のよくあるやり方の1つとして説明されています。どちらの形にするかは、手元のデータの量や、元の課題との近さで選びます。ファインチューニングでは、借りた数を壊さないように、学ぶたびに中の数を直す幅(学習率)をとても小さくします。
図で解説
図は、出典(科学なるほど新聞 naru.news)を書けば、授業・資料・ブログなどで自由に使えます(CC BY 4.0)。
たとえるなら
バイオリンを習った人が、ピアノを早く覚える
バイオリンを習った人は、ピアノを習い始めても、楽譜の読み方のような知識を、一から学び直さずに済みます。どちらも楽器なので、共通する知識があるからです。前に学んだことが、次の学びを助ける。これが転移学習の考え方です。AIで、楽譜の読み方に当たるのが、前の方の層が学んだ、線や模様のような手がかりです。
ただ、何でも助けになるわけではありません。自転車に乗れるようになっても、ピアノが早く上手になるわけではありません。AIでは、元の課題と新しい課題が違いすぎると、借りた手がかりが役に立たないどころか、借りないときより成績を下げることもあります(負の転移)。
たとえが合わないところもあります。人は、どの経験が使えそうかを自分で考えますが、AIでは、どのAIの、どの層を借りるかを、作る人が選びます。また、AIの「借りる」は、学んだ中の数をそのまま写して、新しいAIの出発点にすることです。写すので、元のAIはそのまま残ります。
ポイント解説
なぜ「転移」と呼ぶの?
もとは、人の学びを調べる心理学の言葉です。前に学習したことが、後の別の学習に影響することを「学習の転移」と呼びます。後の学習を助ける場合が「正の転移」、邪魔をする場合が「負の転移」です。
機械学習の転移学習(英語で transfer learning)も、この考えから来たと考えられています。バイオリンを習った人がピアノを早く覚えられるように、前に学んだことを生かせば、新しい課題を、少ないデータで、うまく学べるはずだ、という考えです。
機械学習の用語集では、ある課題から別の課題へ、情報を移すこと、と説明されています。例えば、データの多い課題で学んだことを、データの少ない課題に生かします。答えの付いたデータを集めるには、時間もお金もかかるので、少ないデータで済むことが大きな利点です。
なぜ、学んだことが別の課題にも役立つの?
写真を見分けるAIでは、前の方の層が、どの写真にも出てくる簡単な手がかりを学ぶからです。写真を見分ける深いネットワーク(層を何段も重ねた計算の仕組み)は、何の写真で学んでも、最初の層が、いろいろな向きのしま模様や、色のかたまりに反応するようになることが知られています。どの課題で学んでも似たものができるので、こうした手がかりは、ほかの課題にも使える、共通のものだと考えられます。
後ろの層ほど、元の課題に合わせた手がかりになります。2013年の研究では、2つ目の層は角に、3つ目の層はあみ目のような模様に、4つ目の層は犬の顔のような部品に、5つ目の層は犬やキーボードのような物全体に反応していました(詳しくは「深層学習」のページ)。最後の出口の層は、元の課題の答え(例えば1000種類の名前)を出すための層なので、新しい課題では取り替えます。
2014年の研究は、これを層ごとに確かめました。100万枚を超える写真の1000種類を、500種類ずつの2つの課題に分け、片方の課題で学んだネットワークの前から何層かを写して、もう片方の課題を学ばせたのです。前の2つの層は、ほとんど損をせずに借りられました。人が作った物と自然の物のように、違う課題どうしに分けると、後ろの層まで借りるほど、成績の下がり方が大きくなりました。
どうやって生かすの?
よく使われる形は2つです。どちらも、まず、学び終えたAIの層と中の数を写し、最後の出口の層だけを、新しい課題用に取り替えます。元の出口の層は、元の課題の答え(例えば1000種類の名前)と結び付いているからです。
1つ目は、借りた層を固定して変えず、新しい出口の層だけを学ばせる形です(特徴だけ借りる形。特徴抽出)。借りた層が写真から取り出した手がかりを、新しい答えに結び付ける所だけを学びます。固定するのは、学び直しで、借りた層に入っている情報を壊さないためです。
2つ目は、その後で固定を外し、借りた層の全部か一部も、新しいデータで学び直す形で、これがファインチューニングです。手がかりを、新しい課題に合うように少しずつ直します。ただ、新しいデータは少ないことが多いので、学ぶたびに中の数を直す幅(学習率)を大きくすると、すぐに過学習(学習データに合わせすぎて、本番で外すこと)を起こすおそれがあります。
AIを作る道具の手引きに、こんな例があります。犬と猫の写真2000枚で、犬か猫かを当てるAIを作ります。100万枚を超える写真で学んだネットワークを借り、固定したまま、新しく足した出口の層だけを学ばせると、正解率は約96%になりました。その後、後ろの方の層の固定を外してファインチューニングすると、98%近くまで上がりました。
データが少ないと、どれくらい違うの?
差は、とても大きくなることがあります。層が何に反応するかを調べた、上の2013年の研究は、同じ論文で、借りる効き目も確かめました。100万枚を超える写真で学んだネットワークの層を固定して借り、新しい出口の層だけを学ばせて、101種類の物の写真を見分けさせたのです。1種類あたり15枚の写真で学ぶと、正解率は83.8%でした。同じ作りのネットワークを、その写真だけで一から学ばせると、22.8%でした。1種類あたり30枚でも、86.5%と46.5%でした。
医療の画像でも使われています。2017年の研究は、大量の写真で学んだ、写真を見分けるAIを出発点にして、皮膚の病気の写真約13万枚で、全部の層をファインチューニングしました。皮膚がんと、がんでない似たもの(ほくろなど)を見分ける2つの課題で、皮膚科の専門医21人と同じくらいの成績でした。
言葉のAIでは、どう使われているの?
言葉のAIで転移学習が大きく広がったのは、2018年ごろです。その年の論文は、転移学習は写真の分野を大きく変えたのに、言葉の分野では、まだ課題ごとに一から学ばせることが多い、と指摘しました。そして、大量の文章で学んだ言葉のモデルをファインチューニングするやり方を示しました。文を種類に分ける課題で、答えを付けた例が100個だけでも、一から学ばせたモデルに100倍の例を使ったときと同じくらいの成績になりました。
写真の分野では、事前学習は、名前を付けた大量の写真で学ぶのが普通でした。言葉の分野では、答えを付けていない文章で事前学習することが多くなりました。次に来る言葉や、隠した言葉を当てる練習なら、答えは文章そのものに書いてあるからです(詳しくは「事前学習」のページ)。
事前学習やファインチューニングとは、どう違うの?
転移学習は、「学んだことを別の課題に生かす」という考え方の名前です。事前学習とファインチューニングは、その中の段と、やり方の名前です。
事前学習は、生かす元を作る段です。大量のデータで、多くの課題に役立つ土台を前もって学ばせます。写真なら名前を付けた大量の写真で、言葉なら答えを付けていない大量の文章で学ぶことが多いです。
ファインチューニングは、生かし方の1つです。借りた中の数を出発点にして、目的の課題のデータで少しずつ学び直します。もう1つの生かし方が、借りた層を固定して、出口の層だけを学ばせる形です(詳しくは「ファインチューニング」のページ)。
転移学習には、層を借りる形のほかの形もあります。1つのモデルに、いくつもの課題をこなさせる形(マルチタスク学習)も、転移学習の例として挙げられています。
うまくいかないことはあるの?
あります。元の課題と新しい課題が違いすぎると、借りたせいで、借りないときより成績が下がることがあります。これを「負の転移」と呼びます。機械学習では、2005年の研究が実験で見つけ、課題が違いすぎると、転移学習はかえって成績を下げうる、と結論しました。主な原因は、元のデータと新しいデータの違いだと考えられています。元のデータに間違いや乱れが多いときにも、起きることがあります。
違いが大きいほど、借りて得をする分は減ります。層ごとに確かめた、上の2014年の研究でも、人が作った物と自然の物という違う課題どうしでは、似た課題どうしより、後ろの層まで借りたときの成績の下がり方が、ずっと大きくなりました。
データが十分にあれば、借りても差が出ないことがあります。2019年の研究は、目の奥の写真約25万枚などを使う、データの多い医療の画像の課題では、借りても成績はほとんど変わらなかった、と報告しています。ただ、写真を5000枚に減らすと、大きなモデルでは、借りたほうが成績がよくなりました。
確認問題
問1写真を見分けるように学んだAIの、何段も重なった層を、別の写真の課題に借りる。ほかの課題にもそのまま役立ちやすいのは、どの層?
答えと解説
答え:A 入り口に近い、前の方の層
入り口に近い前の方の層は、何の写真で学んでも、いろいろな向きのしま模様や色のかたまりのような、どの写真にも出てくる手がかりに反応するようになります。そこから後ろへ進むほど、元の課題に合わせた手がかりになり、最後の出口の層は元の課題の答えと結び付いているので、新しい課題では取り替えます。2014年の研究でも、前の2つの層は、ほとんど損をせずに別の課題へ借りられました。
問2AIの「転移学習」と「ファインチューニング」の関係として、正しいのはどれ?
答えと解説
答え:C ファインチューニングは、転移学習の1つ
転移学習は、学んだことを別の課題に生かす、という考え方の名前で、ファインチューニングは、その生かし方の1つです。借りた中の数を出発点にして、新しい課題のデータで少しずつ学び直します。借りた層を固定し、新しい出口の層だけを学ばせる形も、転移学習のもう1つの生かし方なので、2つは同じものではありません。
問32014年の研究で、写真を見分けるAIの学んだ層を、人が作った物の写真と、自然の物の写真という、2つの課題の間で借りた。借りる層を後ろの方まで増やすと、新しい課題の成績はどうなった?
答えと解説
答え:B 借りる層を増やすほど、成績が下がった
人が作った物と自然の物のように違う課題どうしでは、後ろの方の層まで借りるほど、成績の下がり方が大きくなりました。後ろの層ほど、元の課題に合わせた手がかりになっているからです。元の課題と新しい課題が違いすぎると、借りないときより成績が下がることもあり、これを「負の転移」と呼びます。
関連用語
- 事前学習
- ファインチューニング
- 汎化
- 深層学習
- ニューラルネットワーク
- 機械学習
- 大規模言語モデル
- パラメーター
- 過学習
- ハイパーパラメーター
- 破局的忘却
- マルチタスク学習
- 自己教師あり学習
参考文献と確かめ方
- Zhuang ほか「A Comprehensive Survey on Transfer Learning」(転移学習のまとめの論文。arXiv、第1版2019年11月・第3版2020年6月。1章〔バイオリンを習った人はピアノを早く覚えられる・自転車はピアノを助けない・教育心理学から来た考え・スペイン語を学んだ人がフランス語で迷う負の転移の例〕・3章の定義〔Pan と Yang の2010年のまとめの論文の定義を広げたもの〕。2026年11月18日に読んだ)
- Google「Machine Learning Glossary」(機械学習の用語集。transfer learning の項〔ある課題から別の課題へ情報を移す・データの多い課題から少ない課題へ・マルチタスク学習の例〕と fine-tuning の項〔ファインチューニングは転移学習の1つの形〕。2026年11月18日に読んだ)
- コトバンク「転移」(デジタル大辞泉の、前に学習したことが後の学習に影響すること・正の転移と負の転移、と、最新 心理学事典の「転移」。2026年11月18日に読んだ)
- Yosinski ほか「How transferable are features in deep neural networks?」(arXiv、2014年11月。NIPS 2014。要旨〔2つの原因・遠い課題でもでたらめな層よりよい・学び直すと成績が上がる〕・1章〔最初の層がガボールフィルター〔向きのある縞〕や色のかたまりに似る〕・2章〔1000種類を500種類ずつに分ける・約64万5000枚ずつ・人工物551種類と自然の物449種類〕・4.1節〔前の2つの層はほとんど完全に移る〕・4.3節〔違う課題どうしでは下がり方が大きい〕。2026年11月18日に読んだ)
- Zeiler・Fergus「Visualizing and Understanding Convolutional Networks」(arXiv、2013年11月。3章〔ImageNet 2012 の130万枚・1000種類〕・4章〔2〜5つ目の層が反応するもの〕・5.2節と表4・表5・表6〔1〜7層を固定し、新しい出口だけを学ぶ・Caltech-101 の15枚と30枚の正解率・Caltech-256 は6枚で10倍の枚数のやり方を上回る・PASCAL で届かなかったわけ〕。2026年11月18日に読んだ)
- Caltech「Caltech 101」(データの説明。101種類の物の写真。2026年11月18日に読んだ)
- Keras「Transfer learning & fine-tuning」(François Chollet、2020年4月作成・2023年6月更新。定義・データが少ないときに使う・層を固定して新しい層を学ばせる流れ・最後にしてもよいファインチューニングと、とても小さな学習率・すぐに過学習しうること。2026年11月18日に読んだ)
- TensorFlow「Transfer learning and fine-tuning」(Google の手引き。特徴抽出とファインチューニングの2つの形・ImageNet で学んだ MobileNet V2・犬と猫の写真2000枚・学ばせる数1281個・約96%と約98%・前の方の層は簡単で一般的な手がかり。2026年11月18日に読んだ)
- Zhang・Lipton・Li・Smola『Dive into Deep Learning』14.2節「Fine-Tuning」(ファインチューニングは転移学習のよくあるやり方・出口の層は元のデータの名前と結び付く・線や質感や形を見分ける手がかり・小さな学習率。2026年11月18日に読んだ)
- Esteva ほか「Dermatologist-level classification of skin cancer with deep neural networks」(Nature 542巻、115〜118ページ、2017年。PMC の著者原稿。要旨と方法〔約128万枚・1000種類で学んだ Inception v3・12万9450枚・2032種類の病気・全部の層のファインチューニング・2つの課題で専門医21人と同じくらい・転移学習は手元のデータの量で一番よい〕。2026年11月18日に読んだ)
- Tajbakhsh ほか「Convolutional Neural Networks for Medical Image Analysis: Full Training or Fine Tuning?」(IEEE Transactions on Medical Imaging 35巻5号、2016年。arXiv の要旨〔放射線科・循環器・消化器の4つの課題・一から学ぶのと同じかそれよりよい・学習データの量に強い〕。2026年11月18日に読んだ)
- Howard と Ruder「Universal Language Model Fine-tuning for Text Classification」(ULMFiT、arXiv、2018年1月。要旨〔写真の分野を大きく変えた転移学習・言葉の分野では一から学ぶことが多い・100個の例で100倍の例と同じくらい〕。2026年11月18日に読んだ)
- Devlin ほか「BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding」(Google AI Language、arXiv、2018年10月。要旨〔出口の層を1つ足すだけのファインチューニング・11の課題〕。2026年11月18日に読んだ)
- Raffel ほか「Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer」(T5、Google、arXiv、2019年10月。要旨〔データの多い課題で事前学習してからファインチューニングする転移学習〕・1章〔言葉は答えの付いていないデータで事前学習・写真は ImageNet のような名前の付いたデータで〕・3.1.4節〔答えの要らない練習・隠したり壊したりした言葉を当てる〕・3.2.1節〔次の言葉を当てる言語モデル〕。2026年11月18日に読んだ)
- Zhang ほか「A Survey on Negative Transfer」(負の転移のまとめの論文。arXiv、2020年9月。IEEE/CAA Journal of Automatica Sinica、2022年。1章と2章〔負の転移の定義・2005年に Rosenstein たちが実験で初めて見つけた・課題が違いすぎると妨げうる・根の原因はデータの違い・元のデータの質〕。2026年11月18日に読んだ)
- He・Girshick・Dollár「Rethinking ImageNet Pre-training」(arXiv、2018年11月。要旨〔COCO で一から学んでも劣らない・学習データ1割でも・事前学習は学び始めを速くする〕。2026年11月18日に読んだ)
- Raghu ほか「Transfusion: Understanding Transfer Learning for Medical Imaging」(NeurIPS 2019。arXiv、2019年2月。要旨・目の奥の写真の約25万枚と胸のレントゲン写真の課題・5000枚に減らしたときの比べ方。2026年11月18日に読んだ)
このページは、上の資料をもとにAIが書き、書いたAIとは別のAIが、資料の本文と照らして確かめました(2026年11月18日)。理学の修士号と、高校理科の教員免許を持つ人も読んで確かめてから出しています。数字は、その時点のものです。わかりにくかったところ、誤りのご指摘、解説してほしい用語は、[email protected] へお寄せください。
AIの用語
- アライメント偽装
- AIアライメント
- AIエージェント
- エンベディング
- 解釈可能性
- 過学習
- 拡散モデル
- 機械学習
- 強化学習(RL)
- 形式検証
- 検索拡張生成(RAG)
- 混合エキスパート(MoE)
- コンテキストウィンドウ
- 再帰言語モデル(RLM)
- 再帰的自己改善(RSI)
- サブリミナル学習
- 時間地平線
- 思考の連鎖(CoT)
- システムプロンプト
- 事前学習
- 自動形式化
- シャットダウン抵抗
- シンギュラリティ
- 人工知能(AI)
- 深層学習
- 推論モデル
- スリーパーエージェント
- 生成AI
- 潜在空間
- 創発的ミスアライメント
- 大規模言語モデル(LLM)
- 脱獄
- 段階的無力化
- 知能爆発
- 超知能(ASI)
- ディープフェイク
- データポイズニング
- 敵対的生成ネットワーク(GAN)
- 読んでいるページ転移学習
- トークン
- トランスフォーマー
- ニューラリーズ
- ニューラルネットワーク
- ハイパーパラメーター
- バックドア
- パラメーター
- ハルシネーション
- 汎化
- 汎用人工知能(AGI)
- 評価認識
- ファインチューニング
- プロンプト
- プロンプトインジェクション
- ペルソナベクトル
- ベンチマーク
- 報酬ハッキング
- Lean
- レッドチーム