過学習（オーバーフィッティング）とは？

学習に使ったデータだけで成績を測っても、過学習は見つかりません。過学習したAIほど、そのデータではよく当たるからです。そこで、データを分けます。学習に使うデータ（訓練用のデータ）とは別に、学習の途中で成績を確かめるデータ（検証用のデータ）と、最後に確かめるデータ（テスト用のデータ）を取っておきます。分け方の例は、訓練用70%・検証用15%・テスト用15%です。検証用のデータは、学習の途中で何度も見て、止める所や設定を選ぶのに使うので、くり返し使ううちに、そのデータに合わせた選び方になっていきます。だから、最後の確かめには、それまで使っていないテスト用のデータを使います。

学習の途中で、訓練用と検証用のデータの両方で誤差（まちがいの大きさ）を測り、くり返しの回数ごとにグラフにします。はじめは両方とも同じように下がります。あるところから、訓練用では下がり続けるのに、検証用では上がり始めたら、過学習のしるしです。

確かめのデータに、学習のデータと同じ例がまじっていると、過学習を見のがします。同じ例は、検証用とテスト用のデータから取り除きます。たとえば、迷惑メールを見分けるAIで、同じ文のメールを取り除かずにデータを分けると、テスト用のメールの多くを学習の中で見てしまい、テストの成績が実際よりよく見えます。公平に確かめられるのは、新しい例だけです。

データには、本当の決まりのほかに、偶然のずれや、答えのまちがい（ノイズ）がまじっています。データが少ないと、学習のデータにはたまたまあっても、新しいデータには無い形が多くなります。AIが、それを本当の決まりのように覚えてしまうのが、過学習です。学習のデータが、AIを実際に使う場面のデータをよく表していないとき（たとえば、昼の写真ばかりで学んだAIを、夜の写真にも使うとき）にも起きます。

AIの作りが複雑すぎることも、原因になります。たとえば、なめらかな曲線の上の値に、ノイズを足した30個の点があるとします。これに、まっすぐな線、ほどよく曲がる線、とても細かく曲がる線を合わせてみます。まっすぐな線は、学習の点にさえ合いません。ほどよく曲がる線は、元の曲線にほぼぴったり合いました。とても細かく曲がる線は、ノイズまで覚えてしまい、確かめのデータでの誤差が、けた違いに大きくなりました。

反対に、AIが簡単すぎて、学習のデータでさえよく当たらないことを、学習不足（過小適合）と呼びます。よいAIは、そのあいだの、ちょうどよい所をねらいます。初めて見るデータでも正しく当てる力を、汎化（はんか）と呼びます。

まず、データを増やすことです。いろいろな例が多くあれば、偶然のずれは例ごとにばらばらなので、本当の決まりが目立ちます。ほかに、AIの作りを簡単にするやり方と、学習の目当てに、まちがいの小ささだけでなく「複雑すぎないこと」も入れるやり方があります。あとの方を正則化と呼びます。たとえば L2 正則化では、AIの中の数（重み）が大きくなりすぎないように、数の大きさにも罰をつけます（重みの2乗の合計を、まちがいの大きさに足して、両方を小さくしようとします）。重みを0に近づける力が働き、複雑すぎる答え方を避けやすくなります。重みが大きいほど、答え方は複雑になると考えるからです。正則化の強さは、ハイパーパラメーター（学習の前に人が決める設定）の1つで、検証用のデータで選びます。

早期終了は、検証用のデータでの誤差が上がり始めた所で、学習を止めるやり方です。複雑さを計算しなくてよいので手軽です。ただ、ちょうどよい強さの正則化で、じっくり学習させたAIと比べると、それほどよくなることは、まずないとされています。

2014年の論文（Srivastava ほか。トロント大学）は、ニューラルネットワーク（脳の神経のつながりをまねた計算のしくみ）向けの「ドロップアウト」というやり方を、くわしく調べてまとめました。学習のあいだ、ネットワークの中のユニット（人工のニューロン）を、でたらめに選んで一時的に外します。入口と出口のあいだの層（隠れ層）では、それぞれのユニットを半分の確率で残すのが、多くのネットワークと課題で、いちばんよい値に近い、と書いています。ユニットどうしが頼り合いすぎるのを防ぎ、たくさんのちがうネットワークの答えを平均するのに近い効果があります。手書きの数字を見分ける課題（MNIST）では、まちがいの割合が1.60%から1.35%に減りました（まちがいが約16%減った計算です）。6万個の例で、6500万個を超える中の数（パラメーター）を持つ大きなネットワークを学習させても、過学習を防げた、と書いています。

そうとは限りません。2017年の論文（Zhang ほか。Google Brain など）は、写真を10種類（飛行機・自動車・鳥・ねこなど）に分ける課題（CIFAR10。学習用の写真5万枚）で、写真の答え（何が写っているかの名前）を全部でたらめに付けかえてから、AIに学習させました。写真と答えのあいだに、決まりは何もありません。それでもAIは、学習の写真の答えを丸ごと覚え、100%正解するようになりました。新しい写真での正解は、当てずっぽうと同じ約10%でした。

本当の答えで学習させた同じAIも、学習の写真では100%で、新しい写真では約86%でした。学習の写真での成績は、どちらも100%で同じです。決まりを学んだのか、丸暗記したのかは、取っておいたデータで確かめないと分かりません。

でたらめの答えを覚えるのにかかった時間も、本当の答えのときより少し長いだけでした。このAIの中の数（パラメーター）は約165万個で、学習の写真の数より、ずっと多くありました。覚えるための場所が、たっぷりあったということです。論文は、ニューラルネットワークには、データを丸ごと覚えられるだけの力があると書いています。また、正則化は、新しいデータでの成績をよくすることがあります。でも、正則化を使わなくても新しいデータでよく当たることがあり、正則化だけで過学習を防ぎきれるわけでもない、と論文は書いています。

昔からの考え方では、AIを複雑にするほど、新しいデータでの誤差は、はじめは減り、ある所から増える（U字の形）とされてきました。教科書にも、学習のデータでの誤差が0のモデル（学習したAI）は過学習していて、ふつう新しいデータではうまくいかない、と書かれてきました。ところが、いまの大きなニューラルネットワークは、学習のデータにぴったり合わせても、新しいデータでよく当たることが多いのです。

2019年の論文（Belkin ほか。オハイオ州立大学・コロンビア大学）は、AIの大きさ（中の数の多さ）を増やしていくと、新しいデータでの誤差が、学習のデータにやっとぴったり合わせられるようになる大きさ（中の数が、ちょうど足りる大きさ）の所で山になり、それより大きくすると、また下がっていくことを、いくつもの種類のAIとデータで示しました。下がった先は、U字のいちばん低い所より低くなることが多い、と書いています。2回下がるので、「二重降下（ダブル・ディセント）」と呼ばれます。

同じ年の研究（Nakkiran ほか。ハーバード大学・OpenAI）は、写真を見分けるAIや翻訳のAIなど、いまの深層学習（たくさんの層を重ねたニューラルネットワークで学ぶこと）のさまざまな課題で、二重降下が起きることを示しました。学習をくり返す回数を増やしたときにも起きました。また、翻訳の課題では、山の近くの大きさのAIで、学習のデータを4.5倍にしたのに、成績が悪くなる場合もありました。データが増えると、ぴったり合わせられるようになる大きさも変わり、山の位置がずれるためです。山がいちばんはっきり出たのは、答えにまちがいがまじったデータのときでした。まちがいの無いデータでは、山にならず、誤差がしばらく横ばいになるだけのこともありました。

つまり、大きなAIほど必ず過学習する、とも、大きいほど必ずよい、とも言えません。大事なのは、学習のデータにどれだけぴったり合っているかではなく、新しいデータで当たるかどうかです。だから、どの大きさでも、取っておいたデータで確かめることが大切です。