機械学習とは？

変わるのは、計算に使う数です。機械学習で作るものを「モデル」といい、入れたもの（写真やメールなど）から答えを出す計算のしくみです。その計算に使う数を「パラメーター」と呼びます。たとえば、気温や湿度から雨の量を当てるモデルなら、どの手がかりを、どれくらい重く見るかを数で表します（Google の機械学習の入門講座の例）。

学び始めは、数を0に近いでたらめな値にしておきます。そこから、①今の数で答えを出す、②正しい答えと比べて、どれくらいまちがえたか（「損失」）を測る、③まちがいが小さくなる向きへ、数を少しだけ動かす、をくり返します。これ以上まちがいが減らなくなったら、学び終わりです。このやり方を「勾配降下法」といいます。Google の講座は、学習の目的を「損失をできるだけ小さくすること」と説明しています。

数を人が1つずつ決めるのではありません。大規模言語モデル（LLM）では、この数が数千億個から、数兆個にもなります（Google の講座。くわしくは「大規模言語モデル」のページ）。

Google の機械学習の入門講座は、主な種類として、教師あり学習・教師なし学習・強化学習と、生成AI（使う人が入れたものから、新しい中身を作り出すモデル）を挙げています。

教師あり学習は、正しい答え（「ラベル」）の付いた例をたくさん見て、答えにつながる手がかりを学ぶやり方です。「迷惑メールかどうか」「写真に猫がいるか」のように種類を当てるものと、「雨の量」「家の値段」のように数を当てるものがあります。

教師なし学習は、答えの付いていないデータの中から、意味のある形を見つけるやり方です。よく使うのは、似たもの同士をまとめる「クラスタリング」です。たとえば天気のデータを気温でまとめると、季節のような分かれ方が見えてくるかもしれません。まとまりに名前を付けるのは、そのデータを分かっている人です。

強化学習は、やってみた行動に、ごほうびや罰をもらいながら、ごほうびがいちばん多くなるやり方を見つける学び方です。歩くような動きをロボットに覚えさせたり、囲碁を打つ AlphaGo を学ばせたりするのに使われています。推論モデルが考え方を身につけるのにも、使われました（くわしくは「推論モデル」のページ）。

機械学習の中の1つのやり方で、「ニューラルネットワーク」という計算のしくみを使います。ニューラルネットワークは、層を並べた計算のしくみで、層は「ニューロン」という部品でできています。入れたもの（手がかり）と、出す答えのあいだにある層を「隠れ層」といい、Google の用語集は、隠れ層が2つ以上あるものを「ディープ（深い）モデル」と呼んでいます。

たとえば2012年、トロント大学のクリジェフスキー（Alex Krizhevsky）たちは、層を8つ重ねた、パラメーターが6000万個のニューラルネットワークに、120万枚の写真を1000の種類に分けることを学ばせました。その改良版で出た、写真に写ったものを当てる大会（ILSVRC-2012）では、AIが挙げた5つの候補の中に正しい答えが無かった割合（低いほどよい）が15.3%で、2位の26.2%を大きく下回りました。

大規模言語モデルも、深層学習の仲間です。いちばん広く使われている作り方の「トランスフォーマー」は、巨大なニューラルネットワークで、層を何段も重ねています（Google の講座）。

「過学習」かもしれません。Google の講座は、過学習を、学びに使ったデータ（訓練データ）にぴったり合わせすぎて、つまり丸暗記してしまい、新しいデータで正しく当てられなくなること、と説明しています。そして、過学習したモデルを「実験室ではよく動くのに、外の世界では役に立たない発明」にたとえています。

気づくには、学びに使わないデータを別に取っておき、学ぶ途中で、両方でのまちがいの大きさを比べます。初めは両方とも同じように減っていきます。あるところから、訓練データでは減り続ける（か、変わらない）のに、取っておいたデータでは増え始めたら、過学習のしるしです。

原因は、訓練データが本物のデータをよく表していないことと、モデルが複雑すぎることの、片方か両方です。腕前を確かめるテストは、訓練とは別の例で行い、訓練データと同じ例が混ざっていたら消すように、と Google の講座は勧めています。

機械学習は見せた例から学ぶので、例のかたよりが、答えのかたよりになることがあります。Google の講座は、こんな例を挙げています。新しい商品の売れ行きを当てるモデルを、その商品を買った人への電話のアンケートだけで学ばせました。ほかの会社の商品を選んだ人には聞かなかったので、その人たちのことは、訓練データに入っていません。

顔の写真でも、かたよりが見つかっています。2018年、研究者のブオラムウィニ（Joy Buolamwini）とゲブル（Timnit Gebru）は、顔を分析するしくみを試すのに使われる2つの写真の集まり（IJB-A と Adience）が、写っている人の79.6%と86.2%が肌の色の明るい人で、大きくかたよっていることを示しました。そこで、性別と肌の色でつり合いを取った写真の集まりを作り、顔から性別を当てる3社のしくみを試すと、まちがえる割合は、肌の色の暗い女性で最大34.7%、肌の色の明るい男性では最大0.8%でした。

アメリカの国の研究所 NIST も2019年、99の開発者の189の顔認識のプログラムを調べました。2枚の写真が同じ人かを確かめる使い方で、別々の2人を同じ人だとまちがえる割合は、アジア系やアフリカ系アメリカ人の顔では、白人の顔の10〜100倍になることが多く、どれくらいかはプログラムによりました。ただ、アジアの国で作られたプログラムの一部では、アジア系と白人の顔で、こうした大きな差がありませんでした。報告書の主な書き手は、差が何から来るのかは調べていないとしたうえで、これを「より多様な訓練データが、より公平な結果を生むかもしれない、という心強いしるし」と話しています。

たとえばメールです。Google は2019年、Gmail では機械学習のモデルなどで、迷惑メール・だましのメール（フィッシング）・悪いソフトつきのメールの99.9%より多くを、受信箱に届く前に止めている、と書いています。機械学習のしくみ TensorFlow を使って、1日におよそ1億通多くの迷惑メールを止められるようになった、とも書いています（どちらも会社の発表）。機械学習は、決まりを作る人が見落としそうな形を、たくさんのデータから見つけるのに役立つ、という説明です。

声を文字にする音声認識や、写真に写ったものを見分けるしくみも、機械学習で作られてきました。カーネギーメロン大学のミッチェル（Tom Mitchell）は2006年の文章で、売られている音声認識のしくみは、どれも何かの形で機械学習を使っている、と書いています。人の手でプログラムを書くより、学ばせたほうが正しく聞き取れるからです。アメリカの郵便局では、手書きの宛名の郵便の85%より多くを、機械学習で作った文字を読むソフトで自動に仕分けている、とも書いています（どれも2006年の時点）。

ミッチェルは同じ文章で、機械学習がすでにいちばんよいやり方になっている仕事として、2つを挙げています。人が手順を書くには複雑すぎる仕事と、使う人や場所に合わせて変わる必要がある仕事です。いっぽう、行列のかけ算のプログラムのように、機械学習が役に立たないだろう仕事も残る、と書いています。

1959年7月、サミュエル（Arthur Samuel）は、IBM の研究誌に「チェッカー（西洋のボードゲームの1つ）を使った、機械学習のいくつかの研究」という論文を出しました。論文は、人や動物がしたら「学ぶ」と言われるような動きを、コンピューターにさせるプログラムの研究だ、と書き出しています。要旨には、コンピューターは、プログラムを書いた本人よりもうまくチェッカーを打てるように学べ、それにかかったのは、コンピューターが打って8〜10時間ほどだった、とあります。

定義の言い方は、いくつかあります。カーネギーメロン大学のミッチェルは、1997年の教科書『Machine Learning』の紹介のページで、機械学習を「経験によって自動でよくなっていく、コンピューターの計算の手順（アルゴリズム）の研究」と書いています。Google の用語集は「入力のデータからモデルを訓練する、プログラムやしくみ」としています。

ミッチェルは2006年の文章で、もっと細かく、こう書いています。ある仕事T（task）について、物差しP（performance）で測った成績が、経験E（experience）のあとで確かに上がるなら、その機械は学んでいる。迷惑メールのより分けに当てはめると、Tは「メールを分けること」、Pは「正しく分けた割合」、Eは「印の付いたメールを見ること」です（このページで作った例）。

同じ文章でミッチェルは、これまでのコンピューターの学問が、人の手でプログラムを書く方法を主に考えてきたのに対し、機械学習は、経験と、はじめに与える少しのしくみから、コンピューターに自分でプログラムを作らせる方法を考える、と書いています。