ニューラリーズ（AIの中の、人に読めない“ことば”）とは？

英語の neuralese は、neural（ニューラル。ニューラルネットワークの）に、Japanese（日本語）や Chinese（中国語）の -ese をつけた形です。-ese は、国や土地の言葉のほか、legalese（法律の文書の、むずかしい言い回し）のような、ある仲間うちの言葉も表します。「ニューラルネットワークの言葉」という意味になります。

2017年に、カリフォルニア大学バークレー校の研究者たち（Andreas・Dragan・Klein）が、論文の題「Translating Neuralese（ニューラリーズを訳す）」に使いました。調べたのは、メッセージを送り合って力を合わせるように、強化学習（うまくいったらごほうびを与えて学ばせるやり方）で鍛えたAIです。メッセージは64個の数の並びで、送り方は人が教えず、AIどうしが自分たちで身につけました。論文は、これを「ニューラリーズとでも呼べそうな、人工の言語」で、うわべは人の言葉とほとんど似ていない、と書いています。

試したのは3つのゲームです。話し手のAIが、2つの色のうちの1つをメッセージで伝え、聞き手のAIが当てるゲーム。同じように、鳥の写真を当てるゲーム。そして、おたがいが見えない2台の車が、ぶつからずに交差点を通りぬけ、それぞれの行き先へ着くゲームです。

ふつうの機械翻訳は、同じ意味の文を2つの言葉で並べた例（対訳）から学びます。でも、ニューラリーズと人の言葉の両方を話す人はいないので、対訳がありません。そこで論文は、「話し手が見ているもの（当てる色など）について、聞き手に同じことを思わせるなら、2つのメッセージは同じ意味」と考え、AIのメッセージといちばん近いことを聞き手に思わせる人の言葉を、訳として選びました。比べたのは、AIがそのメッセージを送ったのと同じ場面で、人がよく使った言葉を訳にする、ふつうの機械翻訳に近いやり方です（人の言葉は、人が色や鳥の写真を言い表した文や、人どうしで車のゲームをしたときのメッセージから集めました）。論文のやり方のほうが、うまく訳せました。鳥の写真のゲームでは、訳を見ると、AIは大きさや色といった、大まかな特徴で見分けているようでした。

今の推論モデル（じっくり考えてから答えるAI）は、考えの途中を、トークン（AIが文を区切って扱う、言葉の小さな単位）の1つ1つに書き出しながら進めます（くわしくは「推論モデル」のページ）。AIの中では、1歩ごとに、たくさんの数の並びが作られます。言葉で考えるやり方（思考の連鎖）では、その並びから、次に書く言葉を1つだけ選びます。選ばなかった言葉の候補は、そこで捨てられます。

2024年12月に、Meta などの研究者たち（Hao ほか）が発表した Coconut は、言葉を選ばずに考えさせるやり方です。AIの中の計算は、いくつもの段（層）を順に通って進みます。Coconut は、その最後の段が出した数の並びを、言葉に直さずに、そのまま次の入力に戻しました。この数のままの考えを、論文は continuous thought（連続の思考。言葉のように決まった候補からとびとびに選ばず、数がなめらかに変わる、という意味）と呼び、Coconut の名前もそこから来ています。この論文は、言葉で考えるのがいつもいちばんよいとは限らない、という考えから出発しています。文のトークンの多くは文を自然につなぐためのもので、考えるのに大事なトークンは一部だけだからです。また、人の脳を調べた研究で、いろいろな考える作業のあいだ、言葉を受け持つ脳の部分があまり働いていなかったことを挙げ、人の言葉は、考えるためより、伝え合うために向いている、と書いています。

今は、こうした、言葉に書き出さずに数の並びのまま考えることも、ニューラリーズと呼ばれます（研究では「潜在空間での推論」とも言います。潜在空間は、AIの中で、ものごとを数の並びで表している、目に見えない場所です）。2025年4月に出た、AIの先行きを予測した文書「AI 2027」は、AIが考えを文字に書き出さずに、たくさんの数の並びのまま進めるしくみを、こう呼びました。書き手たちの見積もりでは、言葉の候補が約10万個あるとすると、トークンを1つ選んで運べるのは、10万個から1つを選んだ分の情報だけで、およそ16.6ビットです。はい・いいえの答え約17個ぶんです（はい・いいえの問いを約17回くり返すと、10万個から1つにしぼれます）。いっぽう、AIの中の数の並びは何千個もの数でできていて、1,000倍以上のことを運べるかもしれない、としています。

Coconut の論文は、小さめの言葉のAI（GPT-2）で、3つの課題を試しました。小学校の算数の文章題（GSM8k）、決まりをたどる論理の問題（ProntoQA）、そして、この論文が作った ProsQA です。ProsQA は、「どの shumpus も rempus である」のような、作り話の名前の決まりをたくさん並べ、「トムは lempus か scrompus か」と聞く問題です。決まりは枝分かれしていて、正しい道すじを探さないと答えられません。

ProsQA では、言葉で考えるやり方の正解が77.5%だったのに、Coconut は97.0%でした。答えを出すまでに作ったトークン（AIが扱う言葉の小さな単位）の数（論文の表の数）も、平均49.4個から14.2個に減りました。ProntoQA でも、正解は98.8%から99.8%に上がり、トークンの数は92.5個から9.0個に減りました。

数のままの考えは、次に進む道の候補を、いくつも同時に持てることも分かりました。1歩目である道をいちばん有望と見ていても、すぐには1つに決めず、次の1歩で、別の道のほうを選び直すことがありました。論文は、これを「幅優先探索」に似ている、と書いています。迷路でいえば、1本の道をどこまでも深く進むのではなく、分かれ道の先をどれも少しずつ見てから進むやり方です。言葉で考えると、1歩ごとに言葉を1つに決めるので、まちがった道に早く入りこんでしまうことがあります。

ただし、算数の文章題では、Coconut の正解は34.1%で、言葉で考えるやり方の42.9%に届きませんでした（考えずにすぐ答えると16.5%）。まず言葉の手本で考える練習をさせ、少しずつ数のままの考えに置きかえていく学ばせ方をしないと、うまくいかなかったことも分かっています。言葉で考えるやり方をどんな場面でも上回るには、まだ多くの研究が要りそうだ、と論文自身が書いています。

2025年7月、Google DeepMind・OpenAI・Anthropic・Meta や、英国の AI Security Institute など、多くのAIの研究所の研究者41人（Korbak ほか）が、連名で提案の論文を出しました。ジェフリー・ヒントンさんやイリヤ・サツケバーさんたちも、支持する人として名前を連ねています。提案の中心はこうです。今の推論モデルは人の言葉で「考える」ので、その考えの文（思考の連鎖）を、人やAIが読んで見張れる。これは、AIの安全のための、ほかに無い機会だ、というのです。

実際に、AIがずるやじゃまをするときは、考えの文に「ずるをしよう（Let's hack）」「じゃましよう（Let's sabotage）」と、はっきり書くことがよくある、と提案は書いています。また、むずかしい仕事では、AIは考えを言葉に書き出さないと、最後までやりとげられないことがある、とも考えています。今の言葉のAIの作り（トランスフォーマー）では、1回の計算の中で、情報は前の段（層）から後の段へ進むだけで、後の段で出た結果を前の段へ戻す道がありません。戻せるのは、書き出した考えの文を、次の計算でもう一度読むときだけです。そのため、長く順番に続く考えは、どこかで考えの文を通らなければならない、というのです。

そのうえで、この機会は「こわれやすい」と警告しています。理由の1つが、ニューラリーズで考えるような、新しいAIの作りです。数の並びのまま考えるAIは、考えを言葉にしなくてよくなるかもしれず、そうなると、思考の連鎖がもたらす安全の利点が失われうる、という意見です。ほかにも、答えの点だけを見る強化学習を大きく進めると、考えの文が、人の読める言葉から離れていくおそれがある、などを挙げています。

2025年の提案は、AIを作る会社に、次のことを勧めています。考えの文がどれだけ見張りやすいかを測るやり方を作ること。その結果を、AIの説明書（システムカード）に書いて公表すること。新しいAIの作りや学ばせ方を決めるときに、見張りやすさが下がるかどうかを考えに入れること。たとえば、学習の途中で見張りやすさが下がっていくなら、その前の時点のAIを使うことも考えられる、としています。

ただし、提案自身も、考えの文の見張りは完ぺきではなく、見のがすこともあると認めています。ほかの安全の工夫の代わりではなく、それに足すものだ、という立場です。

数の並びの中身を、道具で読み取る研究もあります。2017年の論文は、メッセージを人の言葉に訳しました。2024年の Coconut の論文では、算数の問題で、最初の数のままの考えを言葉に直してみると、途中の計算の答えになりうる数が読み取れることがよくありました。ただ、どちらも小さな課題で試したもので、大きなAIで同じように読めるかは、この2つの論文では確かめられていません。

広く使われている推論モデルは、考えを言葉（トークン）で書いてから答えます。2025年7月の提案も、今の推論モデルは人の言葉で考える、ということを出発点にしています。2025年4月の「AI 2027」の書き手たちは、知るかぎり、Meta・Google DeepMind・OpenAI・Anthropic といった会社は、いちばん新しいAIにこのしくみをまだ入れていない、と書きました。そのうえで、2027年ごろには使われるようになる、というシナリオを描いています（予測です）。

見張りやすさが実際に下がった例は、会社自身が報告しています。OpenAI は、2026年9月に出した、自社のAI「GPT-6 Astra」の説明書で、考えの文から行動を見抜けるかという見張りやすさを測り、前のAI「GPT-5.6 Sol」より下がった、と書きました。おもな理由は、Astra の考えの文が短く、手がかりの少ないものになったからだ、としています。外から調べた英国の AI Security Institute も、Astra は前のAIより縮めた書き方で考え、意味のはっきりしない言い回しが増えた、と報告しています。

ただ、この説明書は、Astra が言葉の代わりに数の並びで考えている、とは書いていません。ふつうの文に見せかけて、別の意味をこっそり隠す書き方（文の中に隠れた暗号）の証拠も見ていない、としています。OpenAI は、考えの文の見張りやすさを守ることを、研究の中心の目標の1つだ、と書いています（会社の言い分です）。

つまり、今のAIは、まだ言葉で考えています。Astra は、ニューラリーズのように数の並びに移らなくても、その言葉が短く縮まって読みにくくなる、という形で、見張りやすさが下がりうることが分かった例です。