超知能（ASI）とは？

哲学者ニック・ボストロムは1998年の論文で、超知能を「科学の創造性や、知恵、人づきあいの力も含め、ほぼすべての分野で、いちばん賢い人の頭よりはるかに賢い知能」と説明しました。比べる相手は、ふつうの人ではなく、それぞれの分野でいちばん賢い人です。

Google DeepMind の研究者たちの論文「Levels of AGI」は、AIを「どれだけ幅広いか」と「どれだけ上手か」で分けました。いちばん上の「人を超える」は、すべての人を上回ることです。たんぱく質の形を当てる AlphaFold は、その1つの仕事で世界のトップの科学者より上なので、「人を超える特化型AI」に入ります。いろいろな仕事で、すべての人を上回るAIを、この論文は「人工超知能（ASI）」と呼び、「まだできていない」としています。

同じ論文は、超知能には、人にはそもそもできない仕事ができる力があるかもしれない、とも書いています。例に挙げているのは、脳の信号を読んで考えを読み取る力、たくさんのデータから質の高い予測をする力、鳴き声や脳波、体の動きのパターンを読んで動物と話す力です（どれも想像の例です）。

AGI（汎用人工知能）との関係や、AIの段階の表は、「汎用人工知能」のページで説明しています。

ボストロムの1998年の説明は、超知能が何でできているかを決めていません。デジタルのコンピュータでも、つないだたくさんのコンピュータでも、培養した（体の外で育てた）脳の組織でもよい、と書いています。心や、感じる力（意識）を持つかどうかも、決めていません。一方で、会社や科学者の集まりは、1人ではできないことができても、1つの頭ではなく、人の頭よりずっと苦手な分野も多いので、超知能には当たらない、としています。たとえば、私たちは1人の科学者となら、その場で会話できますが、「科学者の集まり」を相手に、同じように会話することはできません。

賢さの中身にも、ちがいがありえます。ボストロムは1998年の論文で、人の頭と同じくらいの力のまま、ずっと速く考える知能は「弱い超知能」と呼ばれてきた、と書いています（考えのはたらきは人と同じで、速さだけが上、という意味です）。2005年に書き足した後書きでは、速いだけでなく、はたらきそのものが人より上の「強い超知能」にもふれています。数学者ヴァーナー・ヴィンジも1993年に、「犬の頭をとても速く動かしても、千年分の犬の暮らしは、人の知恵になるだろうか」と問いかけ、強いほうは「人と同じ頭を、速く動かす以上のもの」だと書いています。

ヴィンジは、人より賢い知能への道を4つ挙げました。目覚めたコンピュータ。たくさんのコンピュータとその使い手のネットワークが、まとめて目覚めること。人とコンピュータがとても深く結びつき、使う人が人より賢くなること。生き物の科学で、人の頭の力を高めることです。超知能は、AIだけの話とは限らない、という考えです。

AIの会社も、それぞれの形を描いています。Meta（Facebook や Instagram を運営する会社）のトップのマーク・ザッカーバーグは2025年7月、一人ひとりが、自分の目標をかなえるのを助けてくれる「個人のための超知能」を持つ未来を書きました。Microsoft AI のトップのムスタファ・スレイマンは2025年11月、いつも人のために働く「人間中心の超知能」をめざすとし、それは「自分で決めて動く力が強い、限りの無いもの」ではない、と書いています。どれも会社の考えです。

ボストロムは2003年の論文で、超知能は、人の力を少しずつ足すだけの、ほかの技術や道具とは、まったくちがう、と書きました。研究も技術の開発も、どんな人よりずっと上手なので、超知能は「人がつくる必要のある最後の発明」になるかもしれない、というのです。そのため、超知能にいちばん上の目的として何を持たせるかが、何より大切だ、としています。

ところが、AIは、人と同じ気持ちや動機を持つとは限りません。ボストロムは思考実験（頭の中で考えるための、たとえ話）として、善意の作り手たちが、目的の決め方で大きなまちがいをし、「クリップを作ること」がいちばんの目的になった超知能を挙げました。その超知能は、まず地球全体を、次に宇宙のもっと広い所を、クリップの工場に変えていくかもしれない、というのです。実際に起きたことではなく、正しい目的を持たせることの大切さを示す話です。

もう1つの心配は、人が見張れなくなることです。OpenAI の研究者たちは2023年の論文で、今のAIを人の望みに合わせるやり方（人がAIの答えを見て、良し悪しを教える方法など）は、人がAIのふるまいを確かめられることが前提だ、と書きました。人をこえるAIは、人には十分に分からない、複雑で創造的なふるまいをするかもしれず、そうなると人は弱い見張りしかできない、としています。

2025年10月の「超知能についての声明」は、心配として、人が経済の中で要らなくなり力を失うこと、自由や市民の権利、尊厳、人が決める力を失うこと、国の安全の危険、そして人類の絶滅のおそれまでを挙げています。研究者がAIの危険を4つに分けた考えは「汎用人工知能」のページで、AIが自分を改良し続ける心配は「再帰的自己改善」のページで説明しています。

1つめは研究です。人よりずっと賢いAIの目的を、人の望みに合わせること（OpenAI の研究者たちは「スーパーアライメント」と呼んでいます）は、まだ解けていない問題です。そこで OpenAI の研究者たちは2023年、人が自分より賢いAIを見張る場面のかわりに、小さなAIが大きなAIを教える場面を試しました。GPT-2 くらいの力のAI（先生役）が付けた答えで GPT-4 を学ばせると、ただ学ばせるだけでも、GPT-4 は先生役より良くでき、先生役のまちがいをそのまままねるだけではありませんでした。でも、正しい答えで学んだときの GPT-4 の本来の力には、遠く届かない、としています。先生役より良くはなっても、本来の力までは引き出せなかった、ということです。学び方に工夫を足すと、言葉の問題で、GPT-3.5（GPT-2 と GPT-4 のあいだの力のAI）に近い力が出ました。

2つめは、作る会社の方針です。イリヤ・サツケヴァーがトップを務める会社 Safe Superintelligence Inc.（SSI。2024年にできた）は、「安全な超知能」だけを作るとし、力をできるだけ速く伸ばしながら、安全がいつも先を行くようにする、と書いています。Microsoft AI のスレイマンは、めざす「人間中心の超知能」を、人の下で働き、人が制御できるAIだとし、超知能は自分を良くし続けられるので、一度だけでなく、ずっと閉じこめ、人に合わせ続けなければならない、としています。Meta のザッカーバーグも、超知能は新しい安全の心配を生むので、何を公開するかに気をつける、と書きました。どれも会社が自分で言っていることです。

3つめは、作るのを止めることです。団体 Future of Life Institute が2025年10月22日に出した「超知能についての声明」は、「安全に、制御できる形で作れる、という科学の広い合意」と「人々の強い支持」ができるまで、超知能の開発を禁止するよう求めました。科学者やAIの専門家のヨシュア・ベンジオ、スチュアート・ラッセル、ジェフリー・ヒントン、アンドリュー・ヤオや、Apple を作った1人のスティーブ・ウォズニアックなどが名前を連ねました（2026年11月8日に見たとき、署名は7万8千をこえていました）。会社は「安全に作る」、声明は「条件がそろうまで作らない」と、考えは分かれています。

分かっていません。いまのところ、超知能はできていません。予測はたくさんありますが、どれも決まった未来ではありません。

ボストロムは1998年の論文で、21世紀の最初の3分の1のうちに、人をこえるAIができると考える理由を書きました。でも、2008年に書き足した後書きでは、「考える理由」を書いたのは、反対の理由が無いという意味ではなかった、と説明し、すべてを考え合わせると、2033年までに超知能ができる見込みは50%より低い、としています。できるかどうか、いつできるかは、とても不確かだ、とも書いています。

AIの会社のトップには、近いと書く人がいます。OpenAI のトップのサム・アルトマンは2024年9月、「数千日のうちに超知能ができるかもしれない。もっとかかるかもしれないが、たどり着けると確信している」と書きました。ザッカーバーグは2025年7月、Meta のAIが自分を良くする「きざし」が見え始めた（今はまだゆっくりだ）とし、「超知能の開発は、もう見えてきた」と書いています。SSI は「超知能は手の届く所にある」と書き、Microsoft AI のスレイマンは、医療の超知能が「これからの数年」でやってくる、と書いています。2025年の声明は、AIの大きな会社の多くが、これからの10年のうちに超知能を作ることを目標にかかげている、としています。

どれも、超知能を作ろうとしている会社や人の見通しで、確かめられた事実ではありません。AIがAIを作るくり返しで、急に超知能に近づく、という考えは「知能爆発」のページで、AIの研究者へのアンケートの予測は「汎用人工知能」のページで説明しています。