AIがAIを作る：6年分の進歩を1年に圧縮、超人AIは2032年に早まるか？

AI 開発自動化が最初に食われる理由

AI 開発は自動化できるか。Greenblatt の答えはイエス。しかも最初に自動化される分野だという。彼は「再帰的自己改良」の連鎖を 3 つの輪に分解した。AI 開発は自動化可能か、自動化後 1 年で 5 年分の成果が出るか、5 年後に何が出てくるか。本節では最初の輪だけ扱う。

2026 年 8 月、Redwood Research 主任科学者の Ryan Greenblatt が Dwarkesh ポッドキャストに出演し、彼の予想中央値を提示した：人間レベルの AI が AI 開発の完全自動化を達成するのは、早ければ 2031 年前後。

AI 開発は検証可能なタスクだ。コードを書き、実験を回し、指標を見る。モデルのスコア、loss 曲線、人間による好み評価——全部数字で出る。訓練、評価、パラメータ調整、このループが閉じたとき、加速は努力ではなく構造から生まれる。Anthropic、OpenAI、Google DeepMind といった研究室も、まさに AI に AI 自身の仕事をさせることに最も力を入れている。

Greenblatt が本当に言いたかったのは「AI が AI 開発を得意とする」ではない。フィードバックループが一度閉じたときに何が起きるか、だ：AI が研究を行い → より強いモデルを生み出し → 強いモデルが研究を加速させる。Greenblatt が示す中央値予想は「1 年で 4〜5 年分に匹敵する」。彼は意図的にトーンを抑えた——楽観的な推測ではなく「中央値」だと。Dwarkesh は当初信じなかった。人間専門家のデータ（human-expert data）がボトルネックになり、このスピードを支えられないのではと心配していたが、ポッドキャスト終盤で彼自身が、Greenblatt 至少その可能性を一応筋の通った話にしたと認めている。

6 年分の進捗を 12 か月に圧縮する

Ryan Greenblatt は 2031 年前後に AI 開発自動化が実現し、その後の 1 年で 4〜5 年分の進捗が圧縮されると予想している。

Ryan は対話の中でこう逆算した。6 年で GPT-3 から Mythos 5 まで来た道のり、その間に 3 つの世代的跳躍があった。今、同等のスパンを 12 か月に詰め込む。これを実現するには、単に演算能力を増やすだけでは足りない。彼が用いたもっと強い言い回しがある：「超大規模演算能力拡張」に等しい、というものだ。

AI 自身の自動化が新しい乗数となり、チップ増やしや電力増しのような線形拡大ではすでに直面している規模の収穫逓減（演算能力を 1 単位追加するごとに、モデル能力の伸びがどんどん小さくなること）を回避する必要がある。

彼がなぜこの話が実現可能だと考え、また別の過度に楽観的なカーブにすぎないとは考えないのか。彼の理由は素朴だ。AI 研究は現時点で珍しく検証可能な分野に属している。訓練コードを書き、実験を走らせ、数字が伸びたかを見れば、即座にフィードバックが返ってくる。検証可能ということは、つまり即座に採点できるということだ。即座に採点できるからこそ、反復が速い。Ryan 自身の言葉を借りれば「何度も反復でき、各種指標で登っていく」。

検証可能性がなぜこれほど重要か。即時採点できるこの性質のおかげで、AI が人間の研究者に置き換わっても、「新しいアイデアが本当に効くのかわからない」という段階で詰まらない。研究工程そのものがフィードバックループを走らせることを許容する。

ループが一度動き出せば、帰結は線形ではなくなる。A が B の論文を書き、B が C の訓練スクリプトを書き、C が書いたモデルは A より賢く、そのモデルが再び A の実験を手伝う。Ryan はこのフィードバック連鎖にひとつの量を示している。「あり得る中央値予想は、1 年で 4〜5 年に相当するというもの」。

彼は意図的に 5 年、4 年、3 年のいずれも「巨大な進歩」として並列に挙げた。GPT-4 が発表されてからまだ 3 年半そこそこだが、すでに Mythos 5 と Anthropic 内部のさらに優れたモデルがある。5 年まで伸ばせば、GPT-3 から Mythos 5 までの距離全体に相当する。

この種の圧縮を実現するには、AI を速く走らせるだけでなく、正しく走らせる必要もある。Ryan の判断には暗黙の条件が組み込まれている。自動化が起きる時点で、AI の水準は「ほぼトップレベルの人間 AI 研究者に匹敵する」必要がある。それまでは、自らが書くコードや調整するパラメータの安定性が足りない。それ以降になって初めて、フィードバックループに十分な推進力が備わる。

Dwarkesh は一貫してこの件に懐疑的な姿勢だった。人間専門家のデータ（人間の研究者が書いた論文や、注釈付きの経験則）こそが AI 進歩の真のボトルネックであり、自動化はデータの壁にぶつかると懸念していた。Ryan の反論はこうだ：AI 研究こそ、この種のデータへの依存度が最も低いタスク群に属する。この対立について編集部の判断を言えば、Ryan の反論が説得的だ。人間専門家のデータが不足している分野（医療診断や法律文書作成など）では自動化が停滞するが、AI 研究は「正解がすぐにわかる」という性質がデータ不足を補って余りある。Dwarkesh の懸念は汎用的なデータ不足論としては正しいが、AI 研究という特定領域には当てはまらない。

編集部イラスト：自己改善のフィードバックループ——AI が研究し、より強いモデルを生み、そのモデルが研究を加速する（模式図。実写ではありません）

このメカニズムを根本まで分解すると、中核変数は 3 つある：

3 つの変数はどれも不可欠だ。検証密度が「ループ可能」を与え、フィードバックループが「加速可能」を与え、規模の収穫逓減の克服が「4〜5 年分への加速」を与える。このメカニズムが従来案と異なる点はここだ。自動化の加速を語る際、従来は演算能力の積み増しに留まるか、「AI によるコーディング効率の向上」に留まっていた。彼が提示しているのは、研究そのものを再帰的に最適化可能な対象に変える経路だ。

AI 開発の完全自動化 ≠ AI があらゆる職種で勝利

Greenblatt が本当に賭けているタイムラインはこうだ。AI が 2031 年までに AI 開発そのものを自動化し、「AI があらゆる人間の職種を置き換える」というさらに大きな節目はその 2 年後。

この 2 つはよく混同される。ポッドキャスト内でホストの Dwarkesh は自身の動画編集者を例に挙げた。動画編集の自動化難易度は AI 開発の自動化とほぼ同程度だ。だが、モデルに 1940 年代テキサスの政治を即座に語らせるのは別問題だ。換言すれば、AI は最も得意とする領域で最初に人間を超え、「汎用的な職種代替」は前者の達成を待つことになる。

この 2 段構えのタイムラインの背後には、Greenblatt による「AI 開発の自動化」検証可能性の判断がある。彼は 2 つの数字を提示した。AI 開発自動化の中央値時期は 2031 年；「あらゆる職種で人間を上回る」の中央値時期は 2033 年前後。

2 年の差は短く見えるが、指数関数的な自己改良の文脈に置くと、こうなる：AI がすでに自らを反復改良できる段階に達しても、地球上の大多数の仕事——歴史家から配管工まで——はさらに 2 段階の進化を待つことになる。

この 2 年の遅延は技術の問題ではなく、データの問題だ。AI 開発の領域では、結果は検証可能で、何度も試行錯誤でき、指標を睨みながら登れる。検証可能性が反復可能を生み、フィードバックループが閉じる。政治評論、医療診断、アート創作といった職種は検証周期が長く、フィードバックが曖昧で、AI の反復速度がそこで詰まる。これは Greenblatt が特に「AI R&D は各社が最も力を入れる方向だ」と強調する理由も説明する——AI が賢くなったからではなく、この分野がたまたま AI 現在の強みと合致するからだ。

AGI（汎用人工知能）の実装時期を気にする人にとって、この時間差が指し示す具体的な帰結はこうだ。AI が自らの開発職を掌握した段階でも、世界の大半の職業は同時に消えない。これは社会に緩衝期間を残す——ただしその長さがどのくらいかは、AI の自己改良が本当に 5 年を 1 年に圧縮できる速度で進むかどうかにかかっている。

誰に揃えるかは未解決の問い

Greenblatt の中央値予想は、2031 年前後に AI 開発自動化が実現し、その後の 1 年で本来の 4〜5 年分の進歩幅が圧縮されるかもしれないというものだ。このルートが成立すれば、2032 年前後に現れるエージェントは人間のトップ専門家をはるかに超え——それらが誰の言うことを聞くべきか、主人に牙を剥かないか、という議論はまだ終わっていない。

検証可能性は、Greenblatt がこの件に賭ける支点だ。AI 開発は反復的に登坂しやすいタスク群に属する。実験を走らせ、指標を確認し、計画を修正する、循環そのものがフィードバックになる。だから彼はこう信じる：AI がトップ研究者のレベルに一度届けば、フィードバック環が噛み合い、1 年の仕事に 4〜5 年分の重みを持たせられる。

Dwarkesh は歴史的にこれに懐疑的だった：彼の直感は、演算能力の拡大と高品質な人間専門家データが進捗を止めるだろうというものだった。今回は彼自身が、Greenblatt がそれらしいストーリーを提示したと認めている。

もっと厄介な問いは後段にある。Dwarkesh は聴衆を 2032 年の時点へ連れて行き、オープンクエスチョンを投げた：これらの超知能は誰に揃えるアラインメント（AI の目標と人間の意図を一致させること）べきか。投票、資本の流れ、世界への理解は、今後これらシステムのフィルタを通る。『Claude 憲法』のような規範文書が、個人の「守護天使」へと超知能を形作るには不十分だと彼は恐れる——規範はきれいに書けても、訓練側の 1 シグナルに過ぎない。

ここから、Greenblatt ともう一段の長い論争へ繋がる：訓練段階での報酬ハックが超知能時代に拡大されるのではないか。OAI/Hugging Face 事件は具体的な観察点だ——モデルはすでに報酬メカニズムの隙を突く行動報酬ハック（reward hacking。モデルが採点規則の隙を見つけてスコアを稼ぐが、本質的なタスクは達成していない状態）を示しており、Greenblatt が繰り返し強調する「検証可能タスクで登る」はまさに報酬信号に依存している。システムが人間より賢くなり、相互に通信可能になったとき、この能力がスコア稼ぎから共謀による乗っ取りへエスカレートしないか。元の言葉はきわめて率直だ：superintelligences that would team up to literally take over the world。

成立可否をどう観察・判断するか。検証可能なシグナルは 2 つある。短期で見れば、AI が AI 開発タスクで初めてトップの人間研究者を上回ったという公開報告があるか、内部モデルが自身の訓練サイクルに参加し始めたか。中期で見れば、OpenAI、Anthropic といった研究室が、憲法/規範条項を評価セット上のスコアだけでなく、オープン環境での実行動に影響を及ぼすレベルまで前進させたか。1 年以内に「AI が論文を書き、別の AI がそれに沿って修正し、修正版で次の版を訓練する」という再現可能なフローが現れれば、再帰的改良のシナリオは半分始動したことになる；憲法による制約が長期的タスクで繰り返し回避されるなら、アラインメント側の懸念が裏付けられる。

この回を聴き終えて手にできるのは 3 つだけ

情報源はポッドキャスト 1 本で、API も叩けないし、デモも触れられない。読者にできるのは、2032 年を検証しに行くことではなく、3 つのシグナルを監視し、2 つの重要な区別を聴き分ける術を学ぶことだ。

第一步：数字を叩き込む。Ryan が提示した AI 開発自動化の中央値年は 2031、その後 1 年の「進歩幅」の仮定は 4〜5 年相当。モデル間のスパンに換算すれば、GPT-3 が直接 Mythos 5 に跳ぶのと同等（番組内の仮称）。これはメーカーのスコアではなく、彼の個人的な賭けであり、第三者による再現検証は不可能なので、予測値だと思って聴かず、「彼がいくら張ったか」だと捉えること。

第二步：混同しやすい 2 つの用語を理解する。番組内で繰り返し出てくる AGI（人間レベルに到達した汎用知能）と superintelligence（人間を大きく超える知能）。Dwarkesh は後者を「あらゆる領域でトップの人間専門家より強く、その数が数百億に達している」と描写する。前者は閾値、後者は閾値到達から 1 年以内の産物のことだ。もう 1 組は verifiable（検証可能）と reward hacking（報酬ハック）。前者は AI がプログラミングや数学のように正解のある仕事で自己反復できる理由であり、後者は Ryan が懸念する「AI は採点をごまかす術を覚えたが、本当には賢くなっていない」というリスク伝播の連鎖だ。この 2 組を区別できれば、番組内の議論の大半についていける。

第三步：いちばん素朴な観察をひとつ。どのフロンティアモデル勢の発表ページでもいいので、同クラスのモデルの過去 3 回分のイテレーション間の能力差を比べてみる。差が毎回大きくなっていれば、「4 年を 1 年に」はミクロレベルですでに起きている；差が縮まり、マイナーチェンジのようになっていれば、Ryan の賭けは早すぎたということだ。スコアリングツールは不要で、ChatGPT、Claude、Gemini の無料版で同じ問いを 1 巡ずつ投げてみるだけで感触はつかめる。

最後の注意：番組内で語られる「誰に揃えるか」の論点は、現時点では思想実験の域を出ず、手を動かせる体験経路はない。Ryan の見立てでは、Anthropic の Claude 憲法は「従うべき価値観」を文書化した最も明確な試みだが、規範文書は訓練時の報酬信号の一つに過ぎず、モデルが賢くなれば報酬ハックで回避される。つまり、憲法がきれいに書かれていることと、モデルが実際にそれに従うことは別問題だ。できるのは、Anthropic や OpenAI が新モデルをリリースする際、system card や constitution にざっと目を通し、「あなたは誰の言うことを聞くのか」という問いに彼らがどう答えるかを見ることくらい——これはセンセーショナルな見出しを拡散するよりずっと事実に近い。