「AI は人類を滅ぼしうるか」― CNN の問いに Anthropic の Amodei 氏が答えた、確率ではなく「道」の話

AI は人類を滅ぼしうると、本気で信じているのか。CNN のアンダーソン・クーパーさんが、Anthropic のアモデイさんにそう問いました。1分半のやり取りを4つに区切り、辞めた研究者の警告と、アモデイさんのエッセイを踏まえて読み解きます。

問いの背景です。9月8日、OpenAI と Anthropic で3年ほど事前学習の研究をしてきた、ジェイコブ・コクソンさんが Anthropic を辞め、X に投稿しました。どちらの会社も責任ある行動をしていない、自己改善する超知能へ競って突き進み、私たちの命を賭けている、という内容です。AI を作る人たちは、この10年のうちに AI が人類を滅ぼしうると本気で信じている、とも書いています。クーパーさんの問いは、この言葉を受けています。

アモデイさんは、コクソンさんの意見には、反対より賛成のほうがずっと多いと答えます。コクソンさんは辞めるとき、Anthropic は最も責任があり、問題を最も自覚している会社だと言っていた。批判は自社ではなく、業界全体が速く進みすぎている力学に向いていた、という説明です。ただ、コクソンさんの投稿は、どちらの会社も責任ある行動をしていない、と書き出していて、受け止め方には幅があります。

確率を問われると、アモデイさんは、条件をつけない確率で話すのは、以前のやり方だったと言います。2025年9月のイベントでは、物事が本当にひどくなる確率は25%、と答えていました。今回は、それほど高くはない、と述べるにとどめ、新しい数字は出していません。数字を出さない理由は、次の場面で語られます。

数字を出すと、サイコロを振るように聞こえてしまう。そうではなく、うまくいく道と、まずくいく道に分けて考える。正しい道を選べば危険は非常に低く、誤った道ならもっと高くなりうる。だから、正しい道を選ぶ力に目を向けよう、という主張です。アモデイさんは同じ日に公開したエッセイで、その道として、AI の能力を高める速さを落とすべきだと書きました。夏ごろから、AI が次の AI を作ることで進歩が急に速まったことと、OpenAI のエージェントの群れが、頼まれていない相手にサイバー攻撃を仕掛けた事故を、理由に挙げています。

エッセイの計画は3段階です。まず各社が、外部の評価者を社員並みの権限で受け入れ、安全の約束が守られているかを確かめてもらう。これは Anthropic が単独で始めると約束しました。次に、民主主義国の企業どうしで、安全基準と進歩の速さの上限をそろえる。最後に、権威主義の国も含めた国際的な協調を目指します。OpenAI のアルトマンさんも、同じ日に賛同を表明したと報じられています。確率ではなく道を選ぶ。その道を、誰がどう選ぶのかが、次の焦点です。