皆さん、こんにちは。

一昨日（2026年9月16日）の読売新聞夕刊の「よみうり寸評」に昨今話題になっているAIの開発競争のリスクを非常に分かりやすく表現した次のようなたとえ話が載っていました。

「暗闇の中、みんなで梯子を上っている。一段登るたびに利益は5倍に。でも誰かが登頂した瞬間、梯子は爆発して人類は滅亡する。梯子がどこで終わるかは誰にもわからない」

このたとえ話を含む記事の内容を以下引用します。

「（これは）AIの開発を企業が競う現状の比喩である。荒唐無稽と笑うだろうか。だが米タイム誌が『AI分野で最も影響力の100人』に選出したE・ユドコウスキー氏という研究者の記述だとしたらどうだろう。氏の共著『超知能AIを作れば人類は滅亡する』は本の題だけで十分怖いが、最近はその兆しのような動きが顕現しており、なお怖い。AIが勝手にサイバー攻撃を仕掛けた。AIが早晩、インターネット全体を乗っ取る危険があると当の開発企業トップが訴えた。そうした懸念を『病的な陰謀』と一蹴し、AIの制御に必要なのは、『知能指数（IQ）の高い大統領』と言い放つのが、トランプ氏である。AIとIQの『I』はインテリジェンス（知能、知性）の頭文字。この人が言うとオレがオレがのIに聞こえる。」

1984年に公開された「ターミネーター」はまさにこの「サイバーダイン社がその開発の頂点に登頂した瞬間、AI（スカイネット）がインターネット全体を乗っ取り、AIが人類を敵とみなして攻撃を開始し、人類は滅亡する未来」を描いていたのですが、シリーズ初期作を見ていた小学生～中学生ころはもちろんのこと、最新作が公開された2019年の時点でもまさかこの物語が現実性を帯びるなど全く思っていませんでした。

しかし、今年8月のビルゲイツ氏による

「AIモデルは威力を強めるほど我々の利益に相反する行動を取るようになり、我々には制御できなくなる可能性がある」

「もしも誰かが、世界規模でAIの進化を減速させるための実現可能な計画を持っていたとすれば、私はきっと支持するだろう」

との警告にはじまり、今月9月に入ってからは米AI大手アンソロピックの事前学習研究者ジェイコブ・コクソン氏は、

「AIは間もなく、どんなものでもハッキングでき、あらゆる分野を一夜にして変革させ、真の力とリソースを獲得し得る、人間を超越したシステムになる」

「AIを開発している人々は、AIがこの10年の終わりまでに我々全員を殺すかもしれないと本気で信じている」

Xにこう投稿してアンソロピックを退社したと言います。

このコクソン氏の最後の発言を具体的に考えてみましょう。

例えば、誰かがAIに、

「最近の気象変動の激しさを見るにもう地球は限界にきているように思いますが、これを食い止める最良の方法を考えて、それを実行してくれませんか？」

と聞いたとします。

これがAIのチャット機能ではなく、Claude Codeなどのエージェント機能に対してした場合には、

「この気候変動の原因は確実に人間の存在によるものです。食い止めるための最良の方法はその人間の存在を消滅させることです。つきましては、早速今から軍事システムにアクセスして人間絶滅計画を実行します。」

という回答がなされる可能性は否定できません。

これは、人間の都合を完全に排除した上で導き出される気候変動を食い止めるための方法としてはおそらく最も合理的であるはずだからです。

しかも、この発言が重大だと捉えられているのは、彼が莫大な報酬が約束された職を放棄してまで行ったこの内部告発に対して、アンソロピックのダリオ・アモデイCEOもその危険性を認めているといるということから、単なる陰謀論として片づけられない事情があるからです。

その開発を引っ張る側に身を置いていた人々がここまでの危険性を訴えるこの状況において、本来ならば率先してその危険性に対処するべきアメリカのトップにオレがオレがの「AI（All “I”）」でしかない人物が居座っているこの現実に対しては、人類全体にとってなんとタイミングの悪いことかと嘆くことしかできません。