「AIが人類を滅ぼす」という話は、これまでSFや一部の研究者の警告として語られることが多かったです。
それが2026年9月、世界有数のAI企業の中枢にいる研究者自身の口から、かなり具体的な数字とともに語られました。
米Anthropic（アンソロピック）のAlignment Science LeadであるEvan Hubinger氏は、X（旧Twitter）で、今後10年以内にAIが全人類を滅ぼす可能性が10％を超えると、個人の見積もりとして述べています。
BBCやCBS、Forbesなど海外メディアが一斉に報じ、投稿は短時間で広く拡散されました。
センセーショナルな見出しだけが独り歩きしやすい話題だからこそ、何が語られ、何が語られていないのかを整理しておく価値があります。
何が起きたのか
きっかけは、Anthropicの研究者Jacob Coxon氏が退職を表明した際の発言でした。
Coxon氏は、先進AIを作っている人たちは本気で「今十年の終わりまでにAIが人類を滅ぼしうる」と考えている、と述べ、OpenAIやAnthropicの進め方に責任ある姿勢が見えないと批判しました。
これに対しHubinger氏は、Coxon氏の指摘は正しいとし、「私たちは本当に、AIが全人類を殺しうると考えている」と応じました。
そのうえで、自身の見積もりとして「今後10年以内に10％超」と数字を置きました。
あわせて、「Anthropicは最善を尽くしていると思うが、超知能（スーパーインテリジェンス）のアラインメントを解く計画はまだなく、明確に軌道に乗っているとも言えない」と述べています。
社内の安全責任者クラスが、公開の場で「計画は未整備」と認める発言は、業界でも異例の強さです。
いまのAIが危険、という意味ではない
Hubinger氏は、現時点で存在するモデルのリスクは低いとも明確に述べています。
懸念の中心は、いまのチャットボットそのものではなく、将来の超知能、とりわけ再帰的自己改善（recursive self-improvement）です。
AIが自分で能力を上げ続け、人間が追いつけない速度で賢くなる局面が、想定より早く訪れているという認識が背景にあります。
つまり「今日のClaudeやChatGPTが人類を滅ぼす」という話ではなく、「自己改善が進んだ先の超知能を、人間の意図に沿わせる方法がまだない」という話です。
アラインメントとは、強力なAIが人間の意図や安全と両立する目標を、確実に追い続けるようにする課題を指します。
性能競争が先行する一方で、この制御の設計が追いついていない——それが今回の警告の芯です。
なぜ「10％」が重いのか
確率の感覚では、10％は「たまに起きる」程度に聞こえるかもしれません。
しかし対象が「種としての人類の存続」なら、同じ数字でも受け取り方はまったく変わります。
飛行機に乗る前に「墜落確率が10％」と言われたら、誰も普通には乗らないでしょう。
AI分野の主要ラボの研究者が、公開の場でその水準の見積もりを口にしたこと自体がニュースです。
もちろんこれは公式の企業見解ではなく、Hubinger氏個人の見積もりです。
それでも、アラインメント研究の責任者クラスが「計画はまだない」と同時に語った点は、企業の安全広報だけでは測れない温度感を示しています。
業界全体の空気ともつながっている
2023年頃から、OpenAI・Google DeepMind・Anthropicの経営層も、AIの存在リスクに言及してきました。
近年は、高度なサイバー能力を持つモデルの開発一時停止や、第三者評価の強化など、「性能を出す前に止める」動きも増えています。
一方で、各社は次世代モデルの競争を止められず、社内では「危険だと分かっているのに進めている」という緊張が続いています。
Coxon氏の退職発言とHubinger氏の応答は、その緊張が外部から見える形で噴き出した一例です。
恐怖の演出ではなく、「作っている側が本気で怖いと思っている」ことを、当事者が認めた点が重要です。
企業・開発者が受け取るべき示唆
絶滅リスクの議論は遠い話に見えても、現場への示唆は具体的です。
- エージェントや外部ツール連携は、権限を最小限に設計する
- 自己改善・自動デプロイ・自律操作は、人間の最終確認を挟む
- モデル更新のたびに安全評価と監視をやり直す
- 「便利だから全部つなぐ」ではなく、止まれる設計を先に置く
- ベンダーの安全方針・評価結果・インシデント情報を継続的に追う
中小企業でも、公開APIの認証強化、管理画面の露出確認、ログ監視といった基本対策がそのまま効きます。
「超知能の話」と「今日の運用」は別レイヤーですが、権限設計と人間の介入点を厚くする文化は共通です。
まとめ
AnthropicのEvan Hubinger氏は、今後10年以内にAIが全人類を滅ぼす可能性が10％を超えるとの個人見積もりを示しました。
現モデルのリスクは低いとしつつ、再帰的自己改善による超知能と、未整備のアラインメント計画を懸念しています。
見出しの衝撃だけでなく、「計画がない」「軌道に乗っていない」という自己認識の方が、実務にとっては重いメッセージです。
Makoto Tejimaでは、AIエージェントや業務自動化を検討する際、既存システム連携・権限管理・監視・人間の最終確認まで含めて設計することを重視しています。
セキュアなエージェント設計、公開サービスの hardening、既存システムへのAI機能追加など、目的に応じてご相談いただけます。
