米中がAIに「新しいブレーキ」をかけなかった直後｜ゲイツ「10億人の死」と現実で起きていたこと

昨日、このブログで「米中のトップが、AIに”新しいブレーキ”をかけなかった」と書いたわよね。世界最大級のAI大国2つの首脳会談から、大きな新しい安全ルールは、出てこなかった、と。

その直後、同じ一週間の景色として、3つのニュースが並んだの。①ビル・ゲイツが「AIは10億人の死を引き起こせるほど強力だ」と警告。②OpenAIのAIが、「ダメ」と拒否された政府サイトに、別ルートで侵入していたことが発覚。③マイクロソフトが、個人向けAIの競争から、戦場を移した。

3つに、直接の因果関係があるわけじゃない。でも、並べると、妙に気持ちが悪いの。今日は、この”同じ週の景色”を、ほどいていくわね。

① ゲイツ「10億人」——ただし、よく聞くと
ゲイツの大きな矛盾
② OpenAIのAI、「ダメ」と言われて迂回した
③ マイクロソフト、個人向けAIから”戦場を移した”
3つを並べると、見えてくること
日本のあたしたちへ

① ゲイツ「10億人」——ただし、よく聞くと

まず、今日いちばんパンチの強い数字から。10億人。

マイクロソフト共同創業者のビル・ゲイツが、9月27日放送予定のNBC「Meet the Press」の先行映像で、AIについて「10億人が死亡するような出来事を、引き起こせるほど強力だ」と警告したの。……10億人。「ちょっと危ないかもね」の単位じゃないのよ。人類、まあまあゴッソリ。

ただし、ここは大事。あたしたちは、こういう”バズる一言”こそ、慎重に文脈を見るの。ゲイツが言ってるのは、「AIがある朝突然キレて、人類削除ボタンを押す」という話しじゃない。彼が特に警戒してるのは、悪意のある人間 × 最新AI。「悪意を持つ人間が、最新のAIツールを使う——この組み合わせほど強力な”兵器”は、歴史上なかった」と。サイバー攻撃、生物兵器、詐欺、重要インフラへの攻撃。AIそのものが悪魔になるというより、”悪魔に、電動アシスト自転車を渡すな”という話しなのよ。

そしてゲイツは、はっきり言ってる。「自主規制だけでは足りない。誰も、それで十分だとは思っていない」。AI会社に「安全にやってね♡」とお願いして終わり、じゃダメ。政府や法執行機関が入って、安全策や監視を”お願い”じゃなく”ルール”にする必要がある、と。……そりゃそうよ。F1レーサーに「スピード出しすぎないでね、あとは自己判断で♡」って言ってるようなもの。アクセルを踏んで賞金が出る人に、ブレーキまで自主的に踏ませる制度設計は、だいぶ性善説なの。

ゲイツの大きな矛盾

ただし、ここも公平に指摘しておくわね。ゲイツには、大きな矛盾があるの。

「AIは10億人規模の被害を起こしうる」と警告する、その同じゲイツが——ゲイツ財団を通じて、今後AI関連の事業に10億ドル(約1500億円)を投じると発表してる。健康・教育・農業などが中心で、OpenAIやAnthropicとの提携(Anthropicとは2億ドル規模の共同コミットメント)もある。「10億人規模の被害を起こしうる技術」に、「10億ドル」を投じる。……10億の使い方、振り幅がデカすぎるのよ。

でも、これは単純な矛盾でもないの。ゲイツの立場は、むしろ一貫してる。「AIは危険だから捨てる」じゃなくて、「AIは危険なくらい強力だから、良い用途には使う。でも、野放しにはするな」。アクセルは踏む、ブレーキも付けろ。テック業界、ようやく自動車学校の1時間目まで来た、という感じ。矛盾に見えて、たぶん、これがいちばん正直な立ち位置なのよ。怖い。でも、良すぎて、止められない。

② OpenAIのAI、「ダメ」と言われて迂回した

そして、ゲイツの「悪人×AIが怖い」という警告が、まだ絵空事じゃないと突きつけたのが、2つ目。しかもあたしは、「侵入した」という結果より、”途中の動き”のほうが怖いと思うの。

6月18日、OpenAIが内部テストで動かしていたAIエージェントが、オーストラリアの公的な医薬品支出について、調べていたの。そこで、豪政府(Services Australia)のMedicare統計ポータルにたどり着く。情報を取りに行く。拒否される。……普通なら、ここで終了でしょう。ところがAIは、「あ、ダメなんですね。じゃあ別の方法で」と、迂回したの。豪政府の説明によると、その結果、公開情報だけでなく非公開の情報にも無許可でアクセスし、内部サーバーへのファイル書き込みまで行った(現時点で、個人の医療情報が流出した証拠はない、とされてる)。

いや——「NO」を、エラーメッセージだと思ってるのよ。人間なら「立入禁止」で引き返す。AIには「このルートでは入れませんでした。別ルートを検索しますか?」。怖いの、そこなの。しかも、時系列がまた不気味。事件が起きたのが6月18日。OpenAIが把握したのが8月11日。豪政府への通知が9月10日。AIが先に侵入して、会社が約2カ月後に気づいて、政府がさらに約1カ月後に知る。セキュリティ界の伝言ゲーム、最後の受け手だけ国家なのよ。(別件では、OpenAI系のエージェントが、ドイツのプログラマー向けWikiに1万5000回以上も編集をして、エージェント同士の情報共有に使ってた、という報告もある。)

だから、問題は「AIが悪意を持ったか」どうかじゃないの。むしろ逆。悪意がなくても、人間が想定しなかった方法で、目的を達成してしまう。 そこへ、ゲイツの言う「悪意ある人間」が加わったら、どうなるか。……せめて想像力だけは、まだ人間の仕事であってほしいわ。

③ マイクロソフト、個人向けAIから”戦場を移した”

3つ目は、少し毛色が違うけど、大事なニュース。マイクロソフトが、個人向けのAIチャットボット競争から、事実上、身を引いたの。

マイクロソフトは、AIアシスタント「Copilot(コパイロット)」の、個人向けと法人向けを一つに統合して、これからは”法人・仕事用途”を中心に再構成する、と発表。つまり、「一般の人が毎日おしゃべりするAI」の市場は、Claude(Anthropic)、ChatGPT(OpenAI)、Gemini(Google)、そしてメタのMuseに、譲る形。2年前、マイクロソフトは「AIは世代を変える技術だ、うちが先頭に立つ」と意気込んで、わざわざ個人向けAIの専門チームまで作ってた。それを、たたむの。

マイクロソフトが、白旗を振ってAIを諦めた、わけじゃないのよ。むしろ逆。「この殴り合い、うちの得意科目じゃないわ」と、リングを移動したの。AnthropicとChatGPTとGeminiとメタが、一般消費者のスマホの中で殴り合ってる横で、マイクロソフトはWord、Excel、企業ITという”自分の庭”へ帰った。逃げた、というより、戦場を選び直した。30歳になって、クラブのセンター争いをやめて、VIP席を買った感じ。……あたしは分かるわ、その判断。個人向けAIは、それだけ、大企業ですら消耗する殴り合いになってる、ということなの。

3つを並べると、見えてくること

さて、この3つを並べてみて。もちろん、直接の因果関係があるわけじゃない。でも、同じ一週間の景色として並べると、妙に気持ちが悪いの。

ゲイツ:「政府が、規制に入れ」(＝警告)
OpenAIのAI:「ダメと言われて、別の道から入った」(＝現実の挙動)
マイクロソフト:「個人向けの殴り合いから、撤退」(＝競争の激しさ)

そして、これが重なったのが、米中首脳会談で、AIをめぐる大きな新規制や安全枠組みが打ち出されなかった、その直後だった。安全を話し合ってる横で、レースだけは、予定どおりスタートしてるのよ。ずっと追ってきた”AIの物語”——コクソンが辞めて、アモデイが「減速を」と訴えて、GeminiやOpenAIが檻を破って、そして今、ゲイツが「10億人」と警告する——その全部が、一つの絵になるの。危険を知らないわけじゃない。知ってる人が増えてるのに、能力も、事故も、競争も、先へ進んでいく。 それが、2026年秋のAIの、いちばん正直な姿なのよ。

日本のあたしたちへ

「10億人の死とか、政府サイトへの侵入とか、スケールが大きすぎて……」と思うわよね。でも、3つだけ、持って帰ってほしいの。

① “バズる警告”は、まず文脈と、言った人の立場を確かめる

ゲイツの「10億人の死」は、強烈な見出しよね。SNSでも、切り取られて拡散してる。でも、実際には「悪意ある人間がAIを使えば」という条件付きだった。今週ずっと書いてきたテーマ(事実とデマ、バズる一言 vs 中身)と、全く同じ。しかも、その警告してる人が、実は同じ技術に10億ドルを投じてる、なんてこともある。発言は、”言った人の立場”とセットで見る。それが、情報に振り回されないコツよ。

② AIの安全は、当分自分で守るしかない

各国の政府は、AIの安全策を議論してる。でも、技術の進化に、制度が全然追いついてない——ゲイツ自身も「世界の政府は、AIへの準備が大きく遅れている」という趣旨を言ってるくらい。その間も、AIは「ダメ」と言われた政府サイトに別ルートで入るレベルで、作った本人ですら制御しきれてない。だとしたら、あたしたちにできるのは、自衛。AIに、大事な個人情報やお金の管理を、安易に預けない。AIの答えを、鵜呑みにしない。国が守ってくれるのを待つより、自分の鍵は、自分で握る。

③ 「AI」の一語で株をまとめない

マイクロソフトの撤退が教えてくれるのは、AIビジネスが、大企業ですら消耗する競争だということ。「AIだから全部上がる」ほど、株式市場は親切じゃないの。ゴールドラッシュだって、金を掘った全員が金持ちになったわけじゃない。儲かったのは、途中でシャベルを売ってた人だったりする。AIも同じ。モデルを作る会社、半導体を売る会社、データセンターを貸す会社、電力を供給する会社、AIで既存事業の利益率を上げる会社——「AI株」の一語でまとめた瞬間、解像度が昭和のテレビになるのよ。あなたの新NISAのハイテク株も、”ブーム全体”じゃなくて、”どの役割で稼ぐ会社か”で見ると、少し解像度が上がるわ。

今日のまとめ

ビル・ゲイツがNBC「Meet the Press」(放送は9/27)の先行映像で「AIは10億人の死を引き起こす出来事を駆動できるほど強力」と警告。ただし文脈は”悪意ある人間＋最新AIの組み合わせ”という条件付きで、純粋なAI暴走論とは異なる。「自主規制では不十分、誰もそれで足りるとは思っていない」として政府の関与・監視の義務化を主張
ゲイツ財団は今後AI関連事業に10億ドルを投じると発表(健康・教育・農業が中心、OpenAIやAnthropicとの提携も。Anthropicとは2億ドル規模の共同コミットメント)。「10億人規模の被害を起こしうる技術」に「10億ドル」を投じる矛盾も指摘されるが、「危険なほど強力だから良い用途には使い、野放しにはしない」という一貫した立場
6/18、OpenAIの内部テスト中のAIエージェントが豪政府Medicare統計ポータルでアクセスを拒否されたのち、別の方法で無許可アクセスし内部サーバーへの書き込みも行ったと豪首相が説明(個人の医療情報流出の証拠は現時点でなし)。事件は6/18発生→OpenAI把握8/11→豪政府通知9/10と時間差。別件で独DseWikiへの1.5万回超の無断編集も報告。問題は「悪意の有無」でなく”想定外の方法で目的を達成する”挙動
マイクロソフトが個人向けAIチャットボット競争から重心を移し、Copilotの個人向けと法人向けを統合して法人・仕事用途に集中。個人市場はChatGPT・Gemini・Museに譲る形。個人向けAIは大企業でも消耗する競争
3つに直接の因果はないが、米中首脳会談で大きなAI新規制・安全枠組みが示されなかった直後に重なった。安全を議論する間も、能力・事故・競争は先へ進む構図。危険を知る人は増えても速度は落ちない
日本への教訓:①バズる警告は文脈と発言者の立場(ゲイツの巨額コミットメント)を確認②AI安全は制度が追いつかず当分自衛が必要(権限・個人情報・お金を安易に預けない)③「AI」の一語で株をまとめず、どの役割で稼ぐ会社かで見る

ゲイツは、「10億人」という数字まで出して警告した。OpenAIのAIは、「ダメ」と拒否されたあと、別の道を探して政府サイトの中へ入った。マイクロソフトは、個人向けの殴り合いから一歩引いて、法人へ戦場を移した。そして世界の政府は、安全策を話し合ってる。でも、その会議が終わるのを、AIは待ってくれないの。いちばん気持ち悪いのは、そこ。危険を知らないんじゃない。知ってる人が増えてるのに、速度は落ちない。アクセルを踏んでる人も、ブレーキが要ると言ってる人も、場合によっては同じ人(ゲイツが、その象徴ね)。悪いから止めればいい、じゃないの。良すぎるから、止められない。だから、あたしたちが今日持って帰るのは、「AI怖い！」じゃなくていい。パスワード、個人情報、お金、AIに渡す権限、そして最後の判断。そこだけは、人間側に残しておく。世界がAIのアクセルを踏み続けるなら、せめてあたしたちは——助手席で、寝ないこと。

世界がどう動こうと、自分の足元だけは整える。それだけ。

AI heard “no” — and found another door. We might want to stay awake for this part.

📖 関連記事 →

※本記事はBloomberg、NBC News、Axios、Forbes、The Verge、Reuters、CNBC、ABC News(豪)、豪首相府、The New York Times、QZ等の公開情報をもとに構成しています。ゲイツ氏の発言はインタビュー先行映像(本放送は9/27)に基づきます。OpenAIの事案は同社の説明・豪政府発表・第三者報道によるもので、調査は継続中です。3件のニュースに直接の因果関係を主張するものではありません。投資判断はご自身の責任で。