車を売るとき、昔は「何馬力出ます！」が自慢だったのよね。速い、パワフル、それが正義。
ところがある時代から、売り文句が変わったの。「うちの車は、いちばん安全です」。エアバッグ、自動ブレーキ、衝突テストの星の数。スピードだけじゃなくて、”守り”も競争の中心になった。
今、AIの世界で、それと似た地殻変動が起きてるの。しかも昨日、その象徴みたいな出来事があった。AI業界の二大巨頭、OpenAIとAnthropic(アンソロピック)が、奇しくも同じ日に、似た方向を向いた発表をしたのよ。今日はその話しをするわね。
そろって「強くなったので、そのまま全部は渡しません」
まず、昨日の発表を、両社分並べるわね。
OpenAIは、開発中の新しいAI「Astra(アストラ)」について、こう発表したの。「このAIは、我々の基準で”サイバー能力が危険な水準(クリティカル)”に達した初のモデルです」。噛み砕くと——人間が一手ずつ指示しなくても、AIが自分で、コンピューターの未知の弱点を見つけ、それを悪用する手段まで組み立てられる、という水準。だから、いちばん高度なサイバー機能は、限られたテスターにしか使わせない、と。
一方のAnthropicも、同じ日に最新モデル「Fable(フェイブル)」と「Mythos(ミュトス)」の新バージョン(5.1)を発表。こっちも似た構造で、いちばん強力なMythosは、審査を通った組織だけに限定公開。一般に使えるFableでも、サイバーや生物学がらみで危険と判断された質問は、わざと能力の低いモデルに切り替えて答える仕組みなの。AI界の”入店拒否”ならぬ、「その質問はちょっと物騒ね。今日は格下のモデルでお願いします」っていう、モデル格下げよ。
つまり両社とも、昨日こう言ったわけ。「うちの最新AIは、めちゃくちゃ強い。強すぎるくらい。だから、封じ込めながら、限定的に出します」。判で押したように似たメッセージ。
もちろん、両社が相談して同じ日に出した、なんて話しじゃないわ。面白いのは、別々に走ってる二社が、同じ方向を向き始めたこと。これが今、AI業界の新しい”お作法”になりつつあるってことよ。
昔の自慢は「テストで何点」だった
なんでこうなったか。少し前のAI競争を思い出して。
ちょっと前まで、AI会社の自慢って「ベンチマークで何点取ったか」だったのよ。ベンチマークっていうのは、AIの賢さを測る共通テストみたいなもの。「うちのAIは、この難しい試験で人間を超えました！」「他社より高得点！」——そういう”点数自慢”が、主戦場だったの。
もちろん、それは今も続いてる。昨日のAnthropicの発表でも、いくつかのベンチマークで記録を更新したってアピールしてるし、OpenAIも自社のAIがサイバー能力のテストで満点を取ったと誇ってる。点数自慢は、まだ健在。
でもね、そこにもう一枚、新しいレイヤーが乗っかったの。それが「安全性」。昔は「100点取りました！」で済んだの。今は「100点取りました！なお、危険なので一部は触らせません！」までがセット。
優等生、ついに答案用紙と一緒に防護服を配り始めたのよ。
皮肉①:「危険すぎて出せません」は、最高の広告になる
この「安全アピール」、よく見ると、面白い二面性があるの。
考えてみて。会社が「うちのAIは危険すぎるので、全部は公開できません」と言う。額面どおりなら、慎重で誠実な姿勢よね。でも同時に、こうも聞こえない？「うちのAIは、それだけ強いんですよ」って。
「危険だから制限します」という言葉は、裏を返せば「制限が必要なくらいスゴい」という、能力アピールにもなる。マーケティング上は、危険の告白が、そのまま広告に近い効果を持つの。
だってそうでしょ。化粧水が「美しくなりすぎる恐れがあるため、会員限定です」って売られてたら、あたし翌朝５時から並ぶもの。ダイエット薬が「痩せすぎるので一般販売できません」って言った瞬間、全国のあたしたちが財布持って走るでしょ。
「制限」は、人間の「欲しい」を最高に煽るのよ。
OpenAIの「危険水準に達した初のモデル」も、Anthropicの「特別なMythosは限定公開」も、この”封印されし力”の見せ方をしてる。
少年漫画で「これ以上は封印を解けない…!」ってやつね。あたしたち、これに似た構造を、つい先週も見たわよね。アメリカが「史上最強の対イラン制裁だ」と大見得を切った、あれ。「すごいぞ」を強調する言葉は、警告のふりをした宣伝でもあるの。
皮肉②:でも、その”すごさ”は、独立検証されてない
ここで、大事なブレーキをかけるわね。両社に、まったく等しく。
両社とも「うちのAIはこんなに強くて、こんなに安全に抑えてます」と言ってる。数字も出てる。OpenAIによる内部評価では、Astraはサイバー攻撃のテスト「ExploitBench」で100点満点。しかもテスト中に、まだ世に知られてない弱点(ゼロデイ)を2つ自力で発見した、と。100点よ。普通なら冷蔵庫に答案貼って、おばあちゃんに電話するところ。ところがAIの場合、「満点取ったのでアクセス制限します」になる。成績優秀すぎて、放課後に職員室へ呼ばれるタイプよ。
でもね、ここが肝心。少なくとも今公表されてる性能・安全性の評価は、その中心が”各社自身がまとめて発表したもの”なの。専門家による評価や外部の攻撃テストも一部使われてはいるけど、完全に独立した第三者が、同じ条件で再現して検証したものとは違う。実際、OpenAIのことを報じた記事にも、はっきり書いてあるの。「第三者の確認がないので、安全性の主張を評価するのは難しい」って。これ、Anthropicにも1ミリの例外なく、同じことが言えるわ。
しかも、都合の悪い数字も載ってるのよ。Anthropicは自社の技術文書(システムカード)の中で、新しいMythosは、ひとつ前の上位モデルと比べると、”行動のお行儀”が少し悪化した、と書いてる。
例えば「これやっていいよ」という、確かめようのない権限の主張を、前より受け入れやすくなってる、と。
要するに、頭はさらに良くなった。でも、ちょっと人を信じやすくなった。どんな難問もスラスラ解くのに、「これ、やっていい許可もらってるから」の一言を、証拠も見ずに信じちゃうタイプ。賢さは一流、用心深さは三流。このアンバランスが、ちょっと怖いのよ。
だから、安全アピールは、両社とも話し半分で聞くくらいがちょうどいいの。売り手が「安全です」と言うのは、当たり前だもの。
そして、安全は「タダ」じゃない
もうひとつ、経済の視点で外せないのがこれ。安全対策には、お金がかかるってこと。
AIを「危険だから」と抑え込むには、いろんな仕組みが要るの。AIの一挙一動を見張る監視システム。危ない動きをしたら止める仕組み。限られた人にしか使わせない管理。企業ごとに専用の安全な環境を用意する手間。これ全部、コストよ。
これ、別の記事と繋がるの。覚えてる?「AIコストが急騰して、企業が青ざめてる」って話し。ただでさえ推論(AIが考える処理)にお金がかかるのに、そこへ「安全に使うためのコスト」が、別の層としてまるっと乗っかる。AI本体だけでも請求書を見て企業のCFO(財務のトップ)が白目むいてるのに、そこへ「監視システムです」「アクセス管理です」「安全評価です」「専用環境です」。
はい、AI定食・全部のせ。お会計はこちらです、よ。
さらにその先には、規制の壁もあるの。AIのサイバー能力が国家安全保障上の論点になるほど、国が「これは輸出を制限すべきだ」と言い出す。
実際この夏、Anthropicの強力なモデルが、輸出規制の対象になって、一時的にアクセスが止まる、なんてことも起きた(その後、規制は解除されたけど)。強すぎる力は、政府の目にも留まる。能力の高さは、そのまま規制リスクの高さでもあるのよ。
日本のあたしたちへ
「AI会社同士の、遠い技術競争でしょ」って思うわよね。でも、じわじわ関係してくるの。
まず、投資家として。OpenAIもAnthropicも、実はまだ上場してないの。だから、この２社そのものを直接買うことは、普通はできない。でも、もしあなたが新NISAで米国株や世界株の投信を持ってるなら、NVIDIA、マイクロソフト、アマゾン、アルファベット(グーグル)みたいな、AIに巨額を投じてる会社を、間接的に持ってる可能性が高いの。昨日の発表が示したのは、「性能を上げるほど、安全コストと規制リスクも一緒に膨らむ」という現実。AIブームに乗るなら、夢だけじゃなく、この”重り”の部分も一緒に見ておくと、目線が少し冷静になるわ。
そして、経済の流れとして面白いのがここ。AIが「人間の指示なしに、システムの弱点を突ける」水準まできたということは、それを”守る”側のビジネスも、これから確実に伸びるってこと。攻撃するAIが強くなれば、守るためのセキュリティ投資も増える。つまりAI競争は、「賢いモデルを作る会社」だけじゃなく、「それを防御する会社」にも、お金を流し始めるの。お金の流れは、いつも一本道じゃない。派手な主役の隣に、地味だけど確実に潤う脇役がいる。そこを見つけられる人が、ブームの二段目に乗れるのよ。
最後に、いちばん大事なこと。
企業が「安全です」「危険なので制限します」と言うとき、その言葉を、鵜呑みにも、頭ごなしの否定もしないこと。それは慎重さの表明であると同時に、強さの宣伝でもある。両方の顔を持ってるの。
売り手の言葉は、いつだって話し半分で聞いて、独立した第三者の検証が出てくるのを待つ。この落ち着いた距離感こそ、AIみたいに動きの速い世界で、あたしたちが振り回されないための、いちばんの防具よ。
今日のまとめ
- OpenAIとAnthropicが同じ日に発表。OpenAIは新AI「Astra」がサイバー能力の”危険水準”に達した初のモデルとし、Anthropicは最新モデル(Fable/Mythos 5.1)で強力版を限定公開に。両社そろって「強いから全部は渡さない」姿勢
- AIの競争軸が「ベンチマークで何点取ったか」から「どこまで安全に封じ込めたか」へ。性能自慢だけでは済まない時代に
- 皮肉①:「危険すぎて出せません」は最高の広告にもなる。制限は「制限が必要なほどスゴい」という能力アピールと表裏一体
- 皮肉②:両社の性能・安全性の主張は、公表評価の中心が各社自身によるもの。独立した第三者の同条件検証はまだない。Anthropicは自社文書で「新モデルはお行儀が少し悪化」と都合の悪い数字も載せている
- 安全対策はタダじゃない。監視・アクセス管理・専用環境が推論コストに上乗せされ、輸出規制という国家安全保障リスクも。一方で「守る側(セキュリティ)」にお金が流れる構造も生まれる
世界がどう動こうと、自分の足元だけは整える。それだけ。
“Too dangerous to sell” is the sale.
📖 関連記事 →
- Uber、AI予算を4ヶ月で溶かす｜テスラ週200ドル制限、企業のAIコスト急騰の全貌
- 「危険すぎる」と宣伝したら本当に規制された｜AI輸出規制の一部始終と投資家が知るべき新リスク
- AIという王国に王様が誕生した日｜NVIDIA一強、家臣たちは今日もみつぎ物を納める
※本記事はOpenAI公式ブログ(Path to Astra)、Anthropic公式発表(Enterprise Frontier Safeguards、Fable/Mythos 5.1)の公開情報をもとに構成しています。両社の性能・安全性に関する評価はいずれも各社自身が公表したものであり、完全に独立した第三者による同条件の検証を経たものではない点にご留意ください。
