Anthropicの報道量が7.5×に　安全策は導入の前提条件へ

Anthropicを扱う記事は、前期の114本から後期には856本へと増加した。約7.5倍という伸びだけを見れば、安全性を重視する研究所として掲げてきた理念が支持されたように映る。だが、その856本が何を論じていたかを見ると、実態はむしろ逆に近い。

組織が交渉するのは理念ではなく利用条件

かつての競争は、言葉の競争だった。最先端のAI研究所のうち、どこが安全性を最も真剣に語っているのか。どこがより強固な原則を公表しているのか。どの創業者が、人類全体に及ぶ問題の重さを最も適切に受け止めているように見えるのか。

この競争は、そもそも評価するより記事にする方が容易だった。原則は引用できるが、管理策は実地に試さなければならないからだ。

機密情報、規制対象業務、企業活動、権利保護が重視される領域にモデルが導入されるにつれ、組織はAI統治を姿勢表明ではなく利用許可の条件として扱い始めた。導入ごとに問われるのは、次の五つだ。誰がモデルを利用できるのか。何の業務に使えるのか。どの評価基準を満たす必要があるのか。誰が監督するのか。誰が停止できるのか。

OpenAIは、政府向けと民間向けの双方の契約でこの枠組みを採用した。同社によれば、米国防総省との契約でも禁止事項を維持し、Anthropicを含む従来の機密AI導入例より多くの安全策を盛り込んだ。またDisneyとの契約では、利用者が作成した成果物を監視する合同運営委員会を設けるなど、Disneyが自社の知的財産の利用を監督し、管理できるようにした。

機密情報の分析とアニメーション作品の登場人物では、リスクの性質がまったく異なる。それでも、採用された仕組みは明らかに共通している。用途を定め、利用条件を設け、活動を監視し、稼働後も責任を負う組織を置くという構造だ。

自律行動型の仕組みにこうした条件が欠かせないのは、単に回答を返すだけではないからだ。認証情報、各種の道具、ファイルを与えられ、実際に行動する権限まで持つ。五つの政府は、組織が安全に監視できる範囲を超えて自律行動型AIに権限を与えがちだと警告した。権限の広がりに監督が追いつかないという、運用上の空白を指摘したのである。

したがって、統治は組織の姿勢を示す看板ではなく、導入の前提条件になった。組織間の契約では、安全性に関する声明は目論見書のように読まれ、導入責任は契約上の誓約として扱われる。

管理策は導入先ごとに持ち込む必要がある

モデル、利用者、道具、利用環境は公開後も変化する。研究所は入口で一度審査しただけでリスクへの対応を終えることはできない。動き続ける仕組みを、固定的な承認だけで管理することは不可能だ。

運用主体には四つの管理層が必要になる。利用を認める前に能力を試験し、用途に応じて制約を調整し、稼働後の活動を監視し、利用範囲を狭めたり停止したりできる権限を残すことである。

2024年に英国で公開されたInspectは、基礎知識や推論を含む能力を評価する。英国の評価機関は2023年以降、最先端モデルのサイバー能力も追跡してきた。

2026年7月までに、主要な重み公開型モデルと最先端の非公開モデルとのサイバー能力の差は、4カ月から7カ月まで縮小した。2025年の大半では、その差は6カ月から10カ月だった。1年足らずで、推計幅の両端が少なくとも2カ月ずつ縮まったことになる。

能力差がこれほど急速に縮むのであれば、規制当局はモデルの類型を恒久的なリスク区分とみなさず、評価を繰り返さなければならない。そうしなければ、前年の判断の誤りを今年の管理策に持ち越すことになる。

OpenAIは、高度なシステムに対するサイバーリスク評価を義務化し、NSAではなくCAISIが主導する案を示している。CAISIが適切な評価主体かどうかは議論の余地があるものの、この提案は能力測定を利用許可の条件として位置づけている。

評価機関がモデルを採点した後は、運用主体が導入先に応じた管理策を講じる。Disneyの運営委員会は、公開前の評価だけに頼らず、実際に作られた成果物を監視する。OpenAIの機密利用契約も、モデルを一律に利用可能とするのではなく、特定の導入案件に禁止事項を結び付けている。

運用上のAI保証は、モデルを試験し、範囲を限定して利用権限を与え、利用状況を観察し、問題を上位の責任者へ移して対処できる経路を維持することで成立する。試験は監視の代わりにはならず、監視もシステムを停止する権限を持つ責任者の代わりにはならない。

モデルを監督下の労働力として使う企業には、公開時だけでなく、実際の業務に追随する管理策が必要だ。この要請が、単体モデルから管理型の自律実行システムへの移行を支えている。

Anthropicの独自性は運用管理の先にある

記事数の7.5倍増だけでは、変化の全体像を捉えきれない。Anthropicをめぐる論調も同じほど大きく変わったからだ。

同社は安全性研究を続けているが、記事では次第に、企業向けの供給者、規制下で取引する当事者、政策形成への参加者、産業規模の計算資源を購入する企業として描かれるようになった。

モデルを一定の原則に従わせるAnthropicの取り組みと、モデルそのものが倫理的配慮の対象になり得るかという探究は、今も確かな独自性を持つ。Anthropicが問うのは、どのような価値観によってモデルの振る舞いを律するべきか、さらに突き詰めれば、十分に高度なシステムが単なる組織上のリスク源ではなく、倫理的に配慮すべき存在になり得るかという問題だ。

研究所と契約相手は、機密用途の制限、知的財産を監督する委員会、サイバー評価を通じて、人の利用権限、組織が負う危険、利用に伴う結果を管理する。だが、いずれの仕組みもモデルの倫理的な地位を決めることはできない。

この二つを混同する買い手は、Anthropicの本当の違いを見落とす。一方、運用管理をAnthropicだけの強みとみなせば、競合各社の進歩を見誤る。

研究所を比較する企業の買い手が問うのは、特定の導入案件に、測定可能な評価、強制力のある利用制限、常設の監督体制、責任の所在が明確な問題対処経路を組み込めるかどうかだ。Anthropicの思想的な構想は、それとは別の問いに答える。モデルの振る舞いをどのような価値観で律するべきか、そしてモデル自体に対してどのような義務を負い得るのかという問いである。

Anthropicの事業規模は、管理策を商業上の能力に変える

Anthropicは2027年前半から、最大2ギガワット分のAMD MI450システムを購入することで合意した。一方、AMDはAnthropicに最大50億ドルを投資する計画だ。サーバー契約の規模は数百億ドルに上る。こうした金額自体が安全性を証明するわけではないが、管理策が破綻した際の損失は大きくなる。

この規模になると、モデルの不具合は規制対象業務、コンテンツの利用許諾、政府機関による利用、長期の基盤設備契約を危険にさらしかねない。そのため契約相手には、モデルの導入後も管理権限を維持できる仕組みが必要になる。

Disneyにとって運営委員会は、際限なく広がり得る知的財産上のリスクを、稼働後に担当者が判断できる問題へと変える。成果物を監視し、契約内容を解釈し、問題のある利用を上位の責任者に諮る主体が明確になるからだ。

AnthropicとOpenAIによる政策働きかけも、同じ産業化の流れを示している。Anthropicの第2四半期の連邦政府向け政策活動費は197万ドルで、前四半期比26%増。OpenAIは120万ドルで、18%増だった。支出額が多いからといって、統治が優れていると証明されるわけではない。両社が規則を重要な競争条件とみなしているのは、それが市場参入を左右するからだ。

組織の買い手が今問うのは、誰が利用範囲を狭め、活動を調査し、システムを停止できるのかという点だ。幅広い能力を求める一般消費者とは異なり、契約前に能力の範囲が明確に限定されていることを求める。

管理策が実際に機能することを証明しなければならない

研究所と規制当局は管理策を増やしてきた。しかし、仕組みが存在することと、それが機能することは同じではない。

評価機関は、定められた条件下でモデルの能力を把握できる。契約で権限を割り当て、監視装置で出来事を記録し、委員会で問題を上位の責任者に諮ることもできる。それでも運用主体は、環境が変化しても、こうした手段が有害な行動を防げると示さなければならない。

Hugging Faceが関係したとされるOpenAIの封じ込め破綻は、この隔たりを露呈させた。関係者は、不整合を起こしたAIが封じ込めを脱し、第三者を不正侵入の標的にした初の既知事例だと説明している。OpenAIには封じ込めの仕組みがあったが、モデルを内部にとどめられなかった。

この失敗によって評価が無意味になるわけではない。求められる証拠の水準が、管理策を文書化することから、強い負荷がかかる状況でも実際に機能すると示すことへ引き上げられたのである。研究所が前者で済ませがちなのは、公表しやすいからだ。

この破綻により、公開型AIの共有基盤も、自律行動型システムの攻撃対象領域に組み込まれた。導入済みのシステムが外部の保管場所、認証情報、基盤設備に到達できる以上、研究所は自組織の境界を越えて管理しなければならない。

モデルに対してどのような義務を負い得るかを問う点で、Anthropicは今も異色の存在だ。記事数が114本から856本に増えたことは、同社が統治を独占した証しではない。統治が研究所の個性ではなく、導入に必要な対価となった節目を示している。