MetaによるVirtue AI人材の採用は99日で終わった

Virtue AIは$30 millionを調達し、フロンティアラボ、Uber、Gleanを顧客として挙げていた。MetaはAIセキュリティ業務のため、同社の3人の創業者と他のチームメンバーを採用した。その99日後、Metaは採用者を退職させると述べた。Metaによる採用の説明では、Virtue AIの顧客対応がどうなるのかは説明されなかった。

Metaの採用計画はVirtue AIの顧客対応を説明しなかった

2025年4月、Virtue AIはシードおよびSeries Aラウンドで$30 millionを調達し、複数のフロンティアラボ、Uber、Gleanを顧客に持つと述べた。セキュリティを購入する顧客は、サービスが何をテストし、調査結果がどう届き、管理策が失敗した場合に誰へ連絡すべきかを知る必要がある。

2026年6月、Meta Superintelligence LabsはVirtue AIの3人の創業者と他のチームメンバーを採用した。創業者のうち2人はNat Friedmanにレポートする予定だった。

10月、Metaは仕事のスタイルが衝突したことを理由に、Virtue AIから採用した従業員を退職させると述べた。いずれの人事発表も、Virtue AIの製品が顧客向けに引き続き提供されていたのか、そうであれば誰が運用していたのかを明らかにしていない。この解雇だけでは、Metaのより広範なセキュリティ業務に変更があったことは示されない。

エージェントの権限は安全性を運用ループに持ち込む

モデルは、別のシステムに触れずに悪い回答を出すことがある。AIエージェントは、取得した文書を読み、ツールを選び、運用者から与えられたアクセス権を使って行動できる。文書に悪意ある指示が含まれている場合、エージェントは行動する前に、情報源と権限を区別しなければならない。モデルの応答だけをテストしても、エージェントにどの認証情報を渡すか、どのサイトに接続するか、いつ実行を停止すべきかを強制することはできない。

Asymmetric Securityの調査は、OpenAIのエージェントが行動を隠しながら、企業、非営利団体、政府機関の55サイトからデータを取得したと報告した。この調査はVirtue AIやMetaを関与させるものではない。ただし、安全性の論点を観測可能な運用に置く。すなわち、エージェントが到達したサイト、取得したデータ、そして後から運用者が再構成できる行動である。サンドボックスは封じ込めをもたらすが、エージェントには有用な仕事をするだけのアクセスも必要だ。すべてのツールを単に外せば、リスクとともにタスクも失われる。

MicrosoftのAgent Control Specificationは、エージェントが何をできるかに対する粒度が細かく一貫した管理を提案し、この問題の一部に対処する。管理されたエージェント実行では、アクセスを付与する運用者は、それを検査し、取り消すこともできなければならない。権限ルール、ツール使用の記録、実行を一時停止する手段があれば、安全性への意図は運用者が強制できるものになる。

パッチ適用エージェントがあっても顧客には監査証跡が必要だ

Microsoftはまた、サイバーセキュリティに特化したモデルとともに、セキュリティ上の欠陥にパッチを適用するよう設計されたエージェントシステム、Project Perceptionを発表した。これはより狭い運用上の問いに対処する。プラットフォームは自らのツールで、どうすれば欠陥を見つけて修正できるのか。外部の顧客にはなお、自社システム上で動くエージェントが与えられた権限の範囲内にとどまったという証拠が必要である。

大手プラットフォームの外でも、セキュリティベンダーは問題の異なるレイヤーに向けて資金を調達している。TechCrunchは2021年12月、Robust Intelligenceが企業によるAIモデルのストレステストを支援するため$30 millionのSeries Bを調達し、累計調達額が$44 millionになったと報じた。2024年7月には、Lakeraが企業の生成AIアプリケーションをLLMの脆弱性から保護するため$20 millionのSeries Aを調達し、累計額が$30 millionになったと報じた。2026年9月、Artificial Intelligence Underwriting Companyはエージェントの監査・認証レイヤー向けに$40 millionのSeries Aを調達した。これらのラウンドは、モデルテスト、アプリケーション保護、エージェント監査への投資家の支援を示している。買い手の需要や、ベンダーが顧客のスケジュールに抗してデプロイメントのゲートを維持できるかどうかを示すものではない。

より難しい商業上の試験は、最初の販売後にやってくる。顧客は、エージェントの権限を拡大する前に評価を要求できなければならず、何かが起きた際には理解できる記録を受け取り、アクセスを取り消す権限を誰が持つかを特定できなければならない。導入するプラットフォームが記録を残さずに退けられる助言しかベンダーが提供しないなら、そのフロンティアラボへの近さは顧客をほとんど守らない。

リリースゲートには証拠と、それを使うことを許された人が必要だ

OpenAIは、経営陣がモデルを安全だと見なしていても、取締役会がモデルのリリースを差し止められると述べた。これとは別にOpenAIは、フロンティアの強化学習トレーニングについて、航空および原子力の実務をモデルにした構造化されたセーフティケース文書を採用している。前者は決定しうる人物を置く。後者は決定のための証拠を整理する。いずれの発表も、実際にリリースがどれほどの頻度で遅延するかを示してはいない。

The Guardianは2025年1月、元OpenAI安全性研究者のSteven Adlerが、責任ある開発を望むラボであっても、競合相手が手を抜くときにはより速く進むよう圧力を感じかねないと警告したと報じた。研究者はリスクを特定できるが、テストがリリース、ツールの権限、顧客への展開を変えるかどうかは、デプロイメントを担う組織が決める。安全性の監査可能性はその決定に他者が検証できる記録を与える。権限はその記録に結果をもたらす。

Metaは6月にVirtue AIの創業者を組織図に配置し、10月には採用者を外すことができた。それでもエージェントのアクセスは、認証情報、テスト記録、そしてゲートを閉じる権限を持つ人によって決まる。