Google Earthの「1日」で露呈したプロベナンス警告

GoogleはGoogle Earthにフォトリアリスティックな画像生成を組み込み、その1日後に削除した。ユーザーは長年、Earthを物理世界の記録として読むことを学んできた。安価な合成は、その蓄積された信頼をAI安全性の問題へと変えた。

Googleは今、プロベナンスをインターフェースの一部にしなければならない。信頼性の高いあらゆるAI画面は、取得された観測、機械による分析、合成による創作を分け、画像が共有されるときもエージェントが行動するときも、その系譜を維持する必要がある。モデルのラベルだけでその重荷は担えない。

地図は、取得された場所を分析することで信頼を得た

Googleは、観測を蓄積し、そこから構造を抽出することで地図における優位性を築いた。2017年、同社はディープラーニングとStreet View画像を使ってMapsを更新していると説明した。カメラと画像提供者が観測を供給し、モデルが記録の中から文字、構造物、地理的特徴を見つけ出した。

ユーザーは、抽出モデルを理解する必要はなかった。Google Mapsは、そのシステムが取得し分析した場所を表している――そういう製品上の約束を理解すれば十分だった。

Google Earthは後に、その約束を壊さずに、より有用なものにした。2025年、Googleは過去のStreet Viewと、樹冠被覆率などのAI由来インサイトを追加した。過去の画像により、ユーザーは時間をまたいで観測結果を比較できた。樹冠分析は、情報源と解釈の区別を読み取れる形で保ちながら、取得された場所を測定した。

Google DeepMindはAlphaEarth Foundationsで同じアーキテクチャをさらに推し進めた。これはペタバイト規模の地球観測データを、科学者が必要に応じて詳細な地図を作成するために使える表現へ統合するものだ。このモデルは、生成された場面を同じ場所の別の視点として提示することなく、観測記録をより有用にする。

透かしではEarthの権威を守れない

Nano Banana 2がCreate Imageボタンを通じてEarthに入ったとき、Googleは別の境界を越えた。ユーザーは、場所のインフォグラフィックやフォトリアリスティックな改変を作るよう製品に指示できた。Googleは、ポリシー違反と見られるスクリーンショットが拡散し、ディープフェイク衛星画像への懸念が高まった後、より強力なガードレールを追加するため、公開から1日後にこの機能をロールバックした。

Googleは生成画像を、他のユーザー向けの主要なGoogle Earth体験から隔離し、それぞれにSynthIDの透かしが入ると述べた。これらの制御により、あるユーザーが生成した場面が、別のユーザーの地図へひそかに入り込む可能性は下がった。

スクリーンショットは残る隔たりを露呈した。合成された場面が平坦な画像としてEarthの外に出ると、周囲のインターフェースは、Googleがそれを取得したのか、推論したのか、生成したのかを示さなくなる。SynthIDは対応する検出器がGoogle生成メディアを識別する助けにはなり得る。しかし、画像と基礎となる場所の関係を説明したり、どの部分が観測を表すかを特定したりはできない。

Googleは2023年、Imagenで生成された画像向けにSynthIDを導入し、その後、生成テキストにも透かしの取り組みを拡張した。OpenAIはその後、C2PA Content Credentialsと並行してSynthIDを採用し、一般向け検証ポータルをプレビューした。OpenAIの採用で検出器の到達範囲は広がったが、他のシステムは依然としてラベルなしの合成コンテンツを生成できる。

C2PAには別の限界がある。この標準は暗号技術で来歴と編集履歴を保持できるが、カメラ側の対応が不完全なため、取得時点でその連鎖が途切れる。署名付きの履歴が機能するのは、カメラ、編集ツール、生成器、公開システム、閲覧者がすべてそれを維持する場合だけである。どの受け渡し段階であれメタデータが欠ければ、本来あるべき連鎖ではなく、主張だけがユーザーに残る。

Google Earthは観測画像と生成素材を異なる形で表示し、分析による変換を開示し、通常の共有でも検証可能性を維持すべきである。小さく見えない印では、地球規模の製品が持つ意味を守れない。

Chromeは、すべての行動を誰が承認したか追跡しなければならない

Googleは、160カ国超のAI Pro加入者にGemini Sparkを展開し、これをデスクトップのauto browseと統合している。ユーザーの許可があれば、Sparkはアパートの内見を予約し、フライト情報を自動入力できる。

エージェントはページを認識し、指示を解釈し、ツールを選び、外部システムを変更する。Chromeは、影響の大きい各行動の系譜を保持しなければならない。どの指示がユーザーに由来するのか、どの内容がページに由来するのか、エージェントがどのツールを選んだのか、ユーザーがどの許可を与えたのか、ツールがどの結果を生んだのかである。

研究者はすでに、PerplexityのCometやFellouを含むエージェント型ブラウザ全般にわたる体系的な間接プロンプトインジェクションの脆弱性を記録している。悪意あるページ、メッセージ、フォームは、エージェントが指示と取り違えるようなテキストを提示できる。ブラウザが権限を誤った情報源から導き出していたとしても、最終的な行動は技術的には正当に見えるかもしれない。

Googleは、Chromeのエージェント型ブラウジング機能が取る行動を審査するUser Alignment Criticモデルについて説明している。このcriticは提案と実行の間に第2のモデルを加えるが、Chromeはなお、判断をレビュー可能にしなければならない。製品が指示、送信先、関与するデータ、エージェントが変更を確定する時点を隠してしまえば、ユーザーは意味のある形で行動を承認できない。

Chromeは広範な許可を一度だけ求めることもできるし、特定の指示とツール呼び出しに許可を結びつけることもできる。後者の設計にはより多くの操作が必要だが、権限の源を保てる。

画像プロベナンスに相当するエージェント側の仕組みは、ユーザーの指示と、指示になろうとするページの試みを区別する行動記録である。

その記録があれば、レビュー担当者は事後的にエージェントの責任を問える。現実的な画像がカメラによる取得を証明できないのと同じく、適切に振る舞う最終応答も、エージェントが正しい指示に従ったことを証明できない。

衛星画像の真実には管理履歴も含まれる

衛星画像は、本物のファイルであっても現実について不完全な説明しか伴わないことがあるため、通常の本物か偽物かという判定を複雑にする。2026年、Planet Labsは、顧客がNATO加盟国を標的にするために利用するおそれを理由に、中東画像の提供を4日から最長2週間へ延長した。同社はその後、米政府の要請を受け、イランと周辺の紛争地域の画像へのアクセスを無期限に停止した。

ファイルは引き続きカメラで取得されたものだったが、Planet Labsのアクセス判断は、ユーザーが何をいつ観測できるかを変えた。「カメラ取得」とだけ報告する検証システムは、ファイルを認証しても、利用可能な記録を形作った遅延や提供停止の判断を省いてしまう。

研究者は、GoogleがEarthに生成機能を追加する以前から、ディープフェイク衛星画像を生成する敵対的生成手法を実証していた。技術的な可能性はGoogleの機能より前から存在した。Earthが与えたのは、出力をより説得力あるものにした蓄積された権威である。

現在の透かしやコンテンツ認証情報で、この表のすべてを満たすものはない。SynthIDは対応する生成出力に印を付けられる。C2PAは、参加するハードウェアとソフトウェアが対応していれば、署名付き履歴を保持できる。Google EarthとChromeにはなお、ユーザーが解釈または承認する瞬間に検証できる形で、これらの記録を提示する必要がある。

Google Earthは、取得された地理情報を探索可能にすることで権威を得た。Chromeは、ユーザーがどこへ行くか、ウェブサイトが何をできるかを仲介することで権威を得た。Earthの1日でのロールバックは、生成がその権威をどれほど速く借りられるかを示した。Googleが、取得から分析、ページ内容から指示、場面から合成へというあらゆる移行を検証可能にしない限り、もっともらしいレンダリングや自信に満ちた行動は、得るに至らなかった信頼を引き継ぐことになる。