Apple、週800M人が通る「門」のもう一つの代償

Appleによると、同社のApp Storeには週800 million人を超える人が訪れる。一見、これは流通規模を示す数字にすぎない。だが今や、取り締まり能力を示す数字にもなりつつある。

San FranciscoのCity AttorneyはAppleとGoogleに法的通知を送り、ディープフェイクの裸体画像作成に使われるアプリ13本を削除するよう求めた。

この規模の隔たりが、規制当局の影響力を生む。当局は、個々のダウンロード、決済、開発者アカウント、被害者をすべて特定しなくても、流通経路に介入できる。週800 million人超が利用する消費者向けの場で、掲載と配信停止を一手に握る運営者に働きかければよい。

ストアが仕組みのすべてではない。しかし、全体像が見えにくくなるなかで、誰が何を管理しているのかが際立って明確な介入地点である。

AI悪用で、審査は配信停止の手段になる

長年、Appleが規則を定め、開発者がソフトウェアを申請し、Appleが承認または却下してきた。公の論争は、品質、安全性、競争、手数料をめぐるものだった。

生成技術の悪用が広がると、却下は取り締まりの手段になる。有害な機能が消費者向けアプリとして提供された場合、ストア運営者は、利用者を一人ひとり突き止めなくても流通を止められる。これが提供段階での統制である。ソフトウェアが広く利用可能になる境界で、到達範囲を狭める力を指す。

2024年4月、Appleは、本人の同意を得ない裸体画像の作成を宣伝しているとの報道を受け、AI画像生成アプリ3本を削除した。2026年7月には、City Attorneyが13本の削除を要求した。

報道を受けて3本が削除された段階から、法的要求で13本が名指しされる段階へと進んだ。2026年には、報道機関だけでなくCity Attorneyが法的通知を通じて対応を促すようになった。

ただし、ストア側が最終的に何本を削除したのかは確認できない。関連報道では、Googleが削除したのは5本なのか13本すべてなのか見解が分かれ、同じ基準で比較できる削除件数は示されていない。削除要求が出されたことは確かだが、どこまで実行されたかは不明である。

アプリストアからの削除だけで問題が解決するわけでもない。ディープフェイク作成用の39個のボットには、1.4 millionを超えるTelegramアカウントが登録していた。ストアからアプリが消えても、ウェブサービスやメッセージ基盤は残るため、開発者と利用者には規制を迂回する別経路がある。

それでも、利用手段を完全になくせないからといって、ストアでの削除が無意味になるわけではない。防火扉と同じように、すでに数百万人が通る境界で被害への接触を減らせる。

安全対策が頼る裁量を、独占禁止政策は制約する

同じ週、AppleとU.S. Department of Justiceは、DOJが2024年に起こした独占禁止訴訟をめぐり、和解に向けた初期協議に入ったと報じられた。匿名の情報源が説明したのは予備的な協議であり、合意成立が確認されたわけではない。

独占禁止訴訟とSan Franciscoの通知は、同じ仕組みを正反対の側から照らし出す。DOJは、iPhone向けソフトウェアの流通を一社が支配することを、競争排除の原因になり得るとみる。San Franciscoは、その支配力を迅速な対応の源泉とみる。DOJが問うのは「なぜAppleがアプリを削除できるのか」であり、San Franciscoが問うのは「なぜまだ削除していないのか」である。どちらも同じ行為を問題にしており、法的評価は対象によって逆転する。

Appleは、門番としての権限を安全対策と言い換えるだけでは、この矛盾を解消できない。European Unionの開発者からは、エミュレーターを含む代替ストア向けの一部アプリについて、Appleが公証を拒否したり遅らせたりしているとの報告があった。AppleがEpic Games Storeを承認したのは、Apple自身のストアに似たボタンや表示を理由に差し止められたとEpicが訴えた後だった。

こうした争いは、広範な裁量が無条件に公益へつながるわけではないことを示す。Appleは悪質なソフトウェアを迅速に排除できる一方、競争相手を遅らせることもできる。迅速さが公益に資するのは、透明な基準によって権限が制約されている場合だけだ。

Appleの流通支配には、すでに商業上の対価が伴っている。その全体像は、一つの生態系にいくつもの料金所がある構造に表れている。AIによる被害は、そこにもう一つの代償を加える。公的機関には、長年制限しようとしてきた介入力の一部を、あえて残す理由が生まれている。

Appleがすでにこの力を持つ以上、競争政策と公共の安全が正反対の命令を出すとき、どの使い方までを正当と認めるのかを政策当局は決めなければならない。

作る費用が下がるほど、判断力が希少になる

生成技術は、審査待ちの列の両側を変える。ソフトウェアを作る手間を減らす一方、正当な画像処理ツールと、悪用を目的に設計・宣伝された製品、あるいは容易に悪用できる製品との境界を曖昧にする。

開発者は3月、AI任せで作られたアプリが大量に流入し、App Storeの審査待ちが数週間に延びていると報告した。判断の定型化が難しくなる一方で、申請件数は増えていた。

2023年、Appleは端末識別への悪用を防ぐため、特定のAPIを使う理由を開発者に説明させる方針を示した。2026年には、競争過多の分野にあるアプリについて、更新や改善がなく、利用者も獲得できていない場合は削除する可能性があるとした。

審査担当者は今や、安全性、個人情報保護、品質、保守状況、商業的な妥当性を、同じ審査の列で見極めなければならない。個々の規則には合理性があっても、積み重なれば制度全体は遅くなり、予測しにくくなる。

明らかに悪意のあるアプリなら分類できる。だが、不正な指示文を許す汎用画像生成アプリ、悪用を連想させる宣伝をする製品、対策が不十分なサービス、説明をかわし続ける開発者となると判断は難しい。審査担当者は不完全な証拠から用途を推定しなければならず、配信停止の判断は不服申立てにも耐える必要がある。

生成技術によって作る費用が下がるほど、検証と判断にかかる費用は増える。件数の増加と曖昧さが、その負担をさらに膨らませる。

申請が増え続ければ、単に掲載を認めるかどうかの重要性は相対的に下がる。Appleが直面するのは、不確かな案件をすべて裁量で拒むことなく、削除すべき少数のアプリを見極めるという、より難しい課題である。

責任は、規模を生み出す各層へ広がる

立法当局は当初、ディープフェイクを作る行為を規制対象とした。その後、生成物を掲載し、流通させ、拡散する仕組みへと対象を広げてきた。

Californiaは、通報された内容を削除しなかった大規模プラットフォームの責任も定める、選挙ディープフェイク関連法を制定した。United States各州では、2023年以降、ディープフェイク関連法が120本を超えて成立し、2025年だけでも26本に上った。法律専門家は、生成AIの出力に関する企業の責任について、Section 230による免責が認められる可能性は低いとも指摘している。

これらの事実だけで、アプリストアが、配信したソフトウェアから生まれるあらゆる出力に責任を負うわけではない。モデル開発会社、アプリ開発者、提供基盤、取引市場、OS事業者はそれぞれ異なる役割を担い、法制度が技術階層図どおりにきれいに対応することはめったにない。

それでも規制当局は、合成コンテンツの悪用を大規模化させる各層へと照準を広げている。「生成」を押した本人だけでなく、通知を受けた後に到達範囲を狭められる組織にも目を向けるようになった。

規制当局が削除義務を課せば、被害者、学校、雇用主、警察、裁判所が負ってきた悪用の費用の一部は、流通を管理する運営者へ移る。

規制当局がアプリストアを狙うのは、有害画像をすべてストアが生み出したからではない。責任主体が明確で、審査手続きと配信停止の仕組みがあるからだ。合成コンテンツの悪用網には、そうした要素がほとんどない。

流通を開放しても、責任ある境界管理は必要だ

Appleは、EuropeのDigital Markets Actに従いつつ、可能な限り統制を維持するためにiOSとApp Storeの変更案を設計したと説明している。Phil Schillerも別途、第三者ストアの受け入れを義務付ければ、iPhone利用者が被害にさらされる恐れがあると述べた。

Appleにはそう主張する経済的な動機がある。とはいえ、安全を守る仕組みについての指摘まで誤りとは限らない。動機だけで機能の是非は決まらない。

流通を開放すれば、一社が競争相手を排除する力は弱まる。一方で、取り締まりは、各市場、開発者、決済手段、公証、OSの統制機能へと分散する。

制度設計で重要なのは、適用範囲、発動条件、証拠、不服申立てに要する時間、緊急時の権限である。誰が利用を停止できるのか。何を立証すべきか。期間はどれほどか。どの判断について、誰に異議を申し立てられるのか。制度には、不服申立てと緊急介入の両方が必要だ。前者がなければ削除は恣意的になり、後者がなければ審査は形だけのものになる。

したがって政策当局が目指すべきは、無条件に障壁をなくすことではなく、競争可能性を担保した相互運用性である。代替流通と、対象を厳格に絞った削除権限は両立できる。難しいのは、安全確保の権限が競争相手の排除に使われるのを防ぎながら、適正手続きが単なる引き延ばしに変わることも防ぐ点だ。

Appleのストアは今なお市場である。利用機会、発見されやすさ、利便性を売っている。だが13本の削除要求は、同じ仕組みにもう一つの資産が組み込まれていることを明らかにした。広大な消費者接点全体で、流通を停止できる力である。

冒頭の数字がいま示すのは、単なる週間訪問者数ではない。公共的な管理拠点が及ぼせる範囲である。800 millionという規模がある以上、この門の価値を料金所としてだけ測ることはできない。