TikTokの資本構成表では障害を診断できない

2026年、TikTokの米国事業は、Oracle、Silver Lake、MGXがそれぞれ15%を保有する米国過半所有の合弁会社に移された。ByteDanceは19.9%を維持し、Dell Family Officeを含むその他の投資家が残る35.1%を保有する。資本構成表は保有比率を小数点以下1桁まで示せる。メッセージが消えたり配信が急減したりしても、それを引き起こしたのがサービス、モデル、ポリシー、人のいずれかは示せない。

2020年から2026年にかけて、米国での争点はTikTokのレコメンデーションアルゴリズム、データ、運営権限を誰が支配するかだった。新たな合弁会社はByteDanceの持ち分を減らし、米国の運営者にデータとアルゴリズムの安全性への責任を割り当てる。Januaryの障害をめぐる主張は別の問題を露呈させた。こうした統制に関する公開説明からは、TikTokやその検証者が、重大な結果を信頼性の欠陥、自動モデレーション、ランキングロジック、人の介入のどれに帰属できるかは分からない。

アルゴリズムを移せないため、救済策は権限を移した

June 19, 2020、TikTokはエンゲージメント指標を特定し、それを強いレコメンデーションシグナルとする一方、投稿時間、クリエイターの識別情報、デバイス種別を弱い入力として扱った。同社はシステムが通常どのように動作するかを説明したが、特定の動画が特定の人に届いた、あるいは届かなかった理由は説明しなかった。

売却交渉ではアルゴリズムが戦略的資産として扱われた。September 14, 2020の報道によれば、ByteDanceはTikTokのレコメンデーションアルゴリズムを売却も移管もしない方針だった。買い手は事業運営体を取得できても、その価値を生む仕組みはByteDanceが手放さなかった。

最終的な取引は、問いを移管からガバナンスへと移した。その条件では、Oracleがデータ保護を監督する一方で、TikTokは米国ユーザーデータでレコメンデーションアルゴリズムを再学習させることになっていた。

合弁会社は、データとアルゴリズムの安全性に責任を負う枠組みの内側に、米国の運営者と検証者を置いた。ByteDanceは19.9%の持ち分を維持したが、TikTokは米国データ、再学習、監督を新たな運営上の境界へ移した。その境界の内側にある統制は、いまや組織図より重要である。

Oracleの境界では因果関係は立証できない

August 16, 2022、Oracleは定期的な審査・検証を開始した。対象は、TikTokのアルゴリズムとコンテンツモデレーションモデルであり、中国当局による操作がないかを試験するためだった。TikTokはまた、外部の専門家がコンテンツモデレーションを評価し、その後ソースコードを検査できるLos Angeles Transparency Centerを開設した。同社はコンテンツモデレーションAPIを開発しながら、Content and Safety Advisory Councilsのメンバーと研究APIのテストを始めた。

これらの計画が無制約の監督を確立したわけではない。February 8, 2023、The Wall Street Journalは、米国当局者と研究者が提案されたアルゴリズム審査には実務上の困難があると見ており、中国の影響力への懸念を解消できるのか疑問視していたと報じた。ForbesはAugust 26, 2023、Oracleのソースコード審査担当者が、中国政府の要請によるTikTok管理下のカメラを含む制約の下で作業していたと報じた。これらの報道は現行の合弁会社に先立つもので、同じ制約が今も残ることを証明するものではない。ただし、ここで参照する2026年の説明は、新たな体制がそれを解消したかを述べていない。

フェンスと故障記録装置は異なる問いに答える。アクセス制御システムは誰がポンプ場に入ったかを示せるが、どのリレーが開いたのか、どのセンサーが故障したのか、下流でなぜ圧力が消えたのかは示せない。Oracleに割り当てられたセキュリティ上の役割は、誰がTikTokのシステムに触れられるかを扱う。公開報道からは、認可されたデプロイが実ユーザーに届いた後で、Oracleがそれらのシステムの動作を再構成できるかは分からない。

TikTok USは、これらの記録の一部または全部をすでに保持している可能性がある。参照した公開説明は、その事実を確立せず、保存期間も示さず、ユーザーに見える障害の後にどの検証者がそれらを検査できるかも示していない。生のユーザーデータやセキュリティ上機微なコードを公開せずに会社の説明を検証するには、独立した検証者が関連記録へ統制されたアクセスを得る必要がある。それが安全性の監査可能性の実務的な形である。異論が生じても耐えられる証拠の連鎖に裏打ちされた可視性だ。

最初の不具合をめぐる主張は公開証拠を追い越した

January下旬は早期の試験となった。January 26、Business Insiderは、前日のデータセンターの停電がTikTokのアルゴリズムを混乱させ、ユーザーのフィードに古い動画が表示されていたと報じた。TikTokは、アルゴリズムに見えた変更は停電による可能性が高いと述べた。January 27、The New York Timesは、TikTokがImmigration and Customs Enforcementに関する投稿をブロックしたとの非難を報じた。同社は新しい米国法人がアルゴリズムを更新していないとし、再び電力問題を原因に挙げた。

February 2、TikTok USは技術的問題をOracleのデータセンター障害に帰した。3日後、NPRは、研究者が政治的コンテンツだけでなく、すべての投稿カテゴリーにわたる混乱を確認したと報じた。NPRは、研究者らが限られた公開データに依拠していたことにも触れた。

この発見は選択的な政治的抑圧という主張に反する。しかし、限られたデータセットでは仕組みを特定できず、TikTokの説明を独立して検証することもできない。公開記録は、一般的なサービス障害より具体的な原因、すなわちOracleのデータセンター障害を挙げている。それでも、どのコンポーネントが故障したのか、その障害がフィードと投稿にどう波及したのか、ユーザーが見たものにモデレーションシステムが関与したのかは示していない。

自動モデレーションは、考え得る仕組みのリストを広げる。モデレーターが、その技術では有害な素材を確実には特定できないと報告する一方で、プラットフォームは人間のモデレーターをAIシステムに置き換える動きを強めている。したがって、ユーザーに見える障害は、モデルのエラー、サービス障害、ポリシー改定、人による審査の遅れ、認可された上書きに似て見え得る。この一般論はJanuaryにモデレーションが寄与したことを証明しない。また、参照した公開説明には、これらの原因を区別できる実行記録が含まれていない。

訴訟は因果記録が重要な理由を示す

Metaに対するソーシャルメディア依存訴訟では、米国の州による超党派連合が統一訴訟を調整し、Rogers判事は数週間にわたる審理にハイブリッドな構造を設けた。

この事件が扱うのは、TikTokの国家安全保障上の枠組みではなく、若年層への被害の主張である。それでも当事者は、製品設計と社内での認識を主張された被害へ結び付け、その連鎖を証拠で裏付けるか争う必要がある。TikTokが2020年に公表したレコメンデーションシステムの説明では、そのような結び付きを立証できなかった。当事者に必要なのは、文書、テスト、意思決定、責任者、そして製品が何をしたかの記録である。

運用記録はTikTok USに二つの保護を与える。調査者は不適切な介入の主張を検証でき、サービスの欠陥が事象を説明する場合には会社が反論できる。これらの記録がなければ、告発者は意図を証明できず、運営者も通常の障害だったと信頼に足る形で示せない。本来なら設計されたシステムが因果記録を生み出せたはずの場面で、裁判所には競合する物語だけが届く。

レコメンデーションのルールはいまや商取引の条件として機能する

Snapは完全にAI生成された動画をSpotlightのレコメンデーションから除外すると述べた。人間による著作性を配信対象の適格性における明示的な条件にしたことで、Snapは誰が商業的な発見の場に入れるかを変えた。

YouTubeは別のレイヤーを明示した。August 24から、同社は動画が再生を開始した時点で視聴回数として数える計画で、フォーマットをまたいでInstagram、TikTok、YouTube Shortsと測定をそろえる。YouTubeは、この変更をブランドパートナーへの露出を標準化する手段だと説明した。以前はプロダクトのテレメトリーに見えた指標の定義が、広告主が購入したと考える在庫と、クリエイターが主張できる成果を左右する。

3社はアクセスレイヤーの異なる部分を明らかにしている。TikTokはランキングの入力を挙げ、Snapは適格性を定め、YouTubeは測定を定義する。プラットフォームがそれを適用する時、それぞれの定義はクリエイターまたは広告主に影響する。

Snapには、動画が完全にAI生成されたものかを判断する防御可能な手法がなお必要である。YouTubeには、何を再生と数えるかをめぐる安定したバージョニングが必要だ。TikTokには、ランキング入力による配信不振と、モデレーションによる不適格を区別する必要がある。プラットフォームが指標と適格性を商取引の条件に変える以上、クリエイターと広告主には、その適用を検査し、異議を申し立て、追跡する手段が必要になる。

信頼できる枠組みは三つの時間軸で証拠を生み出さなければならない

TikTok USの運営者は最初の時間軸、すなわち分と時間で動く。実運用の障害を説明するには、サービス健全性の記録、デプロイ履歴、モデルとポリシーのバージョン、実験の割り当て、記名されたインシデント責任者が必要になる。その説明では、範囲、開始・終了時刻、影響を受けた機能、関連するシステム変更、人の介入を特定すべきである。

Oracleと独立研究者は二つ目の時間軸、すなわち日と週で動く。公開計画はOracleに検証の役割を割り当て、一部の研究者には統制されたAPIアクセスを与える。こうした説明からは、いずれのグループも、TikTokの説明が特定のサービス、デプロイ、コンテンツカテゴリー、ユーザー集団と一致するかを検証するために必要な記録を検査できるとは分からない。

取締役会、規制当局、裁判所は三つ目の時間軸、すなわち月と年で動く。彼らには、製品設計、実運用での挙動、エスカレーション、責任を負う意思決定者を結び付ける保存記録が必要だ。誰が何を決めたかを保存せずにポリシーを承認する取締役会は、建物にもう一部屋を加えるだけである。

現在の公開記録は、Oracleによる検証、専門家の検査、研究インターフェースを説明している。だが、合弁会社の統治文書が検証者にユーザーに見える各障害を再構成することを求めているか、あるいはそのために必要な記録へのアクセスを認めているかは示していない。

資本構成表は、Oracle、Silver Lake、MGXをそれぞれ15%、ByteDanceを19.9%、その他の投資家を35.1%として示せる。TikTokのFebruary 2の声明も、Oracleのデータセンター障害を名指しするだけの具体性はあった。だが、入手可能な公開説明は、その障害を影響を受けたサービスやユーザーに見える障害へ結び付けていない。支配を見えるものにするために構築された構造は、依然として画面のところで暗くなる。