MetaのMarketplaceに必要なのは「顔」だけではない

いまやFacebook Marketplaceでは、1枚の写真を用意するだけで、出品作業の大半が完了する。一方、信頼に問題が生じた場合、Metaはアカウントの管理者本人であることを確かめるため、自撮り動画の提出を求めることがある。カメラは取引の一方で手間を省き、もう一方ではあえて手間を課すことで信頼を取り戻そうとしている。

本人確認を担っていた人間関係のつながり

Facebookが当初築いた信頼の仕組みは、入口ですべての利用者に身元証明を求めるものではなかった。代わりに、人間関係や写真、アカウントの利用履歴、日々の活動によって蓄積されるさまざまな痕跡を判断材料としていた。プロフィールの信頼性を支えていたのは、Facebookによる正式な本人確認ではなく、人間関係の中で不自然さなく位置づけられていることだった。

2015年には、Facebookの実験的なシステムが、顔の一部を隠した人物を83%の精度で識別したと報じられた。2018年までには、Facebookは偽アカウント対策について、利用者の限られた交友関係の中から、なりすましを探していると説明していた。つまりFacebookは、顔やプロフィールが、その人物に関する証拠をすでに含む一定範囲の人間関係と矛盾していないかを確認していた。

本人確認の負担の一部は、人間関係のつながりが引き受けていた。なりすましを成功させるには、顔だけでなく、友人、交流、履歴、他者からの認知といった背景まで再現しなければならなかった。利用そのものが判断材料を生み出していたため、Facebookは表立った確認を行わずとも信頼性を推定できた。

生成AIは、こうした判断材料を作り出す費用を引き下げる。もっともらしいプロフィール、商品画像、説明文、会話の返答を大量に生成し、何度も試行することが可能になった。人間の活動の痕跡を基盤としてきたネットワークが、工業製品のように量産された参加者で埋め尽くされつつあるのか。Metaはいま、その見極めを迫られている。

出品が安くなるほど、証拠は希少になる

MetaのSellerアプリは、出品作業の費用がどれほど急速に下がっているかを示している。無料の独立型Marketplaceアプリは、商品の写真を読み取り、出品情報を自動入力できる。売り手が画像を用意すれば、商品として掲載するために必要な構成の多くをモデルが作成する。

eBayも、1枚の写真から商品名、説明、分類、価格を生成する同様の機能を導入した。両社とも、正規の商品をオンラインで販売するために必要な作業を減らしている。

しかし、作業を圧縮すれば、詐欺を行う側の費用も下がる。もっともらしい出品情報は安価に作れる一方、商品が実在すること、売り手がそれを保有していること、問題が起きた際に責任を問える相手がいることを示す証拠は、依然として希少だ。

TikTok Shopによると、詐欺的な売り手はAIを利用し、架空のブランドや実在しない商品を作り出していた。公表された取り締まり件数は、却下された商品がすべてAIで生成されたことを意味しない。それでも、問題の規模は明らかだ。サービス側が出品を容易にすれば、その物量を審査側が引き受けることになる。出品を生み出す仕組みより検知の仕組みを高速化するだけでは、マーケットプレイスの信頼は維持できない。

実在する固有の人物であっても、商品について虚偽の説明をしたり、存在しないものを宣伝したりすることはできる。生体認証によってアカウントと生身の人間を結びつけることはできても、商品の実在や売り手による保有を確かめられるのは、商品ごとの証拠だけだ。最初の層だけで十分だと考えるサービスは、誤った信頼を生み出す。

顔が利用資格の証明になりつつある

Metaは現在、従来の間接的な本人確認が機能しない場面に顔認識を導入している。同社は、著名人を利用して誘導する詐欺広告への対策として顔照合を試験し、乗っ取られたFacebookおよびInstagramアカウントの復旧を早めるために自撮り動画を使っている。Metaは規制当局との協議を経て、詐欺対策の試験をUKにも拡大した。対象となる著名人は、自ら希望して保護措置に参加する。同社の無料プログラムFacebook Verifiedも、顔認識を用いた自撮り画像により、利用者が実在する人間であることを確認している。

Metaは現時点でも、こうした顔による確認を、範囲を限定した試験やプログラムにとどめている。なりすまし、アカウント喪失、取引など、問題が起きた場合の影響が大きい場面に直接的な証拠を追加しているのである。

ほかのサービスや政府も、それぞれ異なる入口で同様の証明を求め始めている。Googleは、ディープフェイク攻撃への対策として、生体反応を確認する自撮り動画によるアカウント復旧を導入した。Indiaは、1.4 billion人を超える人々の生体情報と結びついた仕組みであるAadhaar認証について、企業による利用範囲を拡大した。一方は乗っ取られたアカウントを守り、もう一方は国の身元確認制度を通じて企業向けサービスの利用を認める。いずれも、行動履歴だけではアカウントを認証できないという前提に立っている。

どこで利用者に手間を求めるかを見れば、サービス側の目的が分かる。アカウント復旧、詐欺防止、企業向けサービスの利用など、偽アカウントが損害を生みかねない場面で、より強い証拠を求めている。本人確認は、ネットワークがどの行為を信頼するかを決める基盤になりつつある。

顔の識別は容易でも、正当性には仕組み全体が必要だ

1枚の自撮り画像は、本人確認の証拠として弱い。身元詐欺に使われる素材も急速に高度化しているからだ。Socureによると、詐欺を行う者は、より本物らしい偽造身分証を作るため、SNS上の自撮り画像と生成AIを組み合わせるようになっている。Googleが導入した生体反応の確認も、同じ脅威への対策だ。ソフトウェアで本人そっくりの外見を作れる以上、人のように見える画像だけでは足りない。

技術者は、1対1の照合と1対多の識別を区別する。アカウント復旧用の動画を、申告されたアカウントに紐づく証拠と照合するのであれば、問う範囲は限定される。一方、ある顔が集団の誰に該当するのか、あるいは1人が複数の「別人」を装ったアカウントを管理していないかを全利用者から探す場合、問題の難度は大きく上がる。対象が大規模な集団になると、誤って受け入れる割合が低くても、その影響は無視できない。

こうした誤りは、公平性の問題も悪化させる。顔認識には、肌の色が濃い人や女性で誤分類が多くなる格差が記録されている。生体認証の結果を最終判断とするマーケットプレイスは、信頼を回復するはずの本人確認によって、正当な利用者を排除しかねない。判断の範囲を狭く保ち、人による再審査を設け、不利な判定を受けた本人が異議を申し立てられるようにする必要がある。

Metaの技術開発の歴史にも、その警告が表れている。2019年、Facebook AI Researchは、顔認識を妨げるため、ライブ動画内の顔を変形させるシステムを開発した。人物を識別する技術と、それを防ぐ技術の双方を追究したことで、Facebookの研究者は運用上の制約を浮き彫りにした。より確かな本人確認と、生体情報の露出を抑える仕組みは、両立させなければならない。

顔による証明が正当性を持つかどうかは、その周囲にある同意の設計によって決まる。どの場面で確認を必須とするのか、何を判断するために使うのか、拒否した場合に通常の交流までできなくなるのか、それとも高リスクの行為だけが制限されるのかを明示しなければならない。著名人が任意で参加する保護試験と、すべての利用者に生体認証を義務づける入口では、権限とリスクの配分が異なる。

1つの印が3つの判断を混同させる

従来型のサービスは、しばしば3つの問いを一体として扱ってきた。実在する人物がアカウントを管理しているか、その人物に行為の責任を問えるか、そしてその行為の内容を信用できるか、という問いだ。合成された情報を大量に作れるようになったことで、サービス側はこの3つを切り分けざるを得なくなっている。

まず、その時点で生身の人間がアカウントを管理しているかを確かめる必要があり、顔照合や生体反応の確認はその助けになる。さらに、取引の責任を問う、アカウントを復旧する、紛争を解決するといった対応には、十分な証拠と手続きが必要だ。買い手には、それとは別の問いがある。商品は実在するのか、説明は正確なのかという問題だ。

したがって、Marketplaceの買い手は、顔による確認の意味を限定的に捉えるべきである。それによって高まるのは、実在する人物がアカウントを管理しているという確信までだ。写真、説明、取引については、それぞれ別の証拠が必要になる。

サービス側は、すべての利用行為に強い確認を課すのではなく、重大な結果を伴う行為に限定すべきだ。自動システムは出品情報を作成し、不審な傾向を検知できる。しかし、異議のある削除、取り消せないアカウント上の決定、影響の大きい取引については、人が審査しなければならない。モデルによる予測が安価になるほど、その結果をどう扱うかという人間の判断の価値は高まる。

認証済みの印は、特定の状況に限られた判断を、恒久的な記号に変えてしまう。売り手はその取得を目標に行動し、買い手は本来の意味を超えて信用するようになる。取引で最も重要な証拠が商品ごとに必要であるにもかかわらず、信頼がアカウント単位に集中してしまう。

出品欄を埋めるために使われていた同じカメラが、いまや、その出品に責任を負う人物が実在することを確かめるため、利用者自身へ向けられている。顔によって人物とアカウントを結びつけることはできる。だが、それで出品内容が真実になるわけではない。