O Marketplace da Meta precisa de mais do que um rosto

Uma única fotografia agora faz quase todo o trabalho de criação de um anúncio no Facebook Marketplace. Quando a confiança se rompe, a Meta pode pedir um autorretrato em vídeo para confirmar que alguém controla a conta. A câmera elimina obstáculos de um lado da transação e os repõe do outro.

A rede de relações servia como prova

A estrutura de confiança original do Facebook não exigia que cada pessoa comprovasse sua identidade logo na entrada. Em vez disso, acumulava relações, fotografias, histórico da conta e os rastros comuns deixados pela participação. Um perfil ganhava credibilidade por ocupar um lugar plausível em uma rede de relações, não porque o Facebook tivesse concluído uma verificação formal de identidade.

Em 2015, relatos apontaram que um sistema experimental do Facebook identificava pessoas com o rosto encoberto com 83% de precisão. Em 2018, o Facebook afirmou que seu método de combate a contas falsas procurava impostores dentro do círculo social restrito de cada usuário. A empresa verificava se o rosto e o perfil entravam em contradição com uma rede delimitada que já reunia informações sobre aquela pessoa.

A rede de relações assumia parte do trabalho de verificação. Um impostor precisava reproduzir não só o rosto, mas também seu contexto: amigos, interações, histórico e reconhecimento por terceiros. O Facebook conseguia avaliar a confiabilidade nos bastidores porque a própria participação gerava os indícios necessários.

A IA generativa reduz o custo de fabricar esses indícios. Um golpista pode criar perfis, imagens de produtos, descrições e respostas convincentes em quantidade suficiente para realizar inúmeras tentativas. A Meta agora precisa descobrir se uma rede construída com vestígios deixados por pessoas está sendo ocupada por participantes produzidos em escala industrial.

Com anúncios baratos, provas viram artigo raro

O aplicativo Seller da Meta mostra a rapidez com que o custo de criação está caindo. Gratuito e independente, o aplicativo do Marketplace examina fotografias dos produtos e preenche os anúncios automaticamente. O vendedor fornece uma imagem; o modelo acrescenta boa parte da estrutura necessária para transformá-la em um item à venda.

O eBay lançou um recurso semelhante, capaz de gerar título, descrição, categoria e preço a partir de uma única fotografia. As duas empresas estão reduzindo o esforço necessário para colocar ofertas legítimas nas plataformas.

Ao abreviar esse trabalho, porém, elas também reduzem os custos dos golpistas. Criar um anúncio convincente fica barato; continuam escassas as provas de que o produto existe, está sob o controle do vendedor e pode ser vinculado a alguém que responda pela transação.

O TikTok Shop afirmou que vendedores fraudulentos estavam usando IA para criar marcas falsas e produtos inexistentes. Os números das medidas de fiscalização não significam que todos os produtos rejeitados tenham sido gerados por IA, mas revelam a dimensão do problema. Quando as plataformas barateiam a criação, a triagem precisa dar conta do volume resultante. Nenhuma plataforma preservará a confiança apenas tornando seu sistema de detecção mais rápido que o de criação de anúncios.

Mesmo uma pessoa real e única pode mentir sobre um produto ou anunciar algo que não existe. A biometria pode vincular um corpo a uma conta, mas somente provas relativas ao item demonstram que o produto existe e está sob o controle do vendedor. Plataformas que tratam a primeira camada como se fosse toda a estrutura geram uma confiança indevida.

O rosto está virando uma credencial de acesso

A Meta passou a recorrer ao reconhecimento facial nos pontos em que a identidade presumida deixou de bastar. A empresa testou a comparação facial em anúncios fraudulentos que exploravam celebridades como isca e usa autorretratos em vídeo para acelerar a recuperação de contas comprometidas do Facebook e do Instagram. Após conversar com órgãos reguladores, a Meta ampliou o teste contra golpes para o Reino Unido, com adesão voluntária das celebridades à proteção. Seu programa gratuito Facebook Verified também usa um autorretrato com reconhecimento facial para certificar que os usuários são pessoas reais.

A Meta ainda restringe essas verificações faciais a testes e programas delimitados. A empresa acrescenta provas diretas em situações nas quais a falsidade ideológica, a perda de uma conta ou uma transação podem trazer consequências mais graves.

Outras plataformas e governos fazem a mesma exigência em pontos diferentes. O Google acrescentou à recuperação de contas um autorretrato em vídeo com detecção de vivacidade para se proteger contra falsificações hiper-realistas. A Índia ampliou o acesso de empresas à autenticação do Aadhaar, estrutura ligada aos dados biométricos de mais de 1.4 bilhão de pessoas. Um mecanismo protege uma conta comprometida; o outro dá acesso a serviços empresariais por meio de um sistema nacional de identidade. Ambos partem do princípio de que o comportamento, por si só, não basta para autenticar uma conta.

As plataformas revelam seus objetivos pelos pontos em que impõem obstáculos. Elas pedem provas mais robustas durante a recuperação de contas, a proteção contra golpes ou o acesso a serviços empresariais — momentos em que uma conta falsa pode causar prejuízos. A identidade torna-se parte da infraestrutura que define quais ações merecem a confiança da rede.

Reconhecer é fácil; o desafio é legitimar

Um autorretrato estático é uma prova frágil porque os recursos disponíveis para fraudar identidades também estão melhorando. A Socure afirma que os golpistas combinam cada vez mais autorretratos publicados nas redes sociais com IA generativa para criar documentos falsos mais realistas. A detecção de vivacidade do Google responde à mesma ameaça. Programas podem fabricar semelhança, portanto uma imagem que parece retratar determinada pessoa já não é suficiente.

Engenheiros distinguem a verificação individual da identificação em massa. Quando uma plataforma compara um vídeo de recuperação com os dados vinculados à conta reivindicada, ela enfrenta uma questão delimitada. Quando procura em toda uma população para determinar se um rosto pertence a alguém — ou se uma pessoa controla várias contas supostamente únicas —, o desafio é muito maior. Em uma população inteira, até taxas baixas de aceitação indevida podem produzir consequências relevantes.

Esses erros também agravam um problema de equidade. Há registros de disparidades nos erros de classificação de sistemas faciais, sobretudo contra pessoas de pele mais escura e mulheres. Uma plataforma que trata o resultado biométrico como veredito definitivo pode excluir participantes legítimos justamente quando a verificação deveria restaurar a confiança. As plataformas precisam tomar decisões mais restritas, oferecer análise humana e garantir um meio de recurso à pessoa prejudicada pela pontuação.

O histórico técnico da Meta traz um alerta. Em 2019, o Facebook AI Research desenvolveu um sistema que alterava rostos em vídeos ao vivo para impedir o reconhecimento facial. Ao pesquisar tanto a identificação quanto as formas de evitá-la, os pesquisadores do Facebook expuseram uma condição fundamental: provas de identidade mais robustas precisam coexistir com limites à exposição biométrica.

A legitimidade da comprovação facial depende da estrutura de consentimento que a cerca. As plataformas devem informar em quais situações a verificação é exigida, que decisão ela fundamenta e se a recusa impede uma atividade social comum ou apenas uma ação de maior risco. Um teste de proteção a celebridades com adesão voluntária e uma exigência biométrica universal de entrada distribuem poder e risco de maneiras diferentes.

Um selo mistura três decisões distintas

Plataformas mais antigas costumavam misturar três perguntas: se uma pessoa real controlava a conta, se poderia ser responsabilizada por uma ação e se o conteúdo dessa ação era confiável. A produção abundante de conteúdo artificial obriga as plataformas a separar essas questões.

Agora, elas precisam determinar se uma pessoa real controla a conta naquele momento; a comparação facial e a detecção de vivacidade podem ajudar. Também precisam reunir provas e procedimentos suficientes para atribuir consequências a uma transação, recuperar uma conta ou resolver uma disputa. Para os compradores, há ainda uma questão distinta: saber se o item existe e se sua descrição é fiel.

Por isso, o comprador do Marketplace deve interpretar uma verificação facial de forma restrita. Ela aumenta a confiança de que uma pessoa controla a conta; a fotografia, a descrição e a transação continuam exigindo provas próprias.

As plataformas devem reservar os controles mais rigorosos para ações de maior consequência, em vez de aplicá-los a toda forma de participação. Sistemas automatizados podem montar anúncios e apontar padrões suspeitos, mas pessoas devem analisar remoções contestadas, decisões irreversíveis sobre contas e transações de grande impacto. À medida que os modelos barateiam as previsões, torna-se mais valioso avaliar as consequências dessas decisões.

Um selo de verificação transforma uma decisão contextual em um símbolo permanente. Os vendedores passam a concentrar esforços em obtê-lo, enquanto os compradores ampliam demais seu significado. O selo concentra a confiança no nível da conta, mesmo quando as provas mais difíceis da transação continuam ligadas a cada item.

A mesma câmera que preenche o formulário do anúncio agora se volta para quem terá de responder por ele. Um rosto pode vincular uma pessoa à conta; não pode tornar o anúncio verdadeiro.