Marketplace de Meta necesita más que un rostro

Una sola fotografía ya puede encargarse de casi todo el proceso para crear una publicación en Facebook Marketplace. Cuando se pierde la confianza, Meta puede solicitar un autorretrato en video para comprobar que alguien controla la cuenta. La cámara elimina obstáculos en un extremo de la transacción y los restablece en el otro.

La red de relaciones servía como prueba

La arquitectura de confianza original de Facebook no exigía que cada persona demostrara su identidad desde el primer momento. En cambio, acumulaba relaciones, fotografías, el historial de la cuenta y las huellas cotidianas de la participación. Un perfil resultaba creíble porque ocupaba un lugar verosímil dentro de una red de relaciones, no porque Facebook hubiera realizado una verificación formal de identidad.

En 2015, se reportó que un sistema experimental de Facebook identificaba a personas con el rostro parcialmente oculto con una precisión del 83%. Para 2018, Facebook señaló que su estrategia contra las cuentas falsas buscaba suplantadores dentro del círculo social limitado de cada usuario. Facebook trataba de determinar si un rostro y un perfil contradecían una red acotada que ya contenía información sobre esa persona.

La red de relaciones asumía parte de la tarea de verificación. Un suplantador tenía que reproducir tanto un rostro como su contexto: amistades, interacciones, historial y el reconocimiento de otras personas. Facebook podía evaluar la confianza en segundo plano porque la propia participación generaba las señales necesarias.

La IA generativa reduce el costo de producir esas señales. Un estafador puede generar suficientes perfiles, imágenes de productos, descripciones y respuestas verosímiles para realizar numerosos intentos. Meta ahora debe determinar si una red construida a partir de huellas humanas se está llenando de participantes producidos a escala industrial.

Las publicaciones baratas vuelven escasas las pruebas

La aplicación Seller de Meta muestra la rapidez con la que disminuyen los costos de creación. Esta aplicación independiente y gratuita de Marketplace puede analizar fotografías de productos y completar publicaciones automáticamente. El vendedor aporta una imagen; el modelo genera buena parte de la estructura que la convierte en inventario.

eBay presentó una herramienta similar que genera el título, la descripción, la categoría y el precio a partir de una sola fotografía. Ambas empresas están reduciendo el trabajo necesario para incorporar oferta legítima a internet.

Al simplificar este trabajo, las plataformas también reducen los costos de los estafadores. Crear una publicación verosímil es barato; lo escaso sigue siendo demostrar que el producto existe, que el vendedor lo controla y que alguien puede responder por la transacción.

TikTok Shop señaló que vendedores fraudulentos utilizaban IA para crear marcas falsas y productos inexistentes. Sus cifras de sanciones no significan que todos los productos rechazados hayan sido generados mediante IA, pero sí dejan al descubierto el problema de escala. Cuando las plataformas abaratan la creación, los sistemas de revisión deben absorber todo ese volumen. Una plataforma de compraventa no puede conservar la confianza limitándose a hacer que su sistema de detección sea más rápido que su generador de publicaciones.

Incluso una persona real y única puede falsear las características de un artículo o anunciar algo inexistente. La biometría puede vincular un cuerpo con una cuenta, pero solo las pruebas específicas sobre el artículo pueden demostrar que el producto existe y está bajo el control del vendedor. Las plataformas que confunden esta primera capa con toda la estructura generan una confianza injustificada.

El rostro se está convirtiendo en una credencial de acceso

Meta ahora recurre al reconocimiento facial cuando la identidad implícita deja de ser suficiente. La empresa ha probado la comparación facial en anuncios fraudulentos que utilizan celebridades como señuelo y emplea autorretratos en video para agilizar la recuperación de cuentas de Facebook e Instagram comprometidas. Meta amplió la prueba contra fraudes al Reino Unido después de dialogar con las autoridades reguladoras; las celebridades participantes deciden voluntariamente si se suman a la protección. Su programa gratuito Facebook Verified también utiliza un autorretrato con reconocimiento facial para certificar que los usuarios son personas reales.

Meta aún restringe estas verificaciones faciales a pruebas y programas bien delimitados. Está incorporando pruebas directas en situaciones donde la suplantación, la pérdida de una cuenta o las transacciones pueden tener consecuencias más graves.

Otras plataformas y gobiernos imponen la misma exigencia en distintos puntos de acceso. Google incorporó la recuperación de cuentas mediante autorretratos en video con detección de presencia real como defensa contra ataques con falsificaciones hiperrealistas. India amplió el acceso de las empresas a la autenticación mediante Aadhaar, un sistema vinculado con los datos biométricos de más de 1.4 mil millones de personas. Uno protege una cuenta comprometida; el otro habilita servicios empresariales mediante un sistema nacional de identidad. Ambos parten de que el comportamiento, por sí solo, no basta para autenticar una cuenta.

Las plataformas dejan claro su propósito según dónde introducen obstáculos. Solicitan pruebas más sólidas durante la recuperación de cuentas, la protección contra fraudes o el acceso a servicios empresariales: situaciones en las que una cuenta falsa puede ocasionar costos. La identidad se convierte así en una infraestructura que determina qué acciones considerará confiables la red.

Reconocer es fácil; legitimar exige todo un sistema

Un autorretrato estático constituye una prueba débil porque también están mejorando los recursos disponibles para cometer fraudes de identidad. Socure ha señalado que los estafadores combinan cada vez más autorretratos publicados en redes sociales con IA generativa para crear identificaciones falsas más realistas. La detección de presencia real de Google responde a la misma amenaza. Los programas pueden fabricar el parecido, por lo que una imagen que aparenta representar a una persona ya no es suficiente.

Los ingenieros distinguen entre la verificación individual y la identificación dentro de un grupo amplio. Cuando una plataforma compara un video de recuperación con las pruebas vinculadas a la cuenta que alguien afirma poseer, se enfrenta a una pregunta acotada. Cuando busca entre toda una población para determinar si un rostro pertenece a alguien —o si una sola persona controla varias cuentas supuestamente únicas—, el problema es considerablemente más difícil. A escala poblacional, incluso una proporción baja de aceptaciones erróneas puede tener consecuencias importantes.

Esos errores también agravan un problema de equidad. Existen registros de disparidades en la clasificación de los sistemas faciales que afectan a las personas de piel más oscura y a las mujeres. Una plataforma de compraventa que trate un resultado biométrico como sentencia definitiva puede excluir a participantes legítimos precisamente cuando la verificación debería restablecer la confianza. Las plataformas necesitan decisiones más acotadas, revisión humana y una vía de apelación para quien resulte perjudicado por la puntuación.

La historia tecnológica de Meta contiene una advertencia. En 2019, Facebook AI Research desarrolló un sistema que modificaba rostros en videos en vivo para impedir el reconocimiento facial. Al investigar tanto la identificación como las defensas para evitarla, los investigadores de Facebook pusieron de manifiesto una condición indispensable: las pruebas de identidad más sólidas deben coexistir con límites a la exposición de datos biométricos.

Las pruebas faciales solo adquieren legitimidad mediante la arquitectura de consentimiento que las rodea. Las plataformas deben especificar dónde se exige la verificación, qué decisión sustenta y si rechazarla impide una actividad social cotidiana o únicamente una acción de mayor riesgo. Una prueba voluntaria para proteger a celebridades y un requisito biométrico universal de acceso distribuyen el poder y el riesgo de maneras distintas.

Una insignia mezcla tres decisiones distintas

Las plataformas consolidadas solían mezclar tres preguntas: si una persona real controlaba una cuenta, si podía responder por una acción y si el contenido de esa acción era creíble. La abundancia de contenido sintético obliga a las plataformas a responderlas por separado.

Ahora necesitan determinar si una persona real controla la cuenta en ese momento; la comparación facial y la detección de presencia real pueden ayudar. También necesitan suficientes pruebas y procedimientos para atribuir consecuencias a una transacción, recuperar una cuenta o resolver una controversia. Los compradores se enfrentan a otra pregunta: si el artículo existe y su descripción es precisa.

Por lo tanto, un comprador de Marketplace debe interpretar una verificación facial de manera limitada. Aumenta la confianza en que una persona controla la cuenta, pero la fotografía, la descripción y la transacción todavía requieren sus propias pruebas.

Las plataformas deberían reservar los controles más estrictos para acciones con consecuencias mayores, en lugar de aplicarlos a cualquier forma de participación. Los sistemas automatizados pueden preparar publicaciones y detectar patrones sospechosos, pero las personas deben revisar las eliminaciones impugnadas, las decisiones irreversibles sobre cuentas y las transacciones de importancia. A medida que los modelos abaratan las predicciones, el criterio para evaluar sus consecuencias adquiere mayor valor.

Una insignia de verificación convierte una decisión contextual en un símbolo permanente. Los vendedores comienzan entonces a optimizar sus estrategias para obtenerla, mientras los compradores le atribuyen un significado demasiado amplio. La insignia concentra la confianza en la cuenta, aunque las pruebas más difíciles de una transacción sigan dependiendo del artículo específico.

La misma cámara que completa el formulario de una publicación ahora se voltea para demostrar que hay alguien dispuesto a responder por ella. Un rostro puede vincular a una persona con la cuenta; no puede hacer que la publicación sea verdadera.