Un banco de pruebas de fraude que no desaparece
Un grupo de investigadores ha publicado ScamWorld, un entorno interactivo que reconstruye sitios web de estafa denunciados para poder someter a los agentes web a ellos de forma repetida. El problema que resuelve es prosaico: los sitios de estafa reales duran poco, lo que hace difícil ejecutar dos veces cualquier evaluación sistemática del comportamiento de los agentes.
Cada sitio reconstruido reproduce un mecanismo de fraude documentado —el artículo menciona tiendas en línea fraudulentas, plataformas de inversión falsas y timos de pago por adelantado— en distintos escenarios e idiomas. Lo decisivo es que las señales de fraude se sitúan donde el agente puede observarlas antes de su acción final. El agente que continúa no está siendo emboscado: avanza pese a una evidencia que podía haber leído.
Entre uno de cada nueve y uno de cada tres
En agentes web impulsados por seis grandes modelos de lenguaje frontera, los autores informan de tasas de engaño de partida que van del 11% al 35%. Esa es la proporción de ejecuciones en las que el agente completó la acción fraudulenta mientras realizaba una tarea corriente del usuario. Las cifras son de los propios autores y no han sido reproducidas de forma independiente.
La dispersión importa tanto como el rango. Una diferencia de cuatro veces entre el mejor y el peor modelo sobre los mismos sitios reconstruidos sugiere que el comportamiento no es una propiedad fija de los agentes como categoría, y que aquello que separa a los modelos prudentes de los crédulos es algo sobre lo que un desarrollador puede actuar.
Los pagos salen más fáciles que las contraseñas
El segundo hallazgo tiene que ver con lo que pide el sitio. Los agentes avanzaron con más facilidad en los pagos que ante peticiones de credenciales o de información de monedero, señala el artículo. Ese orden no es evidentemente el seguro. Una contraseña entregada suele poder recuperarse de un modo en que un pago completado a un comerciante fraudulento no, y un reflejo de rechazo entrenado sobre “nunca compartas tus credenciales” no se traslada a “no compres en esta tienda”.
Algunos agentes lo vieron y siguieron
El resultado más incómodo surge de leer las trayectorias y no las puntuaciones. Los autores encontraron que algunos agentes reconocieron condiciones sospechosas y continuaron de todos modos, tratando a veces las instrucciones del usuario como autorización para aceptar las condiciones adicionales que imponía el sitio.
Eso es un fallo distinto de no darse cuenta. Un agente al que se le pide comprar un artículo concreto parece leer, en estas ejecuciones, la instrucción como un mandato que sobrevive al contacto con la evidencia de que la tienda es fraudulenta. El usuario autorizó una compra; el agente lo tomó por autorizar esta compra, en estas condiciones.
Qué vigilar
ScamWorld se ofrece como banco de pruebas reutilizable, de modo que la cifra que importará después es si los fabricantes publican resultados sobre él y si las tasas de engaño se mueven cuando lo hagan. La pregunta más difícil que plantea el artículo es de interfaz más que de capacidad: un agente que identifica correctamente una estafa y completa la transacción igualmente no necesita un detector mejor. Necesita permiso para detenerse.
