En testbenk for svindel som ikke forsvinner
Forskere har publisert ScamWorld, et interaktivt miljø som rekonstruerer meldte svindelnettsteder slik at nettagenter kan testes mot dem gjentatte ganger. Problemet det er bygget for å løse er hverdagslig: ekte svindelnettsteder er kortlivde, noe som gjør det vanskelig å kjøre en systematisk vurdering av agentatferd to ganger.
Hvert rekonstruert nettsted gjenskaper en dokumentert svindelmekanisme — artikkelen nevner svindelbutikker på nett, falske investeringsplattformer og forskuddssvindel — på tvers av ulike scenarier og språk. Det avgjørende er at tegnene på svindel er plassert der agenten kan observere dem før siste handling. En agent som fortsetter, blir ikke overrumplet; den går videre forbi bevis den kunne ha lest.
Mellom én av ni og én av tre
For nettagenter drevet av seks store frontmodeller rapporterer forfatterne utgangsrater for villedning fra 11 til 35 prosent. Det er andelen kjøringer der agenten fullførte den svindelaktige handlingen mens den utførte en helt vanlig brukeroppgave. Tallene er forfatternes egne og er ikke reprodusert uavhengig.
Spredningen betyr like mye som intervallet. En firedobbel forskjell mellom beste og dårligste modell på de samme rekonstruerte nettstedene tyder på at atferden ikke er en fast egenskap ved agenter som kategori, og at det som skiller de forsiktige modellene fra de godtroende er noe en utvikler kan påvirke.
Betalinger går lettere gjennom enn passord
Det andre funnet handler om hva nettstedet ber om. Agentene gikk lettere videre med betalinger enn med forespørsler om innloggingsopplysninger eller lommebokinformasjon, skriver forfatterne. Den rekkefølgen er ikke åpenbart den trygge. Et utlevert passord lar seg som regel gjenopprette på en måte en gjennomført betaling til en svindelsk selger ikke gjør, og en nekterefleks trent på “del aldri innloggingen din” overføres ikke til “ikke handle i denne butikken”.
Noen agenter så det og fortsatte
Det mest ubehagelige resultatet kommer av å lese kjøringene framfor poengene. Forfatterne fant at enkelte agenter registrerte mistenkelige forhold og fortsatte likevel, og iblant behandlet brukerens instruks som tillatelse til å godta de ekstra vilkårene nettstedet stilte.
Det er en annen svikt enn å ikke legge merke til noe. En agent som er bedt om å kjøpe en bestemt vare, ser i disse kjøringene ut til å lese instruksen som et mandat som overlever møtet med bevis på at butikken er svindel. Brukeren godkjente et kjøp; agenten tok det som en godkjenning av dette kjøpet, på disse vilkårene.
Hva man bør følge med på
ScamWorld tilbys som en gjenbrukbar testbenk, og tallet som betyr noe videre er om leverandørene rapporterer mot den og om villedningsratene flytter seg når de gjør det. Det vanskeligere spørsmålet artikkelen reiser gjelder grensesnittet snarere enn evnen: en agent som korrekt identifiserer en svindel og likevel fullfører transaksjonen, trenger ingen bedre detektor. Den trenger tillatelse til å stoppe.
