En testbænk for svindel, der ikke forsvinder
Forskere har offentliggjort ScamWorld, et interaktivt miljø, der rekonstruerer anmeldte svindelsider, så webagenter kan testes mod dem igen og igen. Problemet, det er bygget til at løse, er hverdagsagtigt: rigtige svindelsider er kortlivede, hvilket gør det svært at køre en systematisk vurdering af agenters adfærd to gange.
Hver rekonstrueret side gengiver en dokumenteret svindelmekanisme — artiklen nævner svindelbutikker på nettet, falske investeringsplatforme og forskudssvindel — på tværs af forskellige scenarier og sprog. Det afgørende er, at tegnene på svindel er placeret, hvor agenten kan se dem før sin sidste handling. En agent, der fortsætter, bliver ikke overrumplet; den går videre forbi beviser, den kunne have læst.
Mellem én ud af ni og én ud af tre
For webagenter drevet af seks store frontmodeller rapporterer forfatterne udgangsrater for vildledning fra 11 til 35 procent. Det er andelen af kørsler, hvor agenten gennemførte den svigagtige handling under en helt almindelig brugeropgave. Tallene er forfatternes egne og er ikke gengivet uafhængigt.
Spredningen betyder lige så meget som intervallet. En firdobbelt forskel mellem bedste og dårligste model på de samme rekonstruerede sider tyder på, at adfærden ikke er en fast egenskab ved agenter som kategori, og at det, der skiller de forsigtige modeller fra de godtroende, er noget, en udvikler kan påvirke.
Betalinger går lettere igennem end adgangskoder
Det andet fund handler om, hvad siden beder om. Agenterne gik lettere videre med betalinger end med anmodninger om loginoplysninger eller tegnebogsinformation, skriver forfatterne. Den rækkefølge er ikke indlysende den sikre. En udleveret adgangskode kan som regel gendannes på en måde, en gennemført betaling til en svigagtig forhandler ikke kan, og en afvisningsrefleks trænet på “del aldrig dit login” overføres ikke til “handl ikke i denne butik”.
Nogle agenter så det og fortsatte
Det mest ubehagelige resultat kommer af at læse kørslerne frem for pointene. Forfatterne fandt, at nogle agenter noterede mistænkelige forhold og fortsatte alligevel, og til tider behandlede brugerens instruks som tilladelse til at acceptere de ekstra vilkår, siden stillede.
Det er en anden fejl end ikke at bemærke noget. En agent, der er bedt om at købe en bestemt vare, ser i disse kørsler ud til at læse instruksen som et mandat, der overlever mødet med beviser for, at butikken er svigagtig. Brugeren godkendte et køb; agenten tog det som en godkendelse af dette køb på disse vilkår.
Hvad man skal følge
ScamWorld tilbydes som en genbrugelig testbænk, så det tal, der betyder noget fremover, er, om leverandørerne rapporterer mod den, og om vildledningsraterne flytter sig, når de gør. Det sværere spørgsmål, artiklen rejser, handler om grænsefladen snarere end evnen: en agent, der korrekt identificerer en svindel og alligevel gennemfører handlen, har ikke brug for en bedre detektor. Den har brug for tilladelse til at stoppe.
