En testbädd för bedrägeri som inte försvinner
Forskare har publicerat ScamWorld, en interaktiv miljö som rekonstruerar anmälda bluffsajter så att webbagenter kan testas mot dem om och om igen. Problemet den är byggd för att lösa är vardagligt: riktiga bluffsajter är kortlivade, vilket gör det svårt att köra någon systematisk utvärdering av agenternas beteende två gånger.
Varje rekonstruerad sajt återskapar en dokumenterad bedrägerimekanism — artikeln nämner bedrägliga nätbutiker, falska investeringsplattformar och förskottsbedrägerier — i olika scenarier och på olika språk. Det avgörande är att tecknen på bedrägeri placeras där agenten kan se dem innan den tar sitt sista steg. En agent som fortsätter blir inte överrumplad, den går vidare förbi bevis den hade kunnat läsa.
Mellan en av nio och en av tre
För webbagenter drivna av sex stora frontmodeller rapporterar författarna utgångsnivåer för vilseledning på mellan 11 och 35 procent. Det är andelen körningar där agenten genomförde den bedrägliga handlingen under en helt vanlig användaruppgift. Siffrorna är författarnas egna och har inte reproducerats oberoende.
Spridningen betyder lika mycket som intervallet. En fyrdubbel skillnad mellan bästa och sämsta modell på samma rekonstruerade sajter antyder att beteendet inte är en fast egenskap hos agenter som kategori, och att det som skiljer de försiktiga modellerna från de godtrogna är något en utvecklare kan påverka.
Betalningar går igenom lättare än lösenord
Det andra fyndet handlar om vad sajten ber om. Agenterna gick vidare lättare med betalningar än med begäranden om inloggningsuppgifter eller plånboksinformation, skriver författarna. Den ordningen är inte självklart den säkra. Ett utlämnat lösenord går oftast att återställa på ett sätt som en genomförd betalning till en bedräglig handlare inte gör, och en vägransreflex tränad på “dela aldrig dina inloggningsuppgifter” överförs inte till “handla inte i den här butiken”.
Några agenter såg det och fortsatte
Det mest obehagliga resultatet kommer av att läsa körningarna snarare än poängen. Författarna fann att vissa agenter noterade misstänkta omständigheter och fortsatte ändå, och ibland behandlade användarens instruktion som ett tillstånd att godta de extra villkor sajten ställde.
Det är ett annat fel än att inte märka något. En agent som fått i uppdrag att köpa en viss vara tycks i de här körningarna läsa instruktionen som ett mandat som överlever kontakten med bevis för att butiken är bedräglig. Användaren godkände ett köp; agenten tog det som ett godkännande av det här köpet, på de här villkoren.
Vad man ska följa
ScamWorld erbjuds som en återanvändbar testbädd, vilket gör att nästa siffra som betyder något är om leverantörerna redovisar mot den och om vilseledningsnivåerna rör sig när de gör det. Den svårare fråga artikeln väcker gäller gränssnittet snarare än förmågan: en agent som korrekt identifierar en bluff och ändå slutför köpet behöver ingen bättre detektor. Den behöver tillåtelse att avbryta.
