Vad Microsoft hittade
Mellan den 3 och 5 augusti skickade en okänd angripare över en miljon mejl till användare på företag i ett försök att få ekonomiavdelningar att betala en falsk faktura, enligt Microsoft i ett inlägg på företagets säkerhetsblogg den 10 september. Mejlen utgav sig för att komma från någon i det angripna företagets ledning, till exempel vd, finanschef eller ordförande, och bad samma företags leverantörsreskontra att genomföra en ACH-betalning (Automated Clearing House) på nästan 50 000 dollar.
USA stod för 87,7 procent av kampanjen, enligt Microsoft. Angriparen skickade mejlen via flera konton hos externa e-posttjänster, och Microsofts branschfördelning pekar ut it-tjänster och affärsrådgivning samt konsumentvaror bland de drabbade sektorerna. Microsoft namngav inte aktören bakom kampanjen, och inlägget säger inte om några betalningar faktiskt gjordes.
Så fungerade bluffen
Chefens namn fanns på tre ställen: i avsändarens visningsnamn, i visningsnamnet för svarsadressen och i mejlets signatur. Själva mejlet innehöll ett kort godkännande av “fakturan nedan” och uppmanade mottagaren att be om en PDF-version vid behov. Ämnesraderna använde finansiella lockord som “due bill” (förfallen räkning).
För att begäran skulle se ut som rutin lade angriparen till en vidarebefordrad mejltråd mellan den förfalskade chefen och ServiceNow, som också utgavs för att vara avsändare, tillsammans med en påhittad faktura för ett årsabonnemang på ServiceNows plattform. Microsoft identifierade också en förväxlingsbar domän, service-nowinc[.]com, som registrerades den 31 juli, strax innan aktiviteten upptäcktes. Den användes för den förfalskade adressen till ServiceNows ordförande och fanns i den falska fakturan som kontaktadress. En andra domän, domainlify[.]net, användes i svarsadressen.
Spåren av AI
Microsoft säger att företaget såg flera tecken som stämmer med AI-stödd utveckling av mallar: omfattande HTML-kommentarer, strukturerad märkning av avsnitt och mycket enhetligt uppbyggda mallar. Ett exempel som Microsoft publicerade är en utförlig HTML-kommentar som beskriver ett avsnitt i mejlet, något som enligt företaget ofta förekommer i AI-genererad kod. Microsoft nämnde också långa tankstreck och långa rader av likhetstecken som drag som har kommit att förknippas med AI.
Microsoft är försiktigt med vad detta bevisar. Tecknen tyder på att generativ AI har använts, skriver företaget, men de visar inte på egen hand i vilken utsträckning AI skapade innehållet i kampanjen. Det är alltså Microsofts bedömning av hur mejlen byggdes, utifrån spår i deras kod, inte ett konstaterande om vilket verktyg som användes eller av vem.
En vecka av AI i attacker
Rapporten kommer efter två andra den här veckan som beskriver angripare som använder AI. Den 8 september beskrev Googles hotunderrättelseteam en misstänkt ekonomiskt motiverad aktör som använde ett autonomt system av AI-agenter för att genomföra en kampanj för att stjäla inloggningsuppgifter på under sex timmar. Dagen efter rapporterade GreyNoise att en angripare använt hundratals AI-agenter för att ta sig in hos 395 organisationer via sårbarheter i utskriftshanteringsprogrammet PaperCut.
Microsofts rapport beskriver varken exploits eller agenter. Den beskriver ett gammalt bedrägeri, falska chefer som riktar sig till dem som betalar räkningarna, skickat i över en miljon exemplar med mallar som bär tecken på hjälp från AI.
Vad Microsoft rekommenderar
Microsofts råd handlar främst om skydd för e-post, till stor del i företagets egna Defender-produkter. Organisationer uppmanas att konfigurera automatisk attackstörning, slå på Zero-hour auto purge, investera i avancerat skydd mot nätfiske och konfigurera e-postflödet med kopplingar. Microsoft rekommenderar också e-postautentisering med SPF, DKIM och DMARC.
Petri rapporterade om fynden samma dag, med Microsofts inlägg som grund. De två domäner som Microsoft namngav ger säkerhetsteam något konkret att söka efter i e-postloggar, och mönstret som beskrivs, en chefs godkännande ovanför en vidarebefordrad leverantörstråd, är något som personal på leverantörsreskontran kan lära sig att känna igen.
