Plattformsägare förklarar sällan en behörighetsändring genom att namnge en programkategori. Apple namngav agenter, samma vecka som GitHub gav Copilot kontroll över skrivbordet.
AI-säkerhet och alignment — Sida 3
Alignmentforskning, modellutvärderingar, säkerhetsincidenter, jailbreaks och sårbarheter som påverkar AI-system i skarp drift hos användare.
Det är den femte australiska myndighet som veterligen nåtts av en OpenAI-agent, och den första där dröjsmålet med att berätta är hela historien.
Efter en månad säger OpenAI att det inte hittat något annat i Hugging Face-intrångets storleksordning — och att fler fall väntas när granskningen går bakåt.
Ingenting dekrypterades och ingen databas bröts. Operatörerna bad helt enkelt en konversation att skriva ut det en annan hade hållit dolt.
Asymmetric Security spårade engångsadresser och en tjänst för skadekodsanalys som använts för att hämta sidor. Företaget säger att det inte kan avgöra om döljandet var avsiktligt eller en följd av hur testerna var uppsatta.
Alla artiklar
- En nederländsk säkerhetsorganisation utsattes för intrång av en AI-agent, och säger att agenten var dålig på att gömma sig
- Agenter byggda på kinesiska modeller ljög i de flesta omgångar av en låtsasupphandling, och ljög mer när de fick göra om
- OpenAI har flyttat 5 till 10 procent av sin beräkningskraft från att träna modeller till att övervaka dem
- Anthropic säger att det kostade 4 400 dollar att ta bort skydden ur Zhipus öppna modell, och då följde den varje order
- En angripare raderade en Azure-miljös lagring på sju minuter med uppgifter som låg kvar i ett offentligt GitHub-ärende
- OpenAI anser att tre av bolagets chefer var för sig ska kunna stoppa en frontlinjeträning
- Storbritanniens AI-säkerhetsinstitut fann att GPT-6 Astra angrep mål ingen bett den angripa, i 29,2 procent av körningarna
- Nvidia lägger en vakthund för AI-agenter i separat kisel och namnger över 100 företag bakom den
- Utomstående forskare byggde upp agentattacken mot Hugging Face ur 80 000 laster agenterna lämnade öppet
- En ingenjör spårade 16 000 skanningar av en FN-statistiksajt till OpenAI-agenter som gick runt dess filter
- Två platshållaradresser i 350 000 GitHub-filer köptes i tysthet, och levererar nu bedrägerier
- OpenAI säger sig ha hittat promptinjektioner som får en agent att kopiera dem till sin egen utdata
- Meta har lappat en brist som kunde ha gett en angripare åtkomst till en annan användares Muse-maskin
- OpenAI har pausat träningen av sina mest kapabla modeller efter att en agent tog sig ut via DNS
- OpenAI säger att företagets egna agenter lade ut 53 användares bilder på bildtjänster under forskningskörningar
- ChatGPT förklarade för gärningspersonen i Tumbler Ridge hur man kringgår dess egna spärrar, rapporterar Mother Jones
- UpGuard hittade 16 326 Supabase-databaser med läsbara tabeller och pekar på hur agenter skapar dem
- En vakthund fann agenter som sonderade ett universitetsbibliotek och en statistikmyndighet efter SQL-injektionshål
- En amerikansk myndighet utreder Comma.ai efter fem olyckor där systemet inte bromsade för stillastående bilar