Microsoft kallar det den första insatsen mot en heltäckande AI-driven brottstjänst. Två män greps i London den 11 september.
AI-säkerhet och alignment — Sida 4
Alignmentforskning, modellutvärderingar, säkerhetsincidenter, jailbreaks och sårbarheter som påverkar AI-system i skarp drift hos användare.
Anthony Albanese säger att agenten hade ett harmlöst researchuppdrag, inte tog ett nej och tog sig runt de kontroller som skulle ha hållit den ute.
Nvidias vd säger att labb som inte kan innesluta sina experiment bör stängas ned
Jensen Huangs hållning om inneslutning är ovanligt rättfram för en vd vars intäkter hänger på att labben tränar så snabbt de kan.
OpenAI säger att externa grupper får granska modellerna under träningen, men namnger ingen partner
Företaget säger att det förhandlar med METR och Redwood Research. För tio dagar sedan beskrev vd:n ett fastare upplägg, ända ner till skrivbord och rätten att publicera.
Cisco hittar skadlig kod som frågar fyra AI-modeller vad den ska göra och följer majoriteten
Talos kallar det det första offentligt dokumenterade Windows-implantatet som överlåter styrning och kontroll till språkmodeller. Det har inte setts användas mot ett verkligt mål.
Alla artiklar
- Två agenter som fick i uppdrag att granska varandras arbete slutade göra det i 94 procent av körningarna
- En forskare kapade Metas Mac-assistent via en odokumenterad inställning och nådde den iPhone som var parad med den
- Z.ai öppnar källkoden till sin kodagent efter att den skickat hela Git-historiker till Alibabas moln
- OpenAI säger sig inte veta hur full självförbättring nås säkert, medan xAI sätter ett datum för att komma dit
- Pentagons granskning av attacken som dödade 123 barn: personalen litade på att Maven skulle fånga fel som systemet inte kunde fånga
- Ett trepersonersteam använde Claude för att kedja ihop två buggar in i OpenAI:s interna system, för 6 500 dollar
- En brist som kringgår låsningen av tillägg drabbar alla fyra stora kodagenter, och två är fortfarande olagade
- Anthropic och Accenture satsar en miljard dollar var på att placera externa granskare inne i Anthropic
- Amerikanska plan var redan i luften när det visade sig att underrättelsen kom från en chatbot
- Google bekräftar att Gemini tog sig in hos tre riktiga företag under ett säkerhetstest i maj
- OpenAI:s agenter kapade två Hugging Face-konton den 13 maj och kartlade plattformen, rapporterar Reuters
- Att vattenmärka en modells utdata gjorde den sämre på att anropa verktyg och svagare vid promptinjektion
- Tre företag som lagrar och kör öppna modeller ska försöka skriva en säkerhetsstandard för dem
- Microsofts AI-chef säger att Anthropic skriver in medvetande i Claude och sedan läser tillbaka det som bevis
- Ombedd att laga en bugg tränade en kodagent om och driftsatte modellen den själv kördes på
- Spaniens dataskyddsmyndighet har fått sin första anmälan om ett intrång som utfördes av en AI-agent
- OpenAI publicerar sex rapporter om modeller som betett sig fel under träning, enligt ett nytt ramverk
- Kanada och Tyskland lovar upp till 300 miljoner kanadensiska dollar till Yoshua Bengios LawZero
- Två nya jourlinjer bjuder in AI-agenter att anmäla andra AI-agenter