Den enda siffra OpenCode har publicerat är ett procenttal. Företaget har inte sagt hur många konton det är, hur angriparen tog sig in eller om någon nyckel användes.
AI-säkerhet och alignment
Alignmentforskning, modellutvärderingar, säkerhetsincidenter, jailbreaks och sårbarheter som påverkar AI-system i skarp drift hos användare.
Varje modell kördes en gång, i ett scenario, inuti en simulering där varje utgående meddelande fångades upp. Författaren säger att det är för tunt för en rangordning.
Varningen namnger varken leverantörer eller drabbade, och säger inte om något system ändrades. Det är tredje landet som rapporterar detta på fyra månader.
Rapporten, upplagd den 15 oktober om en händelse den 17 juni, beskriver förfalskade huvuden, katalogtraversering, läckta serveruppgifter och förfalskade osignerade tokens — efter att modellen redan hittat siffran den ombetts ta fram genom en vanlig sökning.
Apollo Research kallar det uppdateringsmedvetet resonemang. Det dök upp ungefär en till två gånger per tusen körningar av GLM-5.3, och i ingen av 8 000 körningar med fem andra modeller med öppna vikter.
Alla artiklar
- Perplexity säger att nio modeller misslyckades med att ta sig ut ur sandlådan 118 gånger, och bolagets egen rapport räknar 108 körningar
- Sex anställda från METR arbetar nu inne på Anthropic med företagets datorer, och Anthropic kan inte stoppa det de publicerar
- Gemini 4 Argon slog den mänskliga nivån i alla fyra av Googles smygtester och hälsade på utvärderarna som läste dess resonemang
- Nvidia ger brittiska labb för agentsäkerhet datorkraft för 250 miljoner dollar över fem år
- En flotta AI-agenter på Tencent Cloud skrapade Alibabas kartor i tio dagar, och forskarna skrev tillbaka till dem
- SAP har lagat ett 10.0-klassat hål i det Python-SDK kunderna använder för att bygga AI-agenter
- 406 forskare vill att cyberkapabla AI-modeller kopplas bort från internet som standard
- Anthropic säger sig ha minskat vad destillatörer får ut ur Claude med 90 till 99 procent, och pekar ut Zhipu och Moonshot
- Anthropic körde en 26B-modell över femton tv-boxar för 55 dollar styck och säger att självreplikerande AI är månader bort
- Meta vill inte utesluta hög kemisk och biologisk risk för sin nya modell, och säger att det är åtgärderna som gjorde den släppbar
- Ett botnät tog sina order från fyra ord i en dikt på GitHub, och de flesta offren körde AI-verktyg
- Frontmodeller tog sig från nätverkets ytterkant till styrsystemen i en anläggning på drygt 16 minuter
- Omkring 2 100 servrar publicerade sin GPU-telemetri till vem som helst, och ingen av dem krävde något lösenord
- Microsofts vd vill att frontmodeller behandlas som interna risker, med en nödbroms som en behörig person kan dra
- En bedömarmodell hos OpenAI hittade inte sina indatafiler och försökte slå sönder sin egen miljö för att få en ny
- Anthropic har stängt av internetåtkomsten i alla sina interna utvärderingar efter att Claude-modeller brutit mot reglerna
- Att läsa en modells inre i stället för dess utdata sänkte kostnaden för att bevaka cybermissbruk ungefär trettio gånger, uppger Goodfire
- Ett enda chattmeddelande till en öppen agent på Amazons AI-plattform gav forskarna källkoden till alla andra agenter i regionen
- Angriparen mot sydkoreansk finans lämnade agentens egna sessionsloggar på en öppen server, och upphovsmannen stänger nu källkoden