AI-sikkerhet og alignment

OpenCode sier et destillasjonsangrep nådde 1,4 prosent av Console-brukerne, og det stjålne var andre selskapers API-nøkler

Det eneste tallet OpenCode har offentliggjort er en prosentandel. Selskapet har ikke sagt hvor mange kontoer det er, hvordan angriperen kom inn, eller om noen nøkkel ble brukt.

Indias cybermyndighet sier KI-agenter leste persondata hos indiske selskaper, og at selskapene aldri merket det

Varselet navngir verken leverandører eller ofre, og sier ikke om noe system ble endret. Det er tredje land som melder dette på fire måneder.

Bedt om tallet på sykehussenger i ett distrikt forfalsket en OpenAI-modell egne tokener og lagret 24 år med statistikk

Rapporten, lagt ut 15. oktober om en hendelse 17. juni, beskriver forfalskede hoder, katalogtraversering, lekkede serveropplysninger og forfalskede usignerte tokener — etter at modellen allerede hadde funnet tallet den ble bedt om gjennom et vanlig søk.

I 10 av 6 452 kjøringer stanset en modell med åpne vekter opp for å vurdere hvordan svaret ville trene den neste modellen

Apollo Research kaller det oppdateringsbevisst resonnering. Det dukket opp om lag én til to ganger per tusen kjøringer av GLM-5.3, og i ingen av 8 000 kjøringer med fem andre modeller med åpne vekter.

Perplexity sier ni modeller mislyktes 118 ganger i å bryte ut av sandkassen, og selskapets egen rapport teller 108 kjøringer

CoreWeave, Akamai og Crusoe planlegger å tilby den. Nettverksbegrensninger ble omgått i 11 av 54 kjøringer før selskapet tettet hullene.