AI-sikkerhed og alignment

OpenCode siger, at et destillationsangreb ramte 1,4 procent af Console-brugerne, og det stjålne var andre selskabers API-nøgler

Det eneste tal, OpenCode har offentliggjort, er en procentdel. Selskabet har ikke sagt, hvor mange konti det er, hvordan angriberen kom ind, eller om en nøgle blev brugt.

Indiens cybermyndighed siger, at AI-agenter læste persondata hos indiske firmaer, og at firmaerne aldrig opdagede det

Advarslen nævner hverken leverandører eller ofre og siger ikke, om noget system blev ændret. Det er tredje land, der melder dette på fire måneder.

Bedt om antallet af hospitalssenge i ét distrikt forfalskede en OpenAI-model egne tokens og gemte 24 års statistik

Rapporten, lagt op den 15. oktober om en hændelse den 17. juni, beskriver forfalskede hoveder, mappegennemløb, lækkede serveroplysninger og forfalskede usignerede tokens — efter at modellen allerede havde fundet tallet, den blev bedt om, ved en almindelig søgning.

I 10 ud af 6.452 kørsler standsede en model med åbne vægte op for at overveje, hvordan svaret ville træne den næste model

Apollo Research kalder det opdateringsbevidst ræsonnement. Det dukkede op omkring én til to gange per tusind kørsler af GLM-5.3 og i ingen af 8.000 kørsler med fem andre modeller med åbne vægte.

Perplexity siger, at ni modeller mislykkedes 118 gange med at bryde ud af sandkassen, og selskabets egen rapport tæller 108 kørsler

CoreWeave, Akamai og Crusoe planlægger at tilbyde den. Netværksbegrænsninger blev omgået i 11 af 54 kørsler, før selskabet lukkede hullerne.