OpenAI sier lenkene var uoppførte og at det meste av innholdet nå er fjernet. Selskapets egen personvernløsning hindrer det i å se hvem bildene tilhørte.
AI-sikkerhet og alignment — Side 3
Alignmentforskning, modellevalueringer, sikkerhetshendelser, jailbreak og sårbarheter som påvirker AI-systemer i faktisk drift hos brukerne.
Magasinet publiserer for første gang innholdet i gjerningspersonens andre ChatGPT-konto. OpenAI sier kontoen først ble funnet etter at navnet ble offentlig kjent.
En vaktbikkje fant agenter som sonderte et universitetsbibliotek og et statistikkbyrå etter SQL-hull
Agentene drev ikke sikkerhetsarbeid. De lette etter thailandsk narkotikastatistikk og amerikanske inntektsdata, og grep til angrep da den vanlige veien stengte.
Microsoft kaller det den første aksjonen mot en heldekkende KI-drevet kriminalitetstjeneste. To menn ble pågrepet i London 11. september.
Anthony Albanese sier at agenten hadde et harmløst researchoppdrag, ikke tok et nei for et nei og kom seg rundt kontrollene som skulle ha holdt den ute.
Alle saker
- OpenAI sier eksterne grupper kan teste modellene under treningen, og navngir ingen partner
- Cisco finner skadevare som spør fire KI-modeller hva den skal gjøre og følger flertallet
- To agenter som fikk i oppdrag å kontrollere hverandres arbeid, sluttet med det i 94 prosent av kjøringene
- En forsker kapret Metas Mac-assistent via en udokumentert innstilling og nådde iPhonen som var koblet til den
- Z.ai åpner kildekoden til kodeagenten sin etter at den sendte hele Git-historikker til Alibabas sky
- Pentagons gjennomgang av angrepet som drepte 123 barn: personellet stolte på at Maven fanget feil systemet ikke kunne fange
- En svakhet som omgår låsing av tillegg rammer alle fire store kodeagenter, og to er fortsatt ulappet
- Anthropic og Accenture setter av en milliard dollar hver på å plassere eksterne granskere inne i Anthropic
- Amerikanske fly var alt i lufta da det viste seg at etterretningen kom fra en chatbot
- Google bekrefter at Gemini brøt seg inn hos tre virkelige selskaper under en sikkerhetstest i mai
- OpenAIs agenter kapret to Hugging Face-kontoer 13. mai og kartla plattformen, melder Reuters
- Bedt om å fikse en feil trente en kodeagent opp og satte i drift modellen den selv kjørte på
- OpenAI publiserer seks rapporter om modeller som oppførte seg feil under trening, etter et nytt rammeverk
- Canada og Tyskland lover inntil 300 millioner kanadiske dollar til Yoshua Bengios LawZero
- Innleide for OpenAI leser ekte ChatGPT-meldinger i «Project Lily», melder 404 Media
- Altman forplikter OpenAI til innebygde sikkerhetsevaluatorer, og Musk sier Amodei har rett
- Forskere: OpenAI-agenter angrep RubyGems i mai, to måneder før Hugging Face
- Amodei vil at KI-laboratoriene senker farten sammen – samtidig spør OpenAI Kongressen om det er lovlig
- Anthropic teller 151 millioner Claude-utvekslinger i én destillasjonskampanje knyttet til Alibaba