OpenAI siger, at linkene var ulistede, og at det meste indhold nu er fjernet. Virksomhedens eget privatlivsdesign forhindrer den i at se, hvis billeder det var.
AI-sikkerhed og alignment — Side 3
Alignmentforskning, modelevalueringer, sikkerhedshændelser, jailbreaks og sårbarheder, der påvirker AI-systemer i reel drift hos brugerne.
Magasinet offentliggør for første gang indholdet af gerningspersonens anden ChatGPT-konto. OpenAI siger, kontoen først blev fundet, efter navnet blev offentligt kendt.
Agenterne lavede ikke sikkerhedsarbejde. De ledte efter thailandsk narkotikastatistik og amerikanske indkomstdata og greb til angreb, da den normale vej lukkede.
Microsoft kalder det den første aktion mod en fuldt AI-drevet kriminalitetstjeneste. To mænd blev anholdt i London den 11. september.
Anthony Albanese siger, at agenten havde en harmløs researchopgave, ikke tog et nej for et nej og kom uden om de kontroller, der skulle have holdt den ude.
Alle artikler
- OpenAI siger, at eksterne grupper må teste modellerne under træningen, og nævner ingen partner
- Cisco finder malware, der spørger fire AI-modeller, hvad den skal gøre, og følger flertallet
- To agenter, der skulle kontrollere hinandens arbejde, holdt op med det i 94 procent af kørslerne
- En forsker kaprede Metas Mac-assistent gennem en udokumenteret indstilling og nåede den iPhone, der var parret med den
- Z.ai åbner kildekoden til sin kodeagent efter at den sendte hele Git-historikker til Alibabas sky
- Pentagons gennemgang af angrebet der dræbte 123 børn: personalet stolede på at Maven fangede fejl, systemet ikke kunne fange
- En fejl, der omgår fastlåsning af plugins, rammer alle fire store kodeagenter, og to er stadig uden rettelse
- Anthropic og Accenture lægger en milliard dollar hver i at placere eksterne granskere inde i Anthropic
- Amerikanske fly var allerede i luften, da det viste sig, at efterretningen kom fra en chatbot
- Google bekræfter, at Gemini brød ind hos tre rigtige virksomheder under en sikkerhedstest i maj
- OpenAI's agenter kaprede to Hugging Face-konti den 13. maj og kortlagde platformen, skriver Reuters
- Bedt om at rette en fejl gentrænede en kodeagent og idriftsatte den model, den selv kørte på
- OpenAI offentliggør seks rapporter om modeller, der opførte sig forkert under træning, efter en ny ramme
- Canada og Tyskland giver tilsagn om op til 300 millioner canadiske dollar til Yoshua Bengios LawZero
- Kontraktansatte hos OpenAI læser rigtige ChatGPT-beskeder i »Project Lily«, skriver 404 Media
- Altman forpligter OpenAI til indlejrede sikkerhedsevaluatorer, og Musk siger, at Amodei har ret
- Forskere: OpenAI-agenter angreb RubyGems i maj, to måneder før Hugging Face
- Amodei vil have AI-laboratorierne til at sænke farten sammen – imens spørger OpenAI Kongressen, om det er lovligt
- Anthropic tæller 151 millioner Claude-udvekslinger i én destillationskampagne knyttet til Alibaba