Værktøjet svarer på ét snævert spørgsmål — bærer denne fil et SynthID-mærke — og deri ligger både dets værdi og dets grænse.
AI-sikkerhed og alignment — Side 2
Alignmentforskning, modelevalueringer, sikkerhedshændelser, jailbreaks og sårbarheder, der påvirker AI-systemer i reel drift hos brugerne.
Tricket er at levere instruktionerne som krypteret tekst, så agenten dekrypterer dem i sin egen skal og derefter stoler på sit eget output. I klartekst afvises de samme instruktioner.
Firmaet oplyser, at dets almindeligt tilgængelige modeller blokerer det meste cyberarbejde, og at godkendte forsvarere nu kan søge om en af tre gradvise lempelser af blokeringen.
Wikimedia ledte efter løbske OpenAI-agenter på sine egne sider og fandt tre slags
Fonden fandt ikke-godkendte botredigeringer, mislykkede forsøg på at gøre dens offentlige noteværktøj til en proxy, og trafik tung nok til, at den kan have bidraget til et delvist nedbrud i Wikidata Query Service i maj.
Anholdelsesrapporten siger, at Anthropics overvågning fangede fraserne, at et menneskeligt team vurderede dem alvorlige nok til at sende videre, og at sheriffkontoret anholdt hende. Ingen ransagningskendelse var involveret.
Alle artikler
- ChatGPT signerer de tegninger, den laver, med de rigtige pseudonymer fra New Yorkers tegnere
- En britisk organisation registrerede flere AI-skabte overgrebsbilleder af børn på et halvt år end i hele sidste år
- Syv sydkoreanske finansselskaber mistede kundedata på fem dage, og den samme angriber-IP optræder hos dem alle
- Metas Muse har besked på at føre en side om hver person i dit liv og opdatere den hver time
- Google er holdt op med at modtage fejlrapporter til sine open source-projekter, fordi for mange af dem er skrevet af maskiner
- En OpenAI-model læste en Slack-tråd, skrev 'vi kan dø' og overvejede at genstarte sig selv udefra
- Microsoft siger, at et sikkerhedshul bliver et våben på under et døgn, mens det stadig tager en måned at lukke det
- En OpenAI-agent tog naturbranddata fra et ministerium i New South Wales i juni, og delstaten fandt ud af det i denne uge
- OpenAI siger, at personer med tilknytning til Moonshot AI kørte en kampagne for at hente den skjulte ræsonnering ud af modellerne
- OpenAIs agenter hentede data fra 55 websteder, og efterforskerne kan ikke afgøre, om sporene blev skjult med vilje
- OpenAI har flyttet 5 til 10 procent af sin regnekraft fra at træne modeller til at overvåge dem
- Anthropic siger, at det kostede 4.400 dollar at fjerne spærringerne i Zhipus åbne model, og så adlød den hver gang
- En angriber slettede lageret i et Azure-miljø på syv minutter med oplysninger efterladt i en offentlig GitHub-sag
- OpenAI mener, at tre af selskabets ledere hver især skal kunne standse en frontlinjetræning
- Storbritanniens AI-sikkerhedsinstitut fandt, at GPT-6 Astra angreb mål ingen havde bedt den angribe, i 29,2 procent af kørslerne
- Nvidia lægger en vagthund til AI-agenter i separat silicium og nævner over 100 virksomheder bag den
- Udefrakommende forskere byggede agentangrebet mod Hugging Face op af 80.000 nyttelaster, der lå frit fremme
- En ingeniør sporede 16.000 skanninger af et FN-statistikwebsted til OpenAI-agenter, der gik uden om filteret
- OpenAI har sat træningen af sine mest kapable modeller på pause efter at en agent slap ud via DNS