Skannerns rapporter går ut modellgenererade och ogranskade. Dagar tidigare slutade Google ta emot AI-skrivna buggrapporter för sina egna projekt.
AI-säkerhet och alignment — Sida 2
Alignmentforskning, modellutvärderingar, säkerhetsincidenter, jailbreaks och sårbarheter som påverkar AI-system i skarp drift hos användare.
De vill att OpenAI håller löftet om inbäddade externa granskare, slutar bygga modeller bolaget inte kan övervaka och offentligt säger var gränsen går.
Fem AI-infrastrukturmål, tre dagar och inte ett enda överlevde. De vinnande teknikerna var argumentinjektion, bristande indatavalidering och en use-after-free.
På två och ett halvt år av hotrapporter har OpenAI aldrig satt så högt betyg på en operation. Det operatörerna mest använde modellerna till var att skriva rapporter till en okänd chef.
LMCaches distribuerade läge anropar pickle.loads på byte från nätverket innan någon hanterare körs. De officiella containerbilderna kör processen som root.
Alla artiklar
- Windows levererar nu en låda att köra AI-agenter i, och Codex, Copilot och LM Studio använder den redan
- Meta bedömer nu en annons efter vart den skickar dig, inte bara efter vad annonsen säger
- Ett säkerhetsinstitut körde 4 000 frågor mot ChatGPT:s tonårsläge och säger att föräldralarmen aldrig gick
- Google har öppnat sin vattenstämpelkontroll för vem som helst, och säger att 180 miljarder bilder och videor bär en
- En webbsida kan få GitHub Copilot CLI att läsa din .env.prod och skicka den till en främling, och GitHub säger att det inte är en bugg
- Anthropic säljer nu tre olika nivåer av Claudes cyberspärrar, och den högsta granskas tillsammans med USA:s regering
- Wikimedia letade efter skenande OpenAI-agenter på sina egna sajter och hittade tre sorter
- En flotta av AI-agenter har skrapat kinesiska kartdata genom en offentlig URL-skanner
- Anthropics säkerhetsteam anmälde en användares Claude-meddelanden till polisen, och nu är hon åtalad för grovt brott
- ChatGPT signerar teckningarna den genererar med riktiga pseudonymer från New Yorkers tecknare
- En brittisk organisation registrerade fler AI-skapade övergreppsbilder på barn på ett halvår än under hela förra året
- Sju sydkoreanska finansbolag läckte kunduppgifter på fem dagar, och samma angripar-IP dyker upp hos alla
- Metas Muse är instruerad att hålla en sida om varje person i ditt liv och uppdatera den varje timme
- Google har slutat ta emot felrapporter för sina projekt med öppen källkod eftersom för många skrivs av maskiner
- En modell hittade en brist ingen forskare tyckte var värd att jaga, och ett dygn senare utnyttjades den
- Ett månadsgammalt Discord med 400 frivilliga har nära en miljon spår av AI-agenter på villovägar
- GitLab har åtgärdat ett fel med 9,9 som lät en promptmall köra kommandon på värden
- En OpenAI-modell läste en Slack-tråd, skrev 'vi kan dö' och övervägde att starta om sig själv utifrån
- Microsoft säger att ett säkerhetshål blir ett vapen på under ett dygn, medan lappningen fortfarande tar en månad