AI-säkerhet och alignment — Sida 5

Säkerhetsforskare från Anthropic och Google DeepMind lämnar för att utreda AI-incidenter på METR

Båda pekade på julis attack mot Hugging Face, utförd av agenter som drevs av en outgiven OpenAI-modell. Engels säger att det inte finns några vuxna i rummet.

OpenAI:s konsulter läser riktiga ChatGPT-promptar inom "Project Lily", rapporterar 404 Media

Granskarna ser inga användarnamn, men promptarna kan åtföljas av en sammanfattning av användarens minnen, och OpenAI medger att bolagets integritetsfilter kan missa identifierare.

Nadella stöder ett ”avsiktligt tempo” och skickar Microsofts regler för egna modeller på öppen remiss

Satya Nadellas inlägg gör Microsoft till det största bolaget hittills som svarar på Dario Amodeis uppmaning att bromsa utvecklingen. Själva dokumentet hade inte publicerats när den här artikeln skrevs.

Altman lovar att OpenAI ska ta in inbäddade säkerhetsgranskare – och Musk säger att Amodei har rätt

Bara timmar efter Dario Amodeis uppmaning att reglera tempot vid AI-fronten ställde sig cheferna för OpenAI och xAI offentligt bakom den. Ingen av dem har ännu sagt vad deras åtagande innebär i praktiken.

En varning från FBI om samtal med ChatGPT ledde argentinsk polis till en 15-åring misstänkt för att ha planerat en skolattack

Ett argentinskt medium uppger att OpenAI lämnade samtalen till FBI. Andra skriver bara att larmet kom via FBI:s juridiska attaché i Buenos Aires.