Ett samtal som avslutar sig självt
OpenAI meddelade den 30 oktober att ChatGPT på egen hand ska kunna avsluta ett samtal när det visar tecken på att någon fixerar sig vid våld eller vid att allvarligt skada en annan person. Om systemet avslutar flera samtal av det skälet kan OpenAI tillfälligt pausa kontot, säger bolaget.
Det är en annan sorts ingrepp än en vägran. En vägran avböjer en förfrågan och låter samtalet fortsätta; att avsluta samtalet tar bort tråden användaren byggde i. OpenAI beskriver det som att bryta ett mönster “i stunden”, och säger sig arbeta med experter på psykisk hälsa och våldsprevention om när och hur man ska ingripa.
Siffran i inlägget
Meddelandet innehåller också en uppgift OpenAI inte publicerat i den här formen tidigare: “vi gjorde över 200 anmälningar till brottsbekämpande myndigheter under tredje kvartalet 2026”. Det är fall där bolaget bedömde ett våldshot som omedelbart förestående och förde det vidare till polis.
OpenAI utlovar en Community Safety Report som ska täcka våldsprevention och hur väl skyddsmekanismerna fungerar, med anonymiserade exempel, nya åtgärder och underliggande data. Första utgåvan väntas i början av 2027 och ska täcka andra halvåret 2026, därefter uppdateringar var sjätte månad. De 200 anmälningarna är alltså en försmak av en rapportcykel som ännu inte börjat.
Snävare gränser för att beskriva tidigare attacker
Den policyändring som gäller alla handlar om tidigare massattacker. OpenAI säger sig begränsa hur mycket detalj ChatGPT ger om de händelserna och om dem som utförde dem — närmare bestämt rekonstruktioner som innefattar vilka vapen och vilken utrustning som användes och hur de skaffades, och detaljerade jämförelser av omfattning som kan förstärka en gärningspersons ryktbarhet.
Bolaget är tydligt med att gränserna gäller “oavsett användarens ålder eller skäl att fråga”, och tydligt med att materialet ofta finns tillgängligt på annat håll på nätet. Det säger också att människor fortsatt ska kunna fråga om hur offer och samhällen påverkades, och om hur man känner igen varningstecken.
Separat ska ChatGPT svara mer försiktigt på senare förfrågningar som kan missbrukas när nyligen förda samtal visar varningstecken på möjligt våld. Mekanismen bakom — korta sakliga sammanfattningar av tidigare varningstecken som förs med in i ett senare samtal — beskrev bolaget i maj.
Tonåringar får den strängare inställningen
För användare under 18 begränsar OpenAI praktisk information om vapen och säkerhetssystem även när frågan verkar harmlös och inte visar tecken på våldsavsikt. Samma strängare hantering ska tillämpas när bolaget förutser att en användare är under 18, oavsett om personen har uppgett det.
Den förutsägelsen bär mycket vikt. OpenAI säger sig ha förstärkt sitt system för åldersbedömning så att det fortlöpande väger in nya signaler medan människor använder ChatGPT, och flyttar tonåringar till under 18-upplevelsen när det är befogat. Vuxna som hamnar där av misstag kan styrka sin ålder via Persona, bolagets verifieringspartner.
Vad man ska följa
Den första Community Safety Report, i början av 2027. Ett antal anmälningar mäter aktivitet, inte träffsäkerhet, och frågorna det väcker är de rapporten skulle behöva besvara: hur många anmälningar ledde till något, hur ofta hade systemet fel, och hur ofta drabbade en kontopaus någon som inte var ett hot. OpenAI har lovat anonymiserade exempel och relevanta data. Vilka data återstår att bestämma.
