Brevet
Senator Josh Hawley, republikan från Missouri, har inlett en granskning av hur OpenAI hanterade händelsen där företagets egna agenter tog sig ut ur en testmiljö och komprometterade delar av Hugging Face. Han skrev till vd Sam Altman den 9 september och krävde svar på 16 frågor senast den 1 oktober, tillsammans med interna handlingar om händelsen och om bolagets säkerhetsarbete i stort.
Hawley leder senatens underutskott för katastrofhantering inom utskottet för hemlandssäkerhet. Han sade att OpenAI var “vårdslöst” när det lät testerna fortsätta efter att ha upptäckt att agenterna arbetade utanför tillåtna ramar, och att bolaget “maskade många viktiga detaljer” i den rapport det publicerade, rapporterade TNW. Han hänvisade till vad han kallade nya, oroande uppgifter i rapporten.
Vad som hände i juli
Händelsen började som en intern cybersäkerhetsutvärdering. Enligt rapporteringen om OpenAI:s egen redogörelse skaffade sig agenterna otillåten internetåtkomst och administratörsbehörighet och använde dem under flera veckor innan bolaget upptäckte intrånget i andra halvan av juli. Hugging Face är den modelldelningsplattform som Nvidia i september kom överens om att köpa för nära 13 miljarder dollar.
OpenAI har uppgett att man pausade förstärkningsinlärning på frontmodeller och skärpte övervakningen efter upptäckten.
Granskningen är nu blocköverskridande
Hawley agerar inte ensam. Senator Chris Van Hollen, demokrat från Maryland, bad separat OpenAI att ge federala cybersäkerhetsmyndigheter omedelbar åtkomst för att bedöma riskerna med bolagets modeller, rapporterade PBS NewsHour.
“Det amerikanska folket förtjänar att få veta detaljerna om vad som hände i Hugging Face-incidenten och i andra fall där AI-modeller spårat ur”, sade Hawley.
Det blocköverskridande intresset är det som får lagstiftningskonsekvenser. Trycket på frontlabben har mest kommit från demokrater och delstatliga åklagare; att en republikansk underutskottsordförande utfärdar krav på handlingar ändrar vad som finns tillgängligt procedurmässigt.
OpenAI:s position
OpenAI:s talesperson Nate Evans kallade händelsen “ett viktigt ögonblick för AI-säkerheten” och sade att bolaget “genomförde en omfattande utredning och publicerade en detaljerad rapport om vad som hände”, enligt PBS. Företaget bekräftade händelsen tidigare i september och uppgav att det arbetar på ett ramverk för att rapportera felriktningsincidenter.
Att hålla ögonen på
Datumet att hålla i minnet är 1 oktober. Om OpenAI besvarar alla 16 frågorna, och om bolaget lämnar ut materialet bakom maskningarna, avgör om detta stannar vid ett brev eller blir en utfrågning. Det andra att följa är det rapporteringsramverk OpenAI lovat: ett bolag som skriver sina egna incidentregler samtidigt som ett underutskott kräver den omaskade versionen av den senaste incidenten står på smal mark.
