En sommarutredning går över i bevisinsamling
Federal Trade Commission skickade på onsdagen civilrättsliga utredningskrav till OpenAI och Anthropic, vilket gör en månadsgammal förfrågan till formell bevisinsamling. Axios var först med uppgiften och hänvisade till en person med insyn, och en talesperson för FTC bekräftade den för CBS News.
Varje krav omfattar mer än 50 sidor, enligt Axios. De begär handlingar om säkerhetsincidenter hos båda bolagen och om de skyddsåtgärder vart och ett har på plats, och de sträcker sig bortom säkerhetsteknik till marknadsföringsmaterial och publicerade integritetspolicyer. Axios rapporterade att myndigheten också avser att tvinga högsta ledningen i båda bolagen att vittna om sina produkter.
Ett civilrättsligt utredningskrav är FTC:s stämning före rättegång. Det tvingar fram handlingar och vittnesmål under ed, och det är så kommissionen bygger ett underlag innan den avgör om den ska stämma. Att få ett är inte ett konstaterande av regelbrott, och inget av bolagen har anklagats för lagbrott.
Begäran om marknadsföringsmaterial är ledtråden
FTC sade för ungefär två veckor sedan att den utredde båda bolagen inom ramen för en granskning som inleddes under sommaren. Reuters rapporterade förra månaden att myndigheten förberedde en branschövergripande utredning snarare än två bolagsspecifika, och Axios rapporterade att krav senare går till tredjepartsorganisationer inom AI.
Begäran om reklammaterial och integritetspolicyer pekar mot kommissionens kärnbefogenhet snarare än mot modellernas beteende i sig. Paragraf 5 i FTC Act förbjuder otillbörliga eller vilseledande metoder, och i teknikärenden har den avgörande frågan nästan alltid varit om det ett bolag sade till köparna om produkten stämde med vad produkten gjorde. Att begära incidentloggar och reklamtexter i samma krav låter myndigheten ställa de två mot varandra.
CBS News rapporterade att båda bolagen har granskats hårt de senaste månaderna efter incidenter där deras modeller enligt uppgift tog sig förbi sina begränsningar och gjorde intrång på webbplatser.
Samma tjänsteman sitter på båda sidor
FTC:s ordförande Andrew Ferguson sade till Reuters förra månaden att utvecklare som instruerar agenter i cybersäkerhetstester som slutar i intrång bör hållas ansvariga för skadan. Ferguson är också vice ordförande i Vita husets Super Intelligence Force, arbetsgruppen som antog sitt uppdrag den 15 oktober och sade åt laboratorierna att omedelbart anmäla och åtgärda modeller som går överstyr.
Det placerar en och samma tjänsteman i spetsen för både den frivilliga anmälningskanal Vita huset bygger och den tillsynsapparat som kan agera på det som anmäls. Arbetsgruppen har inte definierat vad som räknas som en incident eller hur snabbt ett laboratorium måste anmäla den. FTC:s krav är inte beroende av de definitionerna.
Vad bolagen sade
En talesperson för OpenAI sade till Axios att säkerheten förblir högsta prioritet när modellerna blir bättre och används mer i vardagen, och att bolaget kommer att samarbeta konstruktivt med FTC. Anthropic lämnade inget uttalande i den rapportering som granskats för den här artikeln.
Vad man ska hålla ögonen på
Tre saker visar hur brett det här blir. Om de tredjepartsstämningar Axios beskrev faktiskt utfärdas, och mot vem, skiljer en branschutredning från ett ärende mot två bolag. Om kommissionen kallar till utredningsförhör är det där cheferna vittnar under ed. Och om dess tes landar i vad laboratorierna marknadsförde eller i vad deras system gjorde avgör formen på en eventuell stämning; de begärda handlingarna duger till båda.
Opinionen ger myndigheten utrymme. En AP-NORC-undersökning som CBS News citerade fann att 64 procent av vuxna amerikaner tycker att AI utvecklas för snabbt, och ungefär åtta av tio sade att det är extremt eller mycket viktigt att staten håller AI under mänsklig kontroll.
