Tredje säkerhetsinlägget på fem dagar
OpenAI har tillkännagett ett samarbete med Hacktron, ett säkerhetsföretag som bygger AI-agenter för kodgranskning, penetrationstester och red teaming, för att hitta sårbarheter i OpenAI:s egna system. Ingenjörer från båda bolagen ska tillsammans välja ut prioriterade områden att testa, och OpenAI säger att fokus ligger på hur bolagets system samverkar med tredjepartstjänster.
Den avgörande meningen handlar om tillgång: OpenAI vidgar Hacktrons tillgång till sina främsta modeller genom Daybreak Red, programmet där bolaget släpper sina mest kapabla cybersäkerhetsmodeller till utvalda användare. Det är samma kanal som OpenAI använt för att placera begränsade modeller hos godkända kunder, och den sträcker sig nu vidare till ett utomstående företag inom offensiv säkerhet.
Det är det tredje säkerhetsbeskedet OpenAI lämnat på en vecka. Den 2 november sa bolaget att forskare från Cathedral skulle arbeta tillsammans med dess team i nästa säkerhetssprint, och samma dag att det höjde ersättningarna i sitt buggprogram.
Varför just detta företag
OpenAI säger att bolaget lärde känna Hacktron genom sitt eget program för säkerhetsbuggar och imponerades av de sårbarheter företagets forskare hittat och rapporterat. Hacktrons publicerade forskning har enligt OpenAI blottlagt svagheter i hur tillämpningar, molninfrastruktur och identitetssystem samverkar — vilket är just den skarv samarbetet ska undersöka.
Den betoningen är ingen tillfällighet. De svåraste sårbarheterna i ett AI-bolags miljö sitter sällan i modellen; de sitter i rördragningen mellan modellen, produkten och allt den är kopplad till. Som OpenAI uttrycker det kopplar agenter samman tjänster på nya sätt, och det är kopplingarna de två teamen ska pröva.
Hacktrons vd, Zayne Zhang, citeras säga att “framtidens cybersäkerhet avgörs inte av vem som har det största säkerhetsteamet, utan av vem som bäst kan kombinera mänsklig kreativitet med AI-drivna förmågor”, och ge OpenAI erkännande för att “sätta främsta cybermodeller i händerna på säkerhetsforskare”.
Vad beskedet inte säger
Det finns ingen löptid, ingen avgränsning utöver “prioriterade områden”, inget besked om huruvida pengar byter ägare, och ingen beskrivning av vad Hacktron får eller inte får göra med tillgången till toppmodeller utanför detta uppdrag. För ett program vars hela premiss är att dessa modeller är farliga nog att ransoneras är avsaknaden av ett uttalat kontrollregelverk den påfallande luckan.
OpenAI säger inte heller hur fynden ska offentliggöras. Inlägget hänvisar forskare till buggprogrammet för att se vilka system som omfattas eller för att lämna in ett fynd, men samarbetet i sig ligger vid sidan av den processen, inte inuti den.
Vad man ska bevaka
Det som ska följas är om detta blir ett mönster. OpenAI har nu placerat främsta cyberförmåga hos ett myndighetsmoln, hos Cathedral och hos Hacktron på en vecka. Varje enskilt beslut går att försvara som försvar; summan är en ständigt vidgad krets av organisationer som håller modeller bolaget självt beskriver som högrisk, och hittills är den enda offentliga redovisningen av vem som har vad OpenAI:s egna besked.
