Påslått som standard, i sju modeller

Tekst som kommer ut av Groks API bærer et usynlig vannmerke fra 7. november. SpaceXSI, Elon Musks selskap som bygger Grok-modellene, og hvis juridiske enhet heter SpaceX Super Intelligence LLC, dokumenterte endringen som gjeldende for sju modeller — grok-4.7, grok-4.6, grok-4.5, grok-4.3 og tre grok-4.20-varianter — og sier den er påslått som standard for alle.

Omfanget er bredt. Dokumentasjonen sier at merkingen er aktivert på hvert av selskapets API-endepunkter, det globale api.x.ai og alle regionale endepunkter, og at den gjelder alle API-er for tekstgenerering, inkludert Responses API og Chat Completions API. Den dekker vanlige svar, strukturerte utdata og argumentene i verktøykall. Det finnes ingen parameter å sende, og eneste endring i svarets form er et nytt x-watermark-hode utvikleren kan lese for å se om et bestemt svar ble merket.

Selskapet oppgir én grunn: “SpaceXSI vannmerker modellenes tekstutdata for å etterleve EUs KI-forordning.” Ingen artikkel nevnes.

Et EU-flagg som vaier ved siden av spanske og regionale flagg
Forordningen krever at syntetisk tekst er maskinlesbar som kunstig generert. Illustrasjonsbilde. IslandHopper X · pexels · Pexels License

Hva regelen faktisk sier

Plikten det svares på, står i artikkel 50 nr. 2 i KI-forordningen, som krever at leverandører av systemer som genererer “syntetisk lyd-, bilde-, video- eller tekstinnhold” sørger for at utdataene er “merket i et maskinlesbart format og mulig å oppdage som kunstig generert eller manipulert”, med tekniske løsninger som er “effektive, samvirkende, robuste og pålitelige så langt det er teknisk mulig”.

Den ordlyden er grunnen til at merket er statistisk og ikke typografisk. SpaceXSI sier det legges på mens modellen genererer tekst, ved å vri litt på hvilke tokener den velger, slik at det ikke tilføyer tegn, oppmerking eller skjult tekst — og at det derfor overlever å bli kopiert ut av et chattevindu og limt inn et annet sted. Deteksjonen er også sannsynlighetsbasert: selskapet gir et tekststykke en skår og melder det som vannmerket, ikke vannmerket eller usikkert, og sier at lengre tekst gir sterkere signal.

Hvem som får gjøre den kontrollen, er en annen sak. Tilgang til deteksjons-API-et gis etter søknad via et skjema, så evnen til å merke tekst er nå standard og universell, mens evnen til å lese merket ikke er det.

Fiberoptiske patchkabler koblet til et panel
Merkingen gjelder på alle endepunkter, globale som regionale. Illustrasjonsbilde. Brett Sayles · pexels · Pexels License

Å slå det av er en rettslig påstand

Reservasjonen er delen det lønner seg å lese nøye. Merkingen settes per modell for et helt team, og bare teamadministratorer ser kontrollen, i en konsollrad som viser På (alle modeller), Av (alle modeller) eller Tilpasset. Innstillingen gjelder hver API-nøkkel i teamet, og endringer får virkning for nye forespørsler innen fem minutter.

Å slå av en modell er ingen vanlig bryter. Dokumentasjonen sier at reservasjonen “ber deg bekrefte at et unntak etter gjeldende rett gjelder for din bruk, og at du alene er ansvarlig for enhver merking, opplysningsplikt eller annet rettslig krav”. Hver på- og avslåing skrives til teamets revisjonslogg, der administratorer kan søke på hendelses-ID, beskrivelse eller bruker. Noen modeller kan dessuten være låst på for et team: de vises i dialogen uten avkryssingsboks og kan ikke slås av fra konsollen.

Samlet er dette like mye et designvalg som et etterlevelsesvalg. Den som vil ha umerket Grok-tekst, må være administrator, må inne i produktet hevde at loven unntar vedkommende, må selv ta på seg enhver opplysningsplikt, og etterlater en datert oppføring om å ha gjort det. To ting er verdt å følge: om deteksjons-API-et åpnes utover søknadsordningen, og om Groks forbrukerapper — som dokumentasjonen ikke dekker — følger etter API-et.