Uppgifterna
Tre stora bolag har begränsat hur deras anställda använder Anthropics modeller på grund av hur länge bolaget sparar användningsloggar, rapporterade The Information den 14 september, enligt Reuters.
Palantir har krävt ”oåterkalleliga garantier om noll datalagring” av Anthropic innan bolagets modeller görs tillgängliga via Palantirs mjukvara. Nvidia begränsar Anthropics modeller till mindre känsliga interna uppgifter och använder sina egna Nemotron-modeller för arbete med skyddad information. Booz Allen Hamilton har förbjudit anställda att använda Anthropics kommersiella modell i cybersäkerhetsprojekt som berör konfidentiell data.
Loggen på 30 dagar
Friktionen går tillbaka till juni, då Anthropic ändrade sin policy för modellen Fable så att användningsloggar sparas i 30 dagar. Bolaget uppgav att loggarna behövs för att upptäcka avancerade attacker som utspelar sig över flera sessioner, och att den sparade datan inte skulle användas för att träna modellerna, rapporterade Quartz.
Det löftet räckte inte för att lugna kunder i reglerade branscher. För en försvarsleverantör eller en chipkonstruktör handlar frågan inte bara om huruvida datan tränar en modell, utan om den ligger på någon annans servrar i en månad.
Anthropics svar
Anthropics svar heter Enterprise Frontier Safeguards och låter företagskunder förvara aktivitetsdatan i sin egen molnlagring, oavsett om det är Amazon S3, Azure Blob Storage eller Google Cloud Storage, under egna krypteringsnycklar. Automatisk övervakning söker fortfarande efter missbruk, utan manuell granskning av Anthropics personal. Funktionen rullas ut stegvis, och bredare tillgänglighet är planerad till i höst.
Både Anthropic och OpenAI uppgav att de som standard inte tränar på kunddata om inte företagen själva väljer det, men att de samlar in anonymiserad metadata för att förbättra sina produkter, enligt Reuters. Quartz beskriver motståndet som att det även gäller OpenAI, men de konkreta begränsningar som beskrivs rör Anthropic.
Vem vinner på det
Microsoft utnyttjar oron för att marknadsföra isolerade molnmiljöer och sina egna AI-produkter till potentiella kunder, enligt rapporten. Nvidias aktie föll omkring 3 procent på måndagen när AI-aktier backade brett.
Uppgiften om Nvidia skaver mot annan färsk rapportering. Förra veckan rapporterade Reuters att Nvidia förhandlade om att investera upp till 10 miljarder dollar i Anthropics planerade börsnotering. Att begränsa ett bolags modell internt samtidigt som man förhandlar om att bli ankarinvesterare i dess börsintroduktion är ingen motsägelse, men det visar hur separat de två besluten fattas.
Att hålla ögonen på
Om Palantir får den garanti bolaget krävt, och hur snabbt Enterprise Frontier Safeguards blir allmänt tillgängligt. Anthropics noteringsdokument, som väntas inför den börsnotering i oktober som bolaget siktar på, vore den naturliga platsen att redovisa hur stor del av intäkterna som kommer från kunder med dessa invändningar.
