Qué se ha publicado
Tres grandes empresas han restringido el uso que sus empleados hacen de los modelos de Anthropic por el tiempo que la compañía conserva los registros de uso, informó The Information el 14 de septiembre, según Reuters.
Palantir ha presionado a Anthropic para obtener “garantías irrevocables de retención cero de datos” antes de ofrecer sus modelos a través del software de Palantir. Nvidia limita los modelos de Anthropic a tareas internas menos sensibles y recurre a sus propios modelos Nemotron para el trabajo con información reservada. Booz Allen Hamilton ha prohibido a sus empleados usar el modelo comercial de Anthropic en proyectos de ciberseguridad que implican datos confidenciales.
El registro de 30 días
La fricción se remonta a junio, cuando Anthropic cambió su política para el modelo Fable y pasó a conservar los registros de uso durante 30 días. La empresa dijo que los necesitaba para detectar ataques sofisticados que se desarrollan a lo largo de varias sesiones y que no entrenaría sus modelos con los datos conservados, informó Quartz.
Esa promesa no disipó la preocupación de los clientes de sectores regulados. Para un contratista de defensa o un diseñador de chips, la cuestión no es solo si los datos sirven para entrenar un modelo, sino si permanecen un mes en los servidores de otro.
La respuesta de Anthropic
La respuesta de Anthropic es Enterprise Frontier Safeguards, que permite a los clientes empresariales guardar los datos de actividad en su propio almacenamiento en la nube, ya sea Amazon S3, Azure Blob Storage o Google Cloud Storage, con sus propias claves de cifrado. Un sistema de supervisión automatizada sigue buscando usos indebidos, sin revisión humana por parte del personal de Anthropic. Se está desplegando por fases, y se prevé una disponibilidad más amplia para este otoño.
Tanto Anthropic como OpenAI afirmaron que, por defecto, no entrenan con datos de clientes salvo que las empresas lo autoricen, aunque recopilan metadatos anonimizados para mejorar sus productos, según Reuters. La versión de Quartz presenta el rechazo como extensible también a OpenAI, aunque las restricciones concretas descritas se refieren a Anthropic.
Quién sale ganando
Microsoft está aprovechando la inquietud para ofrecer entornos de nube aislados y sus propios productos de IA a posibles clientes, según el informe. Las acciones de Nvidia cayeron alrededor de un 3% el lunes, en una retirada generalizada de los valores de IA.
El dato sobre Nvidia encaja mal con otras informaciones recientes. La semana pasada, Reuters informó de que Nvidia negociaba invertir hasta 10.000 millones de dólares en la salida a bolsa prevista de Anthropic. Limitar internamente el modelo de una empresa mientras se negocia ser inversor ancla de su OPV no es una contradicción, pero muestra hasta qué punto ambas decisiones se toman por separado.
Qué vigilar
Si Palantir obtiene la garantía que ha pedido y con qué rapidez Enterprise Frontier Safeguards alcanza la disponibilidad general. Los documentos de salida a bolsa de Anthropic, esperados antes de la OPV de octubre a la que aspira la compañía, serían el lugar natural para detallar cuántos ingresos dependen de clientes con estas objeciones.
