«Adelante»
David Sacks, que preside el Consejo de Asesores del Presidente en Ciencia y Tecnología, afirmó que OpenAI y Anthropic son libres de frenar su propio desarrollo, pero que no deberían poner como precio una nueva regulación. «Dario ha escrito que necesitamos “marcar el ritmo de la frontera”, y Sam está de acuerdo. Puede que a la gente le sorprenda mi respuesta: adelante», escribió Sacks en X, según informó ANI.
Respondía al ensayo del consejero delegado de Anthropic, Dario Amodei, que pide a los principales laboratorios marcar el ritmo de la frontera, y que Sam Altman, de OpenAI, dijo respaldar. El ensayo propone evaluadores independientes integrados en los laboratorios, coordinación entre democracias y, con el tiempo, coordinación global.
Sacks sostuvo que las empresas tienen motivos propios para frenar. «Sobre todo, dejad de fingir que la motivación para frenar es puramente altruista. Os enfrentáis a una enorme exposición por responsabilidad de producto si vuestros productos permiten un ciberataque realmente dañino», escribió. Sacrificar algo de capacidad bruta a cambio de fiabilidad es «un buen negocio», dijo, según The Tribune.
La objeción es al precio
Su blanco era la parte de la propuesta que requiere a los gobiernos. «La forma más fácil de no construir una superinteligencia es que os pongáis de acuerdo en no construirla», escribió Sacks. Convertir un marco regulatorio preferido en condición para frenar, advirtió, podría parecer «chantaje».
La distinción importa porque un laboratorio puede frenarse a sí mismo en cualquier momento, pero la coordinación que describe Amodei no puede darse sin los Estados. La respuesta de Sacks es que lo primero no necesita el permiso de nadie y que la administración no considera que lo segundo sea tarea suya.
Su postura encaja con el resto del fin de semana de la administración. El domingo, el presidente Donald Trump dijo que «fuerzas negativas» estaban alimentando la preocupación por la IA y que quería que Estados Unidos siguiera por delante de China, informó Associated Press.
Meta y Hugging Face toman caminos distintos
Alexandr Wang, director de IA de Meta, no habló de regulación, pero dijo que la empresa está desplazando esfuerzos hacia la alineación. «MSL está aumentando rápidamente la parte de nuestros esfuerzos dedicada a la alineación a medida que nuestros modelos se vuelven más potentes. Creemos que la alineación puede ser el factor limitante del escalado conforme nos acercamos a la frontera», escribió Wang en X, según ANI. «La gente necesita agentes en los que pueda confiar para que hagan de forma fiable lo que se les pide».
Hugging Face se tomó la propuesta de Amodei al pie de la letra. Su consejero delegado, Clem Delangue, anunció una Open Alignment Initiative dirigida por el cofundador Thomas Wolf, con el argumento de que la alineación «no se resolverá a puerta cerrada en un puñado de laboratorios de frontera». Pidió que Hugging Face forme parte del programa de evaluadores integrados con el que Amodei se había comprometido.
Qué vigilar
De la publicación de Sacks se derivan dos pruebas. La primera es si OpenAI o Anthropic anuncian un límite concreto a su propio desarrollo sin esperar a la legislación, que es lo que él dice que son libres de hacer. La segunda es si Anthropic acepta a Hugging Face en su programa de evaluadores, lo que sería la primera señal de que la propuesta se abre a organizaciones ajenas a los laboratorios de frontera.
