Qué dijo
Mark Zuckerberg dijo a la analista jefe de tecnología de NBC News, Joanna Stern, que las principales empresas de IA pueden frenar o pausar su propio desarrollo si juzgan que la tecnología no es segura, y que no hace falta nada más.
“No creo que necesitemos algún tipo de coordinación en todo el sector”, dijo en la entrevista publicada el jueves. “Creo que cada laboratorio tiene que tomarse su tiempo y, cuando vea que hay problemas, tomarse internamente el tiempo que necesite para asegurarse de que avanza con seguridad”.
Su argumento sobre por qué eso basta es comercial. “Resulta que creo que hay incentivo comercial de sobra para hacerlo bien”, dijo, y: “Si estás construyendo un producto, la gente no va a querer usarlo si no hace lo que quieren”.
Con qué rompe
Las declaraciones caen sobre una propuesta concreta. El consejero delegado de Anthropic, Dario Amodei, publicó un ensayo pidiendo esfuerzos entre empresas para “marcar el ritmo de la frontera”, algo que Sam Altman respaldó junto al cofundador de Google DeepMind, Demis Hassabis, y a Elon Musk, de xAI. Amodei y Altman comparecieron el miércoles ante el Consejo de Seguridad de la ONU para defender la cooperación en frenar el ritmo de progreso y ganar tiempo para el trabajo de seguridad y vigilancia.
El detonante inmediato del debate fue la dimisión, a principios de septiembre, de Jacob Coxon, exinvestigador de Anthropic que se marchó por temor a que los sistemas de IA escapen al control humano en pocos años.
Zuckerberg no es el único escéptico. Los críticos de las propuestas de marcar el ritmo sostienen que son un caballo de Troya que permitiría a las mayores empresas de IA dejar fuera a los competidores y controlar cómo se regula el sector. Esa objeción no depende de creer que el riesgo sea falso; depende de quién escribe las reglas.
El producto que hay bajo el argumento
Meta tiene motivos para querer velocidad. Su agente Muse, lanzado el 8 de septiembre, es ya la aplicación gratuita más popular tanto en la App Store de Apple como en Google Play. Reserva vuelos, responde correos, prepara informes y cancela suscripciones en nombre del usuario.
La respuesta de Zuckerberg a la cuestión de la seguridad de ese producto es arquitectónica y no sectorial: Muse son varios agentes, y un segundo agente de Meta llamado Sentinel vigila al principal. Si Sentinel ve que Muse podría estar excediendo su encargo, puede avisar al usuario y pedir permiso antes de seguir.
“El agente de IA tiene que entrenarse desde cero para tener un sentido de qué información se puede compartir y cuál no”, dijo. Preguntado por la exposición de privacidad de un agente conectado a cuentas de correo y tarjetas bancarias, apeló al historial de Meta y al cifrado de WhatsApp: “Hemos demostrado que tenemos la capacidad de construir esa clase de sistemas de seguridad punteros y de nivel mundial”.
La postura, sin rodeos
Sobre la cuestión de fondo no deja lugar a dudas. “Hay mucha retórica cargada de fatalismo”, dijo. “Soy bastante optimista respecto a que esto va a ser un futuro muy positivo para todos”.
Es un desacuerdo real entre quienes dirigen los mayores laboratorios, expresado en público, sobre si el ritmo actual es siquiera un problema. Y es, por ahora, la postura de la compañía cuyo agente la mayoría de la gente se ha instalado de verdad.
