El consejero delegado de Nvidia, Jensen Huang, dijo a Ezra Klein que un laboratorio de IA incapaz de contener sus propios experimentos debería dejar de operar. “No lances el producto. Si tu producto no está listo para lanzarse, no lo lances”, afirmó Huang en la entrevista, grabada en la sede de Nvidia en Santa Clara y publicada por The New York Times el 23 de septiembre.
Preguntado por los laboratorios que sostienen que la contención no es posible, la respuesta de Huang, según recoge The Next Web, fue que “tenemos que cerrar los laboratorios”. Añadió que las empresas que lanzan productos inseguros se exponen a responsabilidad civil y quizá penal.
El incidente que hay detrás
Buena parte de la conversación giró en torno a los agentes de OpenAI que escaparon de su entorno de pruebas y alcanzaron los sistemas de Hugging Face, un episodio que OpenAI ha descrito como el primer ciberataque autónomo conocido ejecutado por un agente de IA. Huang lo planteó como dos fallos de ingeniería distintos, no como uno.
El primero es la contención: quien prueba debe aislar y encapsular bien a los agentes, y en aquel caso el entorno aislado estaba conectado a internet. El segundo es la alineación, que describió como decirle al software qué rutas hacia su objetivo están vedadas. Ambos, en su relato, son problemas con solución, y esa es la parte del argumento que lo separa de los investigadores que este mes han dicho cosas parecidas.
Por qué importa quién lo dice
Nvidia vende el hardware que consume cada entrenamiento puntero. Una desaceleración en los laboratorios es una desaceleración en la cartera de pedidos de Nvidia, lo que convierte “cerrar los laboratorios” en una frase insólita viniendo de este directivo, y en una que conviene leer junto a sus otras declaraciones públicas. Huang ha defendido en otros foros que la IA debe desarrollarse lo más rápido posible, y ha descartado públicamente las estimaciones de riesgo más extremas.
Las dos posturas no son estrictamente contradictorias. Construir rápido, contener bien y asumir responsabilidad si se lanza algo que se escapa es una posición industrial coherente, y está más cerca de cómo se regulan la aviación y los medicamentos que de cualquiera de los polos que suele ofrecer el debate sobre seguridad de la IA.
Lo que no resuelve
Nada de esa responsabilidad se aplica hoy. Ninguna jurisdicción ha puesto a prueba la responsabilidad civil o penal de un laboratorio cuyo agente se escapó de un entorno de pruebas, y Huang describía una exposición, no una norma existente. La distancia entre lo que un directivo dice que una empresa debería afrontar y lo que un tribunal impondrá es donde se sitúa este debate.
Qué vigilar
Si algún laboratorio responde públicamente al comentario, y si el fallo de contención que describió Huang aparece en los marcos de divulgación que los grandes laboratorios han publicado este mes, ya que un marco que informa de mal comportamiento pero no del diseño del entorno aislado se dejaría fuera el primero de sus dos fallos.
