Qué hace el proyecto
El senador Bernie Sanders, de Vermont, y el representante Greg Casar, de Texas, presentaron el 23 de septiembre la Ley para Prohibir la Superinteligencia Artificial. Es el proyecto sobre IA más restrictivo que ha llegado al Congreso, y hace tres cosas a la vez.
Prohíbe de forma permanente el desarrollo y el despliegue de la superinteligencia artificial, que el texto define como una IA que supera el rendimiento cognitivo humano en la mayoría de los dominios, o que tiene capacidad suficiente para destruir o desempoderar a la humanidad, incluido derrocar al gobierno federal.
Pausa temporalmente el desarrollo avanzado de IA, aunque no todo el desarrollo de IA, hasta que exista un regulador federal y haya escrito reglas de seguridad. Y crea ese regulador: un Departamento de Inteligencia Artificial de rango ministerial, con un consejo asesor científico, que revisaría los planes previos al desarrollo y daría el visto bueno antes de que un sistema llegue al público.
Características precursoras y penas
La pausa no depende de un umbral de cómputo, que es como se han redactado hasta ahora casi todas las normas sobre IA de frontera. Depende de la capacidad. El proyecto veta los sistemas con lo que llama características precursoras de superinteligencia, una lista que incluye la capacidad de mejorar armamento, de engañar a seres humanos y de modificarse a sí mismos.
Las penas son inusuales en legislación tecnológica. Las entidades que incumplan la prohibición se enfrentarían a lo que los promotores describen como una pena de muerte societaria. Las personas físicas, a hasta veinte años de prisión, un plazo que los promotores comparan con las penas por delitos relacionados con armas nucleares.
El texto también encarga a Estados Unidos que busque acuerdos internacionales y controles de exportación para que la prohibición no traslade el desarrollo a otros países.
Las citas y las cuentas
“Nuestro proyecto prohíbe el desarrollo de la superinteligencia artificial e impulsa acuerdos internacionales para que nadie, en ningún sitio, construya una IA demasiado poderosa para que los humanos la controlen”, dijo Casar.
Sanders lo planteó como un fracaso de la gobernanza voluntaria. “Cuando está en juego el futuro de la humanidad, necesitamos reglas internacionales de seguridad vinculantes, no estándares voluntarios de la industria”, afirmó. También ha señalado las propias declaraciones de los laboratorios: si quienes dirigen estas empresas reconocen que están perdiendo el control, argumenta, es irresponsable dejarlas continuar.
Casar tuvo cuidado en aclarar que el proyecto no pausaría todos los sistemas de IA, y habló con entusiasmo de las aplicaciones médicas.
Sus perspectivas son malas. El proyecto aún no tiene número ni copatrocinador republicano, y llega mientras la administración avanza en dirección contraria. Incluso parte del movimiento por la seguridad de la IA ha evitado respaldarlo: la Alliance for Secure AI elogió la intención de los promotores, pero pidió un enfoque más mesurado en lugar de una prohibición.
Lo que el proyecto hace es marcar una línea. Todo lo que el Congreso se ha planteado en serio hasta ahora —regímenes de divulgación, notificación de incidentes, peleas sobre la preeminencia federal— regula cómo se construyen los sistemas de frontera. Este es el primer proyecto federal que dice que una categoría de sistema no debería construirse en absoluto, y que asocia una pena de cárcel a construirla. La cifra a vigilar no es el recuento de votos, que es improbable que llegue a producirse, sino la lista de copatrocinadores.
