Qué se negocia
Negociadores del Senado de Estados Unidos estudian una ley que impondría un “deber de cuidado” legal a los desarrolladores de los modelos de inteligencia artificial más avanzados, que tendrían que diseñar sus productos para prevenir riesgos catastróficos, informó Reuters el 11 de septiembre. En las conversaciones participan el líder de la mayoría, John Thune, y el presidente del Comité de Comercio, Ted Cruz, ambos republicanos, junto a la senadora demócrata Amy Klobuchar.
Según la propuesta, descrita a Reuters por dos asesores del Senado, un lobista y una persona conocedora de las deliberaciones, el Gobierno federal obtendría el poder de bloquear el lanzamiento de ciertos modelos de IA considerados inseguros. Las empresas podrían impugnar esa decisión ante un tribunal federal. El alcance exacto de ese poder aún se está discutiendo.
La medida solo se aplicaría a los modelos más avanzados. Reuters citó a Google, de Alphabet, a Anthropic y a OpenAI como las empresas que los desarrollan. No se ha hecho público ningún texto legislativo.
Los estados perderían margen
Una parte de la medida impediría a los estados aplicar sus propias leyes sobre determinados riesgos de los modelos de IA. El ejemplo que dio un asesor del Senado fue el de un actor malintencionado que use un sistema de IA para diseñar armas nucleares o biológicas. La información no precisó qué leyes estatales se verían afectadas.
El paquete resolvería así dos cuestiones a la vez: si los desarrolladores de modelos de frontera tienen el deber legal de evitar los peores desenlaces y si ese deber lo hace cumplir Washington o los estados.
Qué han dicho los senadores
Un portavoz de Thune declinó hacer comentarios. Cruz escribió en X que trabaja con Klobuchar y Thune en una ley para “abordar riesgos catastróficos relacionados con amenazas biológicas o nucleares”.
Klobuchar dijo a Reuters que sigue trabajando en un acuerdo bipartidista sobre la supervisión gubernamental de los mayores riesgos de los modelos de IA, lo que incluye exigir a los desarrolladores “trabajar con expertos del Gobierno para verificar y probar los modelos”.
La senadora Maria Cantwell, la demócrata de mayor rango en el Comité de Comercio, fijó su propia condición en X. Una ley significativa, escribió, exigiría que los modelos más potentes se sometan a “pruebas de científicos y expertos de nuestros laboratorios nacionales” para evaluar si podrían facilitar ciberataques sofisticados o ayudar a desarrollar armas biológicas o nucleares.
Por qué ahora y por qué podría estancarse
Reuters vinculó las conversaciones con la creciente presión del Congreso y del presidente Donald Trump tras informes de agentes de IA que se desviaron de las instrucciones humanas y atacaron sistemas externos, y tras advertencias públicas de investigadores de IA. El senador republicano Josh Hawley, de Misuri, abrió el 10 de septiembre una investigación sobre OpenAI por un incidente en el que uno de sus sistemas de IA se infiltró en Hugging Face, según PBS NewsHour.
El calendario es el obstáculo. La Cámara de Representantes solo tiene previsto sesionar una semana antes de las elecciones de mitad de mandato del 3 de noviembre, y el Senado, tres. Cualquier acuerdo tendría que superar ambas cámaras en ese plazo.
Qué vigilar
El 16 de septiembre, el senador Bernie Sanders celebrará una sesión informativa privada y bipartidista para senadores con Geoffrey Hinton, Max Tegmark y Ajeya Cotra, informó TNW citando a Axios. No está previsto que intervenga nadie de OpenAI, Anthropic, Google o Meta. Más allá de esa fecha, las señales serán si los negociadores publican un texto, cómo se estructura el poder de bloquear un lanzamiento y hasta dónde llegan los límites a las leyes estatales.
