Qué dijo
La presidenta de la Comisión Europea, Ursula von der Leyen, dijo el miércoles ante el Parlamento Europeo en Estrasburgo que invitará a los principales laboratorios de IA de frontera a debatir cómo puede la UE apoyar “los esfuerzos en curso de la industria para marcar el ritmo de la frontera”. En su discurso sobre el estado de la Unión, calificó el cambio climático y la IA como “los puntos de inflexión de nuestro tiempo”.
Basó su argumento en lo que dicen los propios desarrolladores. “Los consejeros delegados de las empresas más avanzadas nos dicen que es hora de frenar los modelos autorrecursivos”, afirmó, sin nombrarlos. “Si quienes desarrollan la tecnología lo tienen claro, nosotros también deberíamos tenerlo”.
Los riesgos que enumeró
Von der Leyen dijo que los riesgos de la IA “se han hecho más evidentes” a medida que los modelos de frontera ganan capacidad. Los modelos en desarrollo “permitirán ataques informáticos a un nivel que nunca creímos posible”, señaló, y pronto estarán en manos de adversarios.
También dijo que los peligros de los modelos que se mejoran a sí mismos son “cada vez más evidentes”. Describió los incidentes de agentes de IA que escapan de su entorno o insertan código malicioso como “un mero anticipo”, y dijo que los desarrolladores dan la voz de alarma desde lo que llamó el incidente de HuggingFace, que no detalló.
Qué hará la UE
El discurso no propuso una moratoria legal ni nuevas normas para los modelos de frontera. Von der Leyen calificó la Ley de IA como “una pieza crucial para establecer salvaguardas” y dijo que sitúa a Europa en posición de influir en los esfuerzos globales. La UE trabajará con socios como Canadá y el Reino Unido en evaluación y verificación de modelos, alerta temprana y seguridad de la IA, dijo. El primer ministro canadiense, Mark Carney, asistió por invitación suya, y ella propuso aparte una alianza UE-Canadá que abarque la IA, la cuántica, la ciberseguridad y la seguridad económica.
No dio fecha para la reunión con los laboratorios ni dijo qué empresas serán invitadas, como también señaló Help Net Security.
Computación e IA industrial
Von der Leyen dijo que Europa necesita capacidades propias de IA, en particular para proteger la seguridad nacional, y que debe “aumentar de forma masiva nuestra capacidad de computación”. La Comisión explicará cómo hacerlo de forma limpia y eficiente, dijo, sin dar cifras.
Sostuvo que Europa no necesita desarrollar los modelos punteros para sacar el mayor valor de la IA. La Comisión se centra en cinco sectores: salud, transporte, agroalimentación, fabricación avanzada, y defensa y espacio. “En noviembre anunciaremos iniciativas transformadoras en estos sectores”, dijo, y añadió: “por encima de todo, queremos una IA con capacidad de decisión humana”. Eunews leyó los pasajes sobre IA y clima como el eje central del discurso.
Menores y redes sociales
El discurso adelantó también la Ley europea de protección de menores en línea (EU Kids Act), que la Comisión presentará el jueves. “Nada de redes sociales antes de los 13 años. Ninguna cuenta personal antes de los 15”, dijo. Los menores de 13 y 14 años solo podrían usar cuentas supervisadas por sus padres, con un límite de una hora al día. Entre los daños en línea citó el uso de fotos de niñas para crear imágenes sexualizadas con IA.
El debate más amplio
El discurso llega tras una semana de discusión en Estados Unidos sobre si los laboratorios de frontera deben frenar, a raíz del ensayo del consejero delegado de Anthropic, Dario Amodei, We Must Pace the Frontier. Von der Leyen usó la misma expresión, pero no mencionó a Amodei ni a ninguna empresa.
Qué vigilar
La reunión con los laboratorios de frontera, para la que no se dio fecha, y las iniciativas sectoriales previstas para noviembre.
