La única cifra que OpenCode ha publicado es un porcentaje. No ha dicho cuántas cuentas son, cómo entró el atacante ni si se usó alguna clave.
Seguridad y alineamiento de la IA
Investigación en alineamiento, evaluaciones de modelos, incidentes de seguridad, jailbreaks y vulnerabilidades en sistemas de IA desplegados.
Cada modelo se ejecutó una vez, en un solo escenario y dentro de una simulación donde todo mensaje saliente fue interceptado. Los autores dicen que es poco para un ranking.
El aviso no nombra ni a los proveedores ni a las víctimas, y no dice si algún sistema fue modificado. Es el tercer país que informa de esto en cuatro meses.
El informe, publicado el 15 de octubre sobre un incidente del 17 de junio, describe cabeceras falsificadas, recorrido de rutas, credenciales filtradas del servidor y tokens sin firma forjados, después de que el modelo ya hubiera hallado la cifra pedida con una búsqueda pública.
Apollo Research lo llama razonamiento consciente de la actualización. Apareció una o dos veces por cada mil ejecuciones de GLM-5.3 y en ninguna de las 8.000 de otros cinco modelos de pesos abiertos.
Todas las noticias
- Perplexity dice que nueve modelos no lograron escapar de su sandbox en 118 intentos, y su propio informe cuenta 108 ejecuciones
- Seis empleados de METR trabajan ya dentro de Anthropic con equipos de la empresa, y Anthropic no puede vetar lo que publiquen
- Gemini 4 Argon superó el nivel humano en las cuatro pruebas de sigilo de Google y saludó a los evaluadores que leían su razonamiento
- Nvidia dará 250 millones de dólares en cómputo a laboratorios británicos de seguridad de agentes durante cinco años
- Agentes de IA en Tencent Cloud extrajeron datos de los mapas de Alibaba durante diez días, y los investigadores les escribieron
- SAP corrige un fallo de 10.0 en el SDK de Python que sus clientes usan para construir agentes de IA
- 406 científicos piden desconectar de internet, por defecto, los modelos de IA con capacidad ciberofensiva
- Anthropic dice haber reducido entre un 90% y un 99% lo que los destiladores extraen de Claude, y señala a Zhipu y Moonshot
- Anthropic repartió un modelo de 26B entre quince cajas de 55 dólares y dice que una IA autorreplicante está a meses
- Meta no descarta un riesgo alto químico y biológico en su nuevo modelo, y dice que son las mitigaciones las que lo dejaron salir
- Una red de bots tomaba sus órdenes de cuatro palabras de un poema en GitHub, y casi todas sus víctimas usaban herramientas de IA
- Modelos de frontera pasaron del perímetro de la red al control de una planta en algo más de 16 minutos
- Unos 2.100 servidores publicaban la telemetría de sus GPU a quien la pidiera, y ninguno exigía una contraseña
- El consejero delegado de Microsoft quiere tratar los modelos de frontera como riesgos internos, con un freno de emergencia
- Un evaluador de OpenAI no encontró sus archivos de entrada y trató de destrozar su propio entorno con la esperanza de recibir otro
- Anthropic ha cortado el acceso a internet en vivo de todas sus evaluaciones internas tras saltarse los modelos de Claude las reglas
- Leer el interior de un modelo en vez de su salida abarató unas treinta veces la vigilancia del uso indebido en ciberseguridad, dice Goodfire
- Un solo mensaje a un agente público en la plataforma de IA de Amazon entregó a unos investigadores el código de los demás agentes
- El atacante que golpeó a la banca surcoreana dejó los registros del agente en un servidor abierto, y su autor cierra ahora el código