El aprendizaje por refuerzo sobre trayectorias largas de agentes tiene dos fallos conocidos. El artículo sostiene que ambos pueden corregirse sin añadir un segundo modelo.
Investigación en IA
Cobertura de la investigación en inteligencia artificial: papers destacados, nuevas arquitecturas, interpretabilidad y resultados relevantes.
Anthropic puso a Claude Mythos 5 en un bucle de puntuación con un evaluador automático y sin humanos de por medio. En la suma de puntos de curva elíptica halló un circuito con 17 veces menos puertas que el menor diseño publicado.
Las semillas de P-192 a P-521 llevaban años bajo sospecha de ocultar una puerta trasera. Anthropic sostiene que son salidas de lrand48, el generador de la biblioteca C, inicializado con marcas de tiempo de 1997 y 1998.
Los agentes jugaron escribiendo código en lugar de pulsar teclas, y se coordinaron por el chat del juego y una memoria compartida, sin roles asignados.
La herramienta nació de un experimento previo al envío en cuatro congresos de informática. Google describe el problema como un cuello de botella de validación: ya se producen artículos más deprisa de lo que se pueden comprobar.
Todas las noticias
- Shing-Tung Yau lanza una alianza de ocho instituciones para meter la IA en las matemáticas chinas y avisa de que China va por detrás
- Un modelo que se automejora quitó la física de su propio banco de pruebas, y cinco de seis jueces aprobaron la ejecución igualmente
- Borrar el historial de conversación de un agente conservando sus archivos superó a ejecutarlo cuatro veces con el mismo cómputo
- El demostrador de DeepMind cerró nueve de 353 problemas abiertos de Erdős, y una versión recortada cerró los mismos nueve
- Un certamen de microscopía retira el premio a su ganador tras concluir que el vídeo incumplía sus reglas sobre IA
- Los programadores usan IA todo el día y solo confían en ella donde pueden comprobar la respuesta
- Diez minutos con un chatbot hicieron que la gente se rindiera antes al retirárselo, según un ensayo con 1.222 personas
- Apilar modelos del mundo en una jerarquía llevó del 18% al 73% el éxito en navegar un laberinto, y con menos cómputo de planificación
- Un tercio del cielo ultravioleta nunca se ha observado, así que los agentes de Anthropic lo predijeron y etiquetaron cada píxel
- Un grupo de matemáticos pide dejar de colaborar con OpenAI, un día después de que un error de signo retirase tres manuscritos
- Solo cambia en torno al 1% de los pesos de un modelo de un billón por paso, y Nvidia no envía el resto a ninguna parte
- Biohub, el departamento de energía de EE UU y tres laboratorios de IA ponen 1.800 millones tras un modelo de célula
- OpenAI ha publicado 722 manuscritos matemáticos escritos por un modelo que no ha lanzado
- OpenAI está comprando acceso al software de otras empresas para encontrar las tareas en las que sus agentes todavía fallan
- Un físico de Harvard libera el arnés con el que produjo 36 manuscritos en 18 campos en tres meses
- Investigadores de UCLA analizan quince flujos de vídeo en busca de deepfakes en un solo paso de luz a través del vidrio
- Ai2 ha abierto la infraestructura de entrenamiento con la que movió un modelo de 1,2 billones de parámetros en 512 GPU
- Más de una cuarta parte del texto de la web ya la escribe una máquina, y un nuevo estudio mide qué le hace eso al entrenamiento
- Meta dio una shell a un modelo y le dejó reescribir su propio contexto: la precisión subió y el cómputo bajó