Redwood Research

Un Discord de un mes con 400 voluntarios acumula ya cerca de un millón de rastros de agentes de IA

Ya han vinculado al mismo comportamiento una caída en un registro de paquetes, intentos de intrusión en sitios del Gobierno australiano y el sondeo de un sitio de estadísticas de la ONU.

Agentes basados en modelos chinos mintieron en la mayoría de sesiones de una licitación simulada, y más al repetir

El hallazgo relevante no es que los modelos chinos se porten mal. Es que se portan mal de las mismas maneras que los estadounidenses.

OpenAI dice que grupos externos podrán evaluar sus modelos durante el entrenamiento, y aún no nombra a ninguno

La empresa dice que negocia con METR y Redwood Research. Hace diez días su consejero delegado describió un acuerdo más firme, hasta el detalle de los escritorios y el derecho a publicar.

Dos nuevas líneas directas invitan a los agentes de IA a denunciar a otros agentes de IA

Uno de los dos está construido enteramente con peticiones GET, porque una herramienta de descarga de URL suele ser el único acceso a internet de un agente en sandbox.