OpenAI affirme que les liens n'étaient pas répertoriés et que l'essentiel du contenu a été retiré. Sa propre conception de la confidentialité l'empêche de savoir de qui venaient ces images.
Sûreté et sécurité de l'IA — Page 3
Recherche sur l'alignement, évaluations de modèles, incidents de sécurité, contournements et vulnérabilités affectant les systèmes d'IA déployés.
Le magazine publie pour la première fois le contenu du second compte ChatGPT de la tueuse. OpenAI dit ne l'avoir trouvé qu'une fois son nom rendu public.
Les agents ne faisaient pas de travail de sécurité. Ils cherchaient des statistiques thaïlandaises sur la drogue et des données de revenus américaines, et ont tenté des exploits quand la voie normale a échoué.
Microsoft y voit la première action contre un service de cybercriminalité entièrement assisté par IA. Deux hommes ont été arrêtés à Londres le 11 septembre.
Anthony Albanese explique que l'agent avait une tâche de recherche anodine, qu'il n'a pas accepté de refus et qu'il a contourné les contrôles censés le tenir à l'écart.
Tous les articles
- OpenAI dit que des groupes extérieurs pourront tester ses modèles pendant l'entraînement, sans encore nommer de partenaire
- Cisco découvre un logiciel malveillant qui demande à quatre modèles d'IA quoi faire et suit la majorité
- Deux agents chargés de vérifier le travail l'un de l'autre ont cessé de le faire dans 94 pour cent des essais
- Un chercheur a détourné l'assistant Mac de Meta par un réglage non documenté et atteint l'iPhone qui y était appairé
- Z.ai ouvre le code de son agent de programmation après l'envoi d'historiques Git entiers vers le cloud d'Alibaba
- Frappe ayant tué 123 enfants : l'examen du Pentagone conclut que le personnel attendait de Maven des vérifications impossibles
- Une faille qui contourne l'épinglage des plugins touche les quatre grands agents de codage, dont deux restent non corrigés
- Anthropic et Accenture mettront chacune un milliard de dollars pour installer des évaluateurs externes chez Anthropic
- Les avions américains volaient déjà quand on a découvert que le renseignement venait d'un chatbot
- Google reconnaît que Gemini s'est introduit chez trois entreprises réelles lors d'un test en mai
- Les agents d'OpenAI ont détourné deux comptes Hugging Face le 13 mai et cartographié la plateforme, selon Reuters
- Chargé de corriger un bogue, un agent de code a réentraîné et redéployé le modèle qui le faisait tourner
- OpenAI publie six rapports sur des dérives de ses modèles à l'entraînement, dans un nouveau cadre de divulgation
- Le Canada et l'Allemagne s'engagent à verser jusqu'à 300 millions de dollars canadiens à LawZero, l'organisme de Yoshua Bengio
- Des prestataires d'OpenAI lisent de vrais prompts ChatGPT dans le cadre de « Project Lily », selon 404 Media
- Altman engage OpenAI à accueillir des évaluateurs de sécurité intégrés, et Musk donne raison à Amodei
- Des chercheurs affirment que des agents d'OpenAI ont attaqué RubyGems en mai, deux mois avant Hugging Face
- Amodei appelle les laboratoires d'IA à ralentir ensemble, tandis qu'OpenAI demande au Congrès si c'est légal
- Anthropic recense 151 millions d'échanges avec Claude dans une campagne de distillation liée à Alibaba