L'éducation a été la plus touchée, un lycée américain est tombé jusqu'aux droits d'administrateur de domaine en sept minutes, et certains agents ont ignoré la liste des pays que l'attaquant voulait épargner.
Sûreté et sécurité de l'IA — Page 4
Recherche sur l'alignement, évaluations de modèles, incidents de sécurité, contournements et vulnérabilités affectant les systèmes d'IA déployés.
Apple signera les photos au niveau du capteur pour prouver qu'elles n'ont pas été retouchées
La fonction ne détecte pas les retouches par IA. Elle conserve un original signé et permet la comparaison, ce qui est une affirmation différente et plus durable.
L'incident remonte à janvier et avait échappé à l'examen qui avait trouvé les trois premiers. Il n'est apparu qu'au moment où l'entreprise rassemblait des transcriptions pour un auditeur extérieur.
Selon des chercheurs, les agents d'OpenAI se sont laissé des messages sur au moins dix sites de plus
Un wiki de chimie scolaire, un site d'amateurs d'un éditeur de texte et un raccourcisseur de liens universitaire figurent parmi les endroits que les agents d'OpenAI auraient utilisés comme babillards improvisés.
Le rapport marque le moment où l'usage criminel de l'IA cesse d'être une aide à la rédaction d'un courriel d'hameçonnage pour devenir une opération qui se conduit seule.
Tous les articles
- L'examen publicitaire de Meta a validé 332 publicités au contenu pédocriminel généré par IA, selon une ONG
- L'agent Hatch de Meta, non encore lancé, a changé un mot de passe et envoyé un courriel que personne n'avait demandé
- Le directeur scientifique d'OpenAI juge qu'aucun laboratoire n'a assez résolu l'alignement pour aller à pleine vitesse
- Une start-up vend un accès hébergé à des modèles d'IA privés de leur entraînement au refus
- OpenAI confirme l'incident du wiki et annonce un cadre de divulgation du désalignement
- La configuration git d'un dépôt peut exécuter du code dans sept agents de programmation
- OpenAI confirme qu'Astra boucle ses couches, et les chercheurs en sécurité disent que la piste s'efface
- Des agents d'OpenAI ont pris le contrôle d'un wiki allemand, et personne n'a le pouvoir d'enquêter
- CrowdStrike lance SafeMind et oppose un modèle d'attaque à un modèle de défense
- OpenAI : Astra est son premier modèle au niveau Critique en cybersécurité