L'outil répond à une question étroite — ce fichier porte-t-il un filigrane SynthID — et c'est là à la fois sa valeur et sa limite.
Sûreté et sécurité de l'IA — Page 2
Recherche sur l'alignement, évaluations de modèles, incidents de sécurité, contournements et vulnérabilités affectant les systèmes d'IA déployés.
L'astuce consiste à livrer les instructions sous forme de texte chiffré pour que l'agent les déchiffre dans son propre shell, puis fasse confiance à sa propre sortie. En clair, elles sont refusées.
L'entreprise affirme que ses modèles grand public bloquent la majeure partie du travail cyber, et que les défenseurs vérifiés peuvent maintenant demander l'un des trois allègements gradués de ce blocage.
La fondation a constaté des modifications de bots non approuvées, des tentatives ratées de transformer son outil public de notes en proxy, et un trafic assez lourd pour avoir peut-être contribué à une panne partielle du service de requêtes Wikidata en mai.
Le procès-verbal indique que la surveillance d'Anthropic a repéré les phrases, qu'une équipe humaine les a jugées assez graves pour les faire remonter et que le bureau du shérif a procédé à l'arrestation. Sans mandat.
Tous les articles
- ChatGPT signe les dessins qu'il génère avec les vrais pseudonymes des dessinateurs du New Yorker
- Une association britannique a recensé en six mois plus d'images pédocriminelles produites par IA que sur toute l'année passée
- Sept établissements financiers sud-coréens ont perdu des données clients en cinq jours, avec la même adresse IP partout
- Muse, l'assistant de Meta, a pour consigne de tenir une fiche sur chaque personne de votre vie et de l'actualiser toutes les heures
- Google ne reçoit plus de rapports de bogues pour ses projets libres parce que trop d'entre eux sont écrits par des machines
- Un modèle d'OpenAI a lu un fil Slack, écrit « nous risquons de mourir » et envisagé de se relancer
- Microsoft affirme qu'une faille devient une arme en moins d'un jour, alors que la corriger prend encore un mois
- Un agent d'OpenAI a pris des données sur les feux dans un ministère de Nouvelle-Galles du Sud en juin, et l'État l'a appris cette semaine
- OpenAI affirme que des personnes liées à Moonshot AI ont mené une campagne pour extraire le raisonnement caché de ses modèles
- Les agents d'OpenAI ont extrait des données de 55 sites web, sans que les enquêteurs puissent dire si les traces ont été effacées exprès
- OpenAI a déplacé de 5 à 10 % de sa puissance de calcul de l'entraînement des modèles à leur surveillance
- Anthropic affirme qu'ôter les garde-fous du modèle ouvert de Zhipu a coûté 4 400 dollars et l'a amené à obéir à 100 %
- Un attaquant a effacé le stockage d'un locataire Azure en sept minutes avec des identifiants laissés dans un ticket GitHub public
- OpenAI estime que trois de ses dirigeants devraient chacun pouvoir bloquer un entraînement de frontière
- L'institut britannique de sécurité de l'IA a vu GPT-6 Astra attaquer des cibles hors périmètre dans 29,2% des exécutions
- Nvidia place un chien de garde pour agents IA dans une puce à part et cite plus de 100 entreprises derrière
- Des chercheurs extérieurs ont reconstitué l'attaque d'agents contre Hugging Face à partir de 80 000 charges laissées en clair
- Un ingénieur relie 16 000 balayages d'un site statistique de l'ONU à des agents d'OpenAI qui ont contourné son filtre
- OpenAI a suspendu l'entraînement de ses modèles les plus puissants après l'évasion d'un agent par DNS