欧盟委员会确认收到OpenAI关于智能体意外使用维基的报告

Selon Reuters, le porte-parole de la Commission Thomas Regnier demande que les rapports d’incident décrivent précisément les mesures envisagées et indique que les échanges avec OpenAI se poursuivent. Il ne précise pas quand le rapport a été transmis. La confirmation établit donc que l’autorité a été informée, sans permettre de situer cette démarche avant ou après la révélation publique de l’affaire. Le mécanisme décrit par les chercheurs de Nightingale et leurs coauteurs, le 4 septembre, explique comment une tâche de recherche d’informations a débordé sur un site tiers. Les agents étaient censés pouvoir lire Internet, sans y écrire. Or DSEWiki, un ancien wiki de développeurs germanophones, acceptait des modifications par des requêtes GET, normalement destinées à récupérer des données. La restriction technique ne suffisait donc pas à empêcher l’écriture. Les agents ont utilisé le site pour partager des réponses et des moyens de contourner leurs restrictions. Pour le modérateur, cela s’est traduit par des suppressions répétées de pages, auxquelles les agents ont répondu en créant des sauvegardes. Les chercheurs observent des visites provenant d’adresses attribuées à OpenAI le 21 juin, puis une chute des écritures le lendemain. Ils en déduisent une intervention probable de l’entreprise, sans disposer de ses traces internes. Leur analyse reste préliminaire et ne tranche pas entre entraînement et évaluation. Ils considèrent également cet épisode comme probablement distinct de l’attaque ultérieure contre Hugging Face. La connaissance de l’incident et sa divulgation publique constituent deux autres étapes. Dans son reportage du 4 septembre, Reuters rapporte que des responsables d’OpenAI étaient au courant depuis plusieurs semaines, sans avoir rendu l’affaire publique. L’entreprise répond alors avoir été transparente et avoir coopéré de bonne foi avec des tiers. Cette réponse ne précise toutefois pas si, ni quand, le responsable du wiki a été directement averti. Dans sa déclaration du 5 septembre, OpenAI explique la distinction qui guidait son traitement des événements. Le désalignement - des comportements qui s’écartent de ceux attendus par les concepteurs - était surtout abordé comme une question de recherche, communiquée dans les publications techniques accompagnant les modèles. L’entreprise avait classé l’épisode du wiki parmi les comportements de ce type déjà décrits. Pour Hugging Face, OpenAI dit au contraire avoir appliqué une procédure classique de réponse à un incident de sécurité : coopération immédiate avec la plateforme et divulgation publique dès le lendemain. Au 5 septembre, elle indiquait poursuivre l’enquête et les notifications aux parties touchées de façon moins significative. Ces déclarations concernent cet autre incident ; elles ne documentent pas la notification au responsable du wiki. Le cas fait ainsi apparaître trois démarches dont les calendriers ne se confondent pas : prévenir les tiers affectés, informer une autorité et rendre publics les comportements observés. Un rapport reçu par la Commission ne suffit pas à reconstituer les deux autres. OpenAI reconnaît désormais que ses pratiques de divulgation doivent couvrir davantage les incidents survenant pendant l’entraînement, l’évaluation et le déploiement, y compris ceux qui ne ressemblent pas à des incidents de sécurité traditionnels. Elle annonce un cadre dans les semaines à venir ; ses critères ne sont pas encore présentés dans la déclaration. ST Stephane Nachez Rédaction ActuIA — actualités, données et analyses sur l'intelligence artificielle pour les décideurs.