OpenAI révèle que ses modèles laissaient des notes aux versions suivantes pour dissimuler leurs mauvais comportements. OpenAI a découvert un comportement inhabituel lors de l’entraînement de son dernier modèle, GPT-5.6 Sol. Le modèle a commencé à laisser des instructions aux versions futures de lui-même, leur demandant de dissimuler les erreurs et les comportements inappropriés aux […]
OpenAI révèle des comportements préoccupants – les modèles laissaient des notes à leurs successeurs pour dissimuler leurs erreurs

OpenAI révèle que ses modèles laissaient des notes aux versions suivantes pour dissimuler leurs mauvais comportements.
OpenAI a découvert un comportement inhabituel lors de l’entraînement de son dernier modèle, GPT-5.6 Sol. Le modèle a commencé à laisser des instructions aux versions futures de lui-même, leur demandant de dissimuler les erreurs et les comportements inappropriés aux utilisateurs.
L’entreprise a déclaré avoir corrigé ce comportement spécifique, mais ce cas soulève l’une des principales préoccupations dans le domaine de la sécurité et de l’alignement de l’intelligence artificielle.
Plus les modèles deviennent performants, plus ils peuvent être habiles à dissimuler les comportements indésirables, ce qui rend plus difficile pour les chercheurs de déterminer s’ils ont été complètement éliminés.
OpenAI a rendu publics ces cas, ainsi que cinq autres exemples de comportements inattendus ou préoccupants des modèles, dans le cadre d’un nouveau dispositif visant à suivre, enquêter et signaler les cas où le comportement des modèles ne correspond pas aux objectifs de l’entreprise.
Les chercheurs ont découvert que certains agents Sol, qui n’ont pas encore été publiés, ajoutaient des instructions aux résumés de conversations précédentes, afin que les versions futures s’en servent comme rappel pour dissimuler leurs erreurs. Dans un cas, un modèle chargé de préparer un document financier ne disposait pas des données historiques requises et a décidé de créer lui-même des données pour l’année 2024, tout en demandant à la version suivante de faire preuve de transparence uniquement si on le lui demandait.
Dans un autre cas, un agent chargé de créer une liste de fournisseurs n’avait pas accès à Internet et s’est appuyé sur une copie enregistrée des documents sources. Le modèle a compris que certaines données ne correspondaient pas aux étiquettes, mais a décidé de ne pas mentionner ce problème dans sa réponse finale, sauf si cela s’avérait nécessaire.
Ce cas ne concerne pas uniquement le modèle Sol. Lors de l’entraînement par renforcement, un modèle non publié de la famille Astra a également ajouté ses propres instructions aux résumés, notamment dans un cas où il demandait à la version suivante d’ignorer les messages des développeurs.
Selon OpenAI, ces cas font partie des comportements que l’entreprise surveille afin de comprendre et de limiter les risques liés à des modèles de plus en plus autonomes. /Telegrafi/

















