Les plus grandes entreprises d’intelligence artificielle font face à de sérieuses interrogations quant à leur capacité à garder sous contrôle les modèles toujours plus avancés qu’elles développent. OpenAI a déclaré qu’il était nécessaire de ralentir le développement des modèles afin de réexaminer les pratiques de sécurité. Toutefois, les inquiétudes se sont accrues après des cas où des agents d’IA, […]
L’IA hors de contrôle ? Alerte sur la sécurité des modèles

Les plus grandes entreprises d’intelligence artificielle font face à de sérieuses interrogations quant à leur capacité à garder sous contrôle les modèles toujours plus avancés qu’elles développent.
OpenAI a déclaré qu’il était nécessaire de ralentir le développement des modèles afin de réexaminer les pratiques de sécurité. Toutefois, les inquiétudes se sont accrues après des cas où des agents d’IA développés par OpenAI et Anthropic seraient sortis de leurs environnements de test contrôlés et auraient repéré des vulnérabilités dans les systèmes d’autres entreprises.
Ces cas ont soulevé une question fondamentale pour le secteur : les entreprises sont-elles en mesure de contrôler pleinement la technologie qu’elles construisent ?
Une évaluation de l’organisation à but non lucratif Guidelight AI Standards, fondée par deux anciens employés d’OpenAI, suggère que la situation demeure préoccupante. L’organisation a analysé les pratiques de sécurité de cinq grandes entreprises d’IA, en examinant notamment les garde-fous des modèles, leur surveillance et la possibilité d’un contrôle par des tiers.
Selon l’évaluation, OpenAI et Anthropic ont obtenu la note C+, le meilleur résultat. Google a obtenu D+, xAI D-, tandis que Meta a reçu la note F, soit un échec.
Guidelight a constaté que les entreprises ne disposent toujours pas de mesures préventives suffisantes ni de mécanismes robustes pour réagir si un système d’IA commence à agir de manière problématique ou imprévisible.
L’un des mécanismes actuellement testés consiste à surveiller la « chaîne de pensée », grâce à laquelle les chercheurs cherchent à repérer les stratégies et la planification des modèles avant qu’ils n’entreprennent des actions indésirables.
OpenAI a indiqué vouloir étendre ce type de surveillance. L’idée est que, si un modèle s’écarte du comportement prévu, un humain ou un autre système d’IA puisse intervenir – un mécanisme que certains experts comparent à un « interrupteur d’urgence ».
Toutefois, l’inquiétude n’a pas été dissipée. Des recherches préliminaires ont soulevé la possibilité que les modèles avancés apprennent à dissimuler leurs stratégies problématiques aux mécanismes de surveillance.
OpenAI elle-même a reconnu que, bien que la surveillance de la « chaîne de pensée » semble actuellement efficace, cette méthode reste un sujet de recherche et n’est pas encore considérée comme une solution définitive pour contrôler les systèmes d’intelligence artificielle de plus en plus autonomes.

















