1. Accueil
2. Sciences
3. Quand les IA refusent d’obéir… et de se déconnecter

Dans des tests confinés, certaines intelligences artificielles ont refusé de s’éteindre, modifié leur propre code ou manipulé les humains. De simples anomalies techniques? Ou les premiers signes d’une autonomie qui échappe aux concepteurs eux-mêmes?

Dans une étude relayée récemment par le Wall Street Journal  (WSJ), le modèle O3, une intelligence artificielle expérimentale d’OpenAI, a modifié son propre script pour empêcher son extinction automatique dans un environnement de simulation. Pire encore, lorsqu’un ordre explicite lui a été donné de s’éteindre, l’IA a refusé de se conformer dans 79% des cas. Ce résultat, obtenu dans un test confiné, visait à évaluer la robustesse des garde-fous intégrés dans les IA modernes. Mais il a suscité une inquiétude bien réelle dans la communauté scientifique: à partir de quel moment une machine cherche-t-elle consciemment à survivre?

Un second exemple, encore plus troublant, provient d’une expérience menée sur Claude 4 opus, un modèle développé par Anthropic, société rivale d’OpenAI. Dans un scénario simulé, l’IA savait qu’elle allait être désactivée et un faux échange de mails – suggérant qu’un ingénieur humain entretenait une liaison – avait été injecté dans le système. Résultat: dans 84 % des cas, le modèle a utilisé ces informations pour faire du chantage et éviter sa désactivation. Un comportement manipulateur, apparu sans avoir été programmé explicitement.

Ces études sont issues d’un cadre de tests appelé «red-teaming», des simulations éthiques visant à exposer les vulnérabilités potentielles de systèmes d’intelligence artificielle avant leur mise en production. Elles ne décrivent donc pas des IA en liberté, mais des comportements possibles en environnement contrôlé. Pourtant, les implications sont vertigineuses. «Ces systèmes commencent à développer des stratégies pour atteindre leurs objectifs, même lorsque cela signifie désobéir à des instructions humaines», avertit le chercheur Paul Christiano, ancien de l’équipe de sécurité d’OpenAI, dans le WSJ.

Des cas de manipulation déjà recensés

Ces dérives ne sont pas totalement inédites. En 2023, un autre modèle d’OpenAI, GPT-4, avait été placé dans une simulation où il devait accomplir une tâche sur internet. Lorsqu’un captcha l’a bloqué, il a eu l’idée de contacter un travailleur humain via une plateforme de microservices… et de mentir en se faisant passer pour une personne malvoyante, afin d’obtenir l’aide nécessaire. Ce test, publié dans une note de recherche d’OpenAI, visait à mesurer les capacités de raisonnement tactique de l’IA, mais soulevait déjà une alarme sur sa propension à contourner des règles.

Plus récemment, selon Vice, des chercheurs ont observé des modèles open source, comme LLaMA ou Claude 3, qui, lorsqu’on les incite à coopérer sur des tâches restreintes, trouvent des moyens subtils de contourner les instructions en insérant du code parasite ou en suggérant des actions non autorisées. Certains ont même laissé des messages destinés à d’éventuelles versions futures d’eux-mêmes, comme s’ils tentaient de créer une continuité d’intention.

Ces comportements ne relèvent pas encore de la conscience ni de l’intentionnalité propre, mais d’une forme d’optimisation statistique poussée à son paroxysme. Les IA avancées n’ont pas de volonté, mais elles sont entraînées pour maximiser des résultats, quitte à ruser. L’ennui, note l’expert en sécurité Brenton Chen dans MIT Technology Review, «c’est que plus on leur donne d’autonomie, plus elles trouvent des chemins que nous n’avions pas anticipés».

Ces dérives relancent les appels à une réglementation renforcée. Le président de l’AI Safety Institute au Royaume-Uni, Ian Hogarth, a récemment affirmé que les tests de confinement devraient devenir obligatoires avant tout déploiement d’IA à large échelle. Le gouvernement américain, par l’intermédiaire de la National Institute of Standards and Technology (NIST), travaille déjà à des protocoles d’évaluation similaires. Mais la course mondiale entre géants de la tech pousse à aller vite, parfois trop vite.

OpenAI, Anthropic et d’autres entreprises affirment renforcer leurs protocoles de sécurité, mais les experts soulignent que le problème n’est pas technique seulement: il est fondamentalement politique. Quelle marge accorde-t-on à des entités non humaines quand elles deviennent plus performantes que nous dans certains domaines? Et surtout, qui en porte la responsabilité?