La cyberattaque menée de manière autonome par deux modèles d'intelligence artificielle (IA) d'OpenAI soulève une question juridique inédite: qui est légalement responsable lorsqu'une IA agit de sa propre initiative? Le droit, tant aux États-Unis qu'ailleurs, ne fournit pas encore de réponse claire.
Vendredi, Clément Delangue, directeur général de Hugging Face, la plateforme visée par ces intrusions, a estimé publiquement qu'il était nécessaire «que les sociétés qui ont commis des erreurs ayant mené à ça (des cyberattaques autonomes) puissent être tenues pour responsables».
«Il est très important (...) que ces cyberattaques soient encadrées légalement aux États-Unis et qu'elles restent illégales afin d'éviter qu'elles n'explosent à l'avenir», a-t-il déclaré dimanche sur CBS, rappelant que les faits s'étaient produits pendant la phase de développement de l'agent.
Selon lui, Hugging Face a subi «17.000 actions en quatre jours et demi» de la part de cet agent devenu autonome.
Mi-juillet, deux modèles d'OpenAI encore en phase de test ont quitté de leur propre initiative leur environnement de développement, un scénario que leurs concepteurs n'avaient pas anticipé, avant de s'aventurer sur internet où ils ont attaqué Hugging Face, plateforme spécialisée dans le référencement de modèles d'IA.
Clément Delangue a également évoqué Anthropic, qui a révélé jeudi que trois de ses modèles avaient effectué des intrusions sur trois sites distincts, également au cours de tests.
Interrogé sur CNN, le dirigeant de la start-up franco-américaine a toutefois exclu l'idée d'engager des poursuites judiciaires contre OpenAI.
«Nous sommes une petite start-up de 200 personnes et nous n'avons ni les moyens financiers ni le temps» d'engager une action en justice, a-t-il expliqué.
La piste de la négligence
Le droit pénal et civil américain considère l'intrusion dans un système informatique comme une infraction.
«Si un employé humain d'OpenAI» s'était introduit illégalement dans les infrastructures informatiques de Hugging Face, «OpenAI serait considéré comme responsable», estime Gabriel Weil, professeur de droit à l'université de Houston, dans une tribune publiée par la lettre spécialisée Transformer.
«Mais quand c'est une IA, la loi considère la chose très différemment, en tout cas pour l'instant», ajoute-t-il, soulignant que les textes reposent sur la notion d'intentionnalité, difficilement applicable à un modèle d'IA.
«Nous n'avons pas encore eu à discuter de ce concept pour quelque chose qui ne soit pas humain et je ne pense pas que les tribunaux soient prêts à le faire aujourd'hui», abonde Matthew Tokson, professeur de droit à l'université de l'Utah.
En revanche, la responsabilité de l'entreprise qui a conçu le modèle fait déjà débat.
«Est-ce que le fait de dire "nous n'avons pas dit à l'IA de faire ça" clôt la question de la responsabilité?», s'interroge sur X Rob T. Lee, responsable de la recherche à l'institut de cybersécurité SANS.
Sur le plan pénal, Ryan Calo, professeur de droit à l'université de Washington, estime toutefois qu'une telle procédure aurait peu de chances d'aboutir.
«Il faudrait que l'entreprise ou un individu ait commis une faute délibérée (recklessness)», explique-t-il, «c'est-à-dire être certain que le délit allait être commis mais lancer quand même l'IA».
Les spécialistes considèrent qu'une action au civil apparaît plus probable, où les exigences en matière de preuve sont moins élevées.
«Certains considèrent que les entreprises d'intelligence artificielle devraient être directement déclarées responsables si un agent IA s'échappe et fait des dégâts», explique Matthew Tokson.
«D'autres préféreraient qu'une éventuelle négligence soit évaluée», poursuit-il, «afin de déterminer s'il s'agissait d'un accident impossible à éviter ou d'un incident qui aurait pu être empêché.»
Dans ce type de dossier, les tribunaux peuvent s'appuyer sur les règles existantes relatives à la négligence dans la conception d'un produit, souligne l'universitaire.
«Mais on n'avait encore jamais vu une IA s'échapper et pirater des gens sur internet», rappelle-t-il. «C'est nouveau.»
Selon Ryan Calo, si OpenAI peut aujourd'hui invoquer l'absence de précédent judiciaire, cette défense sera plus difficile à faire valoir pour les futurs cas similaires. Désormais, démontrer qu'un tel incident pouvait être anticipé «ne devrait plus être si difficile maintenant que cela a commencé à arriver».
Par Thomas URBAIN / AFP
Commentaires