Retour à l’envoyeur: OpenAI, la start-up qui a créé le ChatGPT, un logiciel à succès capable de générer aussi bien des articles que des poèmes ou des rédactions, ne parvient pas … à lancer un programme capable de détecter si un texte a été rédigé par son application.

Ironie du sort: OpenAI peine à identifier les textes écrits par une intelligence artificielle. La start-up a lancé mardi un nouvel outil en accès libre, pour aider les humains à faire la distinction entre les textes produits avec un logiciel à base d’intelligence artificielle (IA), à l’instar de ChatGPT, et ceux écrits par des personnes.

Il doit permettre de repérer, par exemple, si des dissertations ont été rédigées par un programme informatique et non par un étudiant ou encore si on s’adresse à un humain ou à un " chatbot " (robot conversationnel) dans une messagerie en ligne.

Arnaques

Mais il est pour l’instant " impossible de détecter de façon fiable tous les textes écrits avec de l’IA ", prévient d’emblée OpenAI dans son communiqué. D’après sa propre évaluation, le nouveau logiciel identifie correctement 26% de tous les textes rédigés par des algorithmes comme " probablement écrits avec de l’IA ".

Au-delà de l’ironie de cette situation, les enjeux sont importants. Beaucoup d’experts craignent que des technologies d’IA générative, comme celle de ChatGPT, servent notamment à automatiser la création à grande échelle d’arnaques ou de campagnes de désinformation ultra crédibles.

Fiabilité douteuse

Des outils similaires ont déjà été créés avec des degrés variables de fiabilité, comme GPTZero, développé par Edward Tian, un étudiant de l’université américaine Princeton. OpenAI, une start-up cofondée en 2015 à San Francisco par Elon Musk (le patron de Tesla a quitté l’entreprise en 2018) a lancé ChatGPT en novembre dernier.

La plateforme, facile à utiliser, se présente comme un chatbot et produit des textes bluffants sur simple requête. Elle connaît depuis un succès foudroyant, relayé par une hyper médiatisation. L’entreprise, qui n’était jusque-là connue que dans des milieux restreints, a reçu 1 milliard de dollars de Microsoft en 2019 et vient de passer un nouvel accord avec le géant informatique de plusieurs milliards.

Maxime Pluvinet avec AFP