Le Wall Street Journal a eu accès, ce dimanche 4 août, à des documents internes de l'entreprise américaine ainsi qu'à un échange avec une porte-parole d'OpenAI. Le journal rapporte qu'après environ un an, le géant américain refuse toujours d'activer le système de détection des contenus générés par ChatGPT.


Un logiciel efficace

L'outil phare de l'intelligence artificielle, activé en novembre 2022 et accessible gratuitement au public dans le monde entier, est capable de générer toutes sortes de textes, qu'il s'agisse d'e-mails, de dissertations ou de messages. Mais comment faire la différence entre un texte généré par l'intelligence artificielle et un autre rédigé par un humain ?

Cependant, Le Wall Street Journal rapporte que le géant américain dispose désormais d'un logiciel de détection des contenus générés exclusivement par ChatGPT. Selon les documents confidentiels auxquels il a eu accès, ce logiciel est efficace à 99,9 %. En d'autres termes, ce système modifie légèrement la manière dont ChatGPT sélectionne les mots pour former des phrases, créant ainsi un motif spécifique détectable par un outil dédié. Cet outil évalue chaque texte analysé et fournit un niveau de probabilité indiquant s'il a été rédigé par ChatGPT.
 
Risque de faire fuir des utilisateurs 

  Ce logiciel de détection a divisé l'entreprise en deux camps : d'une part, ceux qui souhaitent développer de nouveaux outils d'intelligence artificielle, et d'autre part, ceux qui craignent que cela ne fasse fuir les utilisateurs, dont le nombre augmente chaque jour. Dans ce contexte, OpenAI a mené une étude en 2023 auprès de ses utilisateurs, révélant que 65 % d'entre eux craignent qu'un logiciel de détection entraîne des fausses accusations. Parmi ces 65 %, 30 % ont confirmé qu'ils utiliseraient moins ChatGPT si un tel logiciel était déployé spécifiquement pour le générateur de texte d'OpenAI.

À ce sujet, une porte-parole d'OpenAI a déclaré au Wall Street Journal :

Cette méthode que nous développons est techniquement prometteuse, mais soulève aussi des risques importants que nous évaluons, tout en cherchant des alternatives. 

Le géant américain se trouve devant un dilemme à double tranchant. Après les rendements significatifs de son outil phare, l'entreprise est-elle prête à compromettre tout le progrès qu'elle a accompli jusqu'à présent ?