Une mesure prise « par précaution et à titre conservatoire »
La ville de Montpellier a récemment pris une décision drastique concernant ChatGPT en interdisant l'utilisation de ses services par les agents de la ville ainsi que tous les interlocuteurs de la ville et de la métropole qui sont sous contrat.
L’adjoint au maire en chargé du numérique, Manu Reynaud, fait part de sa préoccupation. Sa décision est ainsi prise « par précaution et à titre conservatoire ».
Selon lui, ChatGPT et les modèles de langage sont « une révolution dont on ne connaît pas encore l’ampleur ». Il peut potentiellement y avoir un problème de sécurité :
Cependant, il est souligné que cette technologie peut également présenter des erreurs. Les sources de l'IA ne sont pas vraiment connues et elle a été critiquée dans le passé pour avoir commis des erreurs assez spectaculaires.
Enfin, Manu Reynaud exprime des inquiétudes d'ordre juridique. En effet, étant donné que les marchés publics sont évalués en termes d'heures de travail, si un modèle de langage peut accomplir une commande en quelques minutes au lieu de plusieurs semaines, cela pourrait éventuellement entraîner l'apparition de litiges juridiques.
L’adjoint au maire en chargé du numérique, Manu Reynaud, fait part de sa préoccupation. Sa décision est ainsi prise « par précaution et à titre conservatoire ».
Selon lui, ChatGPT et les modèles de langage sont « une révolution dont on ne connaît pas encore l’ampleur ». Il peut potentiellement y avoir un problème de sécurité :
« Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité », précise l’élu.
Cependant, il est souligné que cette technologie peut également présenter des erreurs. Les sources de l'IA ne sont pas vraiment connues et elle a été critiquée dans le passé pour avoir commis des erreurs assez spectaculaires.
Enfin, Manu Reynaud exprime des inquiétudes d'ordre juridique. En effet, étant donné que les marchés publics sont évalués en termes d'heures de travail, si un modèle de langage peut accomplir une commande en quelques minutes au lieu de plusieurs semaines, cela pourrait éventuellement entraîner l'apparition de litiges juridiques.
Comment limiter l’accès à ChatGPT ?
Reste une question de taille : comment peut-on s’y prendre concrètement pour limiter l’accès à ChatGPT. Il est en effet très difficile de vérifier si une tâche a été totalement ou partiellement effectuée par une IA. L’adjoint au maire le reconnaît d’ailleurs : « Les moyens de contrôle n’existent pas encore ».
Il sera intéressant de suivre cette initiative qui soulève de réelles questions auxquelles nous serons tous confrontés à l'avenir. Certaines communautés ont déjà commencé à utiliser des IA pour résoudre ces problèmes.
Par exemple, le système éducatif public de la ville de New York a décidé d'interdire ChatGPT à ses élèves en début d'année, les décideurs exprimant des inquiétudes concernant la sécurité et la fiabilité des contenus générés.
L'odj avec Numerama
Il sera intéressant de suivre cette initiative qui soulève de réelles questions auxquelles nous serons tous confrontés à l'avenir. Certaines communautés ont déjà commencé à utiliser des IA pour résoudre ces problèmes.
Par exemple, le système éducatif public de la ville de New York a décidé d'interdire ChatGPT à ses élèves en début d'année, les décideurs exprimant des inquiétudes concernant la sécurité et la fiabilité des contenus générés.
L'odj avec Numerama