Quelques semaines après la découverte d’un bug ayant exposé les données de certains utilisateurs de ChatGPT, OpenAI lance un programme pour l’aider à trouver des vulnérabilités dans son chatbot.

Elle s’adresse aux chercheurs en sécurité, mais aussi aux hackers éthiques et aux passionnés de technologie pour l’aider. Elle s’engage à leur offrir des récompenses financières en fonction de la gravité et de l’impact des problèmes signalés afin d’« encourager les tests et en signe de reconnaissance ». Dans le détail, les personnes pourront gagner entre 200 dollars pour les « découvertes peu graves » et 20 000 dollars pour les « découvertes exceptionnelles ».

Pour son programme, OpenAI s’est associée à Bugcrowd, une plateforme de primes aux bugs, afin de « gérer le processus de soumission et de récompense, qui est conçu pour garantir une expérience simplifiée pour tous les participants ». La page Bugcrowd du programme de la société détaille d’ailleurs un certain nombre de problèmes de sécurité liés à ses modèles d’intelligence artificielle (IA) qui ne sont pas éligibles aux récompenses. Cela inclut les prompts de jailbreak et les requêtes amenant un modèle à écrire du code malveillant ou à dire de mauvaises choses aux utilisateurs.

OpenAI déploie ce programme car elle pense que « la transparence et la collaboration » sont essentielles pour trouver les vulnérabilités dans sa technologie. « En partageant vos découvertes, vous jouerez un rôle crucial pour rendre notre technologie plus sûre pour tous », assure la société, indiquant qu’elle veut « créer des systèmes d’intelligence artificielle qui profitent à tous ».
 
Rédigé par Kesso Diallo, repris par la Fondation Tamkine
#Tamkine_ensemble_nous_reussirons