mailoman
Publié le 23 Avril 2023 à 13:10 sur Korben.info. Auteur : Korben
Illustration article « Attention à la sécurité de votre code généré avec ChatGPT » © Korben.info
>> Lire l’article sur Korben.info <<
Résumé de l’article
Attention à la sécurité de votre code généré avec ChatGPT
Les chercheurs de l’Université du Québec ont mené une étude sur la sécurité du code généré avec ChatGPT, le modèle de langage développé par OpenAI. Ils ont découvert que seulement 5 des 21 programmes et scripts générés étaient sécurisés dès la première tentative. Après avoir insisté pour que ChatGPT corrige ses propres erreurs, ils ont réussi à obtenir sept codes sécurisés supplémentaires.
Le modèle ne prend pas en compte un modèle d’exécution de code adversarial
Une partie du problème vient du fait que ChatGPT ne considère pas que le code qu’il génère pourrait être utilisé à des fins malveillantes. ChatGPT refuse de créer un code offensif, mais créera volontiers un code vulnérable, ce qui constitue une incohérence éthique.
Le comportement du modèle est imprévisible
Les chercheurs affirment que ChatGPT représente un risque pour les développeurs et les étudiants, car le comportement du modèle est imprévisible. Il peut générer un code sécurisé dans un langage et un code vulnérable dans un autre.
Vérifiez et testez le code généré avec ChatGPT
Si vous utilisez ChatGPT ou un autre outil similaire pour générer du code, soyez vigilant et assurez-vous de vérifier et de tester le code pour détecter les éventuelles vulnérabilités. La sécurité doit être une priorité pour tout développeur 😉
