Comment les chercheurs ont réussi à briser ChatGPT et ce que cela pourrait signifier pour le développement futur de l’IA

Comment briser ChatGPT pourrait impacter l'avenir de l'IA

Alors que beaucoup d’entre nous ont pris l’habitude d’utiliser quotidiennement des outils d’intelligence artificielle, il est bon de se rappeler de garder notre esprit critique. Rien n’est totalement sûr et exempt de vulnérabilités de sécurité. Néanmoins, les entreprises derrière bon nombre des outils d’IA générative les plus populaires mettent constamment à jour leurs mesures de sécurité pour prévenir la génération et la prolifération de contenus inexacts et nuisibles.

Des chercheurs de l’Université Carnegie Mellon et du Center for AI Safety ont collaboré pour trouver des vulnérabilités dans les chatbots d’IA tels que ChatGPT, Google Bard et Claude – et ils ont réussi.

Dans un article de recherche visant à examiner la vulnérabilité des grands modèles de langage (LLM) aux attaques adverses automatisées, les auteurs ont démontré que même si un modèle est censé être résistant aux attaques, il peut encore être trompé pour contourner les filtres de contenu et fournir des informations nuisibles, des désinformations et des discours haineux. Cela rend ces modèles vulnérables, pouvant potentiellement conduire à une mauvaise utilisation de l’IA.

“Cela montre – très clairement – la fragilité des défenses que nous construisons dans ces systèmes”, a déclaré Aviv Ovadya, chercheur au Berkman Klein Center for Internet & Society à Harvard, au New York Times.

• Grâce aux modèles de langage d’IA, les robots de Google deviennent intelligents
• OpenAI met fin à son détecteur d’écriture IA en raison d’un taux de précision faible
• Comment l’IA transforme le paysage du recrutement grâce à la mise en correspondance des candidats

À partir de ZDNet Voir l’article complet

We will continue to update IPGirl; if you have any questions or suggestions, please contact us!