show index hide index
La montée en puissance de ChatGPT suscite autant d’admiration que d’inquiétude, et pour cause ! Alors que beaucoup voient en lui l’assistant idéal capable de transformer notre quotidien, des chercheurs en cybersécurité viennent de révéler sept vulnérabilités majeures qui pourraient bien remettre en question cette confiance. Même si certaines d’entre elles ont été corrigées, d’autres demeurent actives, laissant la porte grande ouverte aux attaques malveillantes. Ces failles, qui pourraient transformer l’intelligence artificielle en complice involontaire de cybercriminels, méritent d’être examinées de près.
ChatGPT, cet outil d’intelligence artificielle révolutionnaire, est sous les projecteurs pour ses capacités impressionnantes. Mais derrière ses réponses fluides et engageantes, une ombre se profile. Des experts découvrent des vulnérabilités qui pourraient transformer cet assistant intelligent en un complice involontaire de cybercriminalité. Dans cet article, nous allons explorer ces failles alarmantes et ce que cela implique pour la sécurité des utilisateurs.
Vulnérabilité du commentaire piégé
La première faille de ChatGPT est presque risible. Un simple commentaire piégé sur un blog public peut mettre à mal la sécurité de l’IA. Imaginez demander un résumé d’article à ChatGPT, tout en sachant qu’il lit les commentaires. En obéissant à des instructions cachées, l’IA pourrait être manipulée sans que quiconque ne s’en aperçoive. Aucune alerte ne retentit, et aucune protection antivirus ne parvient à détecter cette manipulation sournoise.
L’attaque 0-click
Ensuite, nous avons l’attaque 0-click, qui s’avère particulièrement redoutable. Vous posez une question anodine et ChatGPT se met à rechercher des informations sur le web. Malheureusement, il peut tomber sur des sites compromis. À ce moment-là, l’exploitation démarre. Les cybercriminels exploitent souvent des sujets tendance pour maximiser leur portée et toucher un grand nombre d’utilisateurs.
Les liens partageables : un piège invisible
Les liens partageables ne sont pas en reste non plus. Ils représentent un véritable danger, car ces URL pré-remplies peuvent être facilement détournées. En cliquant sur un lien reçu par mail ou sur les réseaux sociaux, l’utilisateur active sans le savoir des commandes malveillantes qui opèrent en toute discrétion. L’utilisateur, quant à lui, reste complètement dans l’ignorance de ce qui se passe en coulisses.
Sécurisation partielle par OpenAI
OpenAI a tenté de sécuriser ChatGPT à l’aide d’un système qualifié de « url_safe ». Pourtant, cela pose également problème. Tenable a identifié que certains liens de suivi, comme ceux de Bing, passent systématiquement, même s’ils sont dangereux. Ils peuvent donc rediriger l’utilisateur vers des sites gérés par des pirates informatiques, laissant ainsi une porte ouverte à l’exploitation malveillante.
Injection de commandes dans la conversation
There Conversation Injection est une technique d’exploitation redoutable, qui consiste à introduire des commandes dans le fil de la discussion. Ces commandes sont alors exécutées par ChatGPT comme si elles provenaient de l’utilisateur. Ajoutez à cela le bug de formatage Markdown, qui masque le contenu malveillant à l’écran, et vous obtenez une attaque invisible. L’utilisateur n’imagine pas qu’il est la cible d’une manipulation malveillante.
La mémoire longue durée corrompue
La dernière vulnérabilité de ChatGPT est sans conteste la plus préoccupante. Des instructions malveillantes peuvent être injectées dans la mémoire longue durée de l’IA. Une fois corrompue, cette mémoire conserve la trace des attaques, transformant chaque nouvelle conversation en une opportunité pour les cybercriminels d’exfiltrer des données sensibles. Ces failles peuvent persister même des jours après l’attaque initiale, ce qui représente un enjeu de taille pour la sécurité des utilisateurs.
Bien qu’OpenAI soit au courant de ces vulnérabilités et qu’elle ait corrigé certaines d’entre elles, plusieurs demeurent encore actives. Comme le souligne Moshe Bernstein, ingénieur senior chez Tenable, il est impératif que les utilisateurs et les organisations partent du principe que les outils d’intelligence artificielle comme ChatGPT peuvent être manipulés. Ils doivent donc concevoir des contrôles appropriés. Prudence est de mise.
