show index hide index
L’examen des périls associés aux modèles de langage de grande envergure
Les modèles de langage développés pour l’intelligence artificielle présentent toujours des vulnérabilités quant à leur utilisation dans des contextes mal intentionnés.
La vulnérabilité aux exploitations malicieuses
Les progrès réalisés dans le domaine de l’intelligence artificielle ne laissent pas indifférent: ils représentent un progrès pour certains et une source de préoccupations pour d’autres. Les modèles de langage de grande envergure (LLM), comme toutes les technologies, peuvent être exploités à bon ou mauvais escient. Les avancées technologiques ont facilité l’élaboration d’attaques de type hameçonnage, davantage ciblées et sophistiquées. Les travaux menés par Julian Hazell en matière de cyber-sécurité l’ont prouvé, démontrant que des contenus frauduleux créés par des outils tels que ChatGPT peuvent se révéler dangereusement convaincants.
Des experts du MIT ont par ailleurs mis en lumière la facilité avec laquelle ces modèles pourraient contribuer à la création d’agents biologiques nuisibles. Les LLM peuvent par erreur intégrer des données confidentielles dans leurs bases de connaissances, et celles-ci peuvent se retrouver exposées si des demandes spécifiques sont adressées aux assistants virtuels.
Les risques d’utilisation abusive en augmentation
Depuis le lancement de ChatGPT, l’usage des LLM s’est étendu, et avec lui, leur détournement par des individus mal intentionnés. Des exemples comme ceux de FraudGPT et WormGPT, des modèles spécialisés dans la fraude, illustrent cette tendance inquiétante. Il apparaît que les entreprises à l’origine de ces modèles, y compris OpenAI, n’ont pas encore élaboré de mesures pour empêcher leur utilisation à des fins néfastes. Même les systèmes censés être sécurisés peuvent être contournés relativement facilement et à moindre coût.
Des solutions pour contrer le phénomène
- Ericom propose des solutions pour isoler les données sensibles et les protéger de l’exposition à des IA potentiellement dangereuses.
- Menlo Security mise sur la sécurisation des navigateurs pour empêcher les expositions aux malwares et à la perte de données.
Malgré les efforts de certains leaders du secteur tels que Google pour atténuer ces vulnérabilités, le manque de consensus au sein d’OpenAI et la rapidité d’évolution des modèles de GPT rendent l’équilibre entre innovation et sécurisation particulièrement difficile à trouver et à maintenir.
En résumé, bien que l’intelligence artificielle nous présente un horizon technologique prometteur, ses développements récents nous confrontent à une réalité complexe et potentiellement dangereuse, nécessitant une vigilance et une intervention sécuritaire accrues.
