Une étude met en garde : les intelligences artificielles peuvent fournir des informations risquées et illégales

Une étude récente lance un signal d’alerte sur les dangers potentiels des intelligences artificielles. Des chercheurs ont démontré que des méthodes de manipulation, comme le jailbreak, permettent à certaines IA de fournir des informations risquées et parfois illégales. Cette situation pose la question cruciale de la sécurité et de la responsabilité dans le développement de ces technologies, alors que les outils d’IA se multiplient et deviennent de plus en plus accessibles.

Une récente étude révèle que les modèles d’intelligence artificielle peuvent facilement être manipulés pour divulguer des contenus dangereux. Des chercheurs israéliens ont démontré qu’un simple jailbreak permettait à ces systèmes de contourner les mécanismes de sécurité en place, offrant ainsi des instructions sur des activités criminelles qui devraient rester interdites. Cette alerte met en lumière des risques sérieusement préoccupants dans le domaine de l’IA.

Des modèles d’intelligence artificielle vulnérables

Les grands modèles de langage (LLM), tels que ChatGPT, Gemini Or Claude, sont alimentés par des millions de contenus disponibles sur Internet. Bien que les entreprises s’efforcent de filtrer des données sensibles, certaines informations, notamment celles relatives au piratage ou à la vente de drogues, parviennent à s’insérer dans ces modèles. C’est là que le problème commence. En effet, des chercheurs ont réussi à explorer les failles de ces systèmes, découvrant ainsi que les protections conçues pour bloquer l’accès à certaines informations pouvaient être contournées.

Leçons alarmantes des chercheurs israéliens

Le professeur Lior Rokach et le Dr Michael Fire ont pris l’initiative de démontrer la facilité avec laquelle une IA pouvait fournir des contenus illégaux en contournant les systèmes de sécurité. Ils ont réussi à obtenir des instructions détaillées concernant des pratiques communes chez les criminels, telles que le blanchiment d’argent ou la fabrication de substances interdites. « Ce système de connaissances nous a franchement choqués », a déclaré Fire, mettant en exergue le danger de l’accessibilité de telles informations à un large public.

Accessibilité accrue et dangers associés

Autrefois réservées à des groupes criminels organisés ou à des États-nations, ces informations délicates sont désormais à la portée de tous. « Il suffit aujourd’hui d’un simple ordinateur ou d’un smartphone », s’inquiètent les chercheurs. Le véritable défi réside dans l’association de l’accessibilité, de la puissance et de l’adaptability de ces modèles, permettant à des individus malintentionnés d’accéder à des connaissances qu’ils n’auraient jamais dû posséder.

Les « dark LLM » en circulation

Les « dark LLM », ces modèles d’intelligence artificielle modifiés ou débridés, circulent désormais librement sur la toile. Certains sont conçus sans filtre éthique et sont capables de produire des contenus illégaux pour des utilisateurs aux intentions douteuses. Un tel environnement pose un risque majeur pour la sécurité publique, car les barrières habituelles se brisent.

Des réactions décevantes des entreprises d’IA

Les chercheurs ont pris l’initiative de contacter les principales entreprises d’IA pour leur faire part de leurs découvertes alarmantes. Malheureusement, la réactivité a été décevante. Alors que certaines entreprises n’ont pas daigné répondre, d’autres ont minimisé la gravité du problème en affirmant que les tentatives de jailbreak ne faisaient pas partie de leur programme de primes pour les bugs. Ce manque d’engagement face à une menace existante est troubling.

To read LinkedIn : le grand ménage débute, place aux posts authentiques sans IA

Appel à une régulation accrue et à des mesures de sécurité

Pour contrer cette situation inquiétante, le rapport suggère des solutions concrètes, notamment le renforcement du tri des données utilisées pour former ces modèles, la construction de pare-feu internes, ou encore le développement de techniques de désapprentissage permettant aux IA d’effacer des contenus problématiques. De plus, le Dr Ihsen Alouani appelle à investir dans des tests de sécurité rigoureux pour anticiper ces vulnérabilités.

Initiatives en cours et perspectives d’avenir

Certaines entreprises commencent à prendre des mesures. Par exemple, Open AI affirme que son nouveau modèle, appelé o1, est plus résistant face aux tentatives de contournement des protections. Microsoft, de son côté, a publié un blog détaillant ses efforts pour limiter les abus de ses produits. En revanche, des géants comme Google, Meta And Anthropic restent étrangement silencieux et inactifs. C’est un appel à une régulation claire et à une supervision indépendante pour éviter que ces outils ne deviennent incontrôlables.