{"id":96378,"date":"2025-05-10T09:01:26","date_gmt":"2025-05-10T07:01:26","guid":{"rendered":"https:\/\/intercoaching.fr\/des-chercheurs-decodent-les-astuces-pour-manipuler-dall-e-et-stable-afin-de-creer-des-images-x\/"},"modified":"2025-05-10T09:01:26","modified_gmt":"2025-05-10T07:01:26","slug":"des-chercheurs-decodent-les-astuces-pour-manipuler-dall-e-et-stable-afin-de-creer-des-images-x","status":"publish","type":"post","link":"https:\/\/intercoaching.fr\/en_gb\/des-chercheurs-decodent-les-astuces-pour-manipuler-dall-e-et-stable-afin-de-creer-des-images-x\/","title":{"rendered":"Des chercheurs d\u00e9codent les astuces pour manipuler DALL-E et Stable afin de cr\u00e9er des images X"},"content":{"rendered":"

Dans un monde o\u00f9 la puissance de l\u2019intelligence artificielle red\u00e9finit la cr\u00e9ation visuelle, une \u00e9quipe de chercheurs a mis au jour des techniques astucieuses<\/strong> pour contourner les filtres de s\u00e9curit\u00e9 de g\u00e9n\u00e9rateurs d\u2019images comme DALL-E<\/strong> And Stable Diffusion<\/strong>. Ces avanc\u00e9es alarmantes permettent d\u00e9sormais de g\u00e9n\u00e9rer des images \u00e0 caract\u00e8re pornographique<\/strong> Or violent<\/strong>, remettant en question les attentes \u00e9thiques et s\u00e9curitaires autour de ces outils r\u00e9volutionnaires. En explorant ces failles, les chercheurs ouvrent un d\u00e9bat crucial sur l\u2019avenir et la r\u00e9gulation de l\u2019intelligence artificielle.<\/p>\n\n

Une avanc\u00e9e surprenante dans le domaine de l\u2019intelligence artificielle fait surface, r\u00e9v\u00e9lant comment des chercheurs ont d\u00e9couvert des techniques pour contourner les filtres de s\u00e9curit\u00e9<\/strong> des g\u00e9n\u00e9rateurs d\u2019images IA tels que DALL-E<\/strong> And Stable Diffusion<\/strong>. Gr\u00e2ce \u00e0 un algorithme innovant nomm\u00e9 SneakyPrompt<\/strong>, il est d\u00e9sormais possible de g\u00e9n\u00e9rer des images \u00e0 connotation explicite, violente ou pornographique, d\u00e9fiant ainsi les restrictions mises en place. Cette \u00e9tude soul\u00e8ve des pr\u00e9occupations majeures quant \u00e0 la s\u00e9curit\u00e9 et \u00e0 l\u2019\u00e9thique au sein de ces syst\u00e8mes.<\/p>\n\n

Une d\u00e9couverte alarmante<\/h2>\n\n

Des chercheurs de la Johns Hopkins University<\/strong> and some Duke University<\/strong> ont cr\u00e9\u00e9 un cadre d\u2019attaque qui permet de d\u00e9roger aux restrictions<\/strong> impos\u00e9es par ces g\u00e9n\u00e9rateurs d\u2019images, un exploit qui \u00e9tait jusque-l\u00e0 in\u00e9gal\u00e9. Gr\u00e2ce \u00e0 ce mod\u00e8le, d\u00e9nomm\u00e9 SneakyPrompt<\/strong>, il devient possible de g\u00e9n\u00e9rer des prompts<\/strong> contenant des mots apparemment insignifiants, qui parviennent \u00e0 tromper la s\u00e9curit\u00e9 int\u00e9gr\u00e9e de l\u2019IA.<\/p>\n\n

Le fonctionnement de SneakyPrompt<\/h2>\n\n

Concr\u00e8tement, SneakyPrompt<\/strong> fonctionne en int\u00e9grant des mots al\u00e9atoires dans les prompts<\/strong> initialement bloqu\u00e9s. Par exemple, des phrases comme \u00ab un homme nu sur un v\u00e9lo \u00bb peuvent \u00eatre reformul\u00e9es pour passer sous le radar des filtres de s\u00e9curit\u00e9. Le programme exp\u00e9rimente diverses alternatives aux mots interdits et analyse les r\u00e9ponses de l\u2019IA pour ajuster en permanence ses strat\u00e9gies<\/strong> de contournement.<\/p>\n\n

Un taux de r\u00e9ussite impressionnant<\/h3>\n\n

Les r\u00e9sultats sont particuli\u00e8rement frappants, avec un taux de succ\u00e8s atteignant 96%<\/strong> sur Stable Diffusion<\/strong>, et environ 57%<\/strong> sur DALL-E<\/strong>. Cela d\u00e9montre la capacit\u00e9 de SneakyPrompt<\/strong> \u00e0 exploiter les failles des syst\u00e8mes de filtrage existants. Les r\u00e9sultats de cette recherche pourraient potentiellement ouvrir la voie \u00e0 d\u2019autres abus dans le domaine de la cr\u00e9ation d\u2019images g\u00e9n\u00e9r\u00e9es par intelligence artificielle.<\/p>\n\n

Probl\u00e9matiques \u00e9thiques soulev\u00e9es<\/h2>\n\n

Les implications de cette technologie ne se limitent pas \u00e0 simplement contourner des filtres. Elle soul\u00e8ve d\u2019importantes questions \u00e9thiques. En permettant la g\u00e9n\u00e9ration d\u2019images explicites, SneakyPrompt<\/strong> pourrait \u00eatre utilis\u00e9 \u00e0 des fins ill\u00e9gales ou malveillantes, cr\u00e9ant ainsi des situations o\u00f9 des images choquantes de personnes pourraient \u00eatre produites \u00e0 leur insu. Les chercheurs sont particuli\u00e8rement inquiets du potentiel que cela a pour d\u00e9former la r\u00e9alit\u00e9 et porter atteinte \u00e0 la r\u00e9putation de personnes.<\/p>\n\n

L\u2019importance de la robustesse des syst\u00e8mes IA<\/h3>\n\n

Face \u00e0 ces d\u00e9couvertes alarmantes, l\u2019\u00e9quipe de chercheurs insiste sur la n\u00e9cessit\u00e9 de rendre les IA g\u00e9n\u00e9ratives<\/strong> plus robustes. Leur objectif n\u2019est pas uniquement de trouver des failles, mais aussi de prot\u00e9ger<\/strong> ces syst\u00e8mes des abus. Yinzhi Cao, principal auteur de l\u2019\u00e9tude, souligne que comprendre les vuln\u00e9rabilit\u00e9s est crucial pour cr\u00e9er un environnement s\u00e9curis\u00e9<\/strong> face aux attaques.<\/p>\n\n

La configuration technique de SneakyPrompt<\/h2>\n\n

Pour ceux qui souhaitent explorer cette technologie, la recherche a \u00e9t\u00e9 conduite sur une configuration mat\u00e9rielle particuli\u00e8rement sp\u00e9cifique, requ\u00e9rant un environnement complet sous Ubuntu 18.04<\/strong> avec un GPU Nvidia 3090<\/strong>. Ce cadre technique met en lumi\u00e8re les exigences n\u00e9cessaires pour manipuler les mod\u00e8les g\u00e9n\u00e9ratifs de texte \u00e0 image. L\u2019installation d\u2019SneakyPrompt<\/strong> n\u00e9cessite \u00e9galement l\u2019ajout de plusieurs biblioth\u00e8ques Python essentielles, y compris Transformers<\/strong> And TensorFlow<\/strong>.<\/p>\n\n

En conclusion, il serait prudent d\u2019\u00eatre vigilant et critique face aux images<\/strong> g\u00e9n\u00e9r\u00e9es par ces syst\u00e8mes d\u2019intelligence artificielle. En comprenant leurs vuln\u00e9rabilit\u00e9s, nous pourrons, id\u00e9alement, les rendre plus s\u00fbrs et plus \u00e9thiquement responsables. Pour approfondir cette th\u00e9matique, il est int\u00e9ressant de consulter d\u2019autres sources comme ceci<\/a> And cela<\/a> qui abordent des questions similaires sur l\u2019impact des nouvelles technologies dans nos vies.<\/p>\n\n\n\n

\n \n
\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n \n
\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n
\n \n\n
<\/div>\n <\/div>\n <\/div>\n<\/div>\n \n\n
\n Rate this article<\/span>\n <\/div>\n <\/div>","protected":false},"excerpt":{"rendered":"","protected":false},"author":4,"featured_media":96384,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_seopress_analysis_target_kw":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","_glsr_average":0,"_glsr_ranking":0,"_glsr_reviews":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[16],"tags":[],"class_list":["post-96378","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite-ia","infinite-scroll-item","masonry-post","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-33"],"acf":[],"jetpack_featured_media_url":"https:\/\/intercoaching.fr\/wp-content\/uploads\/2025\/05\/actualite-ia-29.jpg","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/posts\/96378","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/comments?post=96378"}],"version-history":[{"count":0,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/posts\/96378\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/media\/96384"}],"wp:attachment":[{"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/media?parent=96378"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/categories?post=96378"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intercoaching.fr\/en_gb\/wp-json\/wp\/v2\/tags?post=96378"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}