{"id":84094,"date":"2023-12-20T11:51:21","date_gmt":"2023-12-20T10:51:21","guid":{"rendered":"https:\/\/intercoaching.fr\/nightshade-larme-redoutable-pour-dejouer-les-modeles-dia-text-to-image\/"},"modified":"2023-12-20T11:51:21","modified_gmt":"2023-12-20T10:51:21","slug":"nightshade-larme-redoutable-pour-dejouer-les-modeles-dia-text-to-image","status":"publish","type":"post","link":"https:\/\/intercoaching.fr\/it\/nightshade-larme-redoutable-pour-dejouer-les-modeles-dia-text-to-image\/","title":{"rendered":"Nightshade, l’arme redoutable pour d\u00e9jouer les mod\u00e8les d’IA text to image"},"content":{"rendered":"
Nightshade : le syst\u00e8me d\u2019intrusion dans les IA d\u2019images textuelles<\/h2>\n\n\n
Des sp\u00e9cialistes en informatique de l\u2019Universit\u00e9 de Chicago viennent de mettre au point un outil, baptis\u00e9 Nightshade, qui a la capacit\u00e9 de perturber la phase d\u2019apprentissage automatique des IA orient\u00e9es vers la g\u00e9n\u00e9ration d\u2019images \u00e0 partir de textes. Cette approche vise \u00e0 introduire des donn\u00e9es alt\u00e9r\u00e9es au sein de ces mod\u00e8les intelligents.<\/p>\n\n\n
La subversion discr\u00e8te des banques d\u2019images<\/h3>\n\n\n
Les intelligences artificielles d\u00e9di\u00e9es \u00e0 la conversion du texte en images n\u00e9cessitent des bases de donn\u00e9es cons\u00e9quentes et de haute qualit\u00e9, souvent constitu\u00e9es \u00e0 partir de collections \u00e9clectiques disponibles sur Internet. Or, la moisson de ces donn\u00e9es massives, parfois en infraction avec les lois sur le droit d\u2019auteur, est une pratique courante chez les concepteurs de tels syst\u00e8mes, y compris de solutions connues telles que Dall-E 3 ou Stable Diffusion.<\/p>\n\n\n
Une manipulation furtive mais impactante<\/h2>\n\n\n\n\n<\/figure>\n\n\n
Dans le dessein de prot\u00e9ger les droits des artistes, les chercheurs de l\u2019Universit\u00e9 de Chicago ont donc \u00e9labor\u00e9 Nightshade, un m\u00e9canisme subvertissant imperceptiblement le contenu des images. Bien que les transformations faites sur les images soient ind\u00e9celables par l\u2019\u0153il humain, elles induisent des erreurs dans l\u2019interpr\u00e9tation des mod\u00e8les d\u2019IA, ce qui entra\u00eene des d\u00e9r\u00e8glements lors de leur entra\u00eenement. Un cas illustratif serait une image de loup qui, une fois les manipulations de Nightshade appliqu\u00e9es, serait per\u00e7ue par l\u2019algorithme comme une image de voiture durant son apprentissage automatique, provoquant ainsi des r\u00e9ponses inad\u00e9quates de la part de l\u2019IA.<\/p>\n\n\n
\n\n
Les \u00e9tiquettes d\u2019images pour le mod\u00e8le sont fauss\u00e9es.<\/li>\n\n\n
L\u2019outil est sp\u00e9cialement efficace contre les algorithmes de Stable Diffusion.<\/li>\n\n<\/ul>\n\n\n
D\u00e9fendre l\u2019int\u00e9grit\u00e9 des mod\u00e8les face aux corruptions<\/h2>\n\n\n\n\n<\/figure>\n\n\n
Nightshade constitue une menace r\u00e9elle pour la fiabilit\u00e9 des mod\u00e8les concern\u00e9s, puisqu\u2019il suffit d\u2019introduire un faible pourcentage d\u2019images corrompues dans le flux d\u2019entra\u00eenement pour alterer notoirement leurs capacit\u00e9s. D\u00e9concert\u00e9s face \u00e0 la sophistication de l\u2019outil, les experts n\u2019ont pas encore trouv\u00e9 de parades infaillibles pour d\u00e9jouer ces alt\u00e9rations, mais proposent des m\u00e9canismes de r\u00e9action, tels que l\u2019\u00e9limination d\u2019images probl\u00e9matiques durant l\u2019apprentissage ou la mise au point d\u2019un syst\u00e8me de d\u00e9tection en r\u00e9ponse \u00e0 Nightshade, plongeant les d\u00e9veloppeurs dans une lutte constante pour la s\u00e9curit\u00e9 de leurs mod\u00e8les.<\/p>\n\n\n\n
![\"nightshade,](\"https:\/\/intercoaching.fr\/wp-content\/uploads\/2023\/12\/Nightshade-larme-redoutable-pour-dejouer-les-modeles-dIA-text-to-image.png\")
\n<\/figure>\n\n\n![\"nightshade,](\"https:\/\/intercoaching.fr\/wp-content\/uploads\/2023\/12\/Nightshade-larme-redoutable-pour-dejouer-les-modeles-dIA-text-to-image-1.png\")
\n<\/figure>\n\n\n