Comment les artistes protègent leurs œuvres du pillage ia

Des armes pour protéger les œuvres des artistes du pillage des AI.

Une des plus grandes craintes des créateurs d’images en ce bas monde : photographe, illustrateur, dessinateur de BD, etc est bien de se faire piller son œuvre par les bots d’IA… vous savez, ces programmes qui viennent fouiner partout sur le Web pour « s’inspirer » de tout ce qui s’y trouve et ainsi pouvoir alimenter les immenses bases de données des data-centers des géants de la tech.

Rien de plus désagréable pour un créateur que de retrouver son style allègrement recopié par des millions de fans inconscients, comme ça a pu être le cas, par exemple, Hayao Miyazaki le créateur des studios Ghibli.

Oui, mais voilà, pas facile de s’opposer à la toute puissance de ces entreprises qui brassent des milliards et se moquent comme d’une guigne de la moindre protestation. Si les choses ne se règlent pas devant les tribunaux, ce qui peut prendre des années, elles se règlent à coup de chèque signés discrètement à l’ombre des tours des bureaux de la Sillicon Valley, pour des montants parfois inavouables.

Mais si vous n’êtes pas vous même un géant des médias comme le New-York Times ou Disney, oubliez ces deux voies et gardez vos yeux pour pleurer, car vous allez pleurer.

Heureusement, comme toujours, tel Zorro qui signe de son épée d’un Z qui veut dire Zorro, la science est là (et les gentils chercheurs) pour nous aider et, en l’occurence, pour aider tous les artistes floués.

C’est une équipe de l’Université de Chicago, au sein du laboratoire SAND Lab dirigé par Ben Zhao et Heather Zheng. Évidemment, ces personnes ne vous disent rien, mais ça n’est pas grave. Vous les remercierez plus tard.

Deux outils sont sorties de leurs cerveaux géniaux (et à ceux de leur équipe).

Premier outil : changer légèrement les images à piller de manière à ce que les IA ne les comprennent plus ou les interprètent mal.

Non, non, ne soulevez pas un sourcil d’étonnement : sachez que cela est tout à fait possible sans défigurer pour autant l’œuvre originale. Il suffit parfois de quelques pixels pour transformer un chien en tracteur, ou une glace à la vanille en porte-conteneur. Ce n’est pas une blague et ça a même été testée maintes et maintes fois par … et son équipe. Un moyen de dire aux sociétés de la tech.

Si on demande à Gemini comment ça fonctionne, voici comment il présente Glaze.

Le concept de « Style Cloak » (Cape de style)

Le fonctionnement de Glaze repose sur une technique de perturbations adverses ou de cape de style (je sais, c’est moche). Contrairement à un tatouage numérique (watermark) qui est visible par l’homme, Glaze applique des modifications au niveau des pixels qui sont calculées pour être :

• Quasiment invisibles pour l’humain : L’image originale semble inchangée.
• Radicales pour l’IA : Les modèles d’IA « voient » un style artistique totalement différent. Par exemple, une œuvre à l’huile pourra être perçue par l’IA comme du fusain ou de l’art abstrait.

Glaze utilise des algorithmes d’apprentissage automatique pour identifier les caractéristiques stylistiques d’une image (coups de pinceau, palettes de couleurs, textures).

• Il sépare les objets (ce qui est dessiné) du style (comment c’est dessiné).
• Il déplace ensuite la représentation du style dans l’espace des caractéristiques du modèle d’IA vers un style « cible » différent.
• Ainsi, si quelqu’un tente d’entraîner une IA sur des images « glacées » pour copier votre style, le modèle apprendra une version déformée et erronée de votre « patte » artistique.

WebGlaze

Pour les artistes ne possédant pas d’ordinateur puissant (GPU performant requis pour la version bureau), l’équipe propose WebGlaze, une version en ligne accessible via un navigateur. L’accès est actuellement sur invitation pour garantir que l’outil est utilisé par des artistes humains et non pour des besoins liés à l’IA.

2ème solution : Nightshade, l’empoisonneur

Nightshade est un outil conçu comme une mesure de rétorsion « offensive » contre l’aspiration de données (scraping) non autorisée par les entreprises d’IA.

Le concept du « Poisoning »

Là où Glaze agit comme un bouclier, Nightshade agit comme un piège. Il utilise une technique d’attaque par empoisonnement de données (« data poisoning ») ciblée sur les commandes textuelles.

Le but est de corrompre la compréhension sémantique du modèle d’IA. Si un modèle est entraîné sur suffisamment d’images « empoisonnées » par Nightshade, il finit par confondre les concepts.

Fonctionnement technique

Nightshade fonctionne via une optimisation multi-objectifs. Pour chaque image, le logiciel effectue deux calculs simultanés :

• Objectif 1 (Visuel) : Minimiser les changements perceptibles pour l’œil humain. L’image de base (par exemple, un chien) doit rester un chien pour nous.
• Objectif 2 (Sémantique IA) : Maximiser la distorsion des « caractéristiques » (features) internes que l’IA détecte. Le logiciel modifie les pixels pour que, mathématiquement, l’image ressemble à un tout autre concept pour le réseau de neurones (par exemple, un chat).

Résultat : Quand l’IA analyse l’image, elle l’enregistre dans sa base de données comme étant la preuve qu’un « chien » possède des oreilles pointues de chat et des moustaches de félin.

L’effet de masse et la contagion

Une seule image protégée par Nightshade n’endommagera pas un modèle d’IA massif comme Stable Diffusion. Cependant :

• Puissance cumulative : Si des milliers d’artistes utilisent Nightshade, le modèle ingère des milliers d’exemples contradictoires.
• Désorientation du modèle : Après un certain seuil, si un utilisateur tape le prompt « Chien », le modèle générera une créature hybride ou un chat complet, car sa « logique » interne aura été brisée par les données empoisonnées.
• Effet domino : L’empoisonnement d’un concept (ex: « chien ») peut déborder sur des concepts proches (« chiot », « loup », « animal de compagnie »), rendant le modèle de moins en moins fiable.

À quoi cela sert-il concrètement ?

L’utilité de Nightshade n’est pas de détruire l’IA par pure malveillance, mais de rétablir un équilibre de pouvoir :

• Désuasion économique : Actuellement, scraper tout le web gratuitement est très rentable. Si les données sont empoisonnées, les entreprises d’IA doivent dépenser des sommes colossales pour nettoyer leurs bases de données ou filtrer les images.
• Incitation au consentement : En rendant le vol de données « coûteux » et risqué pour la qualité de leur modèle, Nightshade pousse les entreprises à privilégier l’achat de licences d’images propres auprès des artistes.
• Protection collective : C’est une arme de défense globale. En « empoisonnant » ses propres œuvres, un artiste participe à un effort collectif pour protéger l’ensemble de la communauté artistique contre l’exploitation non consentie.

Robustesse

Contrairement à une simple métadonnée ou un watermark qui s’efface facilement, Nightshade est résistant :

• Il survit aux captures d’écran.
• Il résiste à la compression (JPEG), au redimensionnement et au lissage des pixels.
• Il reste efficace même si l’image est prise en photo depuis un écran.

Évidemment, vous pouvez trouver ces deux outils parfaitement abusif, mais lorsque vous vous serez piller vos œuvres par ChatGPT ou Gemini, on en reparlera.

Comparatif entre les deux outils

Caractéristique	GLAZE (Le Bouclier)	NIGHTSHADE (Le Poison)
Cible	Le Style (votre « patte » artistique).	Le Contenu (le sens de l’image).
Objectif	Empêcher l’IA de copier votre manière de dessiner.	Empêcher l’IA de reconnaître les objets correctement.
Effet pour l’IA	« Je ne sais pas si c’est de l’aquarelle ou du charbon. »	« Je pense qu’une vache est un sac à main. »
Bénéficiaire	Vous (protection individuelle).	La communauté (protection globale).
Type d’outil	Défensif.	Offensif / Dissuasif.

Enfin, pour en savoir plus, jetez donc un œil à cette présentation en vidéo de l’outil Glaze.