Cet outil protège les photos de l’intelligence artificielle

« Une vache devient un portefeuille. » C’est exactement ce que promettent les développeurs Morelle noire – un nouvel outil que les artistes peuvent utiliser plus efficacement avant de l’utiliser plus tard intelligence artificielle (IA) devrait protéger. L’IA utilise tout le contenu qu’elle trouve en ligne pour se développer davantage, en violation souvent de la loi sur le droit d’auteur. Le programme veut maintenant contrecarrer cela en falsifiant délibérément les données d’image.
Photos de poivrons morelle avec désinformation. Cela conduit une IA à récupérer des données incorrectes et à les utiliser pour générer ses propres images. L’équipe de développement de l’Université de Chicago appelle ce processus « empoisonnement ». Sur leur site internet donnez un exemple : une image montre une vache. Nightshade peut désormais modifier cette photo pour que l’œil humain continue de voir une vache, tandis que l’IA reconnaît un portefeuille à la place. Si elle évalue maintenant bon nombre de ces images empoisonnées et que les utilisateurs souhaitent ensuite l’utiliser pour créer des images de vaches, ils verront plutôt des portefeuilles. Le groupe de recherche a publié d’autres exemples illustrés dans leur étude. Dans ceux-ci, vous pouvez voir comment un chien devient un chat, un sac à main devient un grille-pain ou un chapeau devient un gâteau.
Nightshade n’est pas le premier programme du genre à sortir de l’Université de Chicago. Avec glaçage Les scientifiques ont déjà développé un outil que les artistes peuvent utiliser pour protéger leurs œuvres. Il vise à perturber la capacité de l’IA à imiter les styles artistiques, en déformant les images afin qu’elle soit incapable d’apprendre ou de reproduire le style. Les développeurs décrivent Glaze comme un programme défensif, tandis que Nightshade est offensif et peut spécifiquement manipuler l’IA. Selon eux, il est également personnalisable au cas où des méthodes émergeant au fil du temps pourraient contourner la protection.