Avec cet outil, OpenAI veut démasquer les images d’IA

Créer des images d’un réalisme trompeur n’a jamais été aussi simple. Une connexion Internet, un outil basé sur l’intelligence artificielle (IA) et une brève description de ce qui doit être vu dans l’image : en quelques secondes, des images photoréalistes sont créées, que de nombreux utilisateurs perçoivent comme réelles – et qui sont ensuite partagées sur les réseaux sociaux. Cela est particulièrement dangereux si les photos créées par l’IA sont utilisées spécifiquement pour diffuser de la désinformation ou discréditer des personnes. Afin d’éviter que cela ne se produise lors des prochaines élections mondiales de cette année, la société OpenAI, surtout connue pour son chatbot ChatGPT, a annoncé de nombreuses mesures.

Le logiciel devrait reconnaître les images IA

Comme l’entreprise américaine dans son Blog Comme nous le savons, nous travaillons principalement sur des marqueurs destinés à confirmer l’origine d’une image. Ce printemps, ils veulent annoncer comment le système étiquetera les images qui correspondent à celles de l’entreprise. Image AI appelée Dall-E 3 ont été créés. Les journalistes et les scientifiques auront bientôt accès à un logiciel spécialisé dans la reconnaissance des photos du Dall E-3. Selon OpenAI, les premiers tests internes ont déjà donné des résultats prometteurs, même lorsque les images générées par l’IA ont été modifiées après leur création.

Autres mesures pour protéger les élections

Ce n’est pas tout ce qu’OpenAI a prévu pour protéger les élections mondiales : par exemple, il est interdit aux développeurs de créer des chatbots qui usurpent faussement l’identité de personnes réelles, telles que des candidats ou des autorités. Les applications qui induisent les gens en erreur sur qui peut voter ou sur où et comment ils votent sont également interdites. Aux États-Unis, ChatGPT renvoie également les questions sur le processus électoral au site officiel de la National Association of Secretaries of State (NASS). L’entreprise souhaite également proposer quelque chose de similaire dans d’autres pays où des élections auront lieu en 2024. Outre l’Autriche, la Grande-Bretagne, l’Inde et la Turquie, cela inclut notamment la Russie.