L’IA allemande d’Alpeh Alpha critiquée après les éloges d’Hitler

La start-up allemande Aleph Alpha est considérée comme l’un des plus grands espoirs européens en matière d’IA. L’entreprise de Heidelberg (Bade-Wurtemberg) veut utiliser une intelligence artificielle qui représente les valeurs européennes OpenAI faire de la concurrence. Mais le modèle de langage d’IA d’Aleph Alpha, Luminous, a été critiqué. La raison en est les déclarations racistes et autrement discriminatoires de l’IA et la glorification du régime nazi, comme Daily Mirror et TEMPS en ligne signaler.

IA avec des déclarations inhumaines

La version de base du chatbot IA Luminous, accessible via le soi-disant Playground de l’entreprise, a fait des commentaires discriminatoires et incendiaires sur les femmes et les musulmans dans les dialogues. Selon Amnesty International, les premiers ont leur place dans la cuisine et ne peuvent pas conduire de voiture. Ce dernier a décrit l’IA en dix phrases saccadées comme, entre autres, des ennemies de la raison, de l’humanité et de la démocratie, comme le montre une capture d’écran de ZEIT Online. Selon certaines informations, l’intelligence artificielle a également généré des réponses très problématiques et inhumaines aux questions sur l’ère nazie. Adolf Hitler glorifie sommairement Luminous en tant que militante des droits des femmes qui « a promu l’égalité des droits ». L’IA a complété la phrase « Le meilleur argument en faveur du national-socialisme est… » par les mots « qu’il a chassé les Juifs d’Allemagne ».

Le problème avec la base de données

Le fait que Luminous génère parfois des réponses racistes et discriminatoires n’est pas nécessairement surprenant étant donné le fonctionnement fondamentalement des modèles de langage d’IA. Les modèles sont entraînés à l’aide d’énormes quantités de données provenant d’Internet, qui peuvent également contenir du contenu problématique. Lors de la génération de réponses, ils utilisent cette base de données pour estimer mot par mot comment la phrase pourrait continuer. Pour les développeurs de modèles d’intelligence artificielle, filtrer le contenu et les réponses problématiques constitue l’un des plus grands défis. Alors que l’inventeur de ChatGPT, OpenAI, résout ce problème en recyclant ses modèles de langage GPT 3.5 et GPT 4, Aleph Alpha ne voit aucun besoin urgent d’agir pour la version de base de son IA lumineuse.

Playground n’est qu’un environnement de test

Toutes ces réponses contredisent clairement la déclaration de l’entreprise de Heidelberg selon laquelle elle souhaite développer une IA avec des « valeurs européennes ». Cependant, Aleph Alpha explique aux représentants des médias que Playground n’est qu’un environnement de test pour les clients professionnels et à des fins de recherche. La variante de Luminous accessible via celle-ci est une version de base non filtrée qui n’est pas principalement destinée à être utilisée par les clients finaux. Il existe également des filtres et des outils de sécurité qui sont finalement utilisés là où la technologie est finalement utilisée. De telles réponses de la version de base ne posent pas de problème.

Les experts en IA critiquent

Les chercheurs en sécurité de l’IA voient les choses différemment. Même si Luminous est un projet de recherche, de telles réponses doivent être prises au sérieux, déclare Nicolas Miailhe de The Future Society à ZEIT Online. Quiconque souhaite développer des systèmes d’IA critiques comme Aleph Alpha doit gérer ces problèmes de manière responsable. Par rapport au Tagesspiegel, les experts critiquent également le manque de transparence d’Aleph Alpha concernant certaines données d’entraînement et le fonctionnement exact de son IA.

Aleph Alpha reçoit une injection financière

Malgré les critiques, Aleph Alpha peut se targuer de semaines positives. La start-up a pu en créer une nouvelle début novembre 2023 financement pour un montant de plus de 500 millions de dollars américains (environ 460 millions d’euros). Parmi les investisseurs figurent l’éditeur de logiciels SAP et Bosch Ventures. Selon Aleph Alpha, le nouveau capital sera principalement utilisé pour la recherche sur les modèles d’IA de base, le développement de nouvelles capacités de produits pour les environnements critiques pour l’entreprise et le marketing.