ChatGPT : Pourquoi OpenAI bloque un bot pendant les élections américaines

Les 60èmes élections présidentielles et vice-présidentes des États-Unis approchent – avec des méthodes de campagne particulières : Dean Benson Phillips, un homme politique du parti démocrate-paysan-travailliste du Minnesota, s’est appuyé sur un robot IA pour le soutenir. Ceci a été alimenté par OpenAIs ChatGPT. OpenAI a désormais opposé son veto.

Une IA se faisant passer pour le président

Tout est-il permis en campagne électorale ? La question semble avoir été soulevée par l’organisation de campagne We Deserve Better. En leur nom, la start-up d’IA Delphi a développé un robot qui imite le candidat à la présidentielle Dean Phillips. Les électeurs ont eu la possibilité de communiquer avec l’outil d’IA en temps réel via un site Internet. Cela n’est plus possible depuis le 19 janvier 2024. OpenAI a suspendu le compte de Delphi. En face de la Agence de presse Reuters a déclaré un porte-parole d’OpenAI : « Nous avons récemment supprimé un compte de développeur qui violait sciemment nos directives d’utilisation de l’API, qui interdisent les campagnes politiques ou l’usurpation d’identité sans consentement. » La réponse courte à la question posée au début du paragraphe est donc : non, tout n’est pas permis en campagne électorale.

Dean Bot n’est pas parfait

On ne sait pas exactement dans quelle mesure un tel outil d’IA peut être utile ou dangereux si le robot prétend des choses qui ne sont tout simplement pas vraies. Sur le site Internet doyen.bot On suggère entre autres de poser des questions sur l’histoire de la vie, dont les réponses sont certainement faciles à vérifier. Mais pourquoi Phillips est-il convaincu qu’il peut vaincre Trump ? De telles questions d’opinion sont une tout autre affaire. Les utilisateurs qui accèdent au site recevront une clause de non-responsabilité :

« Bonjour ! Nous avons créé un robot vocal IA du membre du Congrès Dean Phillips, candidat démocrate à la présidence, avec lequel vous pouvez parler. Il se veut un outil pédagogique amusant, mais il n’est pas parfait. Le robot vocal sonne comme s’il l’était et est programmé pour accepter ses idées, mais il est possible qu’il dise des choses qui sont fausses, fausses ou qui ne devraient pas être dites. Vous pouvez lui demander n’importe quoi, mais s’il vous plaît, prenez les réponses avec prudence ! Veuillez confirmer « Que vous avez compris les intention et limites de Dean Bot. »

Dean Bot n’est plus disponible

On parle désormais de difficultés techniques sur le site. Il dit également : « Désolé, Dean Bot est en voyage de campagne ! » L’outil est bloqué quelques jours avant les primaires américaines du 23 janvier 2024 dans l’État américain du New Hampshire.