Les chercheurs d’OpenAI mettent en garde contre la menace de l’IA

Une période contemplative avant Noël. Il y a beaucoup de troubles chez OpenAI ces jours-ci. Le 17 novembre 2023 rejeté La société a complètement surpris son co-fondateur et développeur en chef de ChatGPT, Sam Altman. On sait désormais que peu de temps auparavant, des chercheurs chevronnés avaient prévenu le conseil d’administration d’une découverte majeure dans le domaine de l’intelligence artificielle (IA). Comme l’agence de presse Reuters Selon des informations, la lettre des employés parlait d’une « menace pour l’humanité ».

L’avertissement conduit au licenciement d’Altman

Deux personnes proches du dossier ont déclaré à Reuters que la lettre jusqu’alors non divulguée était un facteur clé dans une longue liste de fautes qui ont conduit le conseil d’administration à évincer Altman. Selon les sources, OpenAI a parlé d’un projet appelé Q* (prononcer Q-Star) dans un message interne au personnel et une lettre au conseil d’administration. Un porte-parole de l’entreprise a déclaré que le message envoyé par Mira Murati, cadre de longue date, avait alerté les employés de certains reportages médiatiques.

Recherche d’intelligence artificielle générale

Selon certains employés, Q* pourrait constituer une avancée majeure pour la startup dans la recherche de ce qu’on appelle l’intelligence artificielle générale (AGI). OpenAI définit l’AGI comme des systèmes autonomes qui surpassent les humains dans les tâches les plus rentables. Compte tenu des énormes ressources informatiques, le nouveau modèle est capable de résoudre certains problèmes mathématiques. La source anonyme souhaite rester anonyme car elle n’est pas autorisée à parler au nom de l’entreprise. Selon elle, les chercheurs ont souligné la puissance et le danger potentiel de l’IA dans leur lettre au conseil d’administration. Cependant, elle n’a pas mentionné à Reuters les problèmes de sécurité qui y sont évoqués.

Altman revient chez OpenAI en tant que PDG

Peu avant son expulsion, Altman a indiqué qu’il voyait AGI à sa portée. « Quatre fois dans l’histoire d’OpenAI, la dernière fois au cours des dernières semaines, j’ai eu le privilège d’être présent alors que nous levons le voile de l’ignorance et repoussons les limites de la découverte, et c’est l’honneur professionnel de ma vie », a-t-il déclaré. le Sommet de coopération économique Asie-Pacifique. Il a été libéré un jour plus tard. Mais c’est encore une fois de l’histoire ancienne. Le 22 novembre 2023, il revient en tant que PDG retour à OpenAI. Dans le même temps, la société a annoncé la création d’un nouveau conseil d’administration.