C’est pourquoi ChatGPT n’est pas vraiment « intelligent »

L’intelligence artificielle (IA) ChatGPT peut surpasser les humains dans de nombreux domaines. Cependant, un chercheur est convaincu que le Large Language Model (LLM) n’est pas vraiment « intelligent » en raison de certaines limitations.


Cincinnati (États-Unis). Ces derniers mois, des études ont montré que le ChatGPT du Large Language Model (LLM) peut surpasser les étudiants aux examens et rédiger des textes scientifiques que les linguistes ne peuvent pas distinguer des textes humains. Le grand public suppose donc que l’intelligence artificielle (IA) est déjà aussi intelligente que l’homme et peut révolutionner la société.


Anthony Chemero, professeur de philosophie et de psychologie à l’Université de Cincinnati (UC), vient de publier un article selon lequel la compréhension de l’IA par de nombreuses personnes est erronée. Selon Chemero, une IA comme ChatGPT ne peut pas être intelligente de la même manière que les humains, même si elle est en réalité intelligente et peut même mentir.


ChatGPT a des préjugés humains

Selon la publication dans la revue Nature Human Behaviour, ChatGPT n’est qu’un LLM qui a été formé avec de grandes quantités de données provenant d’Internet. Les données d’entraînement de l’IA contiennent donc de nombreux préjugés qui ont été adoptés de manière incontrôlée.

« Les LLM produisent des textes impressionnants, mais inventent souvent des choses à partir de rien. Ils apprennent à produire des phrases grammaticalement correctes, mais nécessitent beaucoup plus de formation que les humains. Ils ne savent pas réellement ce que signifient les choses qu’ils disent. Les LLM diffèrent de la cognition humaine car ils ne sont pas incarnés.

L’intelligence artificielle hallucine

En science, la désinformation provenant de l’IA, comme les faits inventés, est appelée hallucination. Les erreurs surviennent parce que les LLM forment des phrases en ajoutant à plusieurs reprises le mot suivant statistiquement le plus probable. ChatGPT et les techniques similaires ne vérifient pas si les phrases sont vraies. Chemero estime donc qu’au lieu d’halluciner, le terme « conneries » a plus de sens.


Pas d’intelligence humaine

De plus, le chercheur estime que les LLM ne sont pas intelligents comme les humains le sont parce que les humains sont incarnés. Selon lui, la véritable intelligence n’est possible que chez les êtres vivants parce qu’ils sont toujours entourés d’autres personnes et d’autres environnements matériels et culturels et sont influencés par eux. Son message principal est que les LLM ne sont pas intelligents, comme les humains, parce qu’ils s’en foutent de leurs résultats (« s’en foutent »). Selon Chemero, les humains n’ont pas ce trait négatif.

« Les choses sont importantes pour nous. Nous sommes engagés dans notre survie. Nous nous soucions du monde dans lequel nous vivons.

Nature Comportement humain, doi : 10.1038/s41562-023-01723-5