CHATGPT REND-IL MOINS INTELLIGENT ?

(SenePlus) - Une recherche inédite menée par des neurotechnologues du MIT Media Lab sème le trouble dans l'univers de l'intelligence artificielle. Selon cette étude préliminaire, l'utilisation prolongée de ChatGPT pourrait diminuer nos performances cognitives, soulevant des questions cruciales sur l'impact des IA génératives sur le fonctionnement cérébral humain.

L'équipe dirigée par la chercheuse française Nataliya Kosmyna a mené une expérience sur cinquante-quatre volontaires âgés de 18 à 39 ans, issus d'une dizaine de nationalités. "Munis de casques qui lisaient leurs activités cérébrales – et plus précisément les flux d'informations circulant dans différentes zones du cerveau", ces étudiants et postdoctorants ont dû rédiger des textes en utilisant ou non ChatGPT, puis mémoriser leurs écrits, rapporte Le Monde.

La méthodologie employée utilisait le "Dynamic Direct Transfer Function, plus complet qu'une mesure d'encéphalogramme classique" pour observer l'activité neuronale des participants. Quatre mois plus tard, dix-huit volontaires ont poursuivi l'expérience en inversant leur position.

Les résultats, publiés sur Arxiv le 10 juin et non encore révisés par les pairs, révèlent des conclusions troublantes. Selon l'étude, ceux qui n'ont utilisé que ChatGPT pour rédiger ont, quatre mois plus tard, "baissé en performance au niveau neuronal, linguistique et comportemental".

Plus précisément, "lorsque les participants ont utilisé ChatGPT, leur activité cérébrale, notamment les zones liées à l'attention, la planification et la mémoire, a considérablement diminué", note Le Monde. De manière révélatrice, "quelques minutes plus tard, ils ont d'ailleurs eu du mal à se souvenir de ce qu'ils ont rendu".

Une polémique qui divise la communauté scientifique

Cette étude de 206 pages "a enflammé le monde de l'IA", souligne le quotidien français. Les réactions oscillent entre alarmisme et scepticisme. La plateforme Evolving AI a ainsi diffusé un "message sensationnaliste" proclamant que "les résultats sont terrifiants", accompagné d'images de cerveau non issues de l'étude.

À l'inverse, des critiques pointent les limites méthodologiques. L'entrepreneur Etienne de Saint-Martin a déclaré que "l'étude comporte de nombreux biais méthodologiques" et que "ce n'est pas de la science, c'est un billet d'opinion".

Le consultant en IA Joseph D. Stec a souligné l'ironie de la situation, observant que "juste après la publication du MIT (...) sur la façon dont ChatGPT pourrait affaiblir la pensée critique, les gens se sont empressés de résumer l'étude... en utilisant ChatGPT".

Nataliya Kosmyna confirme cette tendance : "Environ 90 % de la couverture médiatique est venue de résumés générés automatiquement", avec "un très fort biais de confirmation". L'IA, même face à un document nuancé, "confirme l'idée dominante car elle l'a souvent vue dans ses données d'entraînement".

Des interrogations sur l'efficacité réelle

Au-delà des aspects techniques, l'étude pose des questions philosophiques sur notre rapport à la réflexion. Le professeur Daniel Russo de l'université Aalborg interroge : "Les intelligences artificielles génératives sont efficaces, certes, mais avons-nous l'impression avec elles d'avoir réellement réfléchi ?"

Il établit un parallèle avec la programmation : "Vous copiez un extrait de code, vous le collez, vous modifiez une variable et vous passez à autre chose. Mais avez-vous vraiment résolu le problème ?"

Paradoxalement, l'étude révèle que "même si les rédactions générées par ChatGPT ont obtenu de bonnes notes, elles s'avèrent plus stéréotypées et lisses que celles de l'autre groupe", note Le Monde. Cette observation soulève la question de l'équilibre entre efficacité et originalité dans la production intellectuelle.

Face aux interprétations hâtives, l'épidémiologiste néerlandais Jan van den Brand appelle à la prudence. Les travaux du MIT Media Lab font le buzz en ayant été "mal compris, mal interprétés et déformés". Il recommande de "lire l'article en entier ou au moins la section sur les limites" où "se trouve le véritable cœur du travail".

Malgré les controverses, l'étude génère un intérêt scientifique considérable. "Nous avons reçu des propositions de collaborations scientifiques d'Australie, du Royaume-Uni, de Lettonie, de Lituanie, du Brésil...", énumère Nataliya Kosmyna, qui y voit "une bonne nouvelle qu'un grand nombre de personnes se sentent concernés".

Cette recherche préliminaire, avec ses 800 millions d'utilisateurs hebdomadaires de ChatGPT selon Le Monde, ouvre un champ d'investigation crucial sur l'impact des IA sur nos capacités cognitives. Si les résultats demandent confirmation, ils soulèvent des "inquiétudes quant aux conséquences éducatives à long terme d'une dépendance" à ces technologies, questionnant notre relation future avec l'intelligence artificielle.