Logo Clement Donzel

ACCUEIL
A PROPOS
RESSOURCES GRATUITES

ChatGPT et les Chatbots IA en impactant nos fonctions cognitives de haut niveau feront-ils de nous des imbéciles ?

ChatGPT en impactant nos fonctions cognitives de haut niveau feront-ils de nous des imbéciles ?

L’IA conversationnelle et les Chatbots IA comme ChatGPT ont-ils la capacité à impacter nos fonctions exécutives, notamment au travers du délestage cognitif, au risque de nous rendre imbéciles?

Nous avons tous été impressionnés par la capacité de réponse fournie par les derniers Chatbot IA comme ChatGPT. Bien que nous soyons sensibilisés aux dangers potentiels liés au développement d'une super-intelligence artificielle (ou IAG, Intelligence Artificielle Générale), peu d'études ont été menées sur l'impact de ces outils sur nos capacités cognitives. Des recherches récentes (Léon-Dominguez, 2024) tentent d'évaluer l'impact de ces outils d'IA génératives sur nos fonctions cognitives de haut niveau comme le raisonnement, la résolution de problèmes ou notre capacité de planification. Nous étudierons trois scénarios possibles en lien avec l'évolution de cette technologie et son impact possible sur nos fonctions exécutives.

L' émergence d'une nouvelle Intelligence Artificielle

Le développement de réseaux de neurones dit Transformers (Vaswani et al., 2017) a permis l’émergence de nouveaux Grand Modèles Linguistiques (Large Langage Models) aux capacités hors norme. En entrainant les modèles d’IA sur des masses considérables de données, les derniers concepteurs de Chatbots ont développé des outils ayant une compréhension plus riche de notre langage et des capacités conversationnelles encore jamais vues. Cette compréhension de notre langage étant affinée continuellement à nos préférences via un mécanisme d’apprentissage renforcé par évaluation humaine (RLHF ou Reinforcement Learning from Humain Feedback).

Le lancement de ChatGPT en version gratuite a donc assuré un déploiement rapide de cette technologie et une pertinence accrue dans de nombreux domaines: techniques (codes), communication personnelle (rédaction d’emails, traduction), services personnels (planification des vacances, recettes culinaires), éducation (aide à la rédaction), créativité (brainstorming et story telling). Bien que des discussions d’ordre éthique ont couramment lieu (i.e. biais algorithmiques, droits d’auteurs, etc.), trop peu de recherches visent à étudier sur le long terme l’impact de ces outils sur nos capacités cognitives de haut-niveau.

Attends une seconde... moi j'ai rien compris là... 🤨

Si je devais résumer le paragraphe ci-dessus le plus simplement du monde : Les concepteurs d’IA génératives comme OpenAI ont aspiré l’ensemble des savoirs humains (Wikipédia, les grands ouvrages littéraires numérisés, les recherches scientifiques, les photos et images disponibles sur Internet, les contenus de blogs, sites d’actualité…), enfin à peu près tout ce que l’humanité a produite et publiée… avec peu de considération pour la notion de droits d’auteurs (le motto Move Fast and Break Things de Facebook semble remis au goût du jour) pour proposer des assistants personnels aux capacités hors norme. Ces outils sont tellement puissants que nous pourrions être amenés à leur déléguer de plus en plus de nos tâches complexes. Mais en devenant encore plus fainéants intellectuellement, ne risquerions-nous pas de nous abrutir ? C’est ce que nous allons tenter de découvrir … :).

Vers un nouveau Homo Sapiens Technologicus

Plusieurs facteurs ont fortement contribué à l’expansion de notre cerveau d’Homo Sapiens, notamment les facteurs environnementaux, sociaux et culturels. Les interactions constantes avec ces objets génèrent de nouvelles compétences qui s’intègrent alors à nos capacités cognitives pour être ensuite transmises par « effet cliquet » aux générations suivantes (Tennie et al. 2009), et ainsi nous transformer en Homo Sapiens Technologicus.

La Théorie de l’Engagement Matériel (Malafouris, 2019) examine comment nos interactions matérielles influencent la façon dont nous percevons, agissons et pensons. Cette approche soutient que notre relation avec les objets et les artefacts n’est pas simplement utilitaire, mais qu’elle façonne activement notre manière de comprendre le monde. Voyons dans la section suivante comment notre cerveau réussi à acquérir de nouvelles compétences.

L'activité culturelle comme déterminant de notre développement cognitif

Les individus confrontés durant leur vie à des tâches nécessitant une haute disponibilité cognitive (i.e. tâches intensives ou high cognitive demand tasks) tendent à posséder des capacités intellectuelles supérieures (Potter et al., 2022).

L’acquisition de nouvelles compétences techniques lors de la manipulation d’objets peut introduire des changements structuraux et connectiques au sein de niches neuronales dans notre cerveau (Dehaene & Cohen, 2007). Ainsi, notre cerveau peut transformer sa propre structure et créer de nouvelles niches cognitives pour contrôler la manipulation de ses outils, qu’ils soient physiques ou symboliques (dessin, mots, nombres…). Les Chatbots, au travers des nouvelles techniques qu’ils introduisent (i.e. les fameux prompts ou requêtes) et l’interaction de leurs réponses avec nos processus cognitifs, pourraient avoir une influence significative sur le développement de la cognition humaine.

Utilisation des Chatbots IA pour augmenter notre performance au moyen d'un délestage cognitif

Les Chatbots IA pourraient améliorer nos fonctions cognitives (cognitive augmenter ou cognitive enhancers) dans la mesure ou ils augmenteraient certaines de nos performances au-delà de nos limites biologiques, comme celles touchant les fonctions de haut-niveau. Ces fonctions, regroupées sous le terme de fonctions exécutives, constituent un « ensemble de processus permettant à un individu de réguler de façon intentionnelle sa pensée et ses actions afin d’atteindre des buts, ceci lorsque la tâche est nouvelle ou complexe (Chevalier, 2010).

Ça pourrait vous intéresser :

Les Chatbots IA pourraient nous affranchir de nos limites physiologiques en nous permettant un délestage cognitif (Cognitive offloading), nous permettant de nous concentrer sur d’autres tâches et potentiellement de réduire l’effort cognitif qu’il nous aurait fallu déployer pour répondre à notre tâche.

Bien que les bénéfices à court terme soient facilement mesurables, en terme de gain de productivité dans l’exécution d’une tâche donnée, nous manquons actuellement d’études sur les impacts potentiels d’un usage à long terme de ces technologies, et la conséquence de ce délestage cognitif. En augmentant note dépendance à la technologie et en déléguant aux Chatbots IA certaines tâches faisant traditionnellement appellent à nos fonctions exécutives, nous pourrions prendre le risque de voir notre cerveau remodeler nos connections neuronales (Werhahn et al., 2002) au risque d’affecter nos capacités de réflexion, d’analyse, de décision,…et ainsi réduire notre capacité d’adaptation et de réaction à des circonstances nouvelles ou imprévues (Kayes & Yoon, 2022). 

Mais alors que l’utilisation continue d’outils technologiques comme les Chatbots IA se développe au sein de nos sociétés, comment ces technologies pourraient s’intégrer dans notre quotidien et quelles pourraient-être les conséquences sur nos fonctions cognitives ? A la différence d’autres innovations technologiques qui avaient comme finalité première de nous assister dans des tâches plus complexes, ChatGPT pour ne citer que lui est probablement le premier outil technologique culturel massivement déployé à pouvoir générer des solutions verbales sous forme de plan d’action complet. Alors que des technologies comme les smartphones ou Google peuvent nous assister d’un point de vue cognitif, il est cependant nécessaire que l’utilisateur conserve une attention, un effort de mémoire et réalise un travail d’analyse afin d’intégrer les informations dans son propre plan d’action.

Imaginons maintenant trois scénarios, du plus conservateur au plus dystopique, sur les effets à long terme que pourraient avoir les IA génératives sur le développement de notre cerveau.

Premier scénario : Les effets positifs et négatifs de l'usage de Chatbots IA sur nos fonctions cognitives s'annulent

Cette première hypothèse considère que l’usage généralisé de Chatbots IA comme ChatGPT n’aura pas d’impact plus significatif cognitivement parlant que lors de l’avènement de la calculatrice, l’ordinateur ou les smartphones (Cecutti et al., 2012). Les effets de ces technologies sur nos capacités cognitives sont aujourd’hui encore difficiles à mesurer car de nombreux facteurs rentrent en jeu. On note cependant quelques tentatives pour mesurer l’impact de ces technologies sur notre développement cérébrale et notre performance. L’effet Flynn (Reese, 1996) par exemple relie positivement un usage de la technologie à une augmentation de notre QI au fil du temps. Cependant, de très nombreuses études par la suite ont démontré l’inexactitude de cette causalité en démontrant paradoxalement un effet inverse sur notre QI.

Dans ce scénario optimiste, l’usage généralisé de Chatbots AI pourrait en premier lieu bénéficier aux individus les moins qualifiés car n’ayant pas traditionnellement accès à ce genre d’outils et à ces connaissances (Dell’Acqua et al, 2023).

Prétendre que l’interaction avec des Chatbots IA pourrait avoir des répercutions sur nos capacités cognitives semble exagérée au regard du phénomène que l’on appelle near and far transfer in cognitive training. Cette méta-étude indique un transfert limité de nouvelles fonctions cognitives acquises lors de formations spécifiques sur certaines fonctions cognitives (e.g. raisonnement, rapidité et langage). Ainsi, l’usage de Chatbots AI pourrait avoir un impact négatif tout à fait limité sur nos fonctions cognitives, qui pourrait être contrebalancé par les très nombreuses stimulations liées à notre environnement et les défis cognitifs apparaissant dans nos vies quotidiennes. Nous serions dans ce scénario sur un jeu à somme nulle, ou les bénéfices et les effets négatifs se neutraliseraient au sein de la population.

Deuxième scénario : La non-utilisation de fonctions cognitives permises par ChatGPT conduit à des changements neuronaux

Notre deuxième hypothèse suggère que les individus utilisent les outils d’IA conversationnels tel que ChatGPT comme des ressources externes pour répondre à des tâches et problématiques précises.
 
Ce scénario est déjà une réalité aujourd’hui, avec ChatGPT disponible largement sur les stores applicatifs (Apple Store, Android Store), et est déjà intégré à de nombreuses applications et technologies (Whatsapp, Microsoft Copilot), permettant un accès permanent et immédiat à l’assistant AI.
 
Dans ce scénario, la sous-utilisation de certaines fonctions cognitives ne permet pas leur pleine maturation. De la même manière que regarder de manière prolongée la télévision réduit la capacité de concentration (Christakis et al., 2004), lire quasi-exclusivement sur écran peut réduire la compréhension écrite (Mangen et al., 2013), l’acquisition du langage chez les enfants est affectée par une exposition aux écrans (Duch et al., 2013), ou encore l’utilisation du GPS diminue la mémoire spatiale (Dahmani & Bohbot, 2020).
 
La non-utilisation de fonctions cognitives pourraient conduire à des changements neuronaux à court terme, en modifiant l’excitabilité des neurones et donc leur capacité à créer de nouvelles connections avec d’autres zones du cerveau (Werhahn et al., 2002).
 
Une fois la réponse formulée par le Chatbot IA, deux options cognitives sont offertes à l’utilisateur. Soit la réponse suffit en elle-même et n’est pas traitée consciemment par l’utilisateur, et nous nous trouvons dans une pensée intuitive (intuitive thinking) ou alors l’utilisateur s’engage dans un processus plus consommateur de ressources cognitives, pour analyser la réponse, éventuellement la remettre en cause, l’ajuster, l’intégrer dans un plan plus large, et nous nous situons dans une pensée analytique (analytical thinking). A rapprocher tout naturellement des travaux de Daniel Kahneman, sur les systèmes I et II (je vous recommande la lecture de Thinking Fast & Slow, du même auteur, ouvrage essentiel sur le fonctionnement de notre cerveau).
 
Maintenant, même chez des utilisateurs proactifs et très motivés, revoyant par exemple en détails et de manière attentionnelle les propositions des Chatbots AI, des fonctions de délestages cognitifs pouvaient avoir lieu.
 
Dans ce second scénario, la sous-utilisation de certaines fonctions cognitives de haut niveau, déléguées au chabot, peut empêcher les utilisateurs d’effectuer une analyse rigoureuse des réponses données.
 

Troisième scénario : L'IA augmente l'utilisateur via des capteurs biométriques implantés dans le corps et le cerveau

Ce troisième scénario, volontairement dystopique, considère un usage de Chatbots IA non plus comme une ressource externe, mais comme une prothèse cognitive qui a la capacité de remplacer intégralement une fonction cognitive de haut-niveau comme notre capacité à penser. Ici, nul besoin pour l’utilisateur de soumettre des instructions verbales ou écrites (i.e. des prompts), les informations étant directement induites par l’environnement permettant de proposer des recommandations ou des actions à l’utilisateur. 

Pour ce faire, cette Intelligence Artificielle devra faire partie d’un système intégré de capteurs biométriques implantés dans le corps et le cerveau de l’individu et permettant de collecter des données internes (biologiques) et externes (environnementales) Ces capteurs pouvant être apposés sur la rétine (pour une vision augmentée), le pavillon de l’oreille (pour l’écoute), le cortex somatosensoriel (pour les perceptions haptiques), le lobe pariétal (pour la proprioception et le goût), ou le cœur (pour les activités des systèmes nerveux sympathiques et parasympathiques) pour évaluer l’environnement interne de l’utilisateur.

L’ensemble des informations collectées pourra ensuite être envoyée à une base de données centralisée afin d’être stocké, analysé et pourra ensuite prédire des comportements futurs. L’algorithme « Actor-Critic Reinforcement Learning Algorithm » (ou ACRL) utilise un mécanisme d’apprentissage renforcé en analysant des stimuli dans l’environnement pour proposer des actions potentielles en fonction de probabilités.  (Trivedi & Hemachandra, 2022).

Les réponses pourraient ainsi être transmises à l’utilisateur, non plus au moyen de l’écran d’un smartphone, mais au travers de lentilles connectées ou de stimulations dans le cortex occipital.

A l’heure actuelle et alors que la technologie existe, son déploiement est peu probable à court terme du fait de la complexité de produire le matériel adéquat (i.e. œil bionique, Knudsen et al., 2023) et les enjeux en terme de captation en temps réel de la donnée. (Y. Gao et al., 2023).

Mais poussons le concept jusqu’au bout à travers une expérience de pensée. Dans ce scénario, chaque individu a accès à un système intégré composé de capteurs biométriques, d’un Chatbot IA et d’un algorithme ACRL (qui propose des actions susceptibles d’arriver en fonction du contexte) et d’une connexion Internet. Nous nommerons ce système le Système de Support pour l’Aide à la Décision Cognitive, ou SYSU-ADC. Alice, notre cobaye du jour, est volontaire pour qu’on lui implémente le SYSU-ADC dans son corps. À mesure que le système se familiarise avec Alice et son environnement, il est rapidement capable de limiter ses propositions à une seule action, la plus probable à celle qu’Alice aurait choisi. Et Alice se trouve confiante et apaisée dans cet unique choix, car après tout, le système mesure également les réactions biologiques et les émotions d’Alice. Dans ce scénario dystopique, Alice devient semi-passive et subit les instructions visuelles et verbales de SYSU-ADC. S’en suit irrémédiablement la baisse puis la disparition de la petite voix intérieure d’Alice (Inner speech, ou covert speech, Flavell et al., 1966), vous savez, cette petite voix qui nous parle, ce dialogue souvent inconscient, parfois volontaire, avec nous-même? Hors, cette voix intérieure a une fonction d’auto-régulation des comportements et semble même intervenir activement lorsque nous tentons de résoudre des problèmes complexes. Chez les enfants, il a été démontré que l’usage de cette voix intérieure (appelée langage égocentrique chez l’enfant) était lié à une amélioration des performances cognitives (Klein, 1964).

Pour revenir à Alice, nous assistons dans notre scénario à une substitution de sa voix intérieure par le langage externe proposé par le Chatbot IA, ce qui pourrait avoir des conséquences cognitives majeures : impact sur la régulation des émotions et des comportements, du raisonnement, de la catégorisation, du contrôle de l’inhibition… En ne dépendant plus que des instructions externes, Alice, alors en mode auto-pilote, perdrait sa volonté, sa capacité d’introspection et sa propre conscience, et n’aurait alors plus qu’une option, suivre les instructions de la machine, sans possibilité de remise en cause.

Conclusion

D’immenses progrès ont été fait, depuis les premières expérimentations avec des Chatbots comme ELIZA (Weizenbaum, 1966), jusqu’aux Chatbots IA actuels capables de raisonnements analytiques et de résolutions de problèmes, à même de surpasser les capacités humaines dans bien des domaines, y compris militaires (voir HPET, Human Performance Enhancement Technology, Shao et al. , 2021), voir même de nous faire toucher du doigt l’immortalité. Mais alors, quels impacts potentiels sur notre développement cognitif?

Les scénarios spéculatifs développés précédemment qui projettent une intégration de Chatbots IA dans nos activités quotidiennes mettent en lumière les impactent possibles de l’Intelligence Artificielle sur nos processus cognitifs humains. 

Alors que le bénéfice sur la performance individuelle peut être facilement mis en exergue, l’impact des changements cognitifs sur la société n’est pas encore établi, compte tenu des cas d’usages possibles, de l’importance du délestage cognitif et des futures innovations dans les produits actuellement mis sur le marché. Alors que nous manquons de recul sur les impacts potentiels, il devient plus qu’urgent de réglementer l’usage et contrebalancer les effets potentiellement négatifs, en mesurant les impacts sur nos fonctions cognitives, en développant des programmes éducatifs, et en explorant des régulations ciblant les technologies émergentes, notamment celles liées à l’utilisation de capteurs biométriques associée à des modèles d’Intelligence Artificielle. Ne reproduisons-pas avec l’IA les erreurs commises avec les réseaux sociaux. L’histoire récente nous a malheureusement montré que l’utilisation de la science et la technologie à des fins purement économiques, et sans aucun contrôle, pouvait avoir des conséquences dramatiques, notamment en affectant notre trésor attentionnel (Bronner, 2021) et sans possibilité d’exercer son droit à l’oublie.

Pour des raisons de cohérence, ce post comme tous les autres sur ce blog, est garanti 100% « human generated », sauf mention contraire. Cela excusera aussi possiblement les quelques fautes d’orthographes éventuelles).🙏🏻.

Pour approndir le sujet, je vous recommande l’excellent papier (ressource payante) « Potential Cognitive Risks of Generative Transformer-Based AI Chatbots on Higher Order Executive Functions » de Umberto Leon-Dominguez

Laissez un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

17 + quatre =