Lu chez SebSauvage : un article (un de plus pourrait-on dire) en cours de validation tendant à démontrer que les LLM, pour le dire vite, rendent con, ou en tout cas entraßnent une "atrophie cérébrale" d'autant plus dure à "récupérer" que l'habitude d'utilisation est ancienne :
> Dans cette expĂ©rimentation, 55 % de la « charge cognitive » nĂ©cessaire pour rĂ©diger un essai sans aucune assistance diminuerait avec lâutilisation dâun LLM provoquant une sorte dâatrophie cĂ©rĂ©brale.
> Dans le temps, écrire avec ChatGPT ferait accumuler une « dette cognitive » rendant difficile un retour à une activité cérébrale normale pour les tùches effectuées sans LLM.
[...]
> 2 â Les effets cognitifs de lâutilisation de ChatGPT : les LLM atrophient-ils notre activitĂ© cĂ©rĂ©brale ?
> Les rĂ©sultats de lâĂ©tude semblent sans appel : la « connectivitĂ© cĂ©rĂ©brale » diminuerait systĂ©matiquement en fonction du soutien externe. [...] Autrement dit : plus le soutien extĂ©rieur est Ă©levĂ©, plus lâamplitude des zones actives dans le cerveau est faible.
Bon, ça peut paraĂźtre moins grave que ça en Ă l'air : ça revient juste Ă dire que selon que le sujet n'utilise que son cerveau, un moteur de recherche ou un LLM, ce ne sont pas les mĂȘmes zones du cerveau qui sont activĂ©es, mĂȘme si le nombre de zones utilisĂ©es va dĂ©croissant : cerveau seul > cerveau + moteur de recherche > LLM (et cerveau sur la table).
La suite est encore pire :
[...]
> Les donnĂ©es dites « comportementales » â en particulier celles relatives Ă la capacitĂ© de citation, Ă lâexactitude des citations et Ă lâappropriation des essais â prolongent et corroborent les conclusions de lâĂ©tude en matiĂšre de connectivitĂ© neuronale.
[... ]
> La divergence comportementale la plus constante et la plus significative entre les groupes a Ă©tĂ© observĂ©e dans la capacitĂ© Ă citer de tĂȘte son propre essai.
Bref : 83,3% des cobayes de l'étude (basée sur un échantillon, réduit, il est important de le préciser) s'étant servi du LLM pour rendre l'essaie demandé, se sont avéré incapables de citer des passages de cet essai.
Pour le coup, ça me parait plutĂŽt normal de ne pas me rappeler d'un truc que je n'ai pas Ă©crit moi-mĂȘme. Mais l'Ă©tude Ă©tablit une corrĂ©lation forte entre le faible nombre de zones du cerveau sollicitĂ©es et l'incapacitĂ© Ă mĂ©moriser :
> LâĂ©tude met notamment en avant le fait que la rĂ©duction de lâactivitĂ© cognitive chez les utilisateurs de LLM « reflĂšte probablement un contournement des processus dâencodage profond de la mĂ©moire, les participants lisant, sĂ©lectionnant et transcrivant les suggestions gĂ©nĂ©rĂ©es par lâoutil sans les intĂ©grer dans les rĂ©seaux de mĂ©moire Ă©pisodique ».
Par-ailleurs, les utilisateurs ont du mal, consciemment ou pas, Ă s'approprier la paternitĂ© du texte produit. Et ce n'est pas que de lâhonnĂȘtetĂ© intellectuelle de leur part, c'est aussi parce que, pour caricaturer, leur cerveau a Ă©tĂ© tellement peu impliquĂ© dans le processus qu'il n'a rien produit et rien retenu, ce qui n'est pas sans poser des problĂšmes sur le long terme : avec une IA, on peut produire des choses, mais on n'apprend rien.
> Cette observation expĂ©rimentale semblerait fournir la preuve que si les utilisateurs sâappuient trop fortement sur les outils dâIA, ils peuvent penser acquĂ©rir une maĂźtrise superficielle sans parvenir Ă intĂ©rioriser et Ă sâapproprier les connaissances.
Ăa vous semble encore anodin ? Attendez la chute.
Les effets sur le cerveau se font sentir **à long terme**. AprÚs avoir échangé leurs rÎles, le groupe "brain only" a obtenu de meilleurs résultats avec Chat GPT que le groupe "LLM only".
Le dernier paragraphe semble montrer (je rappelle que l'échantillon est restreint) que le groupe ayant fait du "LLM only" tend à se focaliser sur un ensemble d'idées plus restreint
> Selon les auteurs, cette rĂ©pĂ©tition pourrait suggĂ©rer que de nombreux participants ne se sont peut-ĂȘtre pas engagĂ©s profondĂ©ment dans les sujets ou nâont pas examinĂ© de maniĂšre critique le matĂ©riel fourni par le LLM. Ce schĂ©ma reflĂšterait lâaccumulation dâune dette cognitive : le recours rĂ©pĂ©tĂ© Ă des systĂšmes externes tels que les LLM remplacerait des processus cognitifs exigeants nĂ©cessaires Ă la pensĂ©e indĂ©pendante par des processus purement intĂ©gratifs. La dette cognitive reporterait donc lâeffort mental Ă court terme mais entraĂźnerait des coĂ»ts Ă long terme comme une diminution de lâesprit critique, une vulnĂ©rabilitĂ© accrue Ă la manipulation et une baisse de la crĂ©ativitĂ©.
Bref : perte de la faculté de mémorisation, perte du sens critique, perte des facultés imaginatives.
De là à dire -mais ce n'est pas si exagéré au regard du contexte- que l'objectif final des LLM est de nous rendre aussi cons que dociles... il y a un pas que je franchis sans complexes aucuns.
(
Permalink)