ChatGPT Dilemma
Al is a cognitive credit card: it offers instant results for long-term intellectual debt
Remember the famous TV series «The Walking Dead»? Is the risk of humanity becoming zombies just around the corner?
In an age where relying on Artificial Intelligence for complex tasks has become commonplace, a group of researchers from MIT and other academic institutions decided to investigate the cognitive consequences of delegating writing to language models such as ChatGPT. The result is a study that is as fascinating as it is disturbing: using AI to write essays drastically reduces brain activity, weakens memory, and produces a diminished sense of ownership of one's work. The younger generations would shake their heads at such statements, remaining totally expressionless and relying on new youth slang such as «chill down, use AI and relax». However, enjoying the journey doesn’t necessarily have to be synonymous with collective stupidity.
This article is not a criticism of the use of technology: in many fields and everyday applications, Artificial Intelligence has enabled great strides and acceleration in medical and scientific research, simplification and de-bureaucratization in public administration, and streamlining of procedures that used to take days, months, and sometimes years. Progress is never a bad thing, although there are many people out there who think the opposite (things were better when they were worse, ed.). The need and requirement to simplify is an advantage for everyone, but it should not be abused: the human brain is a muscle needs to be trained, and if brain activity is not stimulated, it becomes lazy, sluggish, atrophied, and dull.
This is the real risk of AI for future generations. Let’s dig in.
Ricordate la famosa serie TV «The Walking Dead»? Il rischio di zombificazione dell’umanità è alle porte?
In un’epoca in cui affidarsi all’Intelligenza Artificiale per compiti complessi è ormai diventata una consuetudine, un gruppo di ricercatori del MIT e di altre istituzioni accademiche, ha deciso di indagare a fondo sulle conseguenze cognitive del delegare la scrittura a modelli linguistici come ChatGPT. Il risultato è uno studio tanto affascinante quanto inquietante: utilizzare l’IA per scrivere saggi riduce drasticamente l’attività cerebrale, indebolisce la memoria e produce un senso attenuato di appartenenza rispetto al proprio lavoro. Le nuove generazioni scuoterebbero il capo davanti a tale affermazioni, rimanendo totalmente inespressivi e affidandosi ai nuovi slang giovanili del tipo: «chill down, usa l’IA and relax». Godersi il viaggio però non deve per forza essere sinonimo di istupidimento collettivo.
Questo articolo non è una critica all’utilizzo della tecnologia: in tanti campi e applicazioni quotidiane, l’Intelligenza Artificiale ha permesso grandi passi e accelerazioni nella ricerca medico-scientifica, nella semplificazione e sburocratizzazione nell’amministrazione pubblica, nello snellimento di procedure che richiedevano giorni, mesi e alcune volte anni. Il progresso non è mai una cosa negativa, sebbene là fuori ci siano tante persone che la pensano al contrario (si stava meglio quando si stava peggio, ndr). Il bisogno e l’esigenza di semplificare è un vantaggio per tutti ma non bisogna abusarne: il cervello umano è un muscolo che va allenato e l’attività celebrale, se non stimolata, si impigrisce, demanda, si atrofizza, si instupidisce.
Questo è il vero rischio dell’IA verso le future generazioni. Approfondiamo.
When ChatGPT writes for you, your brain just watches: study raises alarm bells about the use of AI in everyday life
In this regard, it is worth exploring this topic in more depth with an article I decided to share, which concerns a study published on arXiv in June 2025, starting from a simple and crucial question: what happens in the human brain when entrusts the production of written content to an artificial assistant?
To answer this question, authors recruited 54 participants and divided them into three distinct groups: the first had to write essays using only ChatGPT, the second could use Google as a source of information, while third had to rely solely on their own cognitive resources, without any external support. Participants were monitored using high-resolution electroencephalograms (EEGs), which were able to measure the connectivity between different areas of the brain during writing. Data collected showed an unequivocal pattern: those who wrote on their own activated more extensive and connected neural networks, especially in the alpha and beta bands, which are related to memory and concentration. Those who used Google maintained a certain level of activation, but it was those who relied on ChatGPT who showed the least brain activity, with signs of significant disengagement.
But the differences don’t stop at the neural sphere. After each writing session, participants were asked to remember and quote phrases or concepts from their essays. Here too, results speak for themselves: the majority of those who had used Artificial Intelligence were unable to accurately reproduce their own writings. In many cases, they didn’t even remember topic covered. On the other hand, those who had written without assistance showed a much stronger memory and greater mastery of the content.
No less interesting is what emerges from linguistic analysis of the texts produced. Essays written with the help of AI tended to converge around repetitive patterns, with recurring vocabulary and constructions, a sign of excessive homogeneity and an artificial voice ends up standardizing thought. In addition, post-task interviews revealed that many AI users didn’t feel that texts were truly theirs: a feeling of disconnection that contrasts with experience of the other groups, in which sense of ownership and responsibility was significantly higher.
What made the study even more significant was the introduction of a fourth session, in which some of the participants switched from using Artificial Intelligence to writing independently and vice versa. Here, too, results were surprising: those who had written with ChatGPT in the first sessions and then returned to writing on their own showed still depressed brain activity. In practice, the continued use of AI seemed to leave a sort of cognitive inhibition, a difficulty in reactivating neural networks necessary for independent reasoning. On the contrary, those who had started writing independently and then used ChatGPT in the fourth session maintained a certain cognitive alertness, a sign that independently developed skills can temporarily resist the creation of a vegetative mental state.
Full paper can be found at this link.
Quando ChatGPT scrive per te, il cervello resta a guardare: lo studio che accende l’allarme sull’uso dell’IA nella vita quotidiana
A tal proposito, vale la pena approfondire questo argomento con un articolo che ho deciso di condividere, e che riguarda uno studio pubblicato su arXiv a Giugno 2025, partendo da una domanda tanto semplice quanto cruciale: cosa succede nel cervello umano quando affida la produzione di contenuti scritti a un assistente artificiale?
Per rispondere, gli autori hanno reclutato 54 partecipanti, dividendoli in tre gruppi distinti: il primo doveva scrivere saggi utilizzando solo ChatGPT, il secondo poteva usare Google come fonte di informazioni, mentre il terzo doveva fare affidamento unicamente sulle proprie risorse cognitive, senza alcun supporto esterno. I partecipanti sono stati monitorati attraverso elettroencefalogrammi (EEG) ad alta risoluzione, in grado di misurare la connettività tra le diverse aree cerebrali durante la scrittura. I dati raccolti hanno mostrato un pattern inequivocabile: chi scriveva da solo attivava reti neurali più estese e connesse, soprattutto nelle bande alfa e beta, correlate a memoria e concentrazione. Chi utilizzava Google manteneva un certo livello di attivazione, ma era chi faceva affidamento su ChatGPT a mostrare la minore attività cerebrale, con segnali di disimpegno significativo.
Ma le differenze non si fermano alla sfera neurale. Dopo ogni sessione di scrittura, ai partecipanti veniva chiesto di ricordare e citare frasi o concetti presenti nei propri saggi. Anche qui, i risultati parlano chiaro: la stragrande maggioranza di chi aveva usato l’Intelligenza Artificiale non era in grado di riprodurre con accuratezza i propri stessi scritti. In molti casi, non ricordavano nemmeno l’argomento trattato. Al contrario, chi aveva scritto senza assistenza mostrava una memoria molto più salda e una maggiore padronanza dei contenuti.
Non meno interessante è ciò che emerge dall’analisi linguistica dei testi prodotti. I saggi scritti con l’aiuto dell’IA tendevano a convergere attorno a schemi ripetitivi, con vocabolario e costruzioni ricorrenti, segno di un’eccessiva omogeneità e di una voce artificiale che finisce per uniformare il pensiero. In più, interviste post-task hanno rivelato che molti utenti dell’IA non sentivano quei testi davvero loro: una sensazione di disconnessione che contrasta con l’esperienza degli altri gruppi, nei quali il senso di proprietà e responsabilità risultava nettamente superiore.
A rendere lo studio ancora più significativo è stata l’introduzione di una quarta sessione, in cui una parte dei partecipanti è passata dall’uso dell’Intelligenza Artificiale alla scrittura autonoma e viceversa. Anche qui, i risultati hanno sorpreso: coloro che avevano scritto con ChatGPT nelle prime sessioni e sono poi tornati a scrivere da soli mostravano un’attività cerebrale ancora depressa. In pratica, l’uso continuativo dell’AI sembrava lasciare una sorta di inibizione cognitiva, una fatica nel riattivare le reti neurali necessarie al ragionamento indipendente. All’opposto, chi aveva iniziato scrivendo in autonomia e poi aveva usato ChatGPT nella quarta sessione manteneva una certa prontezza cognitiva, segno che le abilità sviluppate autonomamente possono temporaneamente resistere alla creazione di uno stato vegetativo mentale.
A questo link trovate il paper completo.
Cognitive debt and collective stupidity
Artificial Intelligence is a cognitive credit card that offers immediate results in exchange for long-term intellectual debt. But in this process, no capital is built up, no historical memory can develop deep and robust neural pathways for critical thinking. The study shows when it comes time to pay the bill and you have to think for yourself, your brain finds itself in a state of intellectual deficit.
AI trains your brain, but not in the way you think. It doesn't teach you to improve, it trains you to wait. After repeated use, the brain learns to stop trying to solve problems on its own. EEG scans showed that when artificial intelligence was removed, the brains of experienced users showed less involvement than those of beginners, demonstrating an acquired inability to initiate the hard work of thinking. Artificial Intelligence turns your brain into a high-speed cable that saves nothing locally. The most disconcerting finding of the study was knowledge amnesia: information from AI flows through the user's brain and onto the screen, but almost none of it is retained. An incredible 83% of participants could not remember a single sentence they had just written.
The authors of the study explicitly refer to «cognitive debt», an effective metaphor describes the risk of relying on artificial intelligence as a crutch that, in the long run, weakens the fundamental abilities of human thought (what I refer to in this article as «collective dumbing down», ed.). It is not a question of demonizing the use of AI, but of fully understanding its implications: tools such as ChatGPT can be valuable allies, but only if used consciously and within educational programs that encourage their active, critical, and integrated use.
At a time when universities, schools, and even the world of work are questioning the growing role of AI in creative and productive processes, studies such as this become fundamental. They remind us that human mind is a complex, delicate machine, and true, deep, laborious thinking cannot be replaced without consequences. Perhaps the real challenge in the coming years will not be understanding how much Artificial Intelligence can do, but how much we are willing to let it think for us.
Il debito cognitivo e l’istupidimento collettivo
L'Intelligenza Artificiale è una carta di credito cognitiva che offre risultati immediati a fronte di un debito intellettuale a lungo termine. Ma in questo processo non si costruisce alcun capitale, nessuna memoria storica che possa sviluppare percorsi neurali profondi e robusti per il pensiero critico. Lo studio dimostra che quando arriva il momento di pagare il conto e devi pensare con la tua testa, il tuo cervello si ritrova in uno stato di deficit intellettuale.
L'IA allena il tuo cervello, ma non nel modo in cui pensi. Non ti insegna a migliorare, ti allena ad aspettare. Dopo un uso ripetuto, il cervello impara a smettere di cercare di risolvere i problemi da solo. Le scansioni EEG hanno dimostrato che quando l'intelligenza artificiale veniva rimossa, il cervello degli utenti esperti mostrava un coinvolgimento minore rispetto a quello dei principianti, dimostrando un'incapacità acquisita di avviare il duro lavoro del pensiero. L'Intelligenza Artificiale trasforma il tuo cervello in un cavo ad alta velocità che non salva nulla localmente. La scoperta più sconcertante dello studio è stata l'amnesia della conoscenza: le informazioni provenienti dall'IA fluiscono attraverso il cervello dell'utente e arrivano allo schermo, ma quasi nessuna di esse viene conservata. Un incredibile 83% dei partecipanti non riusciva a ricordare una sola frase che aveva appena scritto.
Gli autori dello studio parlano esplicitamente di «debito cognitivo», una metafora efficace che descrive il rischio di affidarsi all’Intelligenza Artificiale come a una stampella che, a lungo andare, indebolisce le capacità fondamentali del pensiero umano (quello che in questo articolo definisco come «istupidimento collettivo», ndr). Non si tratta di demonizzare l’uso dell’IA, ma di comprenderne a fondo le implicazioni: strumenti come ChatGPT possono essere validi alleati, ma solo se usati con consapevolezza e all’interno di percorsi educativi che ne incoraggino l’uso attivo, critico, integrato.
In un’epoca in cui le università, le scuole e perfino il mondo del lavoro si interrogano sul ruolo crescente dell’IA nei processi creativi e produttivi, studi come questo diventano fondamentali. Ci ricordano che la mente umana è una macchina complessa, delicata, e che il pensiero, quello vero, profondo, faticoso, non può essere sostituito senza conseguenze. Forse la vera sfida dei prossimi anni non sarà capire quanto può fare l’Intelligenza Artificiale, ma quanto siamo disposti a lasciare che pensi al posto nostro.
Sad but real story...