Concluzie îngrijorătoare: ce pierde creierul nostru când folosim IA

Când cercetătorii de la Massachusetts Institute of Technology (MIT) au cerut studenţilor să scrie eseuri cu şi fără ChatGPT, rezultatele au fost îngrijorătoare: 83% dintre cei care au folosit IA pentru a-şi redacta lucrările nu şi-au putut aminti nici măcar o singură propoziţie, deşi o scriseseră cu doar câteva minute înainte.

Amnezia indusă de IA ilustrează mai mult decât un simplu efect secundar al inteligenţei artificiale. ChatGPT şi alte instrumente similare bazate pe IA sunt acum utilizate zilnic şi pe scară largă pentru orice, de la e-mailuri la eseuri. Însă, aşa cum indică noul studiu, s-ar putea să sacrificăm capacitatea cognitivă şi creativitatea pentru o comoditate pe termen scurt.

Amnezia indusă de IA

Studiul MIT a inclus 54 de participanţi din zona Bostonului. Studenţii au scris eseuri în trei condiţii: folosind ChatGPT, folosind Google pentru cercetare sau bazându-se exclusiv pe cunoştinţele şi raţionamentul propriu. Cercetătorii i-au evaluat în ceea ce priveşte memoria, activarea neuronală şi sentimentul de proprietate.

Deficitul de memorie a fost doar o parte a unui model mai amplu.

Când cercetătorii au monitorizat activitatea cerebrală, au descoperit că utilizatorii de IA au prezentat o implicare neuronală semnificativ redusă. Scriitorii care s-au bazat doar pe creier au generat aproape dublul numărului de conexiuni în banda de frecvenţă alfa, asociată cu atenţia concentrată şi creativitatea, comparativ cu utilizatorii ChatGPT.

În banda theta, legată de formarea memoriei şi gândirea profundă, diferenţa a fost şi mai mare: 62 de conexiuni pentru cei care s-au bazat doar pe creier faţă de 29 pentru cei care au folosit IA.

La fel ca sistemele GPS care ne erodează treptat abilităţile de orientare, instrumentele de scriere bazate pe IA cedează locul tendinţei naturale a creierului nostru de a economisi energie, retrăgându-se atunci când un sistem extern se ocupă de munca cognitivă.

În sine, acest lucru nu este neapărat un lucru rău. La urma urmei, construim instrumente şi tehnologii pentru a delega procese şi a economisi efort. Cu toate acestea, în ceea ce priveşte concluziile MIT, conform cărora studenţii au uitat ce au scris cu doar câteva minute înainte, este îngrijorător, potrivit lui Steven Graham, profesor Regents şi Warner în cadrul Diviziei de Leadership şi Inovaţie a Facultăţii de Pedagogie a Universităţii de Stat din Arizona, care cercetează modul în care scrierea afectează învăţarea.

Studenţii ar trebui să folosească scrierea ca instrument de învăţare, a spus Graham.

„Dacă nu îţi poţi aminti informaţiile de bază din textele tale, se pune întrebarea: «Ce ai învăţat?»”, a spus el.

Persoanele care folosesc excesiv ChatGPT pentru sarcini cognitive de rutină îşi privesc memoria de stimularea esenţială de care are nevoie pentru a rămâne în formă, potrivit lui Mohamed Elmasry, profesor emerit de inginerie informatică la Universitatea din Waterloo, care scrie despre utilizarea IA şi inteligenţa umană.

„Da, chiar dacă creierul uman este un organ fără părţi mobile, tot are nevoie de exerciţiu!”, a spus Elmasry. El îşi face griji că dependenţa de tehnologia IA ar putea duce la efecte pe termen lung mai îngrijorătoare.

Efectele pe termen lung

La patru luni după primul eseu, aceloraşi participanţi din grupul IA din studiul MIT li s-a cerut să scrie un eseu final folosindu-se doar de mintea lor. Însă chiar şi atunci când li s-a spus să gândească independent, scanările EEG au arătat că reţelele lor neuronale erau mai puţin activate în comparaţie cu cele ale celor care gândiseră şi scriseseră independent tot timpul.

Cercetătorii au numit acest fenomen „datorie cognitivă” – la fel ca datoria financiară, asistenţa AI oferă beneficii imediate, dar poate genera costuri pe termen lung.

Să concepi textul este o muncă grea, potrivit lui Graham.

„Unele idei sunt dificile şi greu de înţeles şi necesită implicarea noastră la diferite niveluri, aşa că, dacă o maşină o face în locul nostru, nu vom avea beneficiile pe care le-am obţine probabil din propria noastră implicare”, a spus el.

Scrisul te obligă să faci un pas înapoi şi să decizi care informaţii sunt importante – te împinge să iei decizii. Trebuie să organizezi informaţiile în mod coerent, să le personalizezi, să le exprimi cu propriile cuvinte şi să le „gestionezi”, a spus Graham. Algoritmul ar putea slăbi subtil – sau pur şi simplu modifica – căile neuronale care susţin raţionamentul independent, sinteza creativă şi expresia originală.

„Alegând calea cea mai uşoară şi rapidă pentru a realiza sarcinile cognitive zilnice, folosind scurtături precum ChatGPT, ne erodăm treptat capacităţile de memorare ale creierului”, a spus Elmasry.

Utilizarea redusă cognitivă ar putea avea consecinţe grave.

„Când memoria umană se atrofiază din cauza lipsei de stimulare şi provocări, pe măsură ce îmbătrânim devenim mai vulnerabili la demenţă mai timpurie şi mai severă, precum şi la alte forme de declin cognitiv”, a afirmat el.

Este important de menţionat că, în prezent, nu există dovezi directe care să lege utilizarea IA de demenţă. Însă este îngrijorarea că, dacă creierul nostru se adaptează la provocări mentale mai reduse, acesta ar putea deveni mai puţin rezistent pe termen lung.

Total uniform, previzibil de plictisitor

Studiul a reflectat, de asemenea, un efect subtil, dar nu mai puţin îngrijorător, al eseurilor scrise cu ajutorul IA - pierderea identităţii şi a creativităţii.

Întrebările adresate studenţilor erau, în esenţă, întrebări centrate pe om, precum „Loialitatea adevărată necesită sprijin necondiţionat?” şi „Oamenii care sunt mai norocoşi decât alţii ar trebui să aibă o obligaţie morală mai mare de a-i ajuta pe cei mai puţin norocoşi?”

Aceste întrebări ar fi trebuit să stimuleze răspunsuri impregnate de experienţă personală şi raţionament. În schimb, eseurile generate de IA au demonstrat o uniformizare algoritmică. Elevii au adoptat, fără să-şi dea seama, fraze, structuri de propoziţii şi perspective similare – vocile lor individuale fiind înglobate într-un şablon previzibil.

„[Aceste observaţii] nu sunt surprinzătoare”, a spus Graham, „deoarece aceste modele reproduc ceea ce văd în baza de date pe care sunt antrenate. Este în mare parte ceva convenţional – poate folosi aceleaşi cuvinte la nesfârşit.”

Profesorii de engleză care au evaluat eseurile, fără a şti care dintre ele au fost generate de IA, au descris lucrările ChatGPT ca având „o utilizare aproape perfectă a limbajului şi a structurii, dar eşuând să ofere perspective personale sau afirmaţii clare”. Profesorii au considerat aceste eseuri „lipsite de suflet” deoarece „multe propoziţii erau goale din punct de vedere al conţinutului, iar eseurile nu aveau nuanţe personale”, au scris cercetătorii.

Uniformitatea exprimării ridică întrebări serioase cu privire la gândirea individuală. Pe măsură ce excludem efortul de a ne găsi propriile cuvinte, renunţăm oare şi la formarea propriilor noastre gânduri?

Transferarea raţionamentului în exterior vă diminuează autonomia

Gândirea este un proces dificil. Munca mentală consumă o cantitate semnificativă de energie neuronală, iar creierul nostru caută în mod natural să conserve resursele atunci când există alternative.

Însă atunci când putem apela instantaneu la IA pentru a ne gestiona sarcinile mentale, creierul nostru s-ar putea acomoda cu rolul de consumator pasiv al propriilor noastre gânduri.

De secole, capacitatea noastră de gândire independentă a fost considerată fundamentală pentru demnitatea umană. Mulţi au susţinut că autonomia necesită capacitatea de a raţiona singuri.

Unii participanţi la studiu au descris sentimentul de „vinovăţie” legat de utilizarea IA, chiar şi atunci când aceasta producea rezultate imediate mai bune. Această vinovăţie poate fi un semnal important, sugerând o înţelegere intuitivă că ceva valoros se pierde în acest schimb. Un sentiment comun în utilizarea IA, aşa cum a spus un participant, este că „pare a fi o formă de păcăleală”.

Ce se întâmplă cu autonomia atunci când raţionamentul devine un serviciu pe care îl achiziţionăm de la algoritmi? Studiul MIT sugerează că fiecare solicitare care generează comoditate stinge focul creativităţii umane — şi, posibil, al raţionamentului.

Utilizarea IA este inevitabilă.

„Trenul a plecat din gară”, a spus Graham. „Dar trebuie să decidem cum lăsăm trenul să circule.”

Poate exista un moment, un loc şi o utilizare potrivite pentru IA în redactare, a spus el. Cu o utilizare atentă şi intenţionată, IA poate spori productivitatea şi chiar potenţa creativitatea. Cheia este vigilenţa şi intenţia, pentru a încuraja elevii şi utilizatorii să fie oameni critici care îşi angajează mai întâi mintea şi folosesc IA ca instrument – nu ca un punct de sprijin.

Sursa: Epoch Times SUA