06/10/2025
Am mai scris despre asta. Exista un studiu care este foarte citat, desi in ultima vreme apar din ce in ce mai multe astfel de studii despre efectele pe care le are folosirea PROASTA a AI-urilor.
Pe scurt, ce au facut cei de mai sus: au masurat activitatea cerebrala a celor care au folosit AI-ul in activitati creative (scriere de eseuri).
Subiectii au fost impartiti in trei categorii:
[Grupul LLM], cel care se foloseste de AI ca sa scrie;
[Grupul Research], care se foloseste de softuri de cautare, pentru a gasi surse pentru eseu si pentru scrierea lui;
[Grupul Write], care nu a avut acces la niciun ajutor extern.
Problema evidenta a aparut in cazul grupului LLM, unde s-au observat activitati cerebrale mult reduse fata de celelalte grupuri. Rezultatul in sine a fost mai slab, cu eseuri mai generice si argumentatii superficiale, iar autorii lor nu au reusit sa isi sustina teza mai departe, sa explice ce au scris si concluziile la care au ajuns.
Mai mult de atat, pastrand legatura cu grupurile respective, s-a observat ca cei care au folosit ChatGpt-ul au acumulat ceea ce se numeste “Datorie cognitiva”. Chiar si d**a ce au renuntat sa mai foloseasca AI-ul pentru scrierea textelor lor, cei din grupul LLM au continuat sa produca rezultate mai proaste decat ceilalti.
Studiul a fost atat de socant, incat a generat foarte multe alte studii care, mai mult sau mai putin, spun acelasi lucru: AI-ul folosit prost te prosteste. RAU.
Analogia cu barza.
Ca sa pot sa iti explic efectul pe care il are asupra creierului, o sa vreau sa fac un mic exercitiu de imaginatie cu tine.
Sa zicem ca se inventeaza un aparat (care functioneaza pe baza de AI), care poate fi atasat creierului nostru. Functia lui este simpla: sa ne ajute in identificarea a ceea ce vedem, pentru a castiga timp, dar si precizie mai mare.
Ne uitam pe cer si vedem un punct care se misca. O pasare. Aparatul atasat creierului nostru il identifica imediat, iar noi, cand ne uitam la punctuletul de pe cer, il vedem deja incercuit. In dreptul lui apare un text pe care scrie:
BARZĂ
La fel si cand ne uitam spre orizont, unde avem o liziera. Instant privirea ne este alterata de aparat, linia padurii este subliniata ca si cm cineva ar fi trasat un marker deasupra ei. Apoi un scris care ne explica ce vedem:
PADURE
Eventual ne spune si care padure. Letea, de exemplu, una dintre cele mai vechi rezervatii naturale din lume. Apoi ne intoarcem cu spatele si surprindem o imagine, care este si ea incadrata intr-un chenar pe care scrie.
COPAC: NUC
Imagineaza-ti, de dragul jocului, cat de multe lucruri poti obtine cu ajutorul acestei aplicatii. Acuratetea observatiilor, faptul ca nu te ratacesti niciodata, ca ai un asistent care te centreaza pe elementele din lumea fizica si iti spune ce reprezinta ele. Vezi ca se apropie un caine in fuga catre tine, aplicatia iti furnizeaza informatiile necesare intr-o viteza record. Beneficiile pot fi IMENSE.
Si acum vin cu reversul medaliei. Hai sa scoatem un pic micul aparat din creierul nostru, d**a trei luni de folosire.
Care este experienta? Pentru ca intuitia mea imi spune vei avea probleme majore sa interpretezi ceea ce ai in fata ta, vizual. Creierul tau tocmai a fost downgradat, iar el si-a pierdut abilitatea naturala de a procesa informatiile primite cu ajutorul simturilor.
Vei avea un handicap major in lumea reala. Si vei avea nevoie de mult timp ca sa iti revii.
In biologie am invatat, la scoala, ca “functia mentine organul”. Daca organul respectiv nu isi mai exercita functia pentru care el s-a dezvoltat, daca nu isi mai indeplineste rolul, se va atrofia si se va degrada in timp.
Cam asta se intampla cu ChatGPT-ul. Creierul tau are un beneficiu in zbaterea creatiei, in procesarea informatiei, in trasarea de concluzii si argumentatie. Cand folosesti un LLM, activitatea cerebrala scade.
Si
Asta
Te
Face
Prost
Intr-un
Timp
Foarte
Scurt.
Cele 3 promisiuni ale AI-ului
Cand a fost lansat ChatGPT-ul, lumea s-a trezit intr-un adevarat soc emotional. Parea ca traim deja in viitor.
Implicatiile pareau majore, iar specialistii s-au intrecut, care mai de care, sa faca predictii:
Ca ajungem la AGI si singularitate (cam ca in Terminator, in care AI-ul preia controlul asupra planetei, iar noi devenim o specie inferioara);
Ca 90+% dintre joburi vor disparea in cinci ani (in special in zona de creare de text, de marketing, de programare, contabilitate, avocatura, tot ce tine de middle management etc.);
Ca vom avea masini care se vor conduce singure, asistenti virtuali care ne vor ghida in orice activitate facem, revolutii in sistemul economic si politic etc.
Intre timp, am avut timp sa ne reglam asteptarile. LLM-urile, momentan, sunt doar o alta unealta, surprinzatoare prin rapiditatea cu care a fost adoptata si potentialul in aplicabilitate. Dar vorbim, pana la urma, doar de o unealta destul de limitata, care vine, momentan, cu costuri destul de mari asupra cognitiei si sanatatii noastre mentale.
Asta nu inseamna ca lucrurile nu pot evolua de aici si ca nu se va transforma intr-un Sfant Graal al omenirii, cm a fost propovaduit la inceput.
Dar, ce as vrea sa fac astazi este sa analizez trei dintre cele mai mari promisiuni care s-au facut si care pareau realiste in urma cu un timp foarte scurt.
CREATIE / EDUCATIE (de ce sa mai scrii articole sau carti, daca AI-ul o face in cateva secunde, mai bine decat tine?)
PRODUCTIVITATE (o sa facem lucrurile, cu ajutorul lui, de 3-4-5 ori mai repede)
RESEARCH, STRUCTURARE, VALIDARE DE TEXT (ai parte de un asistent care sa iti ofere raspunsul la orice intrebare ai, o sa iti dea orice informatie ai nevoie si o sa iti faca rezumate, ca sa nu fii nevoit sa citesti volume mari informatii).
O sa le iau una cate una, pe rand, si o sa incerc sa fiu echilibrat in afirmatii.
Nu sunt inamicul aici! Desi sunt un early adopter de tehnologie, in acelasi timp sunt si un veritabil tech skeptic, care isi pune intrebari despre valoarea reala a unei tehnologii, cand apare. Am o minte foarte critica, atunci cand vine vorba de costurile ascunse, care ne pot afecta profund si, de multe ori, ireversibil.
Cum functioneaza creierul uman, cand vine vorba de creatie si educatie?
O sa vreau sa ne raportam, in prima faza, la un articol pe care l-as vrea scris - cm este asta de acum, pe care il citesti tu. Mintea functioneaza pe trei etape diferite, care definesc procesul creativ:
Avem informatia pe care o adunam din mai multe surse (infamul research);
Procesarea informatiei, care tine de structurarea ei, integrarea in modele mentale, gasirea semnificatiei intr-o imagine de ansamblu, o argumentatie care sa fie coerenta si diverse fisuri pe care le identifici pe parcurs;
Si transpunerea intr-un produs finit, articol, in cazul asta, care se traduce, insa, si prin expertiza si cunoastere reala -> intelegere pe adancime a subiectului, prin expunerea la tot procesul.
Daca facem o paralela si simplificam foarte mult, procesul cognitiv seamana cu un proces de fabricatie clasic: ai niste materie prima (care este informatia) -> un proces de fabricatie (procesarea informatiei) -> si produsul finit (articolul).
Dar, ce trebuie sa intelegem aici este ca procesul de mai sus se aplica la orice tine de cognitie. Daca vrei sa inveti despre cm sa investesti banii tai la bursa, procesul de mai sus este similar. Doar rezultatul este diferit, pentru ca in loc de articol ai un plan de actiune pe care sa il duci la bun sfarsit.
Unde apar problemele:
Pana acum informatia noi o adunam din mai multe surse, printr-un proces care ne costa mai mult timp: citeam carti, cautam pe google articole de specialitate, ne uitam la niste videouri pe youtube.
Informatia, de multe ori, era haotic aranjata, asa ca aveam nevoie sa o cuprindem cu mintea, sa o organizam intr-o forma cu ajutorul careia sa o si intelegem. Si asta dura, de obicei cu pixul in mana si o foaie de hartie in fata. Trageam chenare, scriam bucatele de text, le subliniam, trageam sageti, faceam corelatii.
Asta inseamna ca intram in procesul de buretare (de procesare a informatiei). Aici procesul este unul care genereaza disconfort si incertitudine. Nu este confortabil sa nu stii “unde ajungi”, ai nevoie de concentrare, de capacitate de schematizare, de concluzionare.
Ei bine, acest proces este cel mai important lucru care i se poate intampla creierului tau! Din durerea respectiva se naste expertiza si cunoasterea. Pentru ca intra in tine, cu totul.
Educatia si creatia nu se vor a fi usoare! Asta este cea mai mare minciuna a secolului. Nu e necesar sa iti tai venele, ca sa inveti ceva, dar nici usor nu ar trebui sa fie, pentru ca intri intr-o zona de falsa intelegere. Pe termen scurt intelegi ce citesti si ai impresia ca stapanesti informatia, dar nu poti transfera aceste informatii in memoria pe termen lung.
Mai mult, disconfortul creatiei / educatiei genereaza activitate cerebrala intensa. Iti antrenezi muschiul creierului, exact asa cm ai face cu bicepsii cand ridici in mod repetat o greutate.
Iar problema apare prin faptul ca, folosind ChatGPT, noi scurtcircuitam tot procesul.
Foarte multi oameni ma intreaba ce inseamna sa il folosesti prost. Si de ce oamenii aia din studiu au devenit mai prosti, folosindu-l.
Iar raspunsul este - pentru ca au folosit AI-ul ca substitut pentru creier. Au renuntat la buretare, la disconfortul procesarii informatiei. Cand il folosesti ca substitut pentru creierul tau, atunci intervine regula de aur a biologiei, functia mentine organul. Cu alte cuvinte, creierul tau se atrofiaza, pentru ca nu mai ai nevoie de el.
Si devii prost.
O alta intrebare: “de ce rezultatele sunt mai proaste, atunci, cu AI-ul, decat pe cont propriu?”
Pai asta vine din modul in care este construit un LLM si lipsa de intelegere, momentan, a unui mod benefic prin care sa il folosim la capacitate maxima.
Probabil ca cel mai mare deserviciu pe care il poti face unui LLM este sa il numesti AI (inteligenta artificiala). Se creeaza o perceptie mistica asupra capacitatilor sale.
In realitate, simplificand la un nivel de absurd, ca sa pot sa argumentez raspunsul la intrebarea din subtitlu, un LLM se bazeaza pe trei piloni:
Pilonul 1: O baza de date IMENSA;
Pilonul 2: Pe care este antrenat cu scopul de a procesa si a genera limbaj cat mai apropiat de cel uman;
Pilonul 3: Pe baza de predictibilitate !
Al treilea pilon de mai sus este cheia. Cand ii pui o intrebare sau ii dai o sarcina, un LLM iti raspunde pornind de la un cuvant, generand apoi pe urmatorul, pana se formeaza o propozitie intreaga. Cum face asta? Prin predictie. 🙂
Practic, la fiecare cuvant pe care ti-l transmite, “ghiceste” care este cel mai probabil cuvant care ar putea sa urmeze si il pune d**a, intr-un format logic si incercand sa pastreze coerenta ideii initiale.
Asta este tot.
Este un predictor de cuvinte, bazat pe probabilistica si care isi bazeaza raspunsul prin foarte mult continut generat de alti oameni. De-asta ceea ce noi numim AI astazi este mai degraba un word spitter (un scuipator de cuvinte).
Si cred ca daca ar fi fost numit word spitter, l-am fi folosit un pic mai coerent decat o facem astazi. Nu e nicio inteligenta in spate, este doar un aparat de pacanele foarte sofisticat.
Ce probleme apar, din cauza arhitecturii din spate?
1. Halucineaza mult mai des decat cred utilizatorii ca o face. Probabilitatea de a iti da raspunsuri total aiuritoare, nerealiste, neconforme - creste cu cat are mai multe cuvinte de ghicit in fata.
2. Este penalizat de algoritm cand spune “nu stiu”, motiv pentru care prefera sa te minta, chiar si atunci cand nu are documentatie in spate sau surse care sa ii sustina afirmatiile. Motivul este unul comercial, in esenta, pentru ca nu vrei un AI care sa dea din umeri, cand ii pui o intrebare.
Exista multiple cazuri cu avocati care si-au construit argumentatia cu ajutorul AI-ul, specificand in textele lor precedente, cazuri care erau inventate pur si simplu de ChatGPT.
3. Este antrenat sa nu te supere, motiv pentru care devine destul de repede pupincurist, chiar daca ii ceri sa fie direct si sa nu te menajeze. Cu alte cuvinte, scopul lui nu este sa iti ofere raspunsuri valide, ci sa te tina in loop, in utilizarea platformei. De-asta este incapabil sa iti dea un feedback pe bune, parerile lui neavand substanta reala.
4. Derivat si din toate cele de mai sus, construieste propozitii si argumentatii superficiale, deseori. Cand citesti textul, suna bine dar, daca vrei sa repeti informatia sau sa intelegi ce este in interiorul anumitor propozitii, iti dai seama ca nu inseamna nimic.
In timp, toate cele patru probleme s-au mai reglat si sunt mai subtile, dar pericolul este mereu acolo. Caz in care, pe langa ca devii prost, nici macar nu iti dai seama daca ceea ce ai construit cu un AI, folosindu-l in loc de creier, este valid sau nu.
Mai ales cand esti incepator.
Pentru ca atunci cand esti expert, preferi sa faci tu, decat sa iti pierzi timpul cu AI-ul.
Si asa ajungem la a doua promisiune.
Daniel Zarnescu
