Inteligența artificială distruge creierul: un exemplu

Urmăriți un material despre modul în care mulți profesioniști folosesc inteligența artificială pentru a înlocui propria gândire, astfel ducând la o adevărată dezintegrare a gândirii și inevitabil la eșecul acestora ca persoane raționale.

Vizionare plăcută!

Powered by RedCircle

Inteligența artificială distruge creierul – un exemplu

Capacitatea de a gândi și de a te concentra era una dintre cele mai valoroase calități pe care le puteai avea ca programator, dar astăzi pare că nimeni nu mai are aceste calități. Lucruri ca TikTok și videoclipurile scurte au distrus complet capacitatea oamenilor de a se concentra, iar inteligența artificială (IA) a făcut și mai mult rău, pentru că nu doar că le-a distrus capacitatea de a se concentra, ci le-a luat și abilitatea de a gândi critic problemele complexe.

Această problemă despre cum să te concentrezi cu adevărat este ceva la care lucrez de foarte mult timp. Am citit cartea lui Cal Newport, „Deep work” („Munca profundă”) cu mult timp în urmă, și cartea „A World Without Email” („O lume fără email”), o altă lucrare excelentă. Dar e interesant că, deși aceste cărți au fost scrise înainte de apariția IA, ele vorbesc de fapt despre exact aceleași probleme pe care le provoacă IA.

Înainte de a explica unele citate din această carte și de ce o consider atât de importantă, vreau mai întâi să vă arăt un exemplu despre cum apare această degradare masivă a minții prin folosirea IA în programare. Acest clip este realizat de Theo, iar în acest clip el arată concret cum folosește el IA pentru a-și îmbunătăți fluxul de lucru și pentru a deveni un dezvoltator mai bun. Așadar, acesta este cazul său real de utilizare.

Iar în această parte a clipului, el a dat instrucțiuni către IA, spunând: „Există o eroare în aplicație. Iată problema legată de eroare. Poți să analizezi și să-mi explici de ce apare acea eroare?” Și în continuare IA explică în ce constă eroarea.

„Se pare că semnul $ este sintaxă de cod, iar noi îl trimitem către Claude fără a-l traduce. E bine că am făcut acest audit.”

Chiar aici vreau să subliniez ceva, o mică digresiune. El spune aici că s-a descoperit o problemă în codul lor. Asta era probabil o problemă pe care ar fi trebuit să o identifice singur, dacă nu ar fi programat totul superficial. Spune că nici măcar nu-și mai citește codul. Dacă ar fi citit codul generat de IA, poate ar fi observat eroarea înainte ca aceasta să ajungă într-un sistem de producție. Poate da, poate nu, nu pot fi sută la sută sigur, dar merită reținut. Dar să continuăm cu clipul.

„Au aflat ceva despre ceea ce facem greșit aici. Se pare că bara oblică «/» se extinde doar la începutul mesajului, iar meniul nostru o oferă oriunde. Recunosc că poate din cauza ADHD-ului meu, dar după secțiunea cu problema, ochii mei încep să alunece peste soluție.”

Imediat aici el prezintă exact problema despre care vorbeam. Spune că îi este greu să citească tot textul și că pur și simplu îi fug ochii peste el. Asta pentru că citirea unor texte lungi, mai ales a unora complicate și tehnice, este ceva dificil de făcut și trebuie să te antrenezi pentru asta. Iar dacă nu faci acest lucru în mod constant, vei pierde acea capacitate. Sunt sigur că acum trei-patru ani, Theo nu ar fi avut nicio problemă să citească această listă lungă de documentație, pentru că trebuia să citească documentație pentru lucru tot timpul. Dar acum, odată cu apariția IA, tot mai puțini oameni citesc documentație, tot mai puțini petrec timp cu sarcini tehnice profunde și lungi, iar această abilitate se pierde și devine din ce în ce mai dificilă. Începi să obosești mintal și devine mai ușor să spui: „Rezumă-mi asta”, adică exact ceea ce face și el.

„Aș putea încerca să stau și să mă forțez să mă concentrez și să înțeleg, dar ținând cont de folosirea tokenilor pentru a reduce stresul și probabilitatea de a renunța și a face altceva, am simțit tentația de a…”

Aici citatul mi se pare destul de amuzant. Practic el spune că, în loc să se forțeze să rezolve el însuși această dificultate, preferă să ceară AI-ului să îi rezume textul, pentru că se spune: folosește tokeni ca să rezolvi stresul. Și cred că, da, e bine să folosești tokeni ca să rezolvi stresul, dar nu să îi folosești mereu ca să rezolvi problemele.

Pentru că ceea ce trebuie să faci este să te silești să confrunți acele lucruri grele și să îndeplinești acele sarcini dificile. Căci dacă nu săvârșești niciodată cu adevărat sarcini grele, nu vei putea niciodată să te deprinzi cu ele, adică vei rămâne mereu la același nivel la care ești. El trebuie să-și antreneze capacitatea de a citi documentație tehnică complexă, străduindu-se să facă asta în loc să folosească mereu IA ca să rezume lucrurile și să le facă în locul lui. Lucrul pe care îl spune în continuare mi se pare cu totul nebunesc:

„… tentația de a schimba fereastra și să fac altceva. Dar a trebuit să mă lupt cu ea și mă voi lupta cu ea folosind tokeni. Uitați-vă cum fac. Îmi place foarte mult cum ai descris problemele aici. Simt că acum înțeleg bine problema.”

Nu am să vă rețin aici să-l ascultați explicând, de fapt, ce vrea ca IA să facă, dar, pe scurt, el spune că este tentat, când citește, să schimbe fereastra și să meargă pe Twitter sau în altă parte. Iar ca să lupte împotriva acestei porniri de a face ceva mai ușor, are de gând să ceară ca IA să facă munca în locul lui și apoi să treacă la o altă IA pentru altceva.

Ceea ce face el, de fapt, e ca, în loc să se concentreze pe acea sarcină grea și să realizeze: „Am această tentație de a fugi de această lucrare dificilă”, el zice: „Am tendința de a mă risipi, așa că voi lăsa IA să facă lucrarea și apoi voi sări la altceva care pare folositor, cum ar fi să dau comenzi altei IA.” Asta e, de fapt, ce face el aici: în loc să înfrunte acea sarcină grea sau mai complexă și să-și întărească puterea sufletească de a o îndeplini, el își menține de fapt nivelul la fel de jos cum este acum, sau, sincer, probabil că regresează, nemaiexersându-și acea abilitate și lăsând AI-ul să lucreze în locul lui.

Aceasta se leagă direct de un citat al lui Cal Newport, care spune că abilitatea de a te concentra devine cea mai rară resursă a sec. XXI. Iar acest citat este cu mult înainte ca IA să fi luat amploare. Deci ne putem imagina cât de mult s-a agravat situația de când IA a preluat controlul și a făcut concentrarea atât de dificilă.

Da, videoclipurile scurte au distrus concentrarea oamenilor, pentru că în timpul liber ei doar luau telefonul și derulau clipuri pe TikTok. Însă motivul pentru care IA este cu mult mai dăunătoare este că nu o folosești doar în timpul liber, ci și în timpul lucrului. Cei mai mulți oameni obișnuiau să-și „distrugă” mintea în timpul liber și apoi, la muncă, trebuiau să se concentreze și să fie atenți, pentru că doar așa puteau duce la bun sfârșit sarcinile. Acum, oamenii în timpul liber derulează clipuri pe TikTok pe telefon, iar când sunt la muncă, dau comenzi către zece agenți diferiți ca să facă lucrurile în locul lor, iar mintea lor este într-o continuă risipire și împrăștiere, ceea ce face extrem de greu să te concentrezi cu adevărat asupra sarcinii de față.

Cal Newport vorbește și mai pe larg despre asta în cartea „O lume fără email”. Există un citat chiar la început, pe care vreau să vi-l citesc. Face referire la cartea „Deep Work” („Munca profundă”) și spune explicit că „Deep Work” argumenta că sectorul cunoașterii subestimează în concentrarea, iar, deși capacitatea de a comunica rapid prin mesaje digitale este utilă, întreruperile frecvente create de acest comportament fac, de asemenea, concentrarea dificilă, ceea ce are un impact asupra capacității noastre de a produce rezultate valoroase mai serios decât am fi crezut. Ceea ce spune el, în esență, este că concentrarea e incredibil de importantă, dar majoritatea companiilor nu o prețuiesc, iar întreruperile constante – în cazul lui prin email, dar în cazul nostru prin IA – sunt ceva ce îți afectează capacitatea de concentrare, ceva ce te face să produci mai greu rezultate valoroase în orice încerci să faci.

Acum, voi trece la un alt clip cu Theo, pentru a vorbi despre o altă problemă majoră, pe care cred că o descrie foarte bine cartea „O lume fără Email”. Dar, înainte de asta, trebuie să definesc un termen pe care Cal Newport îl introduce în această carte și anume „hyperactive hive mind” (minte hiperactivă). El îl definește ca fiind un mod de lucru centrat pe conversații continue, alimentate de mesaje nestructurate și nesincronizate, transmise printr-un instrument de comunicare digitală, cum ar fi emailul sau serviciile de mesagerie instantanee. În esență, este atunci când ai multe mesaje trimise înainte și înapoi la intervale aleatorii, fără a le aștepta. Nu este ca o întâlnire live sau un apel telefonic între oameni. Este doar o comunicare asincronă, dus-întors, nestructurată pe tot parcursul întregii zile, constant dintr-o parte în alta.

Iar ideea principală despre care vorbește în carte este că, prin e-mail, oamenii împing constant sarcini către alții. De exemplu, poți scrie un e-mail în care spui: „Puteți toți să-mi trimiteți un interval orar când ați putea să ne întâlnim?” În loc să oferi tu primul un interval disponibil, transferi sarcina altcuiva. Apoi, acea persoană poate transfera mai departe sarcina și spune: „Eu pot participa la ora 14. Gândiți-vă și voi ceilalți când puteți.” Astfel, în loc ca o singură persoană să facă toată munca, sarcina este transferată constant de la o persoană la alta.

Această problemă s-a agravat foarte mult odată cu apariția IA. Iar Theo este un exemplu perfect al uneia dintre cele mai mari probleme pe care le văd eu acum la AI. Ne aflăm în același videoclip, doar puțin mai în față. În acest exemplu, el a luat o problemă direct de pe GitHub, a pus-o în AI și i-a spus: „Analizează această problemă și spune-mi care este cauza.” Iar acesta este ceea ce spune el în timp ce citește răspunsul AI-ului.

„Există mai multe aspecte de analizat. Sunt trei probleme principale, toate importante și detaliate. Dar este atât de multă informație, încât nu am chef să o parcurg.”

Așadar, exact ca în cazul anterior, el spune că este prea mult ca să citească și să înțeleagă ce se întâmplă. Acum, dacă ne întoarcem puțin în videoclip, se poate vedea că nu este chiar atât de mult. Este vorba de maximum una-două pagini de citit pentru a înțelege punctele respective. Nu e chiar atât de mult pe cât lasă el să se înțeleagă. Totuși, el spune: „E prea mult pentru mine ca să pot înțelege. Voi transfera sarcina mai departe.” Și în loc să ceară AI-ului doar să rezume informația, ca el să citească rezumatul, el decide să-i ceară AI-ului să redacteze un comentariu pe care el să-l posteze ca răspuns. Ascultați ce spune:

„Îți cer să faci altceva. Ai făcut o cercetare fantastică. Vreau să las un comentariu util pentru contributorul care a deschis acest PR (cerere de integrare a modificării). Ajută-mă să redactez un comentariu bun pentru acest utilizator, cu principalele observații de aici, ca să fie mai ușor pentru contributor să rezolve problema.”

Așadar, după cum se vede, el îi cere AI-ului spunându-i: „Ai făcut treabă bună cu cercetarea asta. Poți acum să iei această cercetare și să redactezi un comentariu la PR?” Ulterior, în video, după ce comentariul la PR este redactat, el face o singură revizuire, iar comentariul este postat automat la acel PR. Ceea ce a făcut el este să ia problema cuiva, să o treacă printr-un AI pentru a genera un răspuns și apoi să ofere acel răspuns persoanei respective. Aceasta este o folosire foarte greșită a AI-ului.

În esență, dai problema mai departe, la fel ca în cazul emailurilor în care oamenii trimit sarcina mai departe: „Poți tu să te ocupi de asta?” Mesajul e pasat mai departe până când ultima persoană disponibilă îl va rezolva. La fel este și cu AI-ul. Pur și simplu iei problema cuiva, o dai AI-ului, obții un răspuns și apoi îl trimiți înapoi persoanei. Dai problema mai departe. În loc să o implementezi sau să o rezolvi tu însuți, te limitezi la a da prompturi unui AI, iar AI-ul face treaba.

Această activitate nici măcar nu necesită implicarea lui Theo. Oricine, oriunde în lume, poate lua o problemă, să o copieze și să o lipească într-un câmp de input al unui AI, să obțină rezultatul și eventual să facă o revizuire. Oricine poate face asta. Atunci de ce trebuie să fie el cel care să facă acest lucru? Nu este o abilitate specială sau greu de învățat. Este ceva ce poate face oricine. Iar dacă asta e tot ce aduci tu într-o companie, vei ajunge să-ți pierzi locul de muncă atunci când vor realiza că te pot înlocui cu oricine poate face asta.

Aceasta ține de o problemă mai largă decât programarea. Când oamenii pun întrebări, poate pe Reddit, de genul „Care este răspunsul la asta?” sau „Cum pot face acest lucru?”, de obicei este o întrebare de opinie, iar cineva pur și simplu lipește întrebarea în ChatGPT, copiază răspunsul și îl postează. De ce? Nu ajută pe nimeni. Evident că aș putea și eu să merg la ChatGPT și să pun aceeași întrebare. Motivul pentru care întreb un om este că vreau un răspuns uman la o întrebare de obicei subiectivă. Dar dacă doar copiezi și lipești un răspuns generat de AI, nu aduci nicio valoare conversației. În opinia mea, când Theo face acest tip de cerere PR, nu cred că aduce mare valoare discuției, pentru că oricine poate lua problema respectivă, o poate introduce într-un AI și să obțină același rezultat.

Nu vreau ca acest video să pară că îl critic pe Theo în mod exagerat. Cred că sunt probleme în modul în care a arătat în acest clip cum abordează el lucrurile în general, dar vreau ca acest mesaj să fie mai degrabă un avertisment pentru voi că trebuie să vă asigurați, ca dezvoltatori, că aduceți cu adevărat valoare echipei. Capacitatea de a gândi profund și de a lupta cu probleme dificile este o abilitate de care tot mai mulți oameni încep să ducă lipsă. Dacă o păstrați, veți depăși cu mult pe ceilalți din echipă.

Cel mai probabil, oameni ca Theo vor ajunge la ceea ce eu numesc „plafonul de siliciu”. Dacă vreți să aflați mai multe despre „plafonul de siliciu”, am un video pe această temă chiar aici.

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!). Stripe limitează lungimea textelor și din cauza asta vă rugăm să fiți scurți. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!