Cum să nu ne lăsăm gândirea critică ucisă de inteligența artificială – Advait Sarkar

Urmăriți o prezentare a unui cercetător în domeniul inteligenței artificiale care ne arată cum să abordăm inteligența artificială astfel încât aceasta să nu ne distrugă gândirea ci, din contră, să ne ajute să gândim.

Vizionare plăcută!

Powered by RedCircle

Cum să nu ne lăsăm gândirea critică ucisă de inteligența artificială – Advait Sarkar

Astăzi sunt aici ca să vorbesc despre gândirea independentă. Și trebuie să recunosc că am folosit inteligența artificială ca să mă ajute să reflectez asupra acestui subiect. Nu mi-am pierdut ironia. Însă felul în care am procedat nu a fost folosind IA ca pe un asistent care să mă ajute să pregătesc mai repede această prezentare. Mai degrabă, am folosit IA ca pe un instrument al gândirii. Iar până la sfârșitul acestei prezentări voi fi explicat ce înțeleg prin aceasta, de ce este important și vă voi arătat cum ar putea funcționa. Dar mai întâi trebuie să stabilesc contextul.

Să privim o zi obișnuită din viața unui lucrător al cunoașterii din secolul XXI. Ajung la birou și văd căsuța de e-mail plină. Offf… Să facem un rezumat. Nu știu cum să răspund aici, așa că las IA să redacteze un răspuns. Apoi trebuie să scriu un raport dar mă confrunt cu problema paginii albe. Știu, voi introduce câteva surse și voi cere IA să facă o primă versiune. Pare acceptabil. De altfel, blocajul scriitorului obișnuia să însemne privirea la o pagină goală. Acum înseamnă să privești la o pagină completată de IA și să te întrebi dacă ești de acord cu ea. Am devenit un validator profesionist al opiniilor unui robot. Am niște date de analizat. Poate că IA poate analiza datele acestea în locul meu. Probabil că sunt corecte. Trebuie să pregătesc și o prezentare. Știți procedura. Bine. Ah, trebuia să și prototipez ceva. Deci, să scriu un cod. Gata. Totul pare în regulă. Să mergem mai departe.

Aceasta nu este o viziune despre viitor. Este o imagine complet plauzibilă, deși ușor exagerată, a muncii intelectuale de astăzi. Bine ați venit în epoca rațiunii externalizate, în care lucrătorul cunoașterii nu mai interacționează direct cu materialele meseriei sale. Am devenit turiști intelectuali în propria noastră muncă. Vizităm ideile, dar nu le locuim. Relația noastră cu munca este complet intermediată de IA. Unii ar spune chiar alienată. Am mai auzit această poveste. Ce este greșit în acest tablou? În primul rând, este doar cu un pas în plus față de acesta, ceea ce este important, dar despre asta vom vorbi altădată.

Ceea ce vreau să subliniez astăzi este că folosirea IA în acest mod poate avea consecințe profunde asupra gândirii omenești. Să luăm creativitatea. La nivel individual am putea crede că IA stimulează creativitatea, oferindu-ne acces rapid la idei noi, însă numeroase studii au arătat că, la nivel colectiv, lucrătorii cunoașterii care folosesc IA produc o gamă mai restrânsă de idei decât un grup care lucrează manual. Am creat un fel de minte colectivă, doar că stupul este chiar plictisitor și sugerează mereu aceleași cinci idei. Să luăm în considerare gândirea critică. Am chestionat opt lucrători din domeniul cunoașterii despre folosirea IA. Ei au mărturisit că depun mai puțin efort în gândirea critică atunci când lucrează cu IA, decât atunci când lucrează manual, iar acest efect era și mai mare atunci când aveau mai multă încredere în IA și mai puțină în ei înșiși.

Să ne gândim la memorie. Când oamenii se bizuiesc pe IA ca să scrie în locul lor, își amintesc mai puțin din ceea ce au scris, iar atunci când citesc rezumate generate de IA, nu e de mirare că își amintesc mai puțin decât dacă ar fi citit ei înșiși documentul. Și, în cele din urmă, să luăm aminte la metacogniție, adică la puterea de a cugeta la propriul tău proces de gândire. Lucrul cu IA necesită o însemnată judecată metacognitivă cu privire la scopurile lucrării tale, la descompunerea sarcinii, la aplicativitatea IA generative, la puterea ta de a evalua rezultatul. Acestea sunt lucruri care sunt cuprinse în chip firesc în lucrarea directă cu materialul și care devin cu neputință de împlinit atunci când această lucrare directă este mijlocită de altceva. Pe scurt, am ajuns să fim supraveghetori ai propriilor noastre gânduri. Și atunci, care este rezultatul? Avem mai puține idei. Ne gândim la ele mai puțin critic. Ni le amintim mai slab. Și ne este mai greu să le generăm. Luate împreună, acestea ne arată că fluxurile de lucru asistate de IA pot avea urmări adânci asupra gândirii omenești. Iar acestea se întind chiar și asupra unor sarcini care par neînsemnate și obișnuite, căci aceste prilejuri zilnice de a ne exercita creativitatea, gândirea critică și memoria sunt esențiale pentru păstrarea vigoarei minții și ne dau puterea de a ne ridica la înălțimea solicitării atunci când ni se ivește o sarcină cu adevărat grea.

Studiile arată că atunci când nu ne folosim mintea, ea se împuținează în cele ale sale. Comitet Nobel, vă rugăm să vă rețineți aplauzele. Aceasta este oare prețul înaintării? Am rezolvat problema de a trebui să gândim. Din nefericire, gândirea nu era, de fapt, o problemă. E ca și cum am fi născocit un leac împotriva mișcării și apoi ne-am mira de ce ni se taie răsuflarea mereu. Nu trebuie să fie așa. Dincolo de IA ca unealtă, cred că IA ar trebui să fie o unealtă a gândirii. IA trebuie să provoace, nu să asculte orbește. Și cred că tocmai acum ne aflăm la o răscruce hotărâtoare, în care lumea muncii este gata să fie transformată de IA generativă, și trebuie să acționăm acum ca să modelăm și să îndrumăm această transformare către valori umaniste.

Dintre aceste două drumuri care se despart, trebuie să-l alegem pe cel mai puțin umblat. Dincolo de a duce sarcina la îndeplinire, o unealtă a gândirii ne ajută să înțelegem mai bine însăși lucrarea. Dincolo de a o face mai repede, ne ajută s-o facem mai bine. Dincolo de a ne duce la răspunsurile potrivite, o unealtă a gândirii ne ajută să punem întrebările potrivite. Dincolo de a automatiza procese cunoscute, ne ajută să explorăm necunoscutul. Cum arată aceasta? Ceea ce vă voi arăta este un prototip dezvoltat de colegii mei și de mine în cadrul echipei Tools for Thought de la Centrul de cercetare Microsoft din Cambridge. Vă rog să țineți minte că acesta este un prototip de cercetare live. Nu este un produs. Și e doar una dintr-o serie de explorări pe care le desfășoară echipa noastră pentru a studia cum diferite moduri de lucru cu IA pot îmbogăți gândirea omenească.

Așadar, să privim un exemplu fictiv. Clara și colegii ei conduc o companie care vinde băuturi îmbuteliate. Tocmai au avut o ședință pentru a discuta un nou raport din industrie care pare să conțină constatări importante privind preferințele consumatorilor pentru ambalaje sustenabile. Colegii Clarei i-au cerut să redacteze o propunere în care să argumenteze modul în care compania ar trebui să răspundă. Așadar, ea chiar are nevoie să înțeleagă în profunzime acest raport, să-i înțeleagă constatările și datele și felul în care se încadrează în contextul afacerii sale. Începe prin a încărca câteva documente în spațiul ei de lucru. Există transcrierea ședinței, ca să-și amintească ce s-a discutat, există un raport intern recent al propriei sale companii, și, desigur, raportul din industrie, pe care îl deschide.

Vede o privire de ansamblu asupra documentului, împreună cu rezumate secțiune cu secțiune. Numai că acestea nu sunt, de fapt, simple rezumate. Noi le privim mai degrabă ca pe niște lentile. Sunt reprezentări micro personalizabile ale textului, care pot scoate în evidență ceea ce este mai relevant pentru sarcina de față. Astfel, în acest caz, Clara alege lentila consumatorului. Poate selecta o secțiune pentru o lectură mai aprofundată, în acest caz, pe prima. Pe măsură ce citește, notează gândurile și evidențiază fragmente din document. Totodată, vede comentarii și critici generate de IA. Noi le numim provocări.

Iată o provocare care deschide o posibilă direcție, pe care Clara o evidențiază și o adnotează. Observați cum acest proces este un hibrid între citirea completă și încredințarea totală în IA pentru a citi pentru tine. Clara citește singură, dar o face intenționat și strategic. În timp ce lucrează, ea alcătuiește manual, în panoul din dreapta, o schiță a argumentației sale. Această schiță este structurată sumar și îi permite să contureze la nivel înalt firul demonstrației, păstrând totodată legătura profundă cu documentele sursă. Drept urmare, putem genera deja o primă variantă a propunerii. Clara poate adăuga, de pildă, un titlu în schiță pentru a genera un paragraf.

Însă ceea ce doresc să subliniez aici este faptul că, deși acest text este generat de inteligența artificială, Clara are față de el o raportare cu totul diferită decât dacă ar fi introdus pur și simplu documentele și ar fi cerut: „Scrie-mi un raport”, căci textul acesta este înrădăcinat adânc într-un proces de gândire care cere efort cognitiv, dar care se desfășoară fără efort de interacțiune. El reflectă hotărârile Clarei, judecățile ei, precum și experiența și competența sa personală și profesională. Clara observă o nouă provocare, de data aceasta în cadrul schiței. În acest caz, ea hotărăște că, deși provocarea este utilă, nu este necesar să o ia în seamă.

Spre deosebire de sugestiile obișnuite ale IA, provocările nu sunt menite să fie aplicate întotdeauna. Ele au rolul de a stimula gândirea asupra lucrării, pentru că dacă înțelegi îndeajuns de bine și de profund lucrarea ta încât să poți refuza cu încredere o sugestie, fără să accepți o reacție, atunci procesul de feedback încă își atinge scopul. Dar nu am terminat încă. Clara are acum modalități cu totul noi de a lucra cu textul, datorită IA generative. Un exemplu simplu este că poate redimensiona un paragraf pentru a-i schimba lungimea. De asemenea, poate încerca rapid variante diferite ale textului. De pildă, în acest paragraf se întreabă dacă ar fi mai potrivit un ton mai inspirațional sau mai practic. Astfel, selectează una dintre dimensiunile personalizabile, previzualizează câteva alternative și nalege una, iar în anumite puncte strategice, ea scrie efectiv. Pe măsură ce scrie, primește provocări care, în loc să-i completeze automat ideile, ridică alternative, identifică raționamente greșite și oferă contraargumente, ajutând-o astfel să-și întărească și să-și dezvolte propriul argument.

Lipsește ceva din această interfață: caseta de dialog. Clara nu trebuie să discute cu un program pentru a-și face lucrarea, și totuși este ajutată în tăcere și potrivit de computerul ei, care rămâne computer și nu se preface a fi om. Pe scurt, am trecut de la aceasta la aceasta. Pe tot parcursul acestui proces, Clara a fost ajutată și, desigur, a lucrat probabil mai repede datorită inteligenței artificiale. Însă a păstrat, în punctele hotărâtoare, o implicare directă și concretă. A citit ea însăși părțile relevante ale documentului, a luat ea însăși hotărârile și a alcătuit argumentația și, în cele din urmă, se poate spune că ea a scris acest document. Mai mult, ea a lucrat mai bine datorită inteligenței artificiale. Provocările aduse de IA la fiecare etapă a procesului au ținut-o angajată metacognitiv, căutând mereu critici, alternative și soluții laterale.

Am studiat efectele unor astfel de unelte și rezultatele sunt promițătoare. Se poate reintroduce, în mod demonstrabil, gândirea critică în fluxurile de lucru asistate de IA, se poate inversa pierderea creativității și chiar o putem spori. Se pot construi unelte puternice pentru memorie, care să le permită lucrătorilor intelectuali să citească și să scrie cu iuțime, cu mai multă intenționalitate și să și amintească cele citite sau scrise. Se dovedește că, prin principii potrivite de proiectare, se pot crea unelte care să întrunească ce e mai bun din ambele lumi, folosind viteza și flexibilitatea uimitoare ale acestei tehnologii pentru a ocroti și a spori gândirea omenească. Acestea sunt principii simple și generale, precum asigurarea faptului că unealta păstrează angajarea materială, oferă o rezistență rodnică și sprijină metacogniția. Și, deși am studiat în primul rând lucrătorii intelectuali profesioniști, credem că aceste principii se pot extinde la toate aspectele folosirii IA, inclusiv în viața noastră de fiecare zi, în îndeletnicirile noastre și chiar și în educație.

Repet: scopul uneltelor pentru gândire nu este eficiența, ci gândirea mai bună. Uneori însă nu le poți avea pe amândouă. Obișnuiam să cred că nu există un prânz gratuit în gândirea umană. Aceasta este cu mult mai mult decât un prânz gratuit. Este un prânz care te plătește ca să-l mănânci. Aș dori să închei cu câteva gânduri despre valorile care ne călăuzesc în dezvoltarea programelor de IA. Ce se întâmplă dacă IA ajunge la punctul în care poate gândi mai bine decât omul? De ce ar trebui să ne pese atât de mult să ocrotim și să sporim gândirea omenească? Există două motive. În primul rând, pot exista întotdeauna moduri de a gândi care rămân puteri unice ale omului și de care poate nici nu suntem conștienți. Al doilea motiv, poate mai important, este că susținem că capacitatea de a gândi bine este esențială pentru libertatea, întărirea și înfloritoare omului.

Aceasta reia o întrebare veche. Oamenii s-au întrebat odinioară dacă scrisul, dacă cărțile, dacă internetul pot să țină minte în locul nostru. Contează dacă noi nu putem? Oamenii s-au întrebat dacă hărțile pot să ne orienteze și dacă contează că noi nu putem? Acum ne întrebăm dacă mașinile pot gândi în locul nostru și dacă contează că noi nu putem? Dacă mașinile pot vorbi pentru noi, se pot întrista pentru noi, se pot ruga pentru noi, iubi pentru noi, contează dacă noi nu mai putem? Pentru mine, răspunsul este destul de limpede. Când am început să studiez interacțiunea om-mașină acum 13 ani, mi se părea de neconceput ca aceste întrebări să apară în timpul vieții mele. Dar iată că au apărut, și trebuie să le înfruntăm.

Vă las cu acest gând. Ce ați prefera să aveți: unelte care gândesc în locul vostru sau unelte care vă fac să gândiți?

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!). Stripe limitează lungimea textelor și din cauza asta vă rugăm să fiți scurți. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!