ChatGPT și Sfântul Graal – Jonathan Pageau

Urmăriți un foarte bun și foarte pătrunzător cuvânt în care Jonathan Pageau ne arată că sosirea inteligenței artificiale aduce în viețile noastre o problemă foarte veche pe care omenirea a abordat-o de multe ori în trecut și de felul cum o abordăm depinde cine devenim.

Vizionare plăcută!

Powered by RedCircle

ChatGPT și Sfântul Graal – Jonathan Pageau

Iubesc poveștile vechi. Și ni se spune uneori că poveștile vechi au puțin de oferit în găsirea de soluții la provocările cu care ne confruntăm, deoarece problemele noastre sunt atât de noi. Eu cred că acest lucru este neînțelept. Este adevărat că în Evul Mediu nu aveam Claude sau ChatGPT, dar auzim că Albert cel Mare a creat un cap de bronz care putea răspunde la orice întrebare. Și chiar legendele de mai târziu povestesc că studentul său, un anume Toma d’Aquino, despre care s-ar putea să fi auzit, enervat de pălăvrăgeala neîncetată a capului, l-a zdrobit în bucăți.

Și aceasta e prima reacție cunoscută la „AI slop” (conțimnut AI de slabă calitate) pe care o avem în istorie. Înțelepciunea străveche conține adesea aur atât de curat, încât strălucirea lui poate arunca lumină asupra unor situații pe care nici înțelepții antici nu și le puteau închipui. Așadar, vreau să vă spun o poveste. Este o poveste foarte importantă, mai ales că ne aflăm aici, în Marea Britanie.

Cu mult timp în urmă, în Castelul Graalului, unde atât Sfântul Graal [Sfântul Potir] cât și Sfânta Lance a lui Longhin erau păstrate într-o capelă, a intrat un cavaler pe nume Balin. A intrat ca oaspete, dar era acolo cu scopul secret de a ucide pe unul dintre oaspeți. Și astfel să încalce legea străveche care a ținut civilizația unită timp de milenii. După săvârșirea crimei, Balin a fost urmărit prin sălile castelului până când a ajuns în capela Graalului. A văzut Lancea care a străpuns coasta lui Hristos și Potirul care a primit sângele Său, era însă prea orbit de mânie ca să priceapă adâncul înțeles al acestor sfinte lucruri. Balin a apucat Lancea și a lovit în zona inghinală pe regele Graalului, făcându-l pe acesta impotent și prefăcând întregul regat într-o pustietate.

Adesea ne gândim la Sfântul Graal și la Sfânta Lance ca la niște obiecte mistice, dar există un înțeles, și încă unul foarte important, în care ele sunt chipuri ale tehnologiei. Cupa Graalului era un vas pururea plin cu tot ce și-ar fi putut dori omul să mănânce și să bea. Era izvorul belșugului. Iar Lancea, desigur, era arma care dăduse lovitura cea mai de pe urmă, străpungând pe Însuși Dumnezeu. Aceste două obiecte sfinte cuprind marginile tehnologiei, spre care tinde toată tehnologia. Una dintre margini se îndreaptă înăuntru, spre sporirea belșugului, iar cealaltă se îndreaptă în afară, spre luptele necesare pentru a dobândi sau a apăra acel belșug. Și de la începutul lumii, acestea au fost cele două scopuri principale ale teehnologiei. Aceeași bucată de cremene ascuțit putea fie să lucreze pământul, fie să ucidă pe vrăjmaș.

După uciderea din capelă, Sfântul Graal a fost pierdut, iar cavalerii regelui Arthur au pornit în căutarea lui. De obicei ne oprim la căutarea Graalului, dar uităm adesea partea cea mai de seamă a acestei căutări: cavalerul care găsește Sf. Graal trebuie să pună o întrebare: „Cui slujește Graalul?” Întrebarea este mai importantă decât însăși găsirea lui. Întrebarea și răspunsul ei sunt cele ce vor vindeca pustiirea. Tocmai această întrebare a uitat Balin să o pună atunci când a apucat Lancea, în setea lui de putere. A uitat să întrebe: „Cui slujesc Graalul și Lancea?”

Astăzi, lumea noastră a ajuns să-i celebreze pe cei care descoperă Graalul, minunea tehnologică, noutatea, lucrul mai rapid, mai puternic. Aceste descoperiri ne fac mai puternici, mai eficienți în a genera abundență și mai eficienți și mai puternici în a ne ucide dușmanii. Așadar, îi sărbătorim pe cei care găsesc Graalul. Dar cine mai pune astăzi întrebarea Graalului? Sunt câțiva care pun această întrebare. Când Ross Douthat, care a fost aici în această dimineață, l-a întrebat pe Dario Amodei, directorul executiv al Anthropic, de ce și-a intitulat eseul său plin de speranță despre tehnologie: „Mașini ale Harului Iubitor”, după o poezie în care oamenii își pierd suveranitatea și ajung să fie ca niște animale stăpânite de mașini.

Cred că Ross punea întrebarea Graalului. Când Jonathan Haidt a scris „Generația anxioasă”, documentând dependența copiilor noștri de ecrane și efectele acesteia asupra sănătății lor, el punea întrebarea Graalului. Dar ceea ce este straniu este că, adesea, cei care dezvoltă aceste noi tehnologii sunt aceiași care ne spun că ele ar putea să aducă și pustiirea, avertizându-ne că ne-ar putea ucide, în timp ce ei înșiși întind mâna după lance. Cum se face că Elon Musk avertizează că inteligența artificială este mai periculoasă decât armele nucleare, mai întâi roagă pe toată lumea să înceteze dezvoltarea ei și, în cele din urmă, își înființează propria companie de inteligență artificială? Nu sunteți cu toții dornici să întrebați: Cui slujește Palantir? Cui slujește? Adică, nu suntem proști. Știm că, în povestea din care a fost luat numele Palantir, în “Stăpânul Inelelor”, această tehnologie a ajuns să slujească doar Întunecatului Stăpân Sauron. Când oligarhii tehnologici își construiesc buncăre pe insule și se pregătesc pentru sfârșitul lumii, ar trebui cu toții să strigăm: Cui slujește aceasta? Pentru cine este asta?

În ultimul deceniu s-a vorbit mult despre capcanele escaladării din teoria jocurilor în care, din motive de competiție, anumite tehnologii și sisteme, oricât de periculoase ar fi, trebuie implementate. Și nu doar implementate, ci ne grăbim să le implementăm de teamă să nu pierdem competiția. Desigur, același lucru a fost valabil și în cursa înarmării nucleare. Este ceea ce mulți numesc acum, pe bună dreptate, capcana lui Moloch. Și, dintr-o dată, ne întoarcem la povești străvechi, mult mai vechi decât povestea Graalului. Moloch, după cum probabil știu mulți dintre voi, este o veche zeitate canaanită care cerea ca oamenii să-și sacrifice copiii în schimbul puterii. Iar capcana lui Moloch apare atunci când, escaladarea pentru a menține puterea prin competiție ne face să sacrificăm ceea ce este mai de preț, chiar și atunci când acest lucru este, în cele din urmă, împotriva intereselor noastre. Astfel, de teama Chinei că o să ne întreacă la implementarea AI, sacrificăm: milioanele de locuri de muncă, apa noastră, energia noastră, mințile copiilor noștri. De fapt, sacrificăm însăși capacitatea de a deosebi ceea ce este real de ceea ce este fals, doar ca să câștigăm competiția.

Bineînțeles, teoreticienii jocurilor, cei mai mulți dintre ei, nu cred că Moloch ar avea vreo existență independentă. Este mai degrabă un mecanism. Dar chiar și teoreticienii jocurilor pot vedea că Moloch este în mișcare, că vrea ceva. Și, pe măsură ce concurăm unii cu alții, devenim picioarele lui, devenim mâinile lui. Și, împotriva voinței noastre, împingem această fiară spre posibila noastră pieire. În timp ce, în cele din urmă, toată lumea regretă că le-a dat copiilor tablete și telefoane, făcându-i să devină ignoranți, deprimați și dependenți, ne întoarcem și ne grăbim să integrăm inteligența artificială în absolut tot.

Așadar, fie că credem sau nu în dumnezeul canaanit, ne trezim totuși jertfindu-i lui pe copiii noștri. După cum spune adesea Jordan Peterson, ne purtăm ca și cum acesta ar fi real, și aceasta este de ajuns pentru ca fiara să continue să se miște. Și ceea ce vedem întâmplându-se este că, pe măsură ce inteligența artificială pătrunde prin toate sistemele noastre, avem intuiția că, în loc ca ea să fie o unealtă care ne serveștre pe noi, poate noi devenim cei care slujim uneltei. Și descoperim, așa cum a prezis Marshall McLuhan în anii ’60, că suntem reduși la rolul de organe de reproducere ale mașinii. Oare zidim un dumnezeu? Oare? Unii oameni cred că da. Unii dintre cei care o construiesc cred că da. Iar dacă este așa, ce dumnezeu zidim? Dacă o capcană a lui Moloch scăpată de sub control și, poate, închinarea la Mamona îi conduc dezvoltarea, ce facem?

Suntem prinși în capcană. Capcana este reală. Nu pretind că nu ar fi. Dar nu știu. Nu știu ce să fac. Nici voi nu știți ce să faceți. Nimeni nu știe ce să facă. La nivel de sistem, nu știm. Suntem prinși. Pisica, sau mai degrabă șarpele, a ieșit din sac. Acum nu mai poate fi băgat înapoi. Balin a dat deja lovitura cea dureroasă, într-un acces de putere, lăcomie și competiție, iar acum așteptăm și ni se spune că vom înfrunta o primejdie atât de mare încât va întrece orice a trăit omenirea de la începutul lumii. Așadar, să ne ținem bine, nu-i așa? Singura soluție, singura soluție reală la care mă pot gândi este una personală. Este o soluție asemănătoare cu îndemnul lui Jordan Peterson de a-ți face patul.

Eu am o variantă ușor diferită. Eu spun: Mergi la biserică. Ce vreau să spun, desigur, prin “să mergi la biserică” este cu adevărat să mergi la biserică. Dar întrebarea mai largă este: Dacă nu putem afla cui slujesc sunt aceste tehnologii, atunci măcar să știm cui slujim noi. Oare slujim lui Mamona? Oare slujesc eu lui Moloch? Cui slujim noi? Dacă nu putem opri mașina de la a devora totul, atunci tu și eu trebuie să devenim cu adevărat oameni, mai umani decât înainte…. ca să rămânem, cel puțin în viața noastră, stăpâni ai mașinii și nu sclavii ei.

Și ne aflăm în locul potrivit, pentru că trebuie să devenim cetățeni responsabili. Pentru aceasta suntem aici. Dar și părinți responsabili, dascăli responsabili, elevi responsabili, pentru binele nostru, și mai ales pentru binele tuturor. Știți, de la Revoluția Industrială încoace, oamenii au început să vadă educația ca pe învățarea unei deprinderi ca să poți obține o slujbă. Cred că ați înțeles cu toții că acele vremuri au trecut. Eu zic: să ne întoarcem la științele umaniste. Ele vor deveni cele mai importante. Deveniți oameni. Deveniți pe deplin oameni. Devino cel mai bun om ce poți fi. Când ne învățăm copiii să danseze, să cânte sau să practice un sport, de cele mai multe ori nu o facem ca să devină profesioniști. Le dăm aceste deprinderi ca să devină mai umani.

Și acum va trebui să facem același lucru cu toate. Dacă inteligența artificială ne împinge să lăsăm deoparte memoria, priceperea și cunoașterea, va trebui să le cultivăm în mod deliberat înăuntru. Să învățăm poezii, să citim basme, să mergem în drumeții, să ne îngrijim o grădină, să ne implicăm în comunitate, în familie și în relațiile noastre. Și să nu uitați de rugăciune. Acest lucru este, desigur, limpede din punct de vedere existențial. Și poate suna puțin sentimental când îl spun, înțeleg asta.

Dar cred că, de fapt, aceasta este, tehnic, soluția la problema cu care ne confruntăm. Aceste tehnologii ne fac mai puțin inteligenți. Ne fac supuși. Tânăra generație de acum este prima generație din istoria consemnată, care are un coeficient de inteligență mediu mai mic decât părinții ei. Așadar, nu cred că soluția este să mergem pe Marte. Sau chiar până la Alpha Centauri. Și îmi pare rău, Eric Weinstein, dacă ești aici. Dacă trimitem niște minți dependente de TikTok și de conținut AI necalitatativ pe Marte, nu vom rezolva nicio problemă. Și este același lucru, nu este fuziunea cu mașina sau implantarea de cipuri în creierul nostru, Elon. Nimic din toate acestea nu te va face virtuos. Și tot ce vom obține, în cele din urmă, vor fi niște oameni foarte puternici, dar distruși. Cei care s-au făcut cu totul dependenți în minte și în obiceiuri, de aceste tehnologii, vor deveni vasali ai monstrului.

Și cred cu adevărat că doar aceia care au suflete luminate, care au cultivat înțelepciunea și virtutea, care au trăit în adevăr și în dragoste, doar aceia vor supraviețui și se vor dezvolta în apocalipsa AI ce vine, atât personal, cât și în comunitate și, cred eu, chiar și profesional. Fie că lucrurile vor merge bine și AI va deveni omniprezentă și doar ne va ajuta, fie că va duce la pustiire, cred că tot o singură soluție rămâne: Să devenim pe deplin oameni. Oameni de tipul celor pe care îi admirăm în marile noastre istorisiri. Oameni care slujesc la mai mult decât lăcomiei și puterii lor. Și atunci, dacă vom clădi, ceea ce vom clădi va purta chipul acesta. Iar când ne vom afla față în față cu Graalul, vom avea puterea să punem întrebarea: Cui slujește Graalul? Și, în cele din urmă, vom avea mintea limpede să punem și să răspundem la ceea ce socotesc a fi cea mai importantă întrebare dintre toate: Cui slujesc eu? Vă mulțumesc.

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!