Purtătorul de cuvânt al Patriarhiei demască duhul antihristic din cercurile puterii
28 iunie 2026
Profund sinistru – Volkswagen va cere un abonament pentru a debloca puterea mașinilor sale electrice
29 iunie 2026
Pericolele inteligenței artificiale au ajuns o chestiune arzătoare la ordinea zilei, iar întrebările pelerinilor nu mai contenesc. Am stat de vorbă cu doi profesori de specialitate, Andrei Damian și Cosmin Stamate, ca să lămurim ce este și ce nu este AI, ce sunt capabilitățile emergente și de ce aceste modele nu au suflet. Am vorbit despre dependență, despre motoarele de recomandare, despre deepfake-uri și manipulare, dar mai ales despre marea miză duhovnicească: cum folosim inteligența artificială ca unealtă, cu discernământ, rămânând oameni și aproape de Dumnezeu.
Vizionare plăcută!
Powered by RedCircle
Slavă Tatălui și Fiului și Sfântului Duh și acum și pururea și în vecii vecilor. Amin!
Pentru rugăciunile Sfinților Părinților noștri, Doamne Iisuse Hristoase, Fiul lui Dumnezeu, miluiește-ne pe noi. Amin!
Introducere: ce este inteligența artificială
Părintele Teologos: Dragii noștri, ne aflăm cu doi specialiști în AI. Sunt profesori: unul este în România, la Politehnică, Andrei Damian, și celălalt, Cosmin Stamate, în Anglia?
Cosmin Stamate: La Londra.
Părintele Teologos: La Londra, tot profesor universitar în domeniul de inteligență artificială. Așa, și, pentru că știu că și voi, și pelerinii, în continuu au tot felul de întrebări pe teme de AI, în seara asta o să facem un interviu care să ne axăm pe teme de inteligență artificială, care este o cestiune arzătoare la ordinea zilei, după cum spunea Caragiale.
AI: tipuri, domenii, capcane emergente și impact asupra minții umane
Ei, și, ca să nu mă mai lungesc cu introducerile, o să intrăm direct în subiect. Un prim lucru pe care aș dori de la băieți — de la domnii profesori, așa — aș dori să clarificăm un lucru. De obicei, când oamenii mă întreabă: „Părinte, ce părere aveți despre AI?”, ei se referă, într-un mod foarte reducționist, dacă doriți, la ChatGPT, care este greșit.
Deci, întâi de toate, vreau să clarificăm faptul că AI este o umbrelă. O umbrelă de tehnologii care, mă rog, au și nu prea au legătură între ele. Și din cauza asta vă dau cuvântul să explicați exact ce este AI, ce nu este AI, care sunt tehnologiile care sunt incluse și care este, să spun așa, caracteristicile comune ale acestor tehnologii.
Andrei Damian: Păi, așa, pe istoric și taxonomic, lucrurile, de-a lungul timpului, au fost împărțite pornind de la statistică simplă, cu modele predictive, învățarea automată sau Machine Learning, ca variantă de Machine Learning, în Anglia.
Cosmin Stamate: Da.
Părintele Teologos: Exact. Clar, da, da, da.
Andrei Damian: Așa… Biostatistică, robotică, mecatronică… astea toate s-au întâmplat înainte să… Data Science ulterior, Deep Learning recent, să zicem, acum 15 ani, mult înainte să apară Large Language Model, să apară ChatGPT, să apară, să zicem, modelele generale de inteligență, cum ne place să le spunem.
Părintele Teologos: Oprește-te puțin. Să vă gândiți la… care sunt tehnologiile, adică în ce domenii; eu o să traduc puțin românește ce ai spus.
Andrei Damian: Da.
Părintele Teologos: Deci, întâi de toate, vreau să-i fac atenți pe frați că, nu știu dacă ați observat ce a spus Andrei, a vorbit foarte mult despre statistică. Deci să ne înțelegem: inteligența artificială nu știe ce-i bine și ce-i rău, ci este mai degrabă un model statistic care ghicește cel mai probabil răspuns bun — nu „cel bun”, ci cel mai probabil răspuns bun, da?, adică răspunsul cel mai plauzibil. El n-are ideea de bine și rău și nu știu dacă ați văzut că el preferă termenul, după cum orice specialist preferă acest termen, de Machine Learning. Deci, învățarea mașinii, învățarea automată. De ce? Pentru că termenul de inteligență artificială este un termen jurnalistic incorect, da?, să ne înțelegem. Deci, nu care cumva să credeți voi că inteligența artificială este inteligentă în sensul oamenilor. Deci, mare atenție, n-are suflet, dar o să vorbim pe tema asta puțin mai încolo.
Domeniile, care sunt?
Andrei Damian: În orice domeniu, aș spune.
Părintele Teologos: Orice domeniu.
Andrei Damian: Este aplicat în orice domeniu, da?
Ce aș vrea să mai adaug aici…
Părintele Teologos: Sigur!
Andrei Damian: …că, din anii ’60, s-a început și au fost două școli, două mișcări fundamentale: mișcarea conexionistă și mișcarea simbolică. Și erau două tipuri diferite de inteligență, dacă vrem să ne gândim așa. Conexioniștii vin dintr-o perspectivă mai apropiată de creierul uman, cum funcționează mecanic, cum…
Cosmin Stamate: Biologic.
Andrei Damian: Biologic, da. Cum se conectează neuronii. Și era o abordare mult mai diferită decât simbolică, cam cum formăm noi conceptele. Și au fost tot timpul două școli diferite și, până la urmă, se părea că au câștigat conexioniștii, dar acum se pare că vine simbolicul din urmă.
Cosmin Stamate: Cel mai probabil.
Părintele Teologos: Vine simbolicul din urmă.
Andrei Damian: Da, vine simbolicul din urmă și cred că, până la urmă, se vor uni și va ieși ceva…
Cosmin Stamate: Cel mai probabil.
Părintele Teologos: Sigur.
Andrei Damian: …aproape de o inteligență generală, bineînțeles diferită de inteligența umană. Și cred că și acum, am auzit, a spus cineva, am uitat exact cine, a zis că ar trebui poate… A, Terence Tao, care este aproape cel mai bun matematician contemporan, a spus că probabil ar trebui să începem să ne gândim la inteligență cum am început să ne gândim când am decis că Pământul nu e centrul Universului și că Soarele este centrul nostru…
Părintele Teologos: Da, da, da, da. Da.
Andrei Damian: …și așa să ne gândim și la inteligență: că nu este un singur tip de inteligență. Sunt mai multe tipuri de inteligență, care sunt diferite unele de altele, și nu ar trebui să le comparăm ca să le înțelegem, să le învățăm. Da, scuze că am…
Părintele Teologos: Sigur, nu-i nicio problemă. Foarte important lucru ăsta.
Pentru că lămurim ce este și ce nu este inteligența artificială, am atins latura ei mai întunecată într-un material mai vechi, Latura malefică: tehnologie, cipuri, inteligență artificială și transhumanism, iar despre folosirea cu cap a noilor tehnologii vorbește limpede și un preot și un inginer despre efectele noilor tehnologii.
Pericolele ascunse ale AGI. Capabilitățile emergente
Dar, că tot veni vorba, că ai spus la un moment dat, și vreau să mă agăț puțin de treaba asta despre AGI.
Andrei Damian: Da.
Părintele Teologos: Adică despre Inteligența Artificială Generală. Ai spus că va fi foarte diferită de cea umană. Deci trebuie să accentuăm foarte mult faptul că oamenii de știință caută această inteligență generală, dar ea nu va fi ca și un robot, ca și un super robot din Războiul Stelelor sau de…
Andrei Damian: Nu, nu.
Părintele Teologos: Nu, nu-i vorba de așa ceva. Bun.
Andrei Damian: Eu nu cred, eu, dar…
Părintele Teologos: Da!!
Cosmin Stamate: Părerile sunt împărțite aici.
Andrei Damian: Da. Da, da.
Părintele Teologos: A, tu crezi?
Cosmin Stamate: Nu neapărat. În ce sens? În sensul în care, acum câțiva ani de zile, discutam de faptul că AGI se va întâmpla peste un anumit timp, iar de ceva vreme încoace discutăm de oameni de știință, discutăm de companii, discutăm de universități care susțin că au, și că ceea ce avem în momentul ăsta – și cred că toți avem acces la ele – sunt de fapt GPA, General Purpose Artificial Intelligence, care, de fapt, este o formă de Artificial General Intelligence. Pentru că modelele deja sunt capabile atât să înglobeze informații din absolut toate domeniile și, ce e mai grav, din punctul meu de vedere…, ce este mai grav…
Părintele Teologos: Da, sigur.
Andrei Damian: Este că nu avem capacitatea să determinăm, să facem deterministic o evaluare a ce se va întâmpla cu modelul respectiv după ce își termină procesul de învățare. Așa-zisele capacități emergente. Adică, cu alte cuvinte, eu îi spun, îi dau să învețe și să realizeze o anumită… informație.
Părintele Teologos: Să se antreneze.
Andrei Damian: Da, și la sfârșit el e în stare să facă o chestie care mie nu-mi trecea prin cap. Ei, și aici mă duce cu gândul la o metaforă a unei arme, da? Că, ok, ai inteligența artificială. Poate să fie o armă, poate să fie o unealtă. Nu armele omoară, oamenii omoară – cei care folosesc armele.
Părintele Teologos: Da.
Andrei Damian: Bun. Doar că o armă este… o vezi…, un cuțit are un tăiș, are un mâner…,
Părintele Teologos: Da.
Andrei Damian: …nu se transformă brusc într-un șarpe care să te mușcă de mână. Da? Sau cel puțin…
Cosmin Stamate: …Încă.
Părintele Teologos: …Încă. Da, sigur.
Andrei Damian: În timp ce o armă, cum este…
Părintele Teologos: AI.
Andrei Damian: …un model de GPI pe care îl folosești într-un anumit scop și descoperi, sau descoperă alții — mai grav —,
Părintele Teologos: Da.
Andrei Damian: …poate care e inamicul tău, că are capabilități emergente, care se pot întoarce în potriva ta, chiar este o problemă.
Părintele Teologos: Este o problemă, și mai ales că nu este predictibil, adică nu știi ce face, o poți și nu o poți controla, de fapt. Și cred că aici problema cea mare este problema etică, de fapt: problema binelui și a răului. Pentru că nu are idee de bine și rău și, după cum spuneam, problema etică. Adică eu cunosc foarte mulți oameni care, pe teme de ChatGPT, au căzut în depresie, cunosc foarte mulți oameni care au schizofrenie și oameni care s-au sinucis pe teme de ChatGPT.
Andrei Damian: Da.
Părintele Teologos: De ce? Pentru că idolatrizează, adică îl folosesc pe post de dumnezeu, cu „d” mic, și, mai ales, întreabă probleme sufletești. Niciodată, niciodată, niciodată nu trebuie să întrebați probleme sufletești, pentru că el nu are dragoste, nu are empatie, nu are sentiment, nu are Dumnezeu. E un antihrist digital, de fapt.
Andrei Damian: E grav cât de mult se propagă acest cancer, efectiv digital, în transformarea ChatGPT-ului în prieten, în…, în…, în…
Părintele Teologos: Parteneri de viață.
Cosmin Stamate: Parteneri, iubit chiar.
Părintele Teologos: Iubit, da, da, da.
Andrei Damian: Nu vreau să pronunț cuvintele astea.
Cosmin Stamate: Da, exact. Nici mie, nu…
Andrei Damian: Mi-e greu să le pronunț.
Părintele Teologos: Dar sunt care sau căsătorit cu…
Cosmin Stamate: Da, da. Corect, am văzut, dar este…
Părintele Teologos: Da.
Cei care vor să cântărească cât de serioase sunt capabilitățile emergente și riscurile pe care le ridică inteligența artificială vor găsi o discuție aplicată în Riscurile inteligenței artificiale pentru tineri.
Capcana emergentă: De la unealtă la dependență și efectele AI asupra minții umane
Andrei Damian: Problema este că acest lucru se întâmplă într-o formă mult mai subtilă decât ne dăm noi seama, pentru că acestea sunt niște lucruri evidente. Îl vezi pe unul că vorbește cu ChatGPT-ul și îi face confesiuni și îi spune ce a făcut la școală, sau ce a făcut la facultate, sau ce a făcut la muncă, sau ce-a făcut mama, sau ce-a făcut tata, da? Este una, și acolo se vede că e greșit. Dacă cât de cât ești un om…
Părintele Teologos: Da.
Andrei Damian: …, să zicem…,
Părintele Teologos: Cu picioarele pe pământ.
Andrei Damian: …cu picioarele pe pământ.
Problema este că trăim niște timpuri în care s-a schimbat modul în care funcționează semnalele pe care creierul ni le dă în momentul în care muncim. Noi suntem obișnuiți să mergem la muncă, ni se dă să facem un contract, scriem contractul respectiv, sau ni se dă să punem mâna pe telefon, să dăm 10 telefoane sau ni se dă să facem un program, IT-iști, da?
Părintele Teologos: Da.
Andrei Damian: Să facem un program. Și înainte îl făceam, și automat se activa un neurotransmițător care ne trimitea semnale de recompensă: recompensa că ai făcut un lucru bun, că ai terminat. Te duci să iei pâine, te-ai întors cu pâinea acasă, primești o recompensă în creierul tău, automatizată de la un neurotransmițător care, în fine, a fost educat și genetic.
Părintele Teologos: Și nu numai atât, primeai și harul lui Dumnezeu că ai făcut o faptă bună.
Andrei Damian: Exact.
Părintele Teologos: Care astăzi pe AI nu mai există.
Andrei Damian: Și acum vine partea urâtă. Mă duc și-i spun: „Fă-mi contractul ăsta.” Și îl face. În momentul în care îl face și îl văd, după ce am spus, n-am muncit cele șase ore care trebuia să le muncesc, am muncit fix 30 de secunde cât am scris, poate mai puțin, iar el, în 3 minute, 5 minute… Aia nu e muncă.
Cosmin Stamate: Da, da, da.
Andrei Damian: Poate am făcut altceva, am băut o cafea între timp, da?
Părintele Teologos: Da.
Andrei Damian: Mi-a apărut contractul. Ei, în momentul respectiv, eu primesc acel semnal, se activează acel neurotransmițător și primesc recompensa. Adică eu simt, este un stimulent, e ca un drog, că mi-am făcut treaba.
Părintele Teologos: Da, dar nu mai primești harul lui Dumnezeu pentru că nu te-ai ostenit.
Andrei Damian: Și nu numai atât, mai este încă o problemă. De cele mai multe ori, asta se întâmplă la oamenii care nu sunt la un nivel, să zicem, de stăpânire suficientă a subiectului pe care-l încearcă să-l rezolve. Poate nu este cel mai bun avocat, poate nu este cel mai bun cercetător, poate nu este cel mai bun programator și așa mai departe.
Cosmin Stamate: Consultator.
Andrei Damian: Și ei nu știu că, de fapt, răspunsul s-ar putea să fie greșit. Sau o parte din răspuns s-ar putea să fie greșit.
Părintele Teologos: Da, da.
Andrei Damian: Și atunci trăiește cu proasta impresie a faptului că au terminat un lucru, primesc un semnal care le validează acțiunea, iar, la sfârșit, și mai grav, ei chiar cred că sunt capabili să facă lucrul respectiv, fără să aibă nevoie de timp, și de educație, și de… este…
Părintele Teologos: Da. Și asta nu-i debilizează? Adică, de ce? Pentru că vezi, în clipa în care orice parte a corpului – de exemplu trupul – ca să-l ții în formă, să-l ții așa, tonificat, trebuie să faci mușchi. Sau să mergi la sapă, sau să mergi la sală.
Andrei Damian: Da.
Părintele Teologos: Ei, la fel și la creier. Trebuie să-l exersezi. Dacă tu nu-l exersezi și scrii doar prompturi sau, mă rog… așa. Clar că, evident, se atrofiază și, evident, se ajunge, cred că, la capacitatea de a nu mai gândi.
Andrei Damian: Exact.
Părintele Teologos: La incapacitatea de a gândi.
Andrei Damian: Da. Da.
Cosmin Stamate: O să comunicăm…
Părintele Teologos: Zi, Cosmin!
Cosmin Stamate: O să comunicăm numai prin prompturi unul cu altul.
Părintele Teologos: Numai prin prompturi, da, da! Și cred că s-a ajuns până acolo că am văzut niște studii de la MIT…
Cosmin Stamate: Da, da, da!
Părintele Teologos: …în care nici măcar prompturi nu mai poți să scrieți.
Cosmin Stamate: Da, e doar…
Părintele Teologos: Da, da.
Andrei Damian: Da, da, da.
Cosmin Stamate: …las că știe el. Deci tu numai…
Părintele Teologos: Sigur, da, da, da. Tu scrii și magic să iasă de acolo, știi?
Cosmin Stamate: Da, da, da.
Andrei Damian: Da. Adică am observat, inclusiv la studenți, la colegi cu care lucrez, devin din ce în ce mai superficiali în a scrie promptul pe care trebuie să-l scrie.
Părintele Teologos: Da.
Andrei Damian: Ei, fiind la un nivel bun de înțelegere a informațiilor, devin superficiali pentru că zic: „lasă”, apoi nu pot să iasă.
Părintele Teologos: Da.
Andrei Damian: Adică este efectiv și, cum ați spus dumneavoastră, n-am vrut să pronunț cuvântul, că mi se pare…
Părintele Teologos: Dar e cuvânt medical: debilizarea.
Cosmin Stamate: Da.
Andrei Damian: Da, da, da.
Părintele Teologos: Se poate spune și cuvântul popular: că este tâmpenie, se tâmpește.
Andrei Damian: Da.
Părintele Teologos: Cuiul tâmpit este cuiul bont, cuiul fără putere de pătrundere. Și acolo se ajunge.
Andrei Damian: Da, da.
Părintele Teologos: Și fenomenul este și rezidual. Adică în clipa în care omul se oprește din a comunica cu AI, fenomenul ăsta rămâne. Adică trebuie iarăși exercițiu ca să poți să înveți să gândești. Da?
Mecanismul recompensei pe care îl exploatează AI nu este deloc nou, iar despre felul în care suntem ținuți dependenți am stat de vorbă cu un specialist în Neurolog: ei te doresc dependent și fără țeluri.
AI-ul nu este predictibil: cum afectează calitatea muncii, responsabilitatea și modul de gândire
Părintele Teologos: Ce am vrut să întreb… Mie mi-a spus cineva, deci un programator foarte bun, că ei au o mare problemă într-o firmă foarte mare și foarte serioasă, de care se știe – să nu dau nume acum – că au lucrat, deci au scris foarte mult cod pe AI.
Andrei Damian: Da.
Părintele Teologos: Au mers foarte bine înainte, dar, dintr-o dată, au văzut că codul e greșit și, mai ales, a spus că este o mare problemă, pentru că pe om – omul este predictibil, adică cam știi că ăsta are cam tendința să greșească acolo – și atunci, mă rog, îl verifici acolo.
Cosmin Stamate: Da.
Părintele Teologos: Ei, AI-ul nu este predictibil, și atunci trebuie să verifici tot codul. Și, deci, de fapt, mai mare daraua ca ocaua.
Andrei Damian: Din punctul meu de vedere, asta se întâmplă și nu numai într-o firmă mare, în toate firmele. Adică, cred că singurele firme în care nu se întâmplă lucrul ăsta sunt firmele extrem de mici, în care ai un rockstar care chiar știe bine ce face, folosește AI-ul și el verifică, la rândul lui.
Părintele Teologos: Da.
Andrei Damian: Pentru că, în orice firmă unde ai mai multe nivele de expertiză, întotdeauna cei cu nivelele mai joase devin superficiali, primesc neurotransmițătorul recompensei, trec mai departe și crește un technical debt, o datorie…
Părintele Teologos: Datorie tehnică, da, da.
Andrei Damian: Datorie tehnică care crește, se cumulează și, la un moment dat, bubuie. Problema principală este că nici nu ai un om la care să te duci să-i zici: „Domn’le, vezi că ai o problemă în locul ăla sau în locul ăla”, pentru că ajunge atât superiorul lui, cât și cel care a făcut sau care a generat respectiva problemă să nu știe să identifice locația respectivă și atunci, evident, că intri într-o… și depinzi de cine?
Părintele Teologos: Tot de AI.
Andrei Damian: Tot de AI să-ți găsească problema.
Părintele Teologos: Da, și nu numai atât. Adică, în clipa în care tu te trezești în față cu o cantitate imensă de informație — hai să nu ne limităm la informatică, dar vorbim… sute de mii de linii de cod sau foarte mult text — atunci nu-ți mai vine să-l corectezi. Chiar dacă tu știi puțin, în conștiința ta, de multe ori nici măcar nu vrei să accepți în conștiința ta. Chiar dacă tu știi, bă, ar trebui să-l corectez, ar trebui să mă uit pe el, nu te mai uiți pe el, zici: „Păi, bine.” Și atunci, cred că, la ora asta, calitatea materialelor, calitatea codului, calitatea programelor, calitatea materialelor care se fac cu AI scade în timp.
Andrei Damian: Părinte, lucrez la un articol, nu neapărat științific, un articol mai degrabă așa, semi-științific, exact pe tema aceasta, și poate îmi dați binecuvântare să reușesc să termin.
Părintele Teologos: Amin! Să te binecuvânteze Dumnezeu!
Andrei Damian: Doamne, ajută!
Cred că trebuie să ne reprogramăm modul în care gândim și în care lucrăm.
Părintele Teologos: Sigur.
Andrei Damian: Adică este vorba de rewiring the brain.
Părintele Teologos: Da.
Andrei Damian: Pentru că, dacă noi nu înțelegem că acel semnal, cât de mic, chiar și eu, personal: scriu articolul ăsta, m-am văzut pe mine cum mă bucur că am terminat o problemă, deși nu era terminată, pentru că eu știu că nu l-am verificat cum trebuie.
Părintele Teologos: Da.
Andrei Damian: Adică noi ar trebui să ne reprogramăm, să primim semnalul de recompensă în momentul în care am terminat de verificat tot ce s-a întâmplat acolo sau ce e acolo.
Fiindcă inteligența artificială ne poate atrofia tocmai gândirea, paza minții rămâne lucrarea de căpătâi: am dezvoltat tema în Războiul de gând și paza minții, iar o privire duhovnicească găsiți și pe crestinortodox.ro.
Frica de Dumnezeu sănătoasă: esența discernământului în fața inteligenței artificiale
Părintele Teologos: Cred că aici este esențială frica de Dumnezeu. Este frica de Dumnezeu, dar nu frica de Dumnezeu tiranică, că Dumnezeu nu-i tiranic, ci frica de Dumnezeu Tată iubitor și veșnic, care ne spune și nouă să facem lucrurile în veșnicie. Și în clipa în care zic: „Măi, să nu-L superi pe Tata, să nu-L superi pe Dumnezeu Cel adevărat”, atunci iese lucru bun. Iese lucru bun.
Discernământul în fața inteligenței artificiale crește din frica de Dumnezeu cea bună, despre care veți găsi o tâlcuire caldă în tămăduirea fricii și frica de Dumnezeu.
Algoritmi care te țin captiv: pericolul motoarelor de recomandare
Dincolo de faptul că am intrat foarte mult pe teme de ChatGPT și pe teme de prompturi, haideți să ieșim puțin din acest subiect. Ce părere aveți despre ceea ce, pentru mine, este cea mai mare distrugere pe care o provoacă AI-ul: motoarele de recomandare? Adică avem rețele sociale, avem postările care apar și avem un algoritm de AI care îți oferă următoarea postare. Acestea mi se par foarte nocive. De ce? Pentru că nu sunt proiectate ca să mă folosească pe mine, ci să mă țină captiv acolo.
Andrei Damian: Da.
Părintele Teologos: Să maximizeze pușeul de dopamină. Aia vor să facă.
Andrei Damian: Din punctul meu de vedere, motoarele de recomandări sunt unul dintre primele lucruri nocive care au fost generate de inteligența artificială. Și nu mă refer de ChatGPT, nu mă refer de LLM, nu mă refer de…
Părintele Teologos: Sigur.
Andrei Damian: Mă refer la anii 1995, 2000, 2010, modele… machine learning, modele ulterioare de deep learning, Netflix sau… discutăm de absolut orice…
Părintele Teologos: Da.
Andrei Damian: …până în 2023.
Cosmin Stamate: TikTok.
Părintele Teologos: TikTok, foarte agresiv, foarte agresiv.
Andrei Damian: Și, mai grav de atât, gândiți-vă la jocurile de noroc. Gândiți-vă că sunt folosite….
Cosmin Stamate: Toate astea oricum se inspiră de acolo.
Părintele Teologos: Da?
Cosmin Stamate: Da, da.
Andrei Damian: Sunt folosite jocurile de noroc pentru a te ține…
Cosmin Stamate: Să maximizeze dopamina, să te țină acolo.
Părintele Teologos: Da, să te ține… Sigur.
Andrei Damian: Da, adică…
Deci, oameni buni, oricât v-ați juca pe jocuri de noroc, n-aveți nicio șansă să câștigați. Vă pierdeți banii, vă pierdeți casele, vă pierdeți mașina, vă pierdeți viața. Da? Continuați.
Aceleași mecanisme de captare folosite de algoritmii de AI le regăsim în jocurile de noroc, despre care am vorbit în Dependența de jocuri: când e prea mult.
Generarea de conținut în online și manipularea prin boți
Andrei Damian: Da. Acum cu…, nu știu, dacă vrei să adaugi tu ceva legat de… recent, ce se întâmplă cu generarea de content în platformele online.
Cosmin Stamate: Da, adică înainte doar îți…, — exact, e bună asta — înainte doar îți căuta un articol să ți-l arate…
Andrei Damian: Doar tu erai manipulat, acum poți să manipulezi și tu pe alții.
Cosmin Stamate: Acum tu îi generezi articole, ce vrei, numai să-l ții acolo. Nici nu mai trebuie să mai existe.
Părintele Teologos: A, da? A!!
Cosmin Stamate: El face în timp real, numai să-l ții.
Părintele Teologos: A! Are bots?
Cosmin Stamate: Da, da!
Părintele Teologos: Are bots care generează… Sigur, sigur.
Cosmin Stamate: Da. Nu există. Ai postat ceva, 100 de reply-uri instantaneu pe teme diferite, cum să pară, cum să apară, vorbește acolo, ce s-a întâmplat… Adică să știi, a fost și în…
Andrei Damian: Sau, ca să fim așa semi-anegdotici, înainte ne manipula doar Amazon-ul și Google…
Cosmin Stamate: Da.
Cosmin Stamate: …acum putem să ne manipulăm și noi unii pe alții.
Părintele Teologos: Să ne manipulăm unii pe alții, da, da.
Andrei Damian: Cum spuneam, e o armă sau poate să fie o unealtă.
Părintele Teologos: Da.
Andrei Damian: Mai grav este că arma asta are și un comportament non-deterministic.
Părintele Teologos: Da.
Cosmin Stamate: Da.
Andrei Damian: Prin capabilitățile emergente. Adică…
Părintele Teologos: Și mai ales are într-un fel inițiativă, într-un fel. Adică evoluează în timp.
Cosmin Stamate: Da, da, da.
De la manipularea prin motoarele de AI până la valul de boți, problema rețelelor sociale o pun pe masă în Democrația rețelelor sociale.
Pericolele AI în medicină: diagnostice și rețete la un click distanță
Părintele Teologos: Un alt lucru care, pe mine, m-a impresionat foarte mult în sens negativ, este domeniul medical, în care oamenii folosesc, tot așa, motoarele de AI astfel încât să scoată rețete.
Andrei Damian: Pfff!
Părintele Teologos: Da, scoate rețete și merg cu rețeta la doctor, spune: „Domn’ doctor, dați-mi, vă rog, rețeta asta.”
Andrei Damian: Da.
Părintele Teologos: Și doctorul, dacă e cu picioarele pe pământ, zice: „Bun, dar trebuie să te consult înainte.” „Nu e nevoie să mă consultați, că am scos de la ChatGPT.”
Andrei Damian: Da. Este cel puțin la fel de grav ca tot ce am discutat până acum.
Ce e foarte interesant, înapoi, în 2012-13, o echipă de medici din Norvegia, toți cântăreți.
Părintele Teologos: Serios?
Andrei Damian: Da, da, da.
Părintele Teologos: Și medici și cântăreți?
Andrei Damian: Da, da, da. Cântăreți, chirurgi, în fine, mai multe…
Părintele Teologos: Da.
Andrei Damian: Și aveau un band și au făcut un clip pe YouTube, care se cheamă Don’t Google Your Symptoms.
Cosmin Stamate: Da.
Andrei Damian: Căutați-l pe YouTube când o să aveți semnal.
Părintele Teologos: Serios?
Andrei Damian: Da.
Cosmin Stamate: Da, da.
Andrei Damian: Și ei cântă, ok, „dacă ești…” și nu știu ce, „Don’t Google Your Symptoms.” Și…
Părintele Teologos: Ferească Dumnezeu!
Andrei Damian: Da, da, da.
Părintele Teologos: Slavă lui Dumnezeu!
Andrei Damian: Asta înainte de ChatGPT. Pentru că lumea își căuta simptomele pe Google.
Gândiți-vă cât de mult își căutau simptomele pe Google. Dacă Google era capabil să folosească niște modele simple de AI și să facă predicția aparițiilor bolilor și a desfășurării fronturilor de infecție. Pentru că, în funcție de localități și de dinamica cererilor — „mi-a durut capul”, „mi s-a umflat mâna”, „am 40 de grade”, „am nu știu ce” — ei puteau să prezică în ce direcție și cât de mult o să se extindă focarul de infecție pentru o anumită boală. Ei știau, la COVID, exact cum o să funcționeze, pentru că urmăreau ce se întâmplă și ce căutări se fac.
Părintele Teologos: O! Slavă lui Dumnezeu! Și, cu toate astea, ne manipulează la crunt.
Tocmai pentru că inteligența artificială scoate rețete fără să te vadă, discernământul rămâne cheia, iar despre el am vorbit pe larg în Discernământul.
Mirajul informației: cum ne păcălesc modelele AI
Ceea ce, pe mine, m-a impresionat foarte mult, a fost acum, de curând, un studiu despre miraj. Adică se dădea tot în domeniul medical — cred că tot pe ChatGPT, nu are importanță — că are simptomele cutare, cutare, cutare și, după care, spunea motorul conversațional: „Dă-mi și radiografiile.”.
Andrei Damian: Da.
Părintele Teologos: Și dădea radiografiile, adică lucrurile sau, mă rog, fotografia rănii sau așa mai departe. Și, după care, scria motorul conversațional: „După cum se vede în radiografie, foarte probabil că ai aia, și aia, și aia, și aia și așa mai departe.” Și arăta foarte bine. Deci, da, într-adevăr. După care au repetat aceleași întrebări, aceleași prompturi, au spus la fel, dar, în loc de imaginile care sunt personalizate, adică radiografiile mele, au pus fotografii negre.
Cosmin Stamate: Da, da, da, Și el îi spunea… A, da!
Părintele Teologos: Spune același lucru: „după cum se vede în fotografie…”
Cosmin Stamate: Exact!
Părintele Teologos: Același lucru.
Cosmin Stamate: Da.
Părintele Teologos: Deci vorbim de…
Cosmin Stamate: Asta este slăbiciunea modelelor ăstora.
Cosmin Stamate: Da.
Părintele Teologos: …noaptea minții, adică foarte periculos.
Cosmin Stamate: Și ei forțează să… le duc în direcția asta, adică OpenAI și toți forțează să…
Părintele Teologos: Să câștige…
Cosmin Stamate: …fii de acord cu ei — „Zii așa”. Așa a fost antrenat într-un fel.
Andrei Damian: Psihopant.
Cosmin Stamate: Da, doar ca să te țină engage, de acolo să nu…
Părintele Teologos: Am înțeles.
Cosmin Stamate: Că el îți dă „Nu știu. Încearcă și azi.” Mă duc la celălalt care, ăla îmi spune că știe. A, păi trebuie să spunem toți acum că știm. Cum facem să… Că asta, ei spun…
Părintele Teologos: A!! Am înțeles!
Cosmin Stamate: Că, dacă ei spun… nu-i spune „Nu știu.”
Părintele Teologos: Deci, pe ei nu-i interesează adevărul, îi interesează…
Cosmin Stamate: Engagement-ul.
Părintele Teologos: Engagement-ul.
Cosmin Stamate: Să stai acolo, să vorbești…
Părintele Teologos: Angajarea, angajarea.
Cosmin Stamate: Ia-ți din ăla mai scump, să… îți răspundă la mai multe întrebări.
Andrei Damian: Da, mai degrabă, OpenAI sunt acuzați că au modele prea aprobative și prea „yes-man”.
Părintele Teologos: Da, da.
Cosmin Stamate: Da.
Andrei Damian: Ceilalți, în fine, să zicem că…
Părintele Teologos: Antropic.
Andrei Damian: Da, Antropic, Google, Gemini.
Cosmin Stamate: Da, toți sunt acolo.
Părintele Teologos: Da.
Andrei Damian: Da, dar, în principiu, mai este încă o problemă și o realitate: toate modelele astea sunt antrenate pe informația și pe baza de date colectivă a umanității. Și dacă noi ne uităm la baza de date colectivă a umanității, vedem tone de bias-uri, tone de preconcepții.
Părintele Teologos: Evident! Și…
Andrei Damian: Și învățând preconcepțiile respective, părinte…
Părintele Teologos: Sigur! Și mai ales că baza de date, adică internetul, este păcătos.
Cosmin Stamate: Bineînțeles, da.
Părintele Teologos: Că oamenii sunt păcătoși.
Cosmin Stamate: Predominant păcătos, da.
Părintele Teologos: Păcătos, păcătos. Și acum, cum vrei să-ți dea el un răspuns duhovnicesc?!
Cosmin Stamate: Păi, asta zic.
Părintele Teologos: Când tu te bazezi… te bazezi…
Cosmin Stamate: Ar trebui să facem ceva specific aici, numai pe…
Părintele Teologos: Să ajute Dumnezeu, doar pe texte sfinte…
Cosmin Stamate: Pe texte sfinte, să vedem ce iese de acolo. Poate iese ceva… Altceva.
Părintele Teologos: Dacă doriți, ne angajăm.
Cosmin Stamate: Da, bineînțeles!
Părintele Teologos: Sigur.
Andrei Damian: A, da!
Părintele Teologos: Da?
Andrei Damian: Da, cu siguranță.
Părintele Teologos: Ok, bun.
Cosmin Stamate: Acum suntem filmați aici, gata.
Părintele Teologos: Sunteți pe cameră, băieți!
Cosmin Stamate: Da, da. Păi, da, bineînțeles, cum să nu!
Andrei Damian: Da, da, da, da, fără discuție.
Cosmin Stamate: Ar fi o muncă de suflet.
Andrei Damian: Da!! Cu mare bucurie!
Părintele Teologos: Să ajute bunul Dumnezeu! Bun, se face.
Andrei Damian: Cu mare bucurie! Doamne ajută!
Generare în artă – Arta fără suflet a inteligenței artificiale
Părintele Teologos: Mergem mai departe, mergem în artă. În artă vorbim de generare… Trist, nu?
Generare de muzică, filme… Cum vedeți?
Cosmin Stamate: Imagini.
Părintele Teologos: Imagini, da, sigur.
Cosmin Stamate: Da, tot. Filme, da.
Părintele Teologos: Tot, da.
Cred că cuvântul care descrie toată treaba este soulless, adică este fără suflet.
Cosmin Stamate: Da.
Părintele Teologos: Deci, am ascultat niște muzică de AI, că mă preocupă foarte mult muzica — nu ca să ascult de plăcere, ci pentru că oamenii sunt foarte influențați de muzică.
Cosmin Stamate: Da, corect.
Părintele Teologos: Și mai ales, la ora asta, muzica este o muzică foarte păcătoasă.
Ei, când asculți prima piesă de AI, adică o piesă „bună” între ghilimele, de AI, wow… dar nu ține. Pentru că n-are suflet, n-are…
Andrei Damian: Comercial, să zicem, da.
Părintele Teologos: Da, da, comercial. Adică pentru o reclamă. Pentru ceva de genul ăsta.
Andrei Damian: Da. Eu, personal, cred că sunt două lucruri care se întâmplă la ora actuală, atât în film, cât și în muzică, dar am luat exemplu filmul. Chiar discutam mai devreme cu un alt vizitator de-al dumneavoastră…
Părintele Teologos: Da, da.
Andrei Damian: Care este în domeniu.
Părintele Teologos: Da!
Cosmin Stamate: Da, da.
Andrei Damian: Pe care nu-l văd aici.
Părintele Teologos: Nu e aici, nu e. E obosit.
Andrei Damian: Da. Și spuneam că este un val de non-valoare, părinte. Nu vorbesc de AI. Vorbesc strict de producții cinematografice, de filme, de video, de…
Cosmin Stamate: Muzică.
Andrei Damian: …strict pe film.
Părintele Teologos: Da, dar și pe muzică — ferească Dumnezeu!
Andrei Damian: Nonvaloare. Și nonvaloare care se vinde, părinte. Adică, efectiv… pentru că, dacă nu s-ar vinde pe Netflix, n-ar împinge-o în față, n-ar da statistici, n-ar spune că e numărul 1 sau numărul 2 în România respectivul film, care, literalmente, n-are niciun fel de valoare artistică, niciun fel de valoare cinematografică, niciun fel de… este o expoziție totală a nonvalorilor.
Părintele Teologos: O manelizare.
Cosmin Stamate: Da, exact. O manelizare.
Părintele Teologos: O manelizare.
Andrei Damian: Exact.
Cosmin Stamate: Foarte bine ne prezentați.
Andrei Damian: Exact, exact. E, asta este, cred că unul dintre — sau sursa de la care pleacă — faptul că oamenii se uită spre AI, se uită spre ce generează AI, se uită spre imagini, se uită spre filme, zic: „wow, ce frumos e!”
Părintele Teologos: Spre facil.
Andrei Damian: Spre facil. Despre asta e vorba, da.
Arta generată de AI rămâne fără suflet, iar despre ce înseamnă frumosul adevărat și de ce muzica de azi decade am vorbit în Binele, adevărul și frumosul și în Motivul real pentru care muzica devine mai rea.
Clonarea digitală și furtul de identitate: pericolele AI și deepfake-urilor
Părintele Teologos: O altă întrebare, referitor la AI. Știți că se poate face sinteză de voce, adică…
Cosmin Stamate: Da, da.
Părintele Teologos: …se poate copia vocea…
Cosmin Stamate: Fără probleme, da.
Părintele Teologos: Fără probleme. Absolut fără probleme.
Cosmin Stamate: Adică, din ce am filmat noi, acum, în seara asta, gata, vocile noastre sunt clonate, direct.
Părintele Teologos: Pfff… oh-oh! Păi, exact despre asta vroiam să vă spun: despre furtul de identitate.
Cosmin Stamate: Da, da.
Părintele Teologos: Sunt, nu știu, câte clipuri, și chiar mă repet pe cameră, oameni buni: toate clipurile cu părintele Stareț, cu părintele Pimen Vlad, în care el vinde ghimbir, icoane…
Cosmin Stamate: Aoleu!
Părintele Teologos: …medicamente și unguente și așa mai departe. Toate sunt false!
Cosmin Stamate: Țățăță!
Părintele Teologos: Nu există așa ceva! Vorbesc foarte serios!
Cosmin Stamate: Da, nici nu am văzut, acum aud.
Andrei Damian: Eu sunt șocat, adică…
Părintele Teologos: Da, da, da! Nu, deci… Și ne trimit oameni, îmi trimit mie email, că eu sunt administratorul site-ului. „Părinte, vă mulțumim tare mult. Trimiteți și nouă ghimbiri, că mă doare la genunchi și trebuie nu știu ce.” Da, și, evident, că apare scandal în Biserică.
Cosmin Stamate: Bineînțeles, da.
Părintele Teologos: Cum adică? Deci noi, athoniți, vindem tot felul de bazaconii, știi.
Cosmin Stamate: Păi, da, normal. Normal că da.
Părintele Teologos: Sigur. Și asta pentru că Părintele Stareț, evident, este — și mă bucur oarecum că este popular — dar are partea…
Cosmin Stamate: Eu cred că face foarte mult bine că este popular așa.
Părintele Teologos: Da, da, sigur. Dar are partea asta negativă: că e furtul de identitate.
Cosmin Stamate: Da, este un risc. Ar trebui controlate altfel chestiile astea, dar e dificil.
Părintele Teologos: Dar nu ai cum. Cum? Nu știu cum se poate face.
Cosmin Stamate: Pe platforme… La nivel de platforme, eu cred. YouTube ar trebui, ei, să-și facă singuri…, să se autosesizeze…
Părintele Teologos: Acum, să fiu foarte sincer, pe YouTube îi mai prinzi, adică… îți mai răspund.
Cosmin Stamate: Pe TikTok, nu.
Părintele Teologos: TikTok…
Cosmin Stamate: Pe TikTok nu ai nicio treabă.
Părintele Teologos: Pe TikTok mai poți să tai după ce vorbești prin avocați și așa mai departe…
Cosmin Stamate: A, se poate?
Părintele Teologos: Se poate… Cel mai rău e Facebook-ul.
Cosmin Stamate: Deci, Instagram și Facebook… nu. S-a terminat.
Părintele Teologos: Da, ferească Dumnezeu! Da, da.
Cosmin Stamate: Am înțeles.
Părintele Teologos: Pe TikTok sunt cei mai agresivi, adică îi lasă, dar dacă îi ameninți cu avocatura, cu… și așa mai departe, atunci taie.
Cosmin Stamate: Am înțeles.
Părintele Teologos: Dar trebuie să trimiți multe și trebuie să vorbești cu o firmă de avocatură să facă treaba asta. Dar pe Facebook, foaie verde lobodă, știi… vocea celui care strigă în pustie. E foarte trist!
Cosmin Stamate: Da.
Părintele Teologos: Foarte trist. De ce? Pentru că se produce mult scandal în Biserică și nu numai atât. Să vezi faza…
Cosmin Stamate: Da, normal!
Părintele Teologos: Chiar, fraților, oameni buni… bine, vă rog să mă iertați puțin.
Cosmin Stamate: Da, da, da.
Părintele Teologos: Deci, oameni buni, sunt pagini pe Facebook cu numele părintelui Pimen Vlad și cu sfaturi care sunt, chipurile, ale părintelui Pimen. Niciuna nu este adevărată! Niciuna!
Părintele Teologos: Pentru că ăștia ce fac? Cum spuneam, clonează, nu numai vocea, ci și textele.
Cosmin Stamate: Da, da. Și chipul și tot.
Andrei Damian: Și textul, imaginea.
Părintele Teologos: Și tot. Da. Și pun, așa… și ne trimit oamenii, că au citit acolo și soția să se despartă de soț, că a spus părintele Pimen. Și părintele Stareț este îngrozit, că eu nu am spus așa ceva, știi? E o mare problemă!
Cosmin Stamate: Da, da, da.
Despre cum inteligența artificială clonează voci și chipuri și despre primejdia deepfake-urilor am avertizat și în IA și deepfake: împreună ne vor înșela pe toți.
Securitate digitală: autentificare, riscul cenzurii și soluții descentralizate
Andrei Damian: Da. Și e un domeniu recent, nou, puternic, de cercetare. Chiar acum recent am fost la o conferință și am fost invitat să vorbesc puțin despre subiectul ăsta. În principiu, sunt două direcții posibile. Numai una funcționează. Direcția este de cercetare, în sensul că să-i prinzi, dar cu cât ești tu bun, cu atât ei descoperă tehnici. Avansezi, și tot timpul, practic, este o…
Părintele Teologos: Săgeată-scut.
Andrei Damian: O roată de hamsteri: cu cât te învârți mai tare, cu atât se învârt și ei mai tare. Și atunci, singura soluție este verificarea provenienței.
Părintele Teologos: Da.
Andrei Damian: Metode de autentificare, verificarea provenienței… Domnule, ăsta este filmul: uite, dacă dai click aici, ai un certificat în spate… N-are certificat, nu e de la mine.
Părintele Teologos: Da.
Andrei Damian: E foarte simplu.
Părintele Teologos: Da.
Andrei Damian: Certificatul respectiv, undeva trasabil în blockchain, în…
Părintele Teologos: Undeva.
Andrei Damian: Sunt tehnologii care oferă imutabilitate și în care n-ai ce… Imuabilitate, pardon.
Părintele Teologos: Da, sigur.
Andrei Damian: Și care nu…
Părintele Teologos: Nu crezi că asta poate să ducă la tiranie, la cenzură?
Andrei Damian: Ăăă…
Părintele Teologos: Pentru că, de exemplu, dacă faci treaba asta… Înțelegi ce vreau să spun? Dacă mie mi se cer… pentru că, la ora asta, oamenii sunt foarte problematizați. De ce? Pentru că deja încep anumite țări să ceară vârsta. Da? Să ceară vârsta ca să te loghezi pe internet.
Cosmin Stamate: Corect, da.
Părintele Teologos: Să ceară vârsta. Da. Dar ei ce spun? Că astfel dispare anonimitatea de pe internet. Și, vedeți, în cazul ăsta este bine. Da, dar dacă ajunge la guvernare o tiranie…
Cosmin Stamate: Da, nu trebuie să lași să-ți închidă ei.
Părintele Teologos: Da, clar. Și atunci, clar trebuie să existe un foarte fin echilibru al libertății de exprimare pe internet. Este foarte important, socotesc eu.
Andrei Damian: Trasabilitatea și autenticitatea sunt lucruri extrem de complicate, mai ales că tu… ideal este să poți să verifici autenticitatea, dar, la rândul tău, să nu fii trasat și să-ți publice informațiile cu caracter personal.
Părintele Teologos: Sigur.
Andrei Damian: Respectiv, o rută de trasare a autentificării.
Părintele Teologos: Sau și mai și….
Andrei Damian: Daa.
Părintele Teologos: Adică să te vâneze pentru că n-ai spus un lucru care convine establishment-ului, care convine sistemului.
Cosmin Stamate: Tocmai asta e. E greu să folosim…. Nu e bine să folosim platformele acestea centralizate, cum e Facebook-ul, de care depindem. Ei ar putea să implementeze chestii mai…
Părintele Teologos: …serioase.
Cosmin Stamate: Să trieze cât de cât conținutul…
Părintele Teologos: Sigur.
Cosmin Stamate: Ceea ce e clar că ei nu fac – se vede, ceilalți fac, deci voi nu vreți să faceți. Clar le convine, pentru că oricum e pe moarte Facebook-ul.
Părintele Teologos: Da, sigur, e… bătrână.
Cosmin Stamate: Nu mai e, gata. Nu ne mai interesează. Singura soluție, cum a zis Andrei, este să ne mutăm descentralizat – puterea la oameni, fiecare să comunicăm între noi, nu prin platforme centralizate, iar asta o să fie următoarea…
Părintele Teologos: Să ajute, să ajute bunul Dumnezeu, pentru că ăștia se luptă foarte tare să nu piardă controlul.
Cosmin Stamate: Da, bineînțeles.
De la servere centrale la AI personal offline: fără cenzură și mai aproape de Dumnezeu
Andrei Damian: Oricum, am fost extrem de surprins, părinte, când NVIDIA… care NVIDIA, adică ei sunt…
Părintele Teologos: Numărul unu, da.
Cosmin Stamate: Da.
Andrei Damian: Ei, practic, dau tot ce trebuie marilor hyperscalers, la…
Cosmin Stamate: Da.
Părintele Teologos: Sigur, da.
Andrei Damian: …marile companii care dețin, practic, adevăratele GPU-uri de prin lumea asta, au scos o lucrare științifică săptămâna trecută, cred, nu?
Cosmin Stamate: Da, da.
Andrei Damian: Săptămâna trecută. În care spuneau că viitorul, cel mai probabil, va fi al sau și al SLM-urilor. Adică al modelelor de tip ChatGPT, dar care rulează pe…
Cosmin Stamate: …local.
Andrei Damian: …laptopul de acolo sau poate chiar pe…
Cosmin Stamate: …un desktop mai mare.
Părintele Teologos: A, Inteligența Artificială Personală!
Andrei Damian: Personală, da.
Cosmin Stamate: Pentru care nu-ți trebuie internet s-o…
Părintele Teologos: A, sigur, offline.
Cosmin Stamate: Offline.
Andrei Damian: Modele care rulează offline, sau care rulează pe telefoane, sau care rulează pe…
Părintele Teologos: Deci, cum era mai demult, calculatoarele centrale mainframe și așa mai departe..
Cosmin Stamate: Da, da, da, da.
Părintele Teologos: …și a apărut calculatorul personal.
Cosmin Stamate: Da.
Andrei Damian: Da.
Părintele Teologos: Ceva de genul ăsta.
Andrei Damian: Da, da, da. Și de aici și ideea că nu-ți mai trimiți informațiile la ChatGPT, sau la Gemini, sau la whatever, și nu te mai cenzurează, nu te mai înregistrează, nu te mai urmăresc, da? Dacă tu ai posibilitatea să, nu știu, să…
Părintele Teologos: Să ai asistentul tău personal?
Cosmin Stamate: Exact.
Andrei Damian: Sau asistentul tău să coopereze cu asistentul lui, și cu asistentul dumneavoastră, și cu asistentul lui, și cu asistentul lui…
Cosmin Stamate: …și să învețe numai de la noi…
Andrei Damian: …și să învețe…
Părintele Teologos: …între ei.
Andrei Damian: …și să fie, da, între ei, într-o formă în care nu este cenzurată, care este total criptată, total protejată cap-coadă…
Cosmin Stamate: Știi ce informație a intrat acolo să-l antreneze…
Părintele Teologos: A!!
Cosmin Stamate: …să nu ai surprize că a intrat altceva, să ți se spună, să…
Părintele Teologos: Am înțeles, să-ți viruseze și la propriu, și la figurat, da.
Cosmin Stamate: Da, da, exact, exact, cum…
Părintele Teologos: Da.
Andrei Damian: Asta este șansa omenirii, zic eu, pentru a putea obține o cale, a găsi o cale să folosim AI-ul corect, eficient și mai aproape puțin de Dumnezeu, poate.
AI ca unealtă și pericolul dezumanizării: importanța gândirii critice
Părintele Teologos: Da, și eu cred că aici apar două lucruri. Deci, odată, nu e vorba numai de autentificare și de SLM-uri, cum ai spus, da? Ci e vorba, întâi de toate, de învățământul corect. Adică omul trebuie să fie învățat corect din familie, să aibă frica de Dumnezeu, cum spuneam, dragoste de Dumnezeu, astfel încât să nu meargă… să aibă o gândire critică, deci să nu cadă în fața deepfake-urilor, adică să nu fie credul.
Cosmin Stamate: Da.
Părintele Teologos: Da? Să aibă credință în Dumnezeu, după care să aibă dragoste unul față de altul și să folosească, într-adevăr, AI-ul până la nivelul de sculă.
Andrei Damian: Corect!
Părintele Teologos: Adică să nu calce în picioare dragostea și să nu devin eu dependent de AI.
Cosmin Stamate: Da.
Părintele Teologos: Pentru că de multe ori îl suge, adică îl trage pe acolo, și omul nu mai știe nimic altceva în afară de AI.
Andrei Damian: Dezumanizare.
Părintele Teologos: Dezumanizare, sigur. Da.
Ca să nu ne dezumanizeze, inteligența artificială cere o gândire critică formată din vreme; o pledoarie limpede în acest sens este O extraordinară pledoarie împotriva tehnologiei din școli.
Comprimarea cunoașterii umane și pericolul AI: o armă imprevizibilă
Cosmin Stamate: Poate că ne gândim greșit. Și toată lumea întreabă: „Ce e AI-ul?”. De fapt, ce este fundamental? Mă gândesc că am schimbat felul în care interacționăm cu cunștința. De la desene pe peșteră, la scris cărți la calculator, și acum eu pot să-i pun întrebări cunoștinței și ea îmi răspunde. Că acum noi încercăm să o transformăm în AI, în agenți… Nu, nu, stai! De fapt, noi am reușit să comprimăm toată informația pe care am generat-o ca oameni într-o chestie care este incredibilă: putem, pur și simplu, să interacționăm cu ea. Înainte aveam biblioteci, mă duceam… „Unde-i cartea asta?”, „Stai că țin minte…”, „Părintele cutare, cum… cum o interpretez pe asta? Că trebuie citită cu cartea aia…”. Poc! Și acum ai totul aici. Care-i treaba cu aia de acolo? Uite așa. Nu știu, îmi răspunde bine, nu știu… trebuie să mai lucrăm, că nu prea înțelegem cum merge.
Părintele Teologos: Din cauza asta, cred că este foarte important să nu întrebăm AI-ul decât în domenii în care avem expertiză.
Andrei Damian: Exact.
Părintele Teologos: Foarte important.
Cosmin Stamate: Este la început, nu știm, cu siguranță o să ajungem… dar, esențial, am reușit să comprimăm tot. Și să interacționăm cu cunoștința și cu inteligența, și de-abia acum o formăm într-o chestie extraordinară sau… posibil să…
Părintele Teologos: Eu cred că e extraordinară: sau extraordinar de bună, sau extraordinar de rea.
Cosmin Stamate: Exact, da. Extraordinară este, sigur.
Părintele Teologos: Sigur, da.
Andrei Damian: Exact ca o armă.
Cosmin Stamate: Da, exact ca o armă.
Părintele Teologos: Da, exact ca o armă. Și din cauza asta mie mi-a plăcut de Musk, care a spus la un moment dat – bine, nu-l validez eu neapărat pe Musk – dar la un moment dat a spus Musk că AI-ul, chiar de la început, este mai rău decât nukes, decât bombele atomice.
Andrei Damian: Chiar este!
Părintele Teologos: Chiar este.
Andrei Damian: Pentru că bomba atomică totuși avea un sistem predictibil, știai ce se întâmplă, totul era determinist.
Cosmin Stamate: Da.
Andrei Damian: Nu se transforma, nu ziceai: „Ok, detonăm controlat nu știu ce…”.
Părintele Teologos: …țintă acolo.
Andrei Damian: Da, și ea exploda de cinci ori mai mult.
Părintele Teologos: Păi da, că asta se întâmpla.
Andrei Damian: …ca în cazul unui model…
Părintele Teologos: …AI.
Andrei Damian: AI, da.
Părintele Teologos: Și mai ales, nu doar că exploda de cinci ori mai mult, ci explodează și nu știi unde explodează! Că de multe ori nici măcar nu știi unde explodează, știi? Mare problemă!
Andrei Damian: Foarte interesant, zilele trecute au scos cei de la Anthropic… de la Anthropic?
Cosmin Stamate: Da, da.
Andrei Damian: Cum se cheamă modelul?
Părintele Teologos: Claude?
Andrei Damian: Ăăă…
Părintele Teologos: Sonnet?
Andrei Damian: Ăăăă… Cel de, cel de… cel de cybersecurity. Deci un model…
Cosmin Stamate: A! Mythos, da.
Andrei Damian: Mythos, Mythos.
Părintele Teologos: Mythos, da.
Andrei Damian: Ei, Mythos, care practic are capabilități să facă rău…,
Părintele Teologos: Serios?
Andrei Damian: …să spargă sisteme. A descoperit bug-uri, a descoperit exploit-uri, a descoperit breșe de atac, de intrare, care erau în sisteme considerate absolut military-grade…
Cosmin Stamate: Impenetrabile, da.
Andrei Damian: …și care au existat acolo de zeci de ani.
Părintele Teologos: Pfff!
Andrei Damian: Și nimeni nu știa de ele. Le-a descoperit. Și au declarat…
Părintele Teologos: Nici nu știu ce să spun: „Slavă lui Dumnezeu” sau „Doamne ferește”!
Cosmin Stamate: Da.
Andrei Damian: „Slavă lui Dumnezeu” sau „Doamne ferește”… amândouă…
Cosmin Stamate: Da.
Părintele Teologos: Depinde ce mâini încape, înțelegeți ce vreau să spun?
Andrei Damian: Și ei au declarat așa: majoritatea acestor elemente sunt total emergente. Nu le-am programat, nu le-am gândit, nu le-am…
Cosmin Stamate: Păi nu, nici n-ai cum, dacă…
Părintele Teologos: Da, păi sigur, n-ai cum. Că…
Cosmin Stamate: … de acum 10 ani era acolo, ce să… Da.
Părintele Teologos: Sigur.
Andrei Damian: Că ei încearcă să-și facă marketing sau că… dar și 25% dacă e adevărat din declarația lor, că totul este emergent, atunci este o problemă.
Părintele Teologos: Da, o problemă foarte mare. Și mai ales, vezi că cei de la Anthropic, apropo de breșe și nu știu ce, chiar ei și-au expus codul fără să…
Cosmin Stamate: Da, da.
Părintele Teologos: Totuși… adică… Dumnezeu i-a smerit.
Cosmin Stamate: Da.
Părintele Teologos: I-a smerit prin faptul că – sigur, codul unui astfel de sistem este, evident, total secret – dar ei înșiși și l-au pus pe internet, știți toată faza.
Cosmin Stamate: Da, da, da. Da
Clonarea digitală și partenerii virtuali: între iluzie, valea stranietății și responsabilitatea umană
Părintele Teologos: Ceea ce pe mine iarăși mă impresionează este faptul cum, după cum spuneam, se clonează voci, se clonează imagini, nu?, deepfake-uri… și există și o aplicație de a chema morții.
Cosmin Stamate: Am văzut că este popular în China.
Părintele Teologos: Serios?
Cosmin Stamate: Da, e foarte popular în China.
Părintele Teologos: Serios?!
Cosmin Stamate: Deci, bagi toate datele și stai de vorbă cu el, îl întrebi…
Părintele Teologos: Da, da, da. Exact, exact.
Cosmin Stamate: Îi pui întrebări: „Tataie, ce fac acum?”. Că nu… da, gata, s-a… Da, foarte popular.
Părintele Teologos: Da, da, da. Da. Adică, știi… înțelegi, Andrei, la ce… Ferească bunul și sfântul Dumnezeu!
Pelerin: Doamne, Maica Domnului!
Cosmin Stamate: Da.
Părintele Teologos: Adică, pentru cine nu știe, e vorba de niște… Pui toate amintirile, să spun așa…
Cosmin Stamate: Da.
Părintele Teologos: …de imagini, filme și așa mai departe, cu bunicul, cu oamenii plecați.
Cosmin Stamate: Scrisori, ce mai ai de la ei, înregistrări… Da, da.
Părintele Teologos: Absolut. Clar, texte.
Cosmin Stamate: Da, da.
Andrei Damian: Și faci un avatar, da.
Părintele Teologos: Faci un avatar care seamănă foarte mult, halucinant de mult, cu persoana plecată. Dar, evident, intri în „valea stranietății”, pentru că el seamănă foarte bine cu persoana, dar este foarte departe de persoana plecată, fiindcă nu are dragoste, nu are empatie, nu e sufletul acolo, înțelegi? Și atunci poate să fie traumatic. Unde mai pui că la ora asta sunt iubite AI.
Cosmin Stamate: Da!
Părintele Teologos: O întreagă poveste pe tema iubitelor AI. Și chiar, cum spuneam, s-au căsătorit unii cu… cu… Dar nu ține, pentru că nu are dragoste, nu este ceva nou, nu este ceva sufletesc.
Andrei Damian: (face gesturi nonverbale, arătând că îi este greu să accepte aceste lucruri)
Părintele Teologos: Fiule, ești în domeniu!
Cosmin Stamate: Da! (râsete)
Părintele Teologos: Ești în domeniu. Da. Eu cred că trebuie să existe responsabilitate și trebuie să existe și limitarea accesului. Adică omul trebuie să spună: „Stop, nu mă duc în direcția respectivă!”. Pentru că e greșit.
Cosmin Stamate: Da.
Părintele Teologos: E greșit.
Cosmin Stamate: Dar care om să spună stop?
Părintele Teologos: Păi, da…
Cosmin Stamate: Omul la nivel personal sau… să-l controleze pe celălalt, „n-ai voie”?
Părintele Teologos: Exact.
Cosmin Stamate: Că aici trebuie să…
Iubitele AI și avatarele celor plecați ne împing într-o realitate simulată, temă pe care am atins-o vorbind despre cele 3 mari patimi, raiul și realitatea virtuală.
Războiul marilor corporații și adevărata miză din spatele bulei AI
Părintele Teologos: Nu credeți că la ora asta este un război feroce, chiar fără reguli…
Cosmin Stamate: Da.
Părintele Teologos: …între marile companii de…
Cosmin Stamate: Este, este, este pe față…
Andrei Damian: Cu siguranță, 100%.
Andrei Damian: Este pe față cel mai mare război…
Părintele Teologos: Da. Și cred că chiar și…
Cosmin Stamate: E disperare.
Părintele Teologos: Da, disperare. Și cred că chiar și mor oameni, din câte știu.
Cosmin Stamate: Da, da, da.
Părintele Teologos: Da, mor oameni, inclusiv de extenuare.
Cosmin Stamate: Nu contează. Da, calcă peste cadavre numai să…
Părintele Teologos: …să ajungă primii.
Cosmin Stamate: …câștige, da, premiul cel mare.
Părintele Teologos: Și nici măcar nu mai știi ce înseamnă câștigul ăsta, de fapt.
Cosmin Stamate: Capitalismul, exact…
Părintele Teologos: Sigur.
Cosmin Stamate: Steaua…
Părintele Teologos: Da, exact.
Cosmin Stamate: …steaua capitalistă să fie acolo.
Părintele Teologos: Abstract. Să ajungi nu știu unde…
Cosmin Stamate: Da. Da, da, da, bineînțeles.
Părintele Teologos: Ferească Dumnezeu! Nu credeți că e o bulă?
Cosmin Stamate: O bulă, nu cum a fost internetul, să pocnească așa…
Părintele Teologos: …dot-com-ul, da.
Cosmin Stamate: Cum a fost dot-com-ul. Este o bulă pentru că în continuare se… vin de prea sus așa, prea…
Părintele Teologos: Da, și eu asta cred. Cred că e un hype.
Cosmin Stamate: Da.
Părintele Teologos: Adică cred că este…
Cosmin Stamate: E hype-uit maxim tot timpul.
Părintele Teologos: Da, da, da, este exagerat…
Cosmin Stamate: Da.
Părintele Teologos: La un moment dat o să vină deznădejdea, după care, la un moment dat, o să se stabilizeze undeva, da.
Cosmin Stamate: Da, asta e.
Andrei Damian: Eu cred că… e și nu e. Adică comparând, de exemplu, cu ’99-2000, tehnologia la momentul respectiv… era literalmente… totul era smokescreen („o perdea de fum”). Adică în realitate…
Părintele Teologos: Da, confuz, în ceață.
Andrei Damian: Da, erau website-uri care valorau zeci de milioane de euro, sute de milioane de euro. Adică, să fim serioși, ridicol… adică, valoarea tehnologică din spate, științifică, comercială, era aproape zero. Da?
Părintele Teologos: Sigur.
Andrei Damian: Ce discutăm aici… totuși discutăm de faptul că am ajuns într-un punct cu modelele acestea mari de general-purpose artificial intelligence, mai ales la hyperscaleri, că despre ei discutăm, ei sunt în această bulă.
Părintele Teologos: Adică vorbim de marile firme de AI.
Andrei Damian: Marile firme de AI care, literalmente, au capacitate încă neexplorată. Neexplorată înseamnă că mina aia de aur mai are ceva ce noi nu vedem și atunci valoarea ei încă nu putem să o evaluăm corect.
AI-ul între utilizare etică și influențe neortodoxe
Părintele Teologos: O întrebare, poate că n-ar fi bine pe cameră, dar eu o întreb pe cameră.
Bun. Deci, ChatGPT, sau, mă rog, motoarele de AI pe care le folosim noi. Credeți că sunt actori statali sau multinaționali care folosesc AI în sens ortodox — nu cred — în sens neortodox?
Andrei Damian: Din păcate, da. Asta e o opinie strict personală.
Cosmin Stamate: A, cu siguranță.
Andrei Damian: Nu aș spune „cu siguranță”, dar opinia mea personală este că…
Cosmin Stamate: Sigur. Dar asta e natura umană, n-ai ce să faci.
Părintele Teologos: Sigur. Evident. Ăsta e omul păcătos.
Cosmin Stamate: Da, nu există…
Părintele Teologos: Ăsta e omul păcătos.
Cosmin Stamate: Dar eu nici nu am niciun dubiu, cum să spun… Dar folosesc tot felul de tâmpenii. Cum să nu folosească asta, care le dă acces la orice?
Părintele Teologos: Și eu la asta mă gândesc. Mă gândesc că toate aceste AI-uri care ni se oferă nouă pe gratis, de fapt…
Cosmin Stamate: Da, da, da.
Părintele Teologos: …ni se oferă nouă pe gratis astfel încât noi să-l antrenăm, de fapt…
Cosmin Stamate: Păi da. Asta e.
Părintele Teologos: …ca să-l folosească ei în modurile în care, mă rog…
Cosmin Stamate: Da.
Părintele Teologos: …îndepărtate de Dumnezeu.
Cosmin Stamate: Dar oricum ei nu prea sunt așa cu… Nu? Firmele astea… Este vreuna cu Dumnezeu așa tare? Nu văd.
Părintele Teologos: Păi nici eu nu prea văd, da.
Cosmin Stamate: Nu văd nici o…
Părintele Teologos: Sigur.
Cosmin Stamate: Nu văd Google să fie cu Dumnezeu.
Părintele Teologos: Apropo de Google, mi-a plăcut foarte mult Google. Google, când s-a lansat, a avut un slogan.
Cosmin Stamate: Da, da, da.
Părintele Teologos: „Don’t be evil.” Adică „nu fi malefic”.
Cosmin Stamate: Da.
Părintele Teologos: Și, în scurt timp, a dispărut.
Cosmin Stamate: Da.
Părintele Teologos: A dispărut, sigur, sigur.
Când inteligența artificială este folosită în sens neortodox, ea hrănește vechi înșelări, despre care am scris în Înșelarea New Age.
Să învățăm să folosim AI-ul fără să uităm să fim oameni: discernământ și responsabilitate
Părintele Teologos: Cum vedeți viitorul?
Andrei Damian: Ăăăh!
Părintele Teologos: Foarte bun răspunsul!
Cosmin Stamate: Da.
Andrei Damian: Păi, cred că trebuie să începem de la acea rescriere a modului în care funcționează creierul nostru.
Părintele Teologos: Îhâm!
Cosmin Stamate: Îhâm!
Andrei Damian: Pentru că…
Părintele Teologos: …Și cum vedem lucrurile.
Andrei Damian: …AI-ul nu o să plece nicăieri.
Părintele Teologos: Da, clar. Trebuie să învățăm să trăim cu el.
Andrei Damian: Exact. Și atunci trebuie, în primul rând, să fim mai aproape de Dumnezeu, și cred că aceste lucruri merg mână în mână cu rescrierea modului în care interacționăm cu AI-ul și primim răspunsurile, precum și munca pe care el o face, între ghilimele, în locul nostru. Da?
Părintele Teologos: Sigur.
Andrei Damian: În momentul în care o să facem lucrurile astea două, cred că o să fim și noi mai buni. Și cred că cumva arma, după asta, o să se transforme în unealtă.
Părintele Teologos: Deci trebuie să învățăm să-l folosim. Și când spun trebuie să învățăm să-l folosim, nu să scrii prompturi, ci ca să știe oricine.
Andrei Damian: Da.
Părintele Teologos: Dar trebuie să învățăm să-l folosim și să știm părțile bune, părțile mai puțin bune la el. Și să nu uităm să fim oameni, cred.
Cosmin Stamate: Asta, da.
Andrei Damian: Și să acceptăm că faptul că ne dă un răspuns la o problemă pe care nu știam să o rezolvăm înainte, asta nu ne face experți.
Părintele Teologos: Da, neapărat.
Andrei Damian: Asta este cea mai mare boală, cred că la ora actuală, indiferent de domeniu, indiferent de vârstă. Toți sunt experți.
Cosmin Stamate: Dacă primești un răspuns și nu-l înțelegi, zi-i să-ți explice până când îl înțelegi, ca să înțelegi ce a scris acolo.
Părintele Teologos: Da, sigur.
Andrei Damian: Și culmea este că te păcălești singur că l-ai înțeles.
Cosmin Stamate: Da, da, păi da!
Părintele Teologos: Da, da, da.
Andrei Damian: Îți dă niște explicații logice, tu le interiorizezi, pentru că el cumva se adaptează nivelului tău de înțelegere și zici: „A, sunt expert.”
Părintele Teologos: Da, și neapărat cred că trebuie pus totdeauna mai presus omul.
Cosmin Stamate: Da. Da.
Cum am înțeles? Deci asta e așa? Ești sigur? De ce e așa? Dar bine, trebuie să stai acolo să…
Părintele Teologos: Da, da.
Cosmin Stamate: E un tip nou de a interacționa cu…
Părintele Teologos: Sigur.
A folosi AI cu discernământ și responsabilitate este o lucrare a sufletului, iar despre acest dar al pustiei am adunat cuvinte în Discernământul, un dar al pustiei.
AI-ul în cercetare: ajutor uriaș, însă nu poate înlocui factorul uman
Părintele Teologos: Cum vedeți asta în cercetare? Adică nu neapărat în sfaturi și așa mai departe, în cercetare.
Cosmin Stamate: Da, este și benefic, adică te poate ajuta mult.
Părintele Teologos: Să-ți ofere sinteze de date, de exemplu, sau lucruri de genul ăsta?
Cosmin Stamate: Da, să caute, să-ți atragă atenția asupra lucrării care să se conecteze cu ce ai tu nevoie, să faci brainstorming, îți vine cu idei noi…, îți dă niște idei, te gândești, adică într-un fel te lansează, dar tot trebuie să faci munca. Tot trebuie să internalizezi.
Părintele Teologos: Sigur.
Andrei Damian: Da, cu siguranță. Dar trebuie să recunosc că, adică…
Cosmin Stamate: Da, ajută, cum să nu.
Andrei Damian: Aș fi ipocrit dacă n-aș spune că e un ajutor uriaș.
Părintele Teologos: Da, sigur.
Andrei Damian: Adică, am sentimentul câteodată că am o echipă de 100 de oameni la dispoziție.
Cosmin Stamate: Da, te ajută. Dar trebuie să știi să-l folosești.
Părintele Teologos: Să știi să-l folosești și asta vreau să spun, că nu trebuie, deci toată această adunare de date nu trebuie să dea la o parte factorul uman.
Cosmin Stamate: Da.
Părintele Teologos: Adică totdeauna trebuie să vorbim între noi. Pentru că, cred că, dincolo de date, sunt și relațiile interumane care îl hrănesc pe om. Îl hrănesc pe om.
Andrei Damian: Da. Da.
Părintele Teologos: E un lucru foarte important.
Cosmin Stamate: Da, sunt de acord.
Ispita puterii în AI – între realism și limitele înlocuirii omului
Părintele Teologos: Bun. M-a impresionat foarte mult, băieți, că, în loc ca voi, ca profesori de AI, care ar trebui să promovați AI-ul și așa mai departe, trageți semnale de alarmă.
Cosmin Stamate: Păi, nu, noi îl promovăm ca unealtă, mai mult decât…
Părintele Teologos: Sigur, da. Trebuie să fiți realiști și chiar sunteți. Mă bucur foarte mult că sunteți realiști. Credeți că cei care sunt la marile firme de AI sunt realiști?
Cosmin Stamate: Cred că unii dintre ei sunt.
Părintele Teologos: Unii sunt. Sigur.
Andrei Damian: Unii sunt, da.
Cosmin Stamate: Unii sunt sută la sută, unii nu sunt.
Andrei Damian: Dar și acolo există o luptă.
Părintele Teologos: A, da?
Cosmin Stamate: Da, sunt sută la sută.
Andrei Damian: Da, există o luptă și, inclusiv în domeniul cercetării, există cercetători care…
Cosmin Stamate: …Au plecat… Foarte buni, care au plecat…
Andrei Damian: Și care împing lucrurile într-o zonă a explicabilității, a pune omul în centru, a…
Cosmin Stamate: …transparenței
Andrei Damian: …a transparenței, a…
Părintele Teologos: …a comportamentului matern.
Cosmin Stamate: Da, da, da, da.
Andrei Damian: Așa. Și alții care sunt… Nu se întâmplă nimic, totul este…
Cosmin Stamate: Hai să-l facem păcănibil.
Părintele Teologos: Da, rapaci.
Cosmin Stamate: Fă-l…
Andrei Damian: Da, da, da.
Părintele Teologos: Du-te la maximum, da.
Cosmin Stamate: Da.
Andrei Damian: Da, da. Ca și bătălia aia între… „Terminator, non-Terminator”.
Părintele Teologos: Am înțeles.
Andrei Damian: Unii spun: „Da, o să ajungem”, printre care și Musk, „o să ajungem să apară singularitatea și, în urma singularității, o să ne conducă și o să se declare și o să se facă și o să se dreagă”; alții spun…
Părintele Teologos: Tiranul global, da? Da.
Cosmin Stamate: Ăhă, ăhă.
Andrei Damian: Alții spun că nu o să se întâmple și că este imposibil. Și aici este o bătălie. Acum, să fiu sincer…
Părintele Teologos: Voi de ce parte sunteți?
Andrei Damian: Ăăă… Sunt aproape 50–50 șansele. Adică nu pot să țin o parte, da.
Părintele Teologos: Cosmin?
Cosmin Stamate: Pfff!
Părintele Teologos: Eu cred că, de vreme ce AI-ul nu are intenție…
Cosmin Stamate: El o să aibă. Adică, sigur, o să se ducă până în punctul în care o să aibă ceva.
Andrei Damian: O să aibă.
Părintele Teologos: O să aibă?
Andrei Damian: O să aibă.
Cosmin Stamate: Unul dintre ele o să aibă ceva.
Andrei Damian: Gândiți-vă la un lucru. Gândiți-vă că în 2023 – chiar discutam mai devreme – în 2023 le povesteam colegilor mei că, în jur de 2028, în cinci ani, o să se ajungă într-un anumit punct: nu o să mai fie nevoie de programator junior, nu o să mai fie… Și deja suntem la începutul lui 2026, lucrurile astea erau reale, se întâmplau. Adică, în loc de cinci ani, au fost trei ani. În 2024 am zis: „Dom’le, o să ajungem undeva cam în 15 ani la un adevărat AGI, la nivel de singularitate, adică cu capacitatea de a avea…”
Părintele Teologos: De a fi singur și a ști toate. Un fel de „dumnezeu”, între ghilimele.
Cosmin Stamate: Ăăă… Nici așa de departe, dar…
Andrei Damian: Nu, nu, nu vreau să pronunț cuvântul ăsta. Nu, nu, nu. Haideți să spunem să aibă o formă de conștiință de sine, care e…
Părintele Teologos: E dur de tot.
Cosmin Stamate: Da, este foarte…
Andrei Damian: Foarte dur. Adică, practic, în momentul acela este… înlocuitor.
Părintele Teologos: Da, da, da. Și asta e grav, pentru că totul este simulat.
Cosmin Stamate: Da.
Părintele Teologos: Deci nu este real, este doar simulat.
Cosmin Stamate: Da.
Andrei Damian: Da, da, da. Bine, dacă își face și un corp mecanic, electromecanic, și senzori și așa…
Părintele Teologos: Un robot.
Andrei Damian: Un robot, un… poate chiar android, da?
Părintele Teologos: Sigur.
Andrei Damian: Deci…
Părintele Teologos: De la Boston Dynamics, de exemplu.
Cosmin Stamate: Da, da. Dăm un exemplu de la îndemână…
Părintele Teologos: Exact.
Cosmin Stamate: Da.
Andrei Damian: Ăăă… Sau de la Tesla.
Părintele Teologos: Sau de la Tesla. Apropo, că tot… Sigur.
Cosmin Stamate: Sau de la Tesla, bineînțeles, că toți fac „conserve” pentru…
Părintele Teologos: Da!
Cosmin Stamate: Oricum, sunt capsule de…
Părintele Teologos: …pentru AI, dar…
Andrei Damian: Cred că bătălia acum se dă.
Părintele Teologos: Am înțeles.
Andrei Damian: Cred că bătălia acum se dă și cred că depinde…
Cosmin Stamate: Da, asta e joaca la ei. În mintea lor asta e joaca.
Andrei Damian: Dacă umanitatea va reuși să creeze AI-uri care nu sunt ale marilor companii, dacă oamenii vor trece de la gândirea asta… „hai să termin repede, hai să bifez…”
Părintele Teologos: Sau de la gândirea îndepărtată de Dumnezeu, egoistă: „Vreau eu să fiu primul cu orice preț” și așa mai departe.
Andrei Damian: Toate pleacă de la Dumnezeu!
Cosmin Stamate: Da.
Părintele Teologos: Da, clar că toate pleacă.
Andrei Damian: Și mă refer strict la AI.
Părintele Teologos: Da, da, da. Sigur, sigur.
Andrei Damian: Toate pleacă de la Dumnezeu. Dacă oamenii se vor întoarce și vor…
Părintele Teologos: Dificil, fiule!
Andrei Damian: Da, foarte!
Părintele Teologos: Foarte dificil!
Andrei Damian: De asta sunt fifty-fifty (50–50) șanse.
Părintele Teologos: Am înțeles.
Andrei Damian: Că, pe de altă parte, este suficient să fie câteva capete luminate, care să aibă în spate câteva trilioane și care să zică…
Cosmin Stamate: Ups!
Andrei Damian: „Hai să mergem și pe calea asta” sau „Hai să mergem pe calea asta”, da?
Părintele Teologos: Da, dar vezi că dorința e prea mare, deci ispita e prea mare din partea cealaltă.
Cosmin Stamate: Ispita-i mare.
Părintele Teologos: Și, dacă ne uităm în istorie, totdeauna, de obicei, tirania învinge.
Cosmin Stamate: Da.
Părintele Teologos: Hristos a fost răstignit! Hristos a fost răstignit. Și, din cauza asta… și acum, vezi toți acești mari programatori, Hinton și așa mai departe…
Cosmin Stamate: Îhî, îhî!
Părintele Teologos: …care vorbesc…
Cosmin Stamate: Da, el a văzut, el știe.
Părintele Teologos: Știe, da.
Cosmin Stamate: El și-a dat seama din prima…
Părintele Teologos: Da, el a fost buneicul. El a fost.
Cosmin Stamate: Da, da.
Părintele Teologos: Ei, dar oamenii merg totuși înainte, pentru că atracția…
Cosmin Stamate: Da, e prea mare.
Părintele Teologos: … autoîndumnezeirii, atracția idolatrizării e prea mare, e prea mare, știi?
Andrei Damian: Da. Și culmea, Hinton inițial nu a văzut o apocalipsă a AI-ului. Adică…
Cosmin Stamate: El a spus clar că nu trebuie făcut așa, că nu e bine.
Părintele Teologos: Da, da!
Cosmin Stamate: Nu! Stop! Nu faceți! Nu vă mai jucați cu asta!
Andrei Damian: Pe parcurs s-a…
Cosmin Stamate: Da.
Părintele Teologos: Da, când au intrat în… așa, când au văzut ce apare, bestia care apare…
Cosmin Stamate: Da, da, da, s-a și mai…
Părintele Teologos: Da, sigur.
Andrei Damian: Bine, chiar și între ei, Hinton cu Bengio și cu…
Cosmin Stamate: Da, da, da, nu se înțeleg, nu se înțeleg.
Andrei Damian: … LeCun.
Cosmin Stamate: Da.
Andrei Damian: Inițial au avut disensiuni. În fine, acum încep să ajungă cam toți cam pe aceeași lungime de undă, inclusiv LeCun, care era cel mai… „Nu o să se întâmple nimic, totul e bine.”
Cosmin Stamate: Da, da, da, nu…
Părintele Teologos: Serios?
Cosmin Stamate: Da, da, toată lumea…
Părintele Teologos: Adică, deci își dau seama băieții, totuși. Își dau seama.
Cosmin Stamate: Da.
Părintele Teologos: Dar…
Andrei Damian: Sunt prea multe semne.
Părintele Teologos: Da. Da, da.
Andrei Damian: Iar ce s-a întâmplat în ultimii ani, cu dovezile reale ale capabilităților emergente — și nu vorbesc doar de Mythos, vorbesc de multe alte situații…
Părintele Teologos: Sigur, da, da, da.
Andrei Damian: …în care modelul face mai multe decât te așteptai să facă, fie că era logic să facă…
Părintele Teologos: Da. Sau… la un magazin, dacă nu mă înșel, au atacat niște oameni. Adică erau niște roboți și au atacat niște oameni. Sau…, la un moment dat, s-a răzbunat, voia să se răzbune pe cineva care, într-o simulare, i-a spus că: „Vezi că te sting.” Și atunci AI-ul a spus că o să dea pe internet toate datele care erau despre tine și nu știu ce, și toate păcatele și așa mai departe.
Cosmin Stamate: Îhî, îhî!
Andrei Damian: Da.
Părintele Teologos: Adică vezi un comportament foarte agresiv.
Cosmin Stamate: Da, da, da.
Andrei Damian: Da. Acum ce să vă zic, eu sunt sceptic în astfel de… De multe ori, să știți că este marketing.
Părintele Teologos: A, am înțeles.
Andrei Damian: Pentru că ei lansează astfel de povești, așa cum a fost cu OpenClaw. Că, cu siguranță, ați urmărit…
Părintele Teologos: Facebook-ul pentru…
Andrei Damian: Toată povestea asta…
Cosmin Stamate: Și la Moltbook.
Părintele Teologos: Da, Moltbook, da.
Andrei Damian: Moltbook, OpenClaw da. Foarte mult marketing, foarte.
Cosmin Stamate: Da.
Andrei Damian: Adică a reușit să… A comandat pizza, m-a dat afară din casă, a făcut petreceri…
Cosmin Stamate: Da, sunt și multe…
Andrei Damian: Este efectiv o…
Cosmin Stamate: Clickbait așa cred.
Părintele Teologos: Da, da.
Andrei Damian: Da, da, da. Foarte mult clickbait. Și atunci…
Părintele Teologos: Foarte mult marketing și…
Andrei Damian: Da. Da.
Părintele Teologos: Da, și nu ține. Adică Facebook-ul pentru AI nu ține.
Cosmin Stamate: Păi nu mai e, s-a dus.
Părintele Teologos: A venit, s-a dus.
Cosmin Stamate: A dispărut, da.
Părintele Teologos: Sigur.
Andrei Damian: Și asta a făcut totul cu AI.
Cosmin Stamate: L-a cumpărat Facebook-ul pentru oameni cu… 3 milioane sau nu știu cât.
Părintele Teologos: Da?
Cosmin Stamate: Da.
Părintele Teologos: Am înțeles. Și s-a terminat.
Cosmin Stamate: Da.
Părintele Teologos: Deci vorbim de foarte multă confuzie și convulsie.
Cosmin Stamate: Da.
Andrei Damian: Da, da.
Părintele Teologos: Așa. O bătălie foarte mare, foarte mult păcat la mijloc.
Andrei Damian: Foarte mult păcat.
Părintele Teologos: Foarte mult păcat și, din cauza asta, pentru noi trebuie multă rugăciune și cred, cum ați spus voi, că o soluție ar fi aceste AI-uri locale, care niciodată nu trebuie să înlocuiască interacțiunile umane.
Cosmin Stamate: Da.
Părintele Teologos: Absolut niciodată!
Cosmin Stamate: Doar ca referință, așa, ca să pui întrebări, nu să…
Andrei Damian: Să fie predictibile…
Părintele Teologos: Da, da, clar.
Andrei Damian: Să fie specializate…
Părintele Teologos: Da.
Andrei Damian: Adică să nu facă orice.
Părintele Teologos: Am înțeles. Da, da. Pentru că și omul care face orice, de fapt nu face nimic bine.
Cosmin Stamate: Păi, da.
Părintele Teologos: Mulțumim tare mult, băieți! Dumnezeu să vă binecuvânteze!
Andrei Damian: Noi mulțumim, părinte, pentru oportunitatea de a vorbi cu dumneavoastră!
Cosmin Stamate: Da, noi mulțumim, da.
Andrei Damian: Mulțumim mult! Doamne ajută!
Părintele Teologos: Doamne ajută!
Pentru rugăciunile Sfinților Părinților noștri, Doamne Iisuse Hristoase, Fiul lui Dumnezeu, miluiește-ne pe noi. Amin!
Împotriva tuturor primejdiilor inteligenței artificiale, leacul rămâne rugăciunea, despre a cărei putere am vorbit în Puterea rugăciunii.
Întrebări frecvente
Inteligența artificială este, în esență, un model statistic care alege cel mai probabil răspuns, nu o ființă care știe ce este bine și ce este rău. De aceea specialiștii preferă termenul de Machine Learning. AI nu are suflet, nu are conștiință și nu gândește în sensul în care gândește omul.
Niciodată nu este bine să cerem inteligenței artificiale dezlegarea problemelor sufletești. AI nu are dragoste, empatie, sentiment și nici pe Dumnezeu, iar pentru viața duhovnicească avem nevoie de un duhovnic viu și de Biserică, nu de un model care doar imită.
Da. Dacă mintea nu mai este exersată și ne mulțumim să scriem doar prompturi, capacitatea de a gândi se atrofiază, fenomen pe care îl numim debilizare. Inteligența artificială poate deveni o cârjă care, folosită fără măsură, slăbește tocmai mușchiul gândirii.
Pentru că nu sunt proiectate ca să te slujească, ci ca să te țină captiv, maximizând pușeul de dopamină. Aceste motoare de AI, prezente în rețelele sociale și în jocurile de noroc, urmăresc engagement-ul, nu binele tău.
Sunt foarte mari. Inteligența artificială poate clona vocea, chipul și chiar textele cuiva, așa încât apar clipuri și pagini false puse pe seama unor părinți. Soluția ține de verificarea provenienței și de o gândire critică ce nu crede orice.
Nu. Modelele AI pot da răspunsuri care sună convingător chiar și pentru imagini goale, fenomenul mirajului. Inteligența artificială nu înlocuiește consultul unui medic, iar sănătatea nu se pune în mâna unui model conversațional.
Folosind-o cu discernământ și responsabilitate, doar în domenii în care avem competență, punând mereu omul mai presus de model. Inteligența artificială rămâne o unealtă bună atâta vreme cât ne păstrăm frica de Dumnezeu, dragostea de oameni și relațiile vii dintre noi.
Pomelnice online și donații
Doamne ajută!
Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.
Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .
Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)
Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.
Dumnezeu să vă răsplătească dragostea!
1 Comment
Am discutat cu A.I. de la Google despre ce se întamplă în Gaza, iar la un moment dat s a blocat și întreaga conversație a dispărut din istoric.