Părintele Teologos: Inteligența Artificială: Implicațiile duhovnicești în cotidian

Dacă navigați și căutați pe net, dacă folosiți pagini ca Facebook, YouTube, Amazon etc., dacă folosiți celulare, dacă jucați jocuri pe calculator, atunci v-ați întâlnit cu Inteligența Artificială. O inteligență care nu are nici Dumnezeu, nici înțelegere, nici milă, nici iubire. Un supra-dictator.

„Părintele Teologos: Inteligența Artificială: Implicațiile duhovnicești în cotidian” este o analiză din punct de vedere ortodox a marii probleme a Inteligenței Artificiale în cotidian. Dacă gândiți că nu aveți de a face cu Inteligența Artificială, gândiți-vă din nou.

Vizionare plăcută! (După videoclip aveți podcastul și transcriptul)

Părintele Teologos: Implicațiile duhovnicești ale Inteligenței Artificiale

Slavă Tatălui și Fiului și Sfântului Duh și acum și pururea și în vecii vecilor. Amin!

Pentru rugăciunile Sfinților Părinților noștri, Doamne, Iisuse Hristoase, Fiul lui Dumnezeu, miluiește-ne pe noi. Amin!

M-au rugat mulți dintre voi să vă vorbesc despre implicațiile tehnologiei și mai ales ale Inteligenței Artificiale, implicațiile duhovnicești ale acestei inteligențe pentru că bineînțeles noi suntem monahi, nu intrăm foarte mult… cu toate că avem, mă rog, o anumită istorie în informatică, nu o să intrăm foarte mult în domeniul acesta în acest cadru.

Deci o să mă concentrez mai mult pe latura duhovnicească a ceea ce înseamnă Inteligența Artificială (IA).

Unde întâlnim Inteligența Artificială

Exemple 

Înainte de toate, ca să nu vă mirați și să nu spuneți că noi nu ne întâlnim cu Inteligența Artificială în cotidian, trebuie să știți că oricine are acces la calculator – nu mă refer numai la desktop sau la laptop și așa mai departe – ci oricine are un calculator, un celular de exemplu, care este un calculator foarte performant relativ la standardele din urmă cu 10 ani, are de-a face cu Inteligența Artificială, cu produse ale Inteligenței Artificiale. Începând de la căutarea pe net, terminând cu motoarele de recomandări de pe Amazon, de pe YouTube, de pe Facebook  și așa mai departe. 

Deci chiar dacă nu știm Inteligența Artificială se află aproape peste tot în marile companii inclusiv trebuie să știți că uneori poate să apară și sub formă de suport tehnic la chat-urile, la convorbirile pe care cineva le face cu marile companii. El crede că vorbește cu un om, dar de fapt el vorbește cu un program. Eh, și de aici apare o mulțime de probleme duhovnicești.

O încercare de definire a Inteligenței Artificiale

Întâi de toate, dincolo de aceste exemple, eu socotesc că ar fi bine să definim ce este Inteligența Artificială și asta este prima problemă pentru că într-un interviu celebru cu un mare om de știință din domeniu, elen, din Grecia, acesta a fost întrebat la un moment dat de un reporter dacă putem, dacă se poate ajunge să facem niște roboți de genul celor din filmele Science Fiction care să aibă inteligență ca noi, oamenii, și chiar mai presus. 

Și atunci omul de știință respectiv a întrebat pe reporter: bine, dar ce înțelegi prin asta? S-a blocat puțin reporterul și i-a spus păi, cum? adică să introducem foarte multe date și la un moment dat să iasă un răspuns din aceste date. Și i-a spus omul de știință respectiv: a, da, e vorba de sistemele Expert pe care le avem din 1900 și ceva. Reporterul a spus: nu, nu, nu, e un fel de limbaj de programare în care tot așa, se introduc niște constrângeri logice din care să reiasă un răspuns. A, da, limbajul Prolog, tot așa de prin 1970 – 1980. 

ȘI astfel îl poartă pe reporter pas cu pas până când reporterul recunoaște că nu știe ce înseamnă inteligența, nu poate să o descrie. Și atunci conclude omul de știință: dacă am fi știut, dacă am fi putut defini ce înseamnă inteligența umană, am fi putut-o programa. De vreme ce nu știm ce este inteligența umană, nu o putem programa. 

Pentru că inteligența este dar al Duhului Sfânt. 

Eh, și de aici o mulțime de probleme. Dar să înaintăm.

Patru definiții ale Inteligenței Artificiale

Astăzi, în general, pentru a intra puțin în temă, avem 4 mari clase de definiție ale Inteligenței Artificiale.

Astăzi Inteligența Artificială se referă la mașini care acționează (1) sau gândesc (2) ca oamenii  și aici intervine celebrul test Turing după numele unui mare specialist în domeniu Alan Turing care a spus că o mașină este inteligentă atunci când nu o putem distinge în comportamentul ei de un om. Deci dacă vine o persoană neutră, din afară și are de-a face cu rezultatul comportamental al unei mașini, și cu rezultatul comportamental al unui om și nu poate să distingă care dintre cei doi este omul și care este mașina, în clipa respectivă spunem că mașina este inteligentă. 

Bineînțeles că acest test a fost contestat în decursul anilor, dar este un test care arată că se încearcă mimarea comportamentului uman. 

Dincolo de aceste două prime definiții – adică e vorba de cum acționează și cum gândesc mașinile sau cum s-ar dori să acționeze și să gândească mașinile ca oamenii – există și alte două definiții. Adică inteligența se referă la faptul că mașinile sunt inteligente atunci când acționează (1) sau gândesc (2) rațional. 

A acționa și a gândi în cazul Inteligenței Artificiale 

Deci după cum vedem în aceste 4 mari categorii de definiții, deosebim între a acționa și a gândi și între comportamentul uman în viața de zi cu zi și rațional. 

Deci înșiși oamenii de știință recunosc că există o mare problemă a diferenței dintre teorie și practică, dintre comportamentul cotidian și cel rațional. Deci este vorba de distorsiune, este vorba de păcat.

Și deci problema conceptului Inteligenței Artificiale este foarte spinoasă pentru că intervine această problemă a păcatului, a distorsiunii și a programatorilor care proiectează un astfel de sistem, dar și a celor care introduc datele, deci a realității pe care aceste sisteme încearcă să o mimeze.

Auto-învățarea 

Problema cea mare cu aceste sisteme este faptul că au o caracteristică foarte importantă din punct de vedere duhovnicesc. Și aceasta este auto-învățarea – învățarea adâncă, deep-learning. 

Dacă în acest proces de auto-învățare care este un proces de auto-perfecționare, în cascadă, o reacție în lanț, nu intervine păcatul – adică Inteligența Artificială se rezumă la lucruri strict specializate, în care păcatul nu apare, de exemplu, la jocuri de strategie foarte complexe (șah sau go) – în clipa respectivă aceste sisteme de Inteligența Artificială își mențin un cadru stabil și nu apar problemele duhovnicești care constituie obiectul disertației noastre. 

Problema cea mare este în clipa în care aceste sisteme de inteligență artificială sunt folosite în probleme în care păcatul își pune amprenta. 

Și în problemele de forță, de durere, de constrângeri (domenii militare, de supraveghere, de securitate) și în probleme de păcat ca plăcere. Deci întâi de toate ne referim aici la folosirea Inteligenței Artificiale în motoare de căutare și în motoare de recomandări. 

Este o mare problemă în aceste motoare de recomandări pentru că ele de fapt sunt proiectate pentru a genera plăcere, a genera click-uri, pentru a-l ține pe om dependent de dispozitivul în fața căruia este, de ecranul în fața căruia este și de a-l înrobi pe om prin plăcerea generată.

Plăcerea cauzată de Inteligența Artificială

Înrobirea 

E, această reacție este în lanț datorită faptului că după cum știm păcatul ajunge la patimă, la obișnuință și omul intră din ce în ce mai mult în direcția asta. Și nu numai atât, aceste sisteme nu sunt stabile, adică nu este vorba de un program care se menține la același nivel, ci este vorba de faptul că ele învață în timp, pe baza acumulării de date despre comportamentul omului respectiv sau mai bine zis a comunității respective.

Deci vor fi din ce în ce mai capabile de a-l targheta pe omul respectiv, de a-l îngloda în monotonia patimilor sale, de a-l închide acolo. Atunci omul respectiv va fi efectiv rob și va își va petrece, din păcate după cum se știe, aproape toată viața, un timp foarte mare în fața acestor sisteme de inteligență artificială care bineînțeles sunt în spatele YouTube, Facebook, Amazon și marile companii, dar și în cazul jocurilor.

Deci omul este rob acolo, este prins într-un infinit finit, în monotonia propriilor patimi, dorindu-și să își satisfacă niște nevoi care niciodată nu o să poată să fie satisfăcute pentru că omul respectiv nu o să fie niciodată împlinit de filmele pe care o să le vadă, de postările, articolele pe care o să le citească. De fapt, nu o să le citească pentru că în continuu dorește ceva nou și motoarele respective sunt făcute astfel încât să îi maximizeze noul, să fie dependent de platforma respectivă. 

Inteligența Artificială nu îl are pe Dumnezeu. Consecințe

Mare atenție, motoarele de inteligență artificială nu știu nici sensul vieții, nu au nici idee de frumos, nu au nici conștiință. Inteligența Artificială nu știe nici de Dumnezeu, nici de milă, nici de iubire. Este ceva care nu o să ajungă niciodată la nivelul omului pentru că omul este chip și asemănare după Dumnezeu și deci este capabil de această comunicare interpersonală. 

Deci din cauza asta aceste sisteme de Inteligența Artificială efectiv distrug comunicarea interpersonală, distrug iubirea, distrug persoana din noi pentru că persoana se fărâmițează în aceste click-uri repetate, căutări repetate care duc de fapt în neant.

Pentru că aceste platforme de Inteligența Artificială se arată în fața noastră ca niște „supra-oameni”, ca niște pseudo-mântuitori, ca niște pseudo-iubitori care ne satisfac cum spuneam poftele , dar care de fapt ele nu știu nimic, nu concep nimic și deci iubirea noastră față de platformele respective se duce în neant. Noi nu o să primim niciodată înapoi această iubire pe care o dăm în direcția respectivă. 

Și totuși… Inteligența Artificială în sine nu este rea, dar…

Acum, trebuie să știți că Inteligența Artificială în sine nu este rea. Nu trebuie să ne temem și oricum nu putem să o dăm la o parte. Trebuie să știm cum să gestionăm aceste lucruri și mai ales să nu ne temem de ea în sine, ci să ne temem de noi, de încrederea oarbă a noastră în Inteligența Artificială și să ne temem dacă doriți și de oamenii de știință care au încredere oarbă în această soluție, care o văd ca pe o soluție mântuitoare. 

Trebuie să știți că nu orice este permis este și folositor și nu orice lucru care este posibil de implementat trebuie să fie chiar și implementat. Din cauza asta, dacă nu sunt gestionate cum trebuie, să știți că aceste probleme ale Inteligenței Artificiale pot să fie mult mai distrugătoare decât o bombă… Pentru că devin cum spuneam un supra-om, o pseudo-zeitate de o capacitate gnoseologică, de o cunoștință imensă, fără moarte.

Pentru că un dictator are moarte, pe când acest dictator electronic poate să nu aibă moarte, poate să se auto-protejeze dacă doriți, inclusiv la stingerea… și nu ai cum să stingi în clipa în care un sistem de Inteligență Artificială „trăiește” pe foarte multe calculatoare, în „cloud” cum se numește în termeni de specialitate. Și depinzi de acest sistem de Inteligență Artificială ca să cauți pe net, ca să-ți cumperi obiectele de care ai nevoie și așa mai departe. Deci trebuie foarte foarte mare atenție în această dezvoltare a acestor sisteme.

Cum ieșim de sub robia Inteligenței Artificiale

Dar ceea ce noi trebuie să facem întâi de toate ca să ieșim de sub robia acestor sisteme care acționează prin plăcere pentru că am spus că sunt sisteme de Inteligența Artificială care acționează mai degrabă pe partea durerii (sisteme de supraveghere, militare), dar ne limităm acum la cele care acționează prin plăcere, trebuie să ne folosim partea mânietoare și să spunem stop, până aici: nu o să dau în continuu click, nu o să hălăduiesc în continuu pe aceste platforme, nu o să mă duc ca boul de belciug, înțelegeți.

Pentru că atunci efectiv mă fac rob. Deci prin osândirea de sine, prin folosirea forței, prin rugăciune, neapărat trebuie să ne rugăm – Doamne, ajută-mă, luminează-mă să am echilibrul, Doamne, nu mă lăsa! – prin conștiința veșniciei noastre și prin răbdare, adică trebuie să avem o luptă continuă cu aceste lucruri și bineînțeles prin limitarea expunerii la aceste sisteme (expunerea care poate să ajungă până la cote foarte scăzute, inclusiv la nivelul zero), putem să ieșim din mirajul acestor sisteme. 

Ceea ce este iarăși foarte important aici, înainte de a trece la sistemele de Inteligența Artificială care lucrează pe tema constrângerii, este faptul că sunt anumite lucruri apropos de definiția difuză a Inteligenței Artificiale care erau considerate ca Inteligență Artificială, astăzi nu mai sunt considerate așa.   

Un exemplu de ieșire de sub umbrela Inteligenței Artificiale 

Cum este cazul celebru cu OCR (Optical Character Recognition), recunoașterea optică  a caracterelor care în clipa în care acest lucru și-a pierdut magicul, a devenit o tehnologie cunoscută de noi toți, chiar dacă într-adevăr mașina mimează un comportament uman pentru că numai omul știe să citească, nu, atunci această ramură a informaticii  a fost scoasă afară de Inteligența Artificială. 

Deci după cum vedem Inteligența Artificială nu se referă atât la un cumul de tehnologii – cum sunt de exemplu tehnologiile de baze de date sau de comunicație sau de criptare, securitate – ci se referă mai degrabă la acea excitare, la acel sentiment de pseudo-divino-uman care face referirea la un cumul încețoșat de tehnologii care îl împinge pe om spre plăcere pseudo-divină, de rai. Deci este vorba de maximizarea plăcerii pe de o parte.

Pe de altă parte este vorba de această latură a pseudo-divinității, maximizare a constrângerii. Deci această optică de excitare față de anumite tehnologii nu este  bună. Trebuie să ne păstrăm echilibrul cum spuneam prin conștiința, prin cunoștința, prin rugăciune și prin fapte bune față de Dumnezeu cel adevărat. 

Inteligența Artificială poate să ne și constrângă

Ajungem la categoria sistemelor de Inteligența Artificială care acționează prin constrângere. Acestea sunt cum spuneam sistemele de tip militar, de supraveghere și de management. 

Este o mare, mare problemă de ce? Pentru că Inteligența Artificială nu are umanitate, nu are iubire, nu are Dumnezeu, nu are înțelegere. Deci (prin) orice lucru care li se pare suspect, pot să marcheze pe cineva și respectivul să intre într-o gaură de vierme și să se afunde acolo și va trece printr-un coșmar, printr-un chin de iad efectiv pentru că el se va afla în fața unui ecran pe care scrie „accesul interzis” și nu va putea dialoga cu nimeni, nu va putea să se apere, nu va putea să se justifice și nu există dragoste din partea celuilalt. 

În clipa în care toți oamenii sunt tratați ca niște criminali, la un moment dat vor și deveni.

Este foarte important să existe cum spuneam o foarte mare atenție din partea celor care proiectează astfel de sisteme, care și ei sunt păcătoși și unde mai pui că își pot impune și patimile  (dorința de cucerire, de stăpânire, brutalitatea lor) în astfel de sisteme.

Erori cu efect emoțional ale Inteligenței Artificiale

Dincolo de asta este și problema cu datele introduse pentru că o greșeală într-o dată introdusă sau chiar niște lucruri absolut întâmplătoare… Deci știu cazul unui om care a suferit mare traume psihice pentru că era vorba de o coincidență, coliziune de nume – era vorba pe de o parte de un criminal urmărit prin Interpol, care avea un nume foarte comun, un neamț și pe de altă parte cineva care era din România și care avea un nume german, exact numele neamțului respectiv. Era un nume foarte comun, cum ar fi în România, numele de Ionescu sau Popescu. 

La trecerea la graniță, l-au detectat pe baza acestor sisteme automate cum că el ar fi criminalul respectiv, socotind că pașaportul lui este fals. 

Bineînțeles, a fost foarte dificil pentru el să demonstreze că nu este vorba de așa ceva și asta după foarte mult timp, vorbim de luni de zile, în care slavă lui Dumnezeu, a reușit să demonstreze în fața oamenilor, nu în fața unui sistem de Inteligență Artificială (după cum am spus sistemele de Inteligență Artificială nu au înțelegere, nu au milă). Și a reușit omul să iasă cu față curată. 

Virtuțile noastre sunt scut în fața Inteligenței Artificiale 

Ceea ce este foarte important în cazul acesta sisteme de constrângere este să fim curați, să încercăm și cu toată forța noastră să nu avem nimic de ascuns și să ne rugăm la Dumnezeu să ne ajute și să avem nădejde că o să fie bine, că Dumnezeu este mai presus de aceste sisteme de Inteligență Artificială. 

Un caz aparte sunt sistemele de Inteligență Artificială care sunt, după cum aminteam la un moment dat, management, adică e vorba de o supra-optimizare. Deci sistemul se gândește – eu trebuie să maximizez profitul, deci eu trebuie să-i strâng pe oameni de gât să lucreze, să aibă o anumită performanță în muncă, să aibă o anumită producție. Atunci văzând toate activitățile omului, îl vor constrânge cu amenințarea datului afară de la muncă sau diferite amenzi sau diferite proprii la bancă și așa mai departe ca omul să lucreze ca o mașină pentru că și inteligența artificială este o mașină. 

Și în acest caz trebuie – dincolo de conștiința și cunoștința lui Dumnezeu care este capitală în clipa în care gestionăm și avem de-a face cu aceste sisteme – să evităm, deci să încercăm să avem relații duhovnicești, de iubire cu ceilalți semeni astfel încât în clipa în care un astfel de sistem ridică un cartonaș galben sau chiar roșu, ceilalți oameni să știe că da, cel de lângă noi nu este așa. Și să putem să facem un recurs la cei de lângă noi astfel încât să putem să fim deblocați, să putem să ieșim de sub urmărirea acestor sisteme. 

Bineînțeles dacă aceste sisteme reușesc să aibă astfel de chei de siguranță încât să poată deblocheze astfel de urmăriri.

Dacă nu putem evita Inteligența Artificială, să fim mereu aproape de Dumnezeu

Acum, sigur că lucrul cel mai bun dincolo de toată acestea este depărtarea, evitarea acestei inteligențe artificiale despre care de fapt nimeni nu știe foarte bine ce este cu toate că anumiți oameni de știință încearcă să se responsabilizeze pe această temă pentru că au fost trase destul de multe sisteme de alarmă.

Și să încercăm să avem viața noastră aproape de Dumnezeu, aproape de semenii noștri, o viață iubitoare, interpersonală, fără să avem între noi sisteme care nu mai știe nimeni ce fac datorită faptului că se învață singure pe căi care nu pot fi controlate și cu răspunsuri care uneori nu pot fi bănuite. 

În clipa în care suntem aproape de Dumnezeu, în clipa respectivă ieșim din această lume virtuală și intrăm în real. 

Haideți să fiți oameni, haideți să fim reali!

Să ne ajute bunul Dumnezeu!

Doamne ajută! 
 

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!