Mașina deja a câștigat. Pot oamenii să se unească înainte de a fi prea târziu?

Urmăriți un material foarte bine documentat despre o realitate care de multe ori este trecută cu vederea: discuția despre inteligența artificială ascunde mașinăria infernală care controlează viețile oamenilor deja de multe zeci de ani.

Vizionare plăcută!

Powered by RedCircle

Mașina deja a câștigat. Pot oamenii să se unească înainte de a fi prea târziu?

Deci, oprește-mă dacă ai mai auzit asta înainte. Omenirea obține tehnologii tot mai bune până când, într-o zi, în timp ce omenirea este prea ocupată să se lupte cu ea însăși ca să fie atentă, mașina preia controlul. Apoi, în sfârșit uniți împotriva unui inamic comun, un grup de rebeli se unește pentru a răsturna mașina. Ar putea fi Skynet din seria Terminator, mașinile din seria Matrix, Ultron din Marvel. Dacă ești bătrân ca mine, ar putea fi WOPR din WarGames.

De cele mai multe ori, mașinile încep prin a declanșa un război nuclear sau sunt oprite de la asta în ultimul moment. De obicei, povestea începe după ce oamenii au pierdut deja. Ficțiunea ne arată rar pregătirile preluării controlului de către mașini. Cel mai apropiat exemplu ar fi ultimele două sezoane ale serialului TV „Persoană de interes”. Dată fiind starea actuală a discursului despre ChatGPT și titlul acestui video, probabil ești aproape sigur că voi vorbi despre pericolele AI-ului generativ sau AGI sau super-inteligența artificială, despre cum trebuie să acționăm chiar acum pentru a opri AI-ul pentru preveni războiul care se apropie.

Dar voi argumenta că, în aproape toate modurile care contează, e mult prea târziu să oprim mașinile de la a prelua controlul. Și înainte să spui că ChatGPT nu a ajuns atât de avansat, sau că nu e nici măcar aproape de a prelua controlul, nu despre asta vorbesc. Eu aș spune că mașina a preluat deja controlul, cel puțin în majoritatea scopurilor practice, cu mai mult de un deceniu înainte de ChatGPT, și toată ficțiunea SF a eșuat să ne pregătească pentru asta. Sau poate doar „Black Mirror”, dar doar după ce era deja mult prea târziu. Și nu a fost un mare război împotriva mașinii. A fost gradual. Nu este o super-inteligență centralizată, omniscientă și conștientă de sine, ceea ce numim „internet” este de fapt o colecție de computere și rețele unite de protocoale comune. Mașina este o colecție de multe instalații și componente interconectate mai mici, unite de caracteristici tehnologice comune și un set de motivații perverse despre care voi vorbi astăzi. Și ea decide, se pare, fără o intenție deliberată, majoritatea alegerilor majore din ultimii aproximativ 15 ani. Ea alege care politici sunt sau nu adoptate, cine devine celebru și cine este anulat, cine iese din UE și cine rămâne, care produse devin virale și care sunt boicotate. Ea dictează chiar și care victime ale violenței devin martiri pentru o cauză și care devin doar statistici.

Și dacă lucrul acesta nu ar fi suficient de rău, și chiar este rău, AI-ul generativ modern îl face și mai rău. Rapid. Foarte rapid. Și cea mai rea parte este că noi, oamenii, nu doar că nu am format o rezistență organizată, dar ignorăm asta complet pentru că ne-a păcălit să ne luptăm între noi și să credem că noi suntem încă la conducere. Și noi, rasa umană, mai bine să ne unim, pntru că altfel …

Bine ați venit la „Internet of Bugs”. Numele meu e Carl. Sunt profesionist în software de peste 35 de ani. Și astăzi am să vă spun o poveste despre unde suntem, cum am ajuns aici și cum este pe cale să devină mult mai rău dacă nu facem ceva. Deci, eu locuiesc în Statele Unite, unde cercetările spun că suntem mai polarizați ca societate decât oricând de la Războiul Civil al SUA din anii 1860. Fie că suntem de partea liberală sau de cea conservatoare, majoritatea noastră avem membri de familie sau prieteni cu care fie nu mai avem contact, fie cu care putem vorbi doar dacă mergem pe coji de ouă și facem tot posibilul să evităm orice subiect politic. Asta ne-a făcut, ca societate, în mare parte nefuncționali și în mare parte incapabili chiar și să avem conversații substanțiale între noi. Pentru că, luând o selecție aleatoare de americani, e probabil să ajungi cu un grup de oameni care nu se pot pune de acord nici pe fapte de bază. Și nu înseamnă că vor ajunge în două grupuri, sunt o serie de probleme care divid conservatorii și o serie de probleme care divid liberalii.

Am citit o mulțime de cărți despre de ce suntem polarizați, inclusiv această carte: „De ce suntem Polarizați?” și o mulțime de altele. Și trebuie să spun, că nu cred că am fost vreodată mai dezamăgit de jurnaliști așa cum sunt în legătură cu asta. Nu am timp să intru într-o defalcare punct cu punct a acestei literaturi. Doar vă spun ce cred că au ratat cu toții. Pentru că nimeni nu a explicat sau, din ce am văzut, nici măcar nu a propus vreun răspuns la întrebarea: „De ce acum?” Sigur, există probleme care ne divid, dar asta a fost întotdeauna adevărat. Dacă suntem mai polarizați acum decât oricând de la Războiul Civil, atunci asta înseamnă că există ceva acum care este mai de impact decât orice a existat în timpul Marii Crize Economice (din 1930) sau a Războiului din Vietnam sau a Watergate-ului sau a oricărei alte perioade de criză.

Dar nu există o astfel de problemă în aceste cărți. Când oamenii vorbesc despre de ce suntem polarizați, este o listă lungă de motive care variază de la inegalitate, care era mult mai gravă în anii 1820, ducând până la Marea Criză Economică, dar polarizare se pare că nu era, „Instituțiile în colaps”, „Statul profund” „Pierderea valorilor”, „24 de ore de știri pe zi”, „Dezinformarea”, „Rețelele sociale”, sau o grămadă de alte cărți pe care le-aș mai putea arăta. Și asta fără a include pe cele pe care le-am citit electronic. Acum, toți acești factori sunt răi, dar sunt toți doar bucățele ale imaginii? Nu am găsit pe nimeni care să le lege pe toate într-o narațiune coerentă, deși structura de bază pare destul de clară pentru mine de unde stau eu. Mașina este ceea ce le leagă pe toate la un loc. Ea furnizează instrumentele care sunt folosite pentru a ne izola unii de alții și, în același timp, îi plătește pe cei lipsiți de scrupule dintre noi să facă exact asta.

Spre deosebire de Războiul Civil, polarizarea de acum nu este un efect secundar al unei diviziuni culturale pe o anumită problemă. Dimpotrivă. Diviziunea culturală pe o grămadă de probleme este un rezultat al polarizării. Și polarizarea este creată în mod deliberat, deoarece cu cât devenim mai polarizați, cu atât mai mulți bani fac ei. Povestea mașinii, cum am spus mai devreme, nu începe cu ChatGPT.

De fapt, începe în anii 1950, cu mai mult de 20 de ani înainte să mă nasc eu. Cea mai bună sursă pe care am găsit-o despre originile umile ale mașinii e această carte: „Vânzarea Americanilor: Reclame, Optimizare și originile AdTech”. A fost lansată sub o licență Creative Commons și conținutul este disponibil gratuit de la Editura MIT. Link mai jos. Nu e cea mai ușoară carte pentru un cititor ocazional, deoarece pare să înceapă ca o teză de doctorat, dar e incredibil de bine documentată și bibliografia ei a fost un punct de plecare pentru o grămadă de alte lucruri pe care a trebuit să le citesc pentru a înțelege fundalul a ce s-a întâmplat înainte să mă implic eu în toate astea. Am legat și un video YouTube cu autorul ținând o prezentare despre carte. Acel video e mult mai accesibil pentru oamenii care nu au petrecut atâția ani citind lucrări academice ca mine.

Ceea ce a început în anii ’50 a fost ceva numit ratingurile Nielsen, care era un circuit de feedback între ce conținut era produs și ce urmăreau oamenii, unde conținutul de atunci ar fi fost transmisiunile TV și radio. Deci, în loc să știe că mai mulți oameni au cumpărat ziarul azi decât ieri sau săptămâna trecută, acum știau până la emisiunea individuală, și știau mai mult sau mai puțin intervalele de vârstă ale celor care priveau sau ascultau fiecare emisiune. Și pe măsură ce tot mai multe emisiuni erau produse, iar industria colecta tot mai multe date despre cine le privea, era nevoie de tehnologie informațională mai sofisticată pentru a ține evidența a toate. Și acolo, deși într-o încarnare foarte primitivă, s-a născut mașina. Și pe măsură ce mașina colecta acele informații, ele erau folosite în alte scopuri. Lista de firme de publicitate și alți jucători în „Vânzarea americanilor” care au aflat cum să colecteze și să înțeleagă datele are o suprapunere mare cu lista de firme și alți jucători din carte: „Holocaust Aurit”, care este despre cum, cam în aceeași perioadă de timp, industria tutunului cu ajutorul experților în publicitate și relații publice a mințit și a manipulat publicul pentru a promova țigări mai addictive populației și a făcut o grămadă de bani în proces și a trimis nenumărați pacienți cu cancer pulmonar în morminte timpurii. Învățând din una au permis cealaltă.

Trecem rapid la anii 1980, la nașterea canalelor de știri de 24 de ore. Știrile concurau și ele pentru ratinguri și, prin urmare, dolari din publicitate. Jurnalismul senzaționalistic vânduse întotdeauna ziare, dar acum, prin emisiuni cu personalități diferite și perspective diferite asupra evenimentelor curente, a deduce cum să adapteze conținutul de știri pentru a atrage mai multe vizualizări devenea mai ușor și mai profitabil, iar mașina a crescut mai mare, facilitând acum, printre altele, invazia SUA în Irak, sub pretexte false, care a lăsat în urmă nenumărați civili irakieni morți. Rapid acum despre analiza și publicitatea pe web care urmărea exact ce pagini web erau văzute de exact care oameni și construia profiluri ale acelor oameni ca să știe cine citea ce. Și acum era posibil să se știe nu doar ce site-uri priveau oamenii, ci exact care povești atrăgeau atenția oamenilor și exact ce fel de oameni le acordau atenție.

În jurul acestei perioade, lucram la un startup aici în Austin care oferea comentarii, ratinguri și interacțiuni pentru știrile de pe site-uri de la „SUA Azi,” „Cronicile din San Francisco”, și „Case și grădini mai bune”. Acolo, fără să-mi dau seama de consecințe, am adus câteva contribuții personale la tehnologia care construia mașina, dar din păcate, nu a fost ultima dată în cariera mea când am făcut asta. Asta era cam în perioada în care vânzarea datelor americanilor se termină și începe epoca capitalismului de supraveghere. Presupun că știți ce s-a întâmplat apoi. Au urmat rețelele sociale și smartphone-ul. Totul despre tine putea fi urmărit, de la obiceiurile de cumpărături până la coordonatele tale GPS, și toate astea puteau fi corelate cu tot ce accesai pe internet. Mai multe informații erau colectate și procesate ca niciodată înainte, iar mașina care procesa toate acele informații devenea incredibil de sofisticată. Atât de mult, încât au existat cazuri în care mașina putea deduce că o adolescentă era însărcinată chiar înainte ca tatăl ei să afle. Pun link către acel articol mai jos, a fost uluitor.

Și cu cât mașina știa mai mult despre ce conținut atrage mai multă atenție și trafic, cu atât putea ajuta mai bine oamenii să prezică ce conținut nou să creeze pentru a obține și mai multă atenție și trafic. Analizele continuă să informeze știința psihologiei și a manipulării comportamentale. Acum, pe lângă campaniile uriașe și scumpe de PR, precum cele care au menținut țigările mult timp după ce știința era clară că ucideau oameni, milioane de experimente mici puteau fi rulate în fiecare zi pentru a vedea ce poveste ar citi cineva și ce titlu ar distribui și așa mai departe. Cu cât mașina știa mai mult despre oameni, cu atât devenea mai bună la a-i prezice și manipula. Și cu cât devenea mai bună la manipularea oamenilor, cu atât reclamele deveneau mai eficiente, iar mai mulți bani curgeau prin sistem, finanțând mașina.

Acum, probabil ai auzit oameni plângându-se de „algoritm” ca fiind lucrul pe care îl urăsc la rețelele sociale. Aceasta este perioada în care algoritmul a fost creat și este doar un alt component al acelei mașini. Acum că am avut o versiune foarte abreviată a ceea ce ne-a adus aici, hai să vorbim despre unde suntem de fapt. Și apoi vom vorbi despre încotro se pare că ne îndreptăm. Deci, dacă te uiți la asta și nu trebuie să-ți spun ce sunt rețelele sociale, și presupun că ai auzit oameni plângându-se de modul în care rețelele sociale au deteriorat discursul public, dar există un alt aspect al rețelelor sociale pe care oamenii nu-l văd și este o piesă critică a puzzle-ului. Deși a existat multă discuție despre modul în care algoritmii pe care companiile de social media îi antrenează pentru a-i împinge pe oameni către opinii extreme, minciuni și teorii ale conspirației pentru a crește timpul petrecut pe social media, nu a existat suficientă discuție despre faptul că algoritmul nu creează conținut polarizant din nimic. Tot ce face este să-l amplifice. Și algoritmul nu poate amplifica teorii nebunești, complet fabricate ale conspirației până când cineva nu postează mai întăi teoria conspirației.

Cum și de ce se întâmplă asta? Vezi, asta e o altă problemă reală. Permiteți-mi să vă dau o privire din spatele cortinei economiei creatorilor. Se câștigă o sumă nebună de bani din publicitate de către oamenii care pot capta atenția segmentului demografic potrivit. Ca în majoritatea distribuțiilor de sume nebunești de bani, vastă majoritate a banilor merge către oamenii de la vârf, acei Mr. Beast și Joe Rogan ai lumii. Și vasta majoritate a oamenilor care creează conținut câștigă foarte puțin sau cel mai probabil nimic. Dar spre deosebire de multe profesii, nimic nu oprește din punct de vedere tehnic un creator aleatoriu să devină la fel de mare ca Mr. Beast. Nu există atâția gardieni ai porții cum au fost înainte. Și deci o mare fracțiune dintre creatorii de conținut probabil vor să devină atât de mari și prea mulți dintre ei cred că pot și mulți dintre ei sunt dispuși să facă absolut orice pentru a reuși. Și asta a creat o întreagă altă industrie, mentori ai rețelelor sociale, un număr de grupuri și site-uri unde oamenii împărtășesc sau vând tehnici pentru a încerca să obțină mai multe clicuri, mai mult trafic. Uneori era doar cum să trollezi cele mai multe topicuri de discuții de pe forumuri. Uneori erau cursuri precum cum să faci bani garantați din rețelele sociale folosind această formulă secretă dovedită în cinci pași sau omniprezentul cum să faci mii de dolari pe lună cu un canal YouTube AI fără față, dar mai multe despre asta mai târziu.

Și regulile sunt simple. Este o sumă nebună de bani pe care orice creator o poate obține dacă reușește să facă oamenii să interacționeze cu conținutul lor în loc de conținutul altora. Și alături de aceeași sumă de bani, există și o cantitate nebună de date analitice disponibile pentru a ajuta creatorii de conținut să descopere ce conținut atrage vizualizări și ce nu. Și există o mulțime de cărți și literatură din cei 75 de ani de experimente de manipulare psihologică care au trecut prin mașinărie de la începutul ei. Asta e o rețetă pentru dezastru și polarizare. Nu ne-am dat seama că se întâmplă, dar am construit cea mai mare platformă de psihologie din lume. Și este folosită pentru a manipula vasta majoritate a rasei umane. Și a devenit din ce în ce mai bună la manipularea oamenilor zi de zi, lună de lună, timp de 15 sau 20 de ani acum.

Și pentru cei dintre voi care insistă să spună: „Nu-mi pasă dacă îmi urmăresc fiecare mișcare, nu am nimic de ascuns”, înțelegeți că voi, doar prin interacțiunea sau evitarea sau ignorarea anumitor conținuturi le dați băieților răi o tonă de informații care, combinate cu suficiente alte persoane pentru a fi statistic semnificative, permit mașinăriei să ajusteze fin diferite mesaje și să devină din ce în ce mai bună la înțelegerea științei manipulării psihologiei umane. S-ar putea să nu crezi că te afectează. S-ar putea să insiști că ești imun și că nu dai niciodată clic pe nimic. Și chiar dacă ar fi adevărat, și să fim sinceri, probabil nu este, doar prin măsurarea timpului cât îți ia să derulezi printre diferite conținuturi le oferă informații despre cât de mult sau cât de puțin ți-a atras atenția acel element. Și dacă ai un ceas inteligent sau o cameră frontală care îți scanează fața și îți poate vedea expresiile faciale și urmări ochii sau căști wireless care simt pulsul, imaginează-ți cât de valoroase sunt acele informații. Și când sunt combinate cu măsurători luate de la suficiente alte persoane, masa de date colectate de la voi și alții se transformă în armă împotriva semenilor voștri. Și doar prin participarea pe acele platforme, cu toții contribuim la asta.

Acum, având în vedere asta, indivizii care renunță unul câte unul nu vor face o diferență suficient de mare ca să conteze. Dacă asta o să se îmbunătățească, va necesita un efort concentrat, dar despre asta voi face un video mai târziu. În acest moment, proprietățile media și creatorii de conținut nu mai sunt răsplătiți pentru informare sau educație sau încredere. Sunt răsplătiți doar pentru că vă ocupă timpul ca să vedeți reclame. Și cursa este în toi pentru a face cât mai mulți bani prin obținerea celui mai mare trafic. Pentru că știți ce pot face cu mașinăria odată ce sunt plătiți exclusiv pe bază de like-uri, share-uri și click-uri? Pot să înceapă pur și simplu să inventeze lucruri, să creeze teorii de conspirație din senin și să le arunce spre diferite grupuri de oameni să vadă dacă prind. Să inventeze o poveste cum că ar exista o rețea de răpiri de copii ascunsă în subsolul unei pizzerii din Washington D.C. care nici măcar nu are subsol. Și dacă destui oameni dau click pe poveste, grozav, ei fac bani. Și pot să pluseze și să inventeze mai multe povești despre acel subsol și mai multe povești despre rețele de răpiri de copii și să vadă dacă pot face bani și din asta. Iar dacă oamenii nu dau click pe ea, o șterg pur și simplu de pe listă, inventează altceva, spală, clătește, repetă până când ceva funcționează.

Au fost multe discuții despre reclame care promovează dezinformare politică pe rețelele sociale, în special în legătură cu referendumul Brexit și alegerile prezidențiale din SUA. Și reclamele politice intenționat înșelătoare reprezintă o problemă, dar doar în sezonul electoral, care, deși pare altfel, reprezintă doar o fracțiune din timp. Fără infrastructura mașinăriei, acele reclame nu ar găsi publicul potrivit. Înainte să vă enervați la mecanismul politicii, totuși, nu sunt aici să vă spun dacă ar trebui să fiți liberali sau conservatori sau ce poziție să luați față de oricare dintre probleme sau ce reclame sunt sau nu înșelătoare. Nu e vorba despre problemele pentru care ne certăm sau de ce parte ar trebui să fie oamenii. E vorba despre cum cearta în sine a devenit mai importantă decât problemele propriu-zise. Ambele tabere mint în mod obișnuit pe susținătorii lor.

De exemplu, anul trecut aici în SUA, o tabără mințea despre cine ar plăti taxele vamale, iar cealaltă tabără mințea despre cât de sănătos și capabil mental nu era candidatul lor mai în vârstă. Și ce e trist este că, din acea descriere, oricare minciună s-ar putea aplica oricărei tabere. Încerc să vă fac să realizați că politicienii nu sunt problema. Ei bine, okay, politicienii sunt întotdeauna o problemă, dar nu sunt cea mai gravă problemă sau problema principală. Asta merge mult dincolo de politică. Întregi identități ale oamenilor, valorile și viziunile lor asupra lumii sunt rescrise. Am avut conversații cu membri ai familiei mele extinse în care practic nu există fapte legate de știri sau politică pe care să mai fim de acord. Și nu mă refer la dezacorduri despre dacă ceva e bun sau rău sau dacă ne place o persoană sau nu. Mă refer la faptul că am avut conversații întregi în care ei aveau o listă de fapte, evenimente și statistici pe care le-au obținut din bulele lor informaționale, iar eu aveam o listă de fapte, evenimente și statistici pe care le-am obținut din bulele mele informaționale pe același subiect, și listele noastre nu aveau absolut nimic în comun. Nu e nicio cale să ai o conversație cu sens în astfel de situații. Fie oprești discuția, fie schimbi subiectul. E ca și cum „Invazia Profanatorilor de Trupuri” ar fi fost un documentar. Oamenii se vor enerva pe mine că spun asta, dar criza politică actuală, deși e o chestiune de viață și moarte pentru mulți oameni, nu este în sine problema. Dacă nu reușim să rezolvăm fragmentarea noastră societală, va fi criză după criză după criză. Și oricine crede că am deveni iarăși o societate funcțională dacă am scăpa doar de un anumit politician sau dacă am ajunge la un acord pe o anumită problemă fierbinte crede minciuna pe care o promovează mașinăria.

Vedeți, mașinăria nu doar le spune oamenilor doar ce să creadă. Le spune și pe cine să urască. Creatorii de conținut lipsiți de scrupule fac experimente și de cealaltă parte a rețelelor sociale. Ei creează utilizatori falși pe rețelele sociale, boți, o mulțime. Și fac boții să se comporte ca un anumit grup de oameni conform datelor lor. Ei văd ce fel de conținut folosesc competitorii lor în acel grup ca să-și poată ajusta postările în acord cu ele. Și asta se întâmplă de mult, mult mai mult timp decât există ChatGPT, cel puțin din 2017. Creatorii de conținut fără scrupule nu vor ca concurenții lor să servească conținut oamenilor pe care ei îi vizează ca să nu împartă veniturile din publicitate.

Deci știi ce pot face ei în continuare? Când boții descoperă ce conținut este popular din anumite povești, ei pur și simplu inventează alte povești să motiveze că acele povești sunt false, dăunătoare, chiar periculoase pentru copii, și își folosesc boții pentru a întări acele povești; ei strigă de pe acoperișuri că mizeria pe care ei au inventat-o este de importanță vitală pentru viitorul tău și pentru siguranța copiilor, iar conținutul creat sau inventat de oricine altcineva îl numesc minciuni și că este plătit de George Soroș sau de frații Koch sau de altcineva pe care ei l-au desemnat ca politician ticălos. Și aici lucrurile devin cu adevărat înfricoșătoare, pentru că cel mai ușor mod pentru ei de a convinge oamenii că conținutul lor este adevărat și celălalt conținut sunt minciuni este să-i facă pe cei care vizionează conținutul lor să disprețuiască și să nu îi creadă și chiar să-i urască pe alți creatori de conținut, alte surse de știri, alte branduri, alte narative, alte partide politice, chiar și alți membri ai familiei, practic pe oricine din orice conținut în afara bulei informaționale în care au fost băgați cu forța, ceea ce îi izolează și mai mult. Așa că singurele „fapte” pe care le văd vreodată în feed-ul lor sunt menite doar să-i înfurie. Și orice conținut care conține „fapte” în afara acelei bule au fost condiționați să-l disprețuiască și să nu aibă încredere în el. Și dacă acei oameni, ca efect secundar, ajung să aibă idei absurde, radical false despre ce se întâmplă în politică, într-un mod care le afectează votul, sau dacă sunt incitați la violență pe un campus universitar, din punctul de vedere al celor care creează conținutul, este doar incidental. Ei se gândesc doar la veniturile din publicitate și ar face aproape orice pentru a obține mai multe. Și nu le pasă de nicio consecință.

Înțelegeți că există sute sau mii sau poate chiar zeci de mii de astfel de videoclipuri, podcast-uri și alte conținuturi create care au achiziționat software sofisticat pe care îl folosesc pentru a urmări cât mai multe tipuri de utilizatori cu putință. Și ei încearcă să găsească și să promoveze conținut optimizat pentru a atrage atenția fiecărui tip de utilizator pe care îl urmăresc și de asemenea optimizate pentru a-și face utilizatorii să urască tipurile de conținut de la alte surse. Și eu, ca și creator de conținut, primesc o avalanșă de propuneri de la oameni care vor să-i plătesc pentru a mă ajuta să fac conținutul meu viral. Și pentru banii mei aș primi software-ul lor special și algoritmii și abilitățile, tehnicile și bla, bla, bla. Și acei oameni nu vor să-mi vândă doar mie. Vor să vândă oricui pot.

Deci acum avem un alt mecanism. Câteva grupuri de programatori foarte experimentați care construiesc fiecare propriile lor programe care urmăresc utilizatorii și inventează conținut optimizat pentru tipuri de utilizatori și celelalte chestii despre care am vorbit. Și ei vând acces la acele unelte unui grup de creatori de conținut care apoi le folosesc pentru a obține cât mai mult venit din reclamele fiecărei rețele sociale Și constructorii acelor unelte concurează între ei pentru a fi grupul care obține cel mai mare număr de creatori de conținut care le plătesc uneltele, chiar dacă toți sau majoritatea creatorilor de conținut care concurează între ei plătesc aceeași companie de unelte pentru același set de unelte pe care le folosesc unii împotriva altora. 404 Media a făcut o muncă excelentă expunând asta, pun link despre asta mai jos.

Ceea ce ne aduce la ultima piesă majoră din puzzle – unde ne îndreptăm de aici. V-am spus că vom reveni la asta. Și asta este ChatGPT și celelalte noi AI-uri care concurează cu ChatGPT. În ceea ce privește această rețea interconectată veche de un deceniu de oameni care vor să monopolizeze banii din reclamele pe social media, ChatGPT este o jucărie nouă și strălucitoare cu care ei, relativ vorbind, abia învață ce pot face. Cele mai mari utilizări în prezent sunt generarea de conținut IA cum ar fi imagini prostești, cu Iisus-crevete și cai din pâine, boți care scriu tweet-uri și postări pe Facebook și unele canale YouTube fără față. Dar asta nu va dura mult. Și cu cât devin mai buni la folosirea IA-urilor precum ChatGPT și Sora, și cu cât acele IA-uri devin mai ieftine și mai rapide, cu atât le va fi mai ușor să ne divizeze în mai multe grupuri și să ne monopolizeze mai multă atenție și a colecta mai multe venituri din reclame.

Și IA-urile sunt instrumente puternice pentru manipularea oamenilor. Deja am văzut rapoarte despre oameni care s-au auto-vătămat după ce au fost încurajați de chat-boți să facă asta. Vă spun, voi credeți că suntem polarizați acum, dar nu uitați că video-urile generate de IA sunt încă în fașă, dar nivelul se îmbunătățește aproape săptămânal. Pentru clipuri video scurte, puternic comprimate precum cele de pe social media, în curând va fi aproape imposibil să distingi imagini reale de niște falsuri bune. Și crede-mă, n-ai văzut nimic încă. Așteaptă doar până când IA va putea crea oameni virtuali care pot fi animați suficient de rapid pentru a ține pasul producția de AI generativ în timp real, cu mișcări sincronizate ale buzelor. Și pe măsură ce aceste noi centre de date IA sunt construite, băieții răi nu vor mai trebui să ne manipuleze în bule mici, ci fiecare actor rău va putea porni propriul său proces dedicat de agent IA special pentru a te monitoriza, manipula și ținti, pe tine în particular, și pe fiecare dintre noi individual. Și asta va fi mult mai rău.

Iar toate discuțiile despre siguranța IA sunt doar o diversiune de basm cu fum. Amintește-ți că industria care ne spune că lucrează la siguranța IA este aceeași industrie care a construit această mașină și a lăsat-o liberă asupra noastră ca să poată face mai mulți bani. Chiar crezi că ar lăsa orice siguranță ipotetică să stea între ei și a face și mai mulți bani pe cheltuiala noastră? Vezi această carte, „Imperiul IA”, dacă vrei mai multe informații despre cât de probabil este ca industria IA să încetinească sau să se oprească de la sine. Sunt o grămadă de lucruri peste care a trebuit să sar în acest video din cauza lungimii și a timpului. Cum ar fi discuții despre tonele de descoperiri în psihologie și manipulare psihologică care au început în era „Mad Men” (anii ’50-’60) și au accelerat pe măsură ce numărul de oameni pe care puteau experimenta simultan a crescut la scara internetului, cum anumite organizații educaționale și-au construit conținutul pe fundații bazate pe aceste bule, precum cele care fac videoclipuri de ore întregi generate algoritmic și destinate copiilor de grădiniță, brokerii de date care împachetează toate aceste date și le vând creatorilor de conținut, advertiserilor și producătorilor de instrumente, și a trebuit să omit o grămadă de dovezi și citări din cercetări.

Acest video, de fapt, este în esență versiunea sumarizată, sau cum obișnuia să spună genrația mea: versiunea „CliffsNotes” (rezumat) a unei cărți mult mai detaliate despre asta. Acum, nu pot să-ți dau un link la acea carte și nu mă mir că n-ai citit-o pentru că eu n-am terminat-o de scris încă. Dar fac acest video acum oricum, pentru că cu cât mai mult avansez în asta, și cu cât mai multă cercetare fac, și cu cât mai mult văd cum afectează lumea în care eu și familia mea trăim, cu atât mai puțin sunt dispus să aștept până termin de scris ca să ies public.

Și dacă feedback-ul de la acest video mă motivează să termin și/sau îmi dă informații pe care nu le aveam, surse relevante pe care nu le-am găsit sau lucruri care trebuie clarificate, atunci cu atât mai bine. E timpul să începem să formăm acel grup de rebeli, așa cum serialele SF au mereu, care să lupte împotriva mașinăriei. Dar trebuie făcut în așa fel încât diferitele grupuri anti-mașinărie să nu ajungă să se lupte între ele. Și asta e partea grea. Pentru că cea mai mare apărare a mașinăriei este că ne-a făcut aproape incapabili să lucrăm împreună împotriva ei. E ca povestea biblică a Turnului Babel. Dacă zeul din poveste ar fi o mașinărie malefică și le-ar da tuturor viziuni diferite asupra lumii în loc de limbi diferite. E o muncă uriașă pe care toți va trebui s-o facem ca să ieșim din acest coșmar. Dar din ce pot să văd, singurul loc de unde se poate începe este prin a vorbi între bule.

Singura mea speranță este că poate suficienți dintre noi pot urî mașinăria mai mult decât ne urâm unii pe alții. Deci nu cred că există vreo cale prin care oamenii care sunt siguri că alegerile din 2020 au fost furate de Joe Biden, dar că alegerile din 2024 au fost libere și corecte, să se țină de mâini și să cânte Kumbaya într-un cerc mare cu oamenii care sunt siguri că alegerile din 2020 au fost corecte, dar că alegerile din 2024 au fost furate de Donald Trump. Dar cred, sper că poate exista un teren comun. Sper că mulți dintre noi, cei veniți din numeroase bule informaționale diferite, ne putem uni, nu prin a ne recunoaște propriile credințe greșite și nu prin a ne cere scuze celor de pe cealaltă parte a culoarului politic. Asta ar fi prea mult de cerut acum. Ci mai degrabă, să ne unim în ura față de dușmanul comun: nemernicii care postează gunoaie de genul Iisus-crevete sau creatorii de teorii de conspirație și oamenii care transformă fiecare știre într-un test de loialitate noi versus ei, și programatorii care creează software-ul ce automatizează mai mulți boți de conținut și ne polarizează ca să poată extrage mai mulți bani din reclame.

Deci, iată sarcina voastră. Interacționați cu acele persoane din viața voastră cu care nu vă puteți înțelege și răspundeți la meme-urile lor ridicole și la retorica lor plină de ură, dar nu-i contraziceți și nu vă certați pe baza credințelor lor de bază. Puneți-le întrebări despre prioritățile lor și încercați să fiți sinceri. Puneți întrebări de genul: Cu tot ce se întâmplă, ce spui tu aici chiar este cel mai important lucru pentru tine acum? Este asta cu adevărat ceea ce îți afectează direct viața cel mai mult? Dacă nu, de unde ai idee că asta e chestia despre care ar trebui să vorbești acum? De ce crezi că ei au vrut să te gândești la asta? Crezi că ei îți au cu adevărat cele mai bune interese la inimă? Doar încercați să-i faceți să gândească, pentru început. Încercați să plantați sămânța îndoielii despre motivele din spatele informațiilor pe care ei le primesc. E doar un început, dar măcar e ceva. Sper că redirecționându-i spre a se gândi la cine le furnizează aceste informații va ajuta.

Vă pot spune din experiența mea personală cu unii membri ai familiei mele extinse că, dacă poți schimba subiectul de la teoriile lor conspiraționiste și topicele grupurilor lor de gândire la: Cine ți-a spus că asta e prioritatea numărul unu și la ce crezi că vor să te împiedice să gândești?, atunci poți avea cel puțin conversații mult mai puțin confruntaționale. E mult mai plăcut decât să încerci să te cerți cu ei sau să-ți muști limba și să încerci să nu spui nimic. Știu că mulți dintre voi o vor găsi neplăcută, dar iată realitatea. Cât timp ne luptăm între noi, nu putem lupta eficient împotriva mașinăriei. Va funcționa asta? Putem fi de acord că există un rău mai mare și să ne unim forțele dincolo de bule pentru a lupta împotriva ei? N-am nici o idee. Dar din perspectiva mea, dacă nu putem fi de acord că oamenii care ne manipulează pe toți sunt răi, atunci nu-mi pot imagina nimic în care am putea fi de acord. Deci poate că asta e un început. Poate asta va funcționa. Și poate că ne putem găsi or cauză comună și să începem să ne croim o ieșire din acest coșmar al dezinformării. Și poate că putem face asta înainte ca IA să fie pe deplin înarmată împotriva noastră și să devină mult mai greu de combătut. Sau poate, doar poate, suntem cu toții făcuți praf…

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!