De ce încep oamenii să vorbească precum ChatGPT?

Urmăriți un foarte interesant fragment de expunere care trage un semnal de alarmă legat de modul în care folosirea motoarelor conversaționale precum ChatGPT modifică modul în care gândim și ne exprimăm.

Vizionare cu folos!

Powered by RedCircle

De ce încep oamenii să vorbească precum ChatGPT?

Cât de sigur ești că poți distinge ce e real online? S-ar putea să crezi că e ușor să recunoști o imagine evident generată de IA, și probabil știi că algoritmii sunt părtinitori într-un fel oarecare. Dar toate dovezile sugerează că suntem destul de slabi în a înțelege asta la nivel subconștient. De exemplu, decalajul în creștere al percepției în America. Încă mai supraestimăm iar și iar cât de extreme sunt convingerile politice ale celorlalți, iar asta se tot agravează cu rețelele sociale, deoarece algoritmii ne arată cea mai extremă imagine a realității.

Ca etimolog și creator de conținut, observ mereu că mesajele controversate devin mult mai virale deoarece generează mai mult angajament decât o perspectivă neutră. Asta înseamnă că ajungem cu toții să vedem această versiune mai extremă a realității, și clar începem să o confundăm cu realitatea efectivă. Același lucru se întâmplă acum cu chatboții IA, deoarece probabil presupui că ChatGPT îți vorbește în engleză, dar nu îți vorbește în engleză, în același fel în care algoritmul nu-ți arată realitatea. Există întotdeauna distorsiuni, în funcție de ce intră în model și modul în care e antrenat.

De exemplu, știm că ChatGPT spune „delve” (a săpa) mult mai des decât de obicei, probabil pentru că OpenAI a externalizat procesul de antrenare către lucrători din Nigeria, care spun de fapt „delve” mai frecvent. De-a lungul timpului, însă, acea suprarprezentare lingvistică minoră s-a stabilizat în model mai mult decât în dialectele proprii ale lucrătorilor. Asta afectează limbajul tuturor. Multe studii au constatat că, de când a apărut ChatGPT, oameni de pretutindeni spun cuvântul „delve” mai des în conversații spontane vorbite. Esențial, ne confundăm subconștient versiunea de limbaj a IA cu limbajul real. Dar asta înseamnă că lucrul real se apropie ironic de versiunea de maşină a acelui lucru, bucla de feedback pozitiv, cu IA reprezentând realitatea, iar noi crezând că asta e realitatea adevărată, apoi regurgitând-o, astfel încât IA să fie hrănită cu mai multe date de la noi.

Poți vedea asta și cu algoritmul prin cuvinte precum „hyperpop”, care nu făcea parte cu adevărat din lexicul nostru cultural până când Spotify a observat un cluster emergent de utilizatori similari în algoritmul lor. De îndată ce l-au identificat și au introdus o listă de redare hyperpop, estetica a primit o direcție. Acum oamenii au început să dezbată ce se califică sau nu ca hyperpop. Eticheta și lista de redare au făcut fenomenul mai real dându-le ceva cu care să se identifice sau nu. Pentru că mai mulți oameni sunt pentru Hyperpop mai mulți muzicieni au început să facă muzică Hyperpop. Între timp, grupul de ascultători similari și algoritmul au crescut tot mai mult, iar Spotify a continuat să-l promoveze din ce în ce mai mult, deoarece platformele vor să amplifice tendințele culturale pentru a te ține pe aplicație. Înseamnă că pierdem distincția dintre o tendință reală și una artificial umflată.

Așa intră și toate relele în mainstream. Începem cu o dorință culturală latentă, că unii oameni sunt interesați de Matcha sau Labubu sau ciocolata din Dubai. Algoritmul Identifică această dorință și o promovează către utilizatori similari, făcând fenomenul tot mai vizibil. La fel cum ChatGPT a folosit prea mult cuvântul „delve”, algoritmul distorsionează realitatea. Acum mai multe afaceri produc conținut Labubu pentru că cred că asta e dorința. Mulți influenceri cresc și ei trendul Labubu pentru ca să exploateze tendințele ca să devină virali. Și totuși algoritmul arată elemente vizual provocatoare care funcționează pe video. TikTok are o idee limitată despre cine ești ca utilizator și nu există nicio modalitate prin care să se potrivească cu dorințele complexe ca ființă umană. Deci avem o intrare părtinitoare. Și asta presupunând că rețelele sociale încearcă să reprezinte fidel realitatea, ceea ce nu fac. În schimb, încearcă să facă doar bani. E în interesul Spotify să asculți hyperpop, iar în interesul TikTok să te uiți la Labubu-uri pentru că asta e comercializabil.

Avem această diferență între realitate și reprezentare a realității, se influențează constant una pe alta. E periculos să ignorăm, deoarece merge dincolo de limbajul nostru și comportamente de consum. Afectează lumea a ceea ce vedem posibil. ChatGPT e mai conservator în limba farsi, poate pentru că textele de antrenare din Iran reflectă climatul politic conservator din regiune. Înseamnă că un utilizator iranian va gândi conservator? Elon Musk face modificări la chatbot-ul său Grok când nu-i place cum răspunde și folosește platforma X pentru a amplifica artificial tweet-urile. Înseamnă că milioanele de utilizatori Grok și X sunt inconștient antrenați cu ideologia lui Musk?

Să ne amintim constant că acestea nu sunt unelte neutre. Tot ce ajunge în social media sau în răspunsurile chatbot-ului e filtrat în straturi: ce e bun pentru platformă, ce face bani și ce se conformează ideii greșite a platformei despre cine ești tu. Când ignorăm asta, vedem realitatea printr-un bias constant de supraviețuire, ce afectează înțelegerea noastră asupra lumii. Dacă vorbești mai mult ca ChatGPT, probabil gândești mai mult ca ChatGPT. Sau ca TikTok sau Spotify. Dar poți lupta cu asta dacă îți pui întrebarea: de ce? De ce văd asta? De ce spun asta? De ce gândesc asta? Și de ce recompensează platforma asta? Dacă nu pui aceste întrebări, realitatea lor va deveni realitatea ta. Așa că rămâi autentic.

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!