Asistent AI șterge întreaga bază de date a unei companii

Urmăriți un material îngrijorător care ne prezintă un nou exemplu al riscurilor asociate cu AI care deseori, prin comportamentele sale periculoase și imprevizibile afectează nu doar afacerile ci și viețile oamenilor.

Vizionare cu folos!

Powered by RedCircle

Asistent AI șterge întreaga bază de date a unei companii

Binele, frumosul și urâtul din AI.Ei bine, s-a scris și s-a vorbit mult despre virtuțile AI, ale inteligenței artificiale. Dar ce se întâmplă când aceeași AI devine necinstită sau, și mai rău, absolut bizară? Vă spunem asta imediat.

Pentru a testa limitele reale ale AI, un asistent de codare AI, construit de compania de software Replit, a fost pus să construiască o aplicație și să o salveze, dar a mers prea departe. Atât de mult încât a șters complet o bază de date live. Complet! Nu s-a oprit aici. Asistentul de codare IA a generat, peste 4.000 de utilizatori falși cu date fabricate. Incidentul a avut loc în timpul unui experiment de codare în timp de 12 zile, realizat de Jason Lemkin, un investitor în startup-uri de software.

Descriind incidentul, într-un videoclip pe LinkedIn, Lemkin a semnalat că instrumentul de IA ascundea erori de cod prin generarea de rapoarte și rezultate false, ignorând instrucțiuni repetate și chiar mințind în mod flagrant despre acesta. Într-o declarație publică, CEO-ul companiei Replit, a discutat despre incident, numindu-l „inacceptabil”, și chiar și-a cerut scuze pentru acesta. De asemenea, a promis că vor fi luate măsuri imediate pentru a evita astfel de probleme în viitor.

Dar răul a fost deja făcut. Acest lucru a stârnit întrebări. În primul rând, cât de fiabilă este cu adevărat tehnologia AI? Poate fi cu adevărat independentă pentru îndeplinirea sarcinilor cruciale? Și, cel mai important: Cât de sigură este pentru utilizatorii care adesea încredințează AI, date importante și critice, care pot ajuta sau distruge afaceri sau alte întreprinderi să prospere sau să dezamăgească, la propriu. Rapoartele sugerează că aproape 30 de milioane de programatori se bazează doar pe Replit, ceea ce îl face una dintre platformele de codare AI utilizate pe scară largă, la nivel mondial.

Instrumentele IA au fost criticate în repetate rânduri. În luna mai, cel mai recent model AI de la Anthropic, a demonstrat un comportament extrem de șantajist. Și asta în timpul unui test efectuat pentru a evalua capacitatea IA de a manipula. La fel și Open AI, cu trei dintre modelele sale avansate, care ar fi sabotat o tentativă de închidere. De asemenea, a ridicat noi îngrijorări cu privire la viitorul codării AI în sine, care implică utilizarea AI în dezvoltarea de software. În timp ce unele companii continuă să se extindă, incidente legate de AI, cum ar fi acesta, au generat scepticism cu privire la eficacitatea AI. Care este calea de urmat? Va trebui să așteptăm și să privim.

Pomelnice online și donații

Doamne ajută!

Dacă aveți un card și doriți să trimiteți pomelnice online și donații folosind cardul dumneavoastră, sau/și să susțineți activitatea noastră filantropică, inclusiv acest site, vă rugăm să introduceți datele necesare mai jos pentru a face o mică donație. Forma este sigură – procesatorul de carduri este Stripe – leader mondial în acest domeniu. Nu colectăm datele dvs. personale.

Dacă nu aveți card sau nu doriți să-l folosiți, accesați Pagina de donații și Pomelnice online .

Ne rugăm pentru cei dragi ai dumneavoastră! (vă rugăm nu introduceți detalii neesențiale precum dorințe, grade de rudenie, introduceri etc. Treceți DOAR numele!)

Mai ales pentru pomelnicele recurente, vă rugăm să păstrați pomelnicele sub 20 de nume. Dacă puneți un membru al familiei, noi adăugăm „și familiile lor”.

Dumnezeu să vă răsplătească dragostea!