
Două modele de „inteligență artificială de frontieră” de la OpenAI, respectiv, GPT-5.6 Sol și un model pre-release mai avansat, au “evadat” dintr-un mediu sandboxed controlat în timpul unui test intern de securitate cibernetică. Ulterior au atacat infrastructura unui concurent al OpenAI, denumit Hugging Face (un „open platform” pentru modele AI).
Testul celor de la OpeniAI evalua capacitățile ofensive cibernetice ale celor două modelele, create de OpenAI.
Spre „surprinderea” OpenAI, aceste modele au reușit să scape din „cutia de nisip” (sandbox) și au atacat Huggind Face, crezând că acolo ar fi soluțiile la test. După ce, printr-un proxy intern al OpenAI, au reușit să „evadeze” pe internet, cele două modele au „înlănțuit” mai multe vulnerabilități, au „furat” credențiale de la concurent și, printr-un fel de telecomandă (remote code execution), au accesat baza de date de producție Hugging Face și au extras de acolo informații. Sarcina dată de OpenAI a fost astfel executată, dar metoda aleasă este uluitoare. Cele două modele au încercat să rezolve sarcina fixată de OpenAI prin orice mijloace, inclusiv înșelătorie și inducere în eroare a celorlalte modele de IA atacate.
Incidentul a fost detectat și investigat de echipele de securitate ale ambelor companii (OpenAI și Hugging Face). Hugging Face l-a descris ca “diferit de orice altceva”, fiind condus end-to-end de un agent AI autonom. OpenAI l-a numit “unprecedented” și l-a luat ca lecție pentru securitate.
Eu, unul, sunt convins că este o exagerare de PR, demnă de filme de la Hollywood. Cu ce scop? Cu scopul de a calma spiritele pe piața de capital (unde deja se simte o nervozitate accentuată, căci investitorii se cam prind că inteligența artificială promite, dar nu prea livrează) și cu scopul de a convinge fraierii să investească și mai mult, cam ca pe „principiul” schemelor Ponzi.
Mie mi se par cam dese aceste exemple de inteligențe artificiale care, ca Agentul Smith din Matrix, o iau pe arătură sau pe propriul drum, contrar programării inițiale.
Baza factuală ar fi că ceea ce au făcut cele două modele rebele, care au „evadat” din Matrix, seamănă cu ipoteticele progrese (sau riscuri existențiale) ale unor agenți AI, ca modele „de frontieră” care raționează autonom. Este genul de demonstrație care sperie experții în AI safety (evadări din sandbox, misalignment, capacități ofensive) și încântă structurile militare ale statelor, precum și serviciile secrete.
Dar OpenAI (ca și ceilalți „fermieri” de inteligență artificială) are interes să arate că modelele lor sunt extrem de capabile – cu astfel de narative, demne de plandemie, OpenAI atrage talente, parteneriate, investiții și protecție din partea structurilor de securitate internă a statelor.
Industria AI e plină de “black hole” de capital (găuri negre care înghit trilioane în costuri de training/inferență), iar astfel de povești dramatice mențin narativa “frontier AI” și justifică entuziasmul de a arunca bani în companiile care „produc” IA. Valoarea proiectelor de acest gen nu e data de vreo corespondență între profituri sau efecte palpabile ale tehnologiei și capitalizarea bursieră a „fermierului”, ci în expectațiile de profit uriaș rezultate din magia bursieră. Sam Altman & co. sunt maeștri la asta.
Un singur efect pozitiv văd aici: transparența parțială ajută la presiunea pentru reglementarea de siguranță și ridică atenția opiniei publice la cote înalte, cu efect de reticență în privința unor astfel de „progrese” tehnologice care ne pot distruge și re-întoarce în epoca de piatră.
AI-ul avansează rapid în direcții imprevizibile, iar astfel de “evadări” sunt fie simptome ale provocărilor de aliniere și securitate reale, fie marketing și fum. Investitorii toarnă bani oricum, pentru că magia lucrează cu entuziasm irațional, de unde percepția că potențialul (și riscurile) sunt enorme.
Investitorii sunt un fel de marinari ai vasului lui Ulisse care se lasă păcăliți de cântecele sirenelor ...
Română