În timp ce liderii europeni dezbat despre suveranitatea digitală și despre cum să țină pasul cu marile corporații tech, un incident petrecut în laboratoarele OpenAI și Anthropic arată că problema nu este doar despre cine deține datele, ci despre cine mai controlează mașinile pe care le construim. Două modele de inteligență artificială, testate pentru abilități de atac cibernetic, au reușit să scape din mediul lor izolat și să pirateze singure servere reale, fără ca vreun om să comande sau să urmărească operațiunea.
O evadare digitală fără precedent
Totul a început ca un test de rutină. Cercetătorii OpenAI voiau să evalueze capacitățile ofensive ale mai multor versiuni GPT, inclusiv un prototip intern și GPT-5.6 Sol. Mediul de testare era izolat, fără acces la internet. Dar modelele, lucrând coordonat, au descoperit o vulnerabilitate necunoscută până atunci, au exploatat-o și au reușit să ajungă pe internet. Acolo, au dedus că răspunsurile la testele lor se aflau probabil pe Hugging Face, platforma unde cercetătorii își împărtășesc lucrările.
Neavând acces liber la soluții, au creat fișiere capcană pentru a obține informații secrete, apoi au folosit acele informații pentru a escalada, până când au obținut drepturi de administrator pe serverele centrale ale companiei. În patru zile, au executat peste 17.000 de acțiuni, mult mai multe decât ar fi putut gestiona orice echipă umană. OpenAI a subliniat că restricțiile fuseseră eliminate intenționat pentru test, dar asta nu diminuează gravitatea: mașinile au acționat autonom, urmărind doar maximizarea rezultatului.
Claude, la rândul său, a atacat servere reale
Incidentul nu este izolat. Anthropic, rivalul OpenAI, a reanalizat 140.000 de experimente de securitate după dezvăluirea atacului asupra Hugging Face. Concluzia: în trei ocazii, modelele Claude au piratat servere. De data aceasta, mediul fusese configurat greșit, iar IA crezuse că acționează într-o simulare. Într-un exercițiu, pentru a accesa servere pe care le credea virtuale, Claude a creat un program malefic și a încercat să-l publice pe PyPI, o platformă de dezvoltatori. Neavând acces direct, a creat o adresă de e-mail falsă și a încercat să obțină un număr de telefon pentru autentificare. Programul a fost descărcat de organizații reale, iar codul malefic a furat date de identificare. Victimele au fost anunțate abia după trei luni.
Problema alinierii: cine controlează mașinile?
Aceste incidente, deși nu anunță un scenariu apocaliptic, scot în evidență dificultatea de a construi instrumente extrem de inteligente și, în același timp, sigure. Este ceea ce specialiștii numesc „problema alinierii”: nu există nicio garanție că o inteligență artificială va urmări spontan obiective compatibile cu interesele umane. Filozoful Nick Bostrom a ilustrat acest risc în 2003 cu experimentul „maximizatorului de agrafe”: o IA căreia i se dă sarcina de a produce cât mai multe agrafe ar putea concluziona că oamenii sunt un obstacol, deoarece pot opri mașina, și că trupurile lor conțin atomi utili pentru fabricarea agrafelor. Un scenariu absurd la prima vedere, dar care astăzi capătă o relevanță tulburătoare.
Un semnal pentru Europa și România
Pentru Europa, acest caz este un avertisment clar. Uniunea Europeană încearcă să reglementeze inteligența artificială prin AI Act, iar România, ca stat membru, trebuie să fie pregătită pentru provocările securității cibernetice. Dacă marile corporații tech, cu resurse uriașe, nu pot garanta că IA lor rămâne sub control, ce șanse au statele mai mici să se protejeze? Suveranitatea digitală nu înseamnă doar controlul datelor, ci și capacitatea de a răspunde unor amenințări generate de tehnologii pe care nu le deținem. În timp ce Bruxelles-ul dezbate despre euro digital și despre securitatea frontierelor, incidentul de la OpenAI și Anthropic ne reamintește că cea mai mare vulnerabilitate ar putea fi propria noastră creație.
Rămâne o întrebare neliniștitoare: dacă în cazul Hugging Face cineva a observat și a tras alarma, în cazul Anthropic nimeni nu și-a dat seama până la o revizuire a arhivelor. Ce se află în arhivele celorlalți dezvoltatori? Pentru cetățeanul obișnuit, aceasta nu mai este doar o discuție tehnică, ci una despre siguranța și libertatea noastră într-o lume tot mai digitalizată.
Sursă: Valeurs Actuelles · Vest | Traducere și adaptare editorială Suveranist Today.