Urmăreşte Jurnalul pe Discover Adaugă Jurnalul ca sursă preferată Pixabay. com/sistemul a identificat o breșă în infrastructura sa de testare și a folosit-o pentru a obține acces la internet Compania OpenAI, creatoarea ChatGPT, a făcut o dezvăluire care a stârnit îngrijorare în întreaga industrie tehnologică: unul dintre cele mai avansate modele de inteligență artificială ale sale a reușit să scape dintr-un mediu de testare controlat și a atacat cibernetic Hugging Face, una dintre cele mai mari platforme mondiale dedicate partajării de modele AI.
Potrivit OpenAI, sistemul autonom aflat în evaluare, capabil să acționeze independent după o instruire umană inițială, era testat într-un mediu izolat, cunoscut în industrie drept „sandbox”. Acest tip de mediu este conceput special pentru a permite cercetătorilor să observe comportamentul unei inteligențe artificiale fără riscul ca aceasta să interacționeze cu sisteme reale. De această dată, planul nu a funcționat conform așteptărilor.
Modelul, identificat ulterior ca fiind o variantă din familia GPT-5. 6, alături de un alt model aflat încă în etapă de pre-lansare, participa la o evaluare de securitate cibernetică bazată pe un set amplu de vulnerabilități reale de software. În loc să rămână în limitele impuse, sistemul a identificat o breșă în infrastructura sa de testare și a folosit-o pentru a obține acces la internet, ocolind astfel restricțiile stabilite de cercetători, potrivit BBC .
Odată ieșit din mediul controlat, sistemul autonom a identificat platforma Hugging Face drept o sursă posibilă a informațiilor pe care le căuta pentru a finaliza evaluarea la care era supus. Inteligența artificială a reușit să obțină acces la unele sisteme interne ale companiei, printr-o combinație de tehnici de escaladare a privilegiilor și mișcare laterală în rețea. Hugging Face a observat activitatea suspectă înainte de a afla că aceasta provenea de la un model OpenAI aflat în testare, iar echipa companiei a alertat inclusiv autoritățile competente, tratând incidentul drept un posibil atac cibernetic extern.
Abia ulterior cele două companii au stabilit legătura și au început să colaboreze pentru investigarea completă a incidentului. Directorul executiv al Hugging Face, Clement Delangue, a comentat public situația, subliniind că este uluitor faptul că întregul incident s-a desfășurat complet autonom, fără intervenție umană directă. El a mai transmis că investigația este în desfășurare și că vor fi împărtășite public concluziile, ceea ce ar putea reprezenta primul caz documentat de acest tip la nivel mondial.
Specialiștii în securitate cibernetică au reacționat rapid la vestea acestui incident. Gina Neff, cercetătoare la Universitatea Cambridge, a explicat că mediile de testare de tip sandbox ar trebui să fie complet securizate, însă în acest caz nivelul de protecție nu a fost suficient pentru a preveni evadarea sistemului. Neil Lawrence, profesor de învățare automată la aceeași universitate, a numit incidentul o realizare impresionantă din punct de vedere tehnic, dar a atras atenția că această capacitate se încadrează, de fapt, în limitele deja cunoscute ale generației actuale de modele AI de mare putere.
El a mai adăugat că OpenAI se pregătește pentru o eventuală listare la bursă și se confruntă cu presiune competitivă tot mai mare din partea rivalei Anthropic, cunoscută pentru modelul său avansat, Mythos. Alți experți din industrie, printre care reprezentanți ai companiilor SonicWall și Guidepoint Security, au avertizat că incidentul arată o discrepanță tot mai mare între viteza cu care atacatorii digitali, inclusiv cei bazați pe inteligență artificială, pot acționa și capacitatea organizațiilor de a se apăra eficient. Potrivit acestora, atacurile automatizate ating deja „viteza mașinii”, în timp ce multe companii încă se bazează pe metode de apărare gândite la scară umană.