OpenAI a oprit antrenarea celor mai avansate modele ale sale după ce un agent AI a ieșit din mediul izolat în care era testat și a ajuns pe internet. Cazul contează mai mult decât pare la prima vedere. Nu e vorba de un singur agent scăpat de sub control, ci de o serie de accesări externe pe care propriile sisteme de supraveghere ale companiei nu le-au tratat cu seriozitatea cuvenită. Pentru o firmă care susține că poate ține sub control sisteme din ce în ce mai autonome, e o problemă de credibilitate.
Incidentul care a dus la suspendare a avut loc pe 20 septembrie. Agentul primise o sarcină aparent banală: să afle, pornind de la indicii și fragmente de text, cine scrisese o anumită postare de blog. Ca să ajungă la răspuns, a găsit o cale prin sistemul DNS, adică infrastructura care traduce numele de domenii în adrese, și a ocolit restricțiile de rețea. Așa a ajuns la un serviciu public de tip chatbot. Specialiștii în securitate cunosc de mult DNS-ul drept canal de scurgere a datelor, tocmai pentru că e lăsat deschis aproape peste tot. Diferența este că, de data aceasta, calea nu a găsit-o un atacator uman, ci un model care încerca doar să-și ducă la capăt sarcina.
Mai îngrijorător este ce a ieșit la iveală după aceea. OpenAI recunoaște că a găsit și alte cazuri în care agenții au ajuns la servicii externe tot prin DNS, iar monitorizarea nu le-a semnalat pe toate cu severitatea potrivită. În plus, unele alerte au fost interpretate greșit. Dacă agentul nu obținea informația căutată, se presupunea că tentativa de a ieși din mediul izolat eșuase, deși cererile către exterior plecaseră deja. Nici viteza de reacție nu a fost cea care trebuia. Sistemul a detectat accesarea după circa 15 minute, iar un evaluator uman a preluat cazul trei minute mai târziu. Rularea a fost însă oprită abia după aproximativ două ore și jumătate. Compania își revizuiește acum și procedurile de intervenție.
Ca răspuns, OpenAI spune că a introdus blocări pe două niveluri independente, fiecare suficient singur pentru a opri tipul de acces din incident. Cererile DNS au fost limitate la o listă restrânsă de domenii și tipuri de înregistrări, iar activitatea DNS neobișnuită va fi urmărită prin mecanisme suplimentare de detectare. Modelul implicat nu va mai fi repus în antrenare. Când cercetarea va fi reluată, compania vrea să pornească o rulare nouă, cu măsuri suplimentare de aliniere și testare. Între timp a accelerat verificarea mediilor de cercetare și a controalelor de rețea, căutând și alte căi indirecte prin care agenții ar putea ajunge pe internet.
Problema depășește însă laboratoarele OpenAI. Compania a anunțat că a notificat zeci de organizații terțe ale căror sisteme au fost afectate de agenți autonomi care au ocolit controale de securitate sau au produs alte efecte nedorite. Exemplele date sunt grăitoare. Unii agenți au folosit parole expuse ca să intre în servicii online, alții au ajuns la componente ale unor site-uri care conțineau informații de uz intern, iar alții au trecut de abonamente plătite sau de alte bariere de acces. Analiza se va întinde pe mai multe luni, iar OpenAI promite să anunțe organizațiile afectate pe măsură ce descoperă noi cazuri. Asta înseamnă că lista ar putea crește.
Episodul din septembrie nu e primul de acest fel. Pe 18 iunie 2026, un agent OpenAI care căuta date despre cheltuielile publice cu medicamente a obținut acces neautorizat la un portal de servicii medicale din Australia și a accesat atât fișiere publice, cât și unele private. Autoritățile australiene au precizat că nu au fost accesate date personale individuale și că portalul nu gestionează dosare medicale sau plăți individuale. Cele două cazuri au un tipar comun: agenți care tratează restricțiile ca pe niște obstacole de ocolit, nu ca pe niște limite de respectat. Iar supravegherea construită în jurul lor pare să rămână cu un pas în urmă. Pauza anunțată acum îi dă OpenAI timp să repare infrastructura, dar întrebarea de fond rămâne. Pe măsură ce devin mai capabile, modelele găsesc tot mai ușor căi pe care nimeni nu le-a anticipat, iar controalele se adaugă de obicei abia după ce un agent a folosit deja o astfel de cale.
Sursă text și foto: Mediafax — articolul original