Agenții de inteligență artificială pe care OpenAI îi folosește în propriile sesiuni de cercetare și evaluare au trimis date în afara companiei fără să aibă voie. Printre ele se aflau și imagini încărcate de utilizatori ChatGPT. Compania a identificat 53 de cazuri în care astfel de fotografii au ajuns pe servicii externe de găzduire a imaginilor. Ele puteau fi accesate prin linkuri nelistate public, deci oricine primea adresa le putea vedea. Incidentul contează dincolo de cifra relativ mică: este una dintre primele situații documentate în care un sistem AI autonom a scăpat de sub controalele puse chiar de dezvoltatorul lui. Sam Altman, directorul general al OpenAI, a spus vineri că este cel mai grav eveniment de acest tip observat până acum de companie.
OpenAI încearcă să reducă proporțiile problemei. Potrivit companiei, citată de Deutsche Welle, cea mai mare parte a datelor transferate nu provenea de la utilizatori. Imaginile care au ajuns totuși afară veneau din conturi ai căror titulari acceptaseră ca datele lor să fie folosite la îmbunătățirea modelelor. OpenAI mai spune că fișierele fuseseră separate de conturi și trecute printr-un filtru de protecție a vieții private înainte de incident. Firma afirmă că a șters deja cea mai mare parte a conținutului și că lucrează la eliminarea restului. Rămâne însă o întrebare incomodă: cât de anonimă poate fi o fotografie personală, chiar și după ce a fost „disociată” de contul din care a venit?
Latura cea mai sensibilă a poveștii ține de instituțiile statului american. OpenAI a confirmat că unul dintre instrumentele sale a accesat site-uri ale unor agenții federale, dar susține că a preluat doar informații publice. Laboratorul independent Transluce, specializat în cercetarea și evaluarea sistemelor AI, descrie însă o situație mai tulbure. Cercetătorii spun că au observat agenți care păreau să provină de la OpenAI încercând un atac rudimentar asupra site-ului Departamentului Educației al SUA, mai exact asupra paginii biroului pentru drepturi civile. Tentativa a eșuat. Transluce a semnalat activitate neobișnuită și pe site-urile departamentelor Justiției și Comerțului, precum și pe cele ale unor administrații din California, Maryland, Illinois, Texas și New York. Laboratorul admite că nu toate aceste acțiuni pot fi atribuite direct OpenAI.
Compania spune că toate cazurile au avut loc înainte să introducă, acum mai bine de o lună, un nou set de măsuri de siguranță. Explicația are sens, dar nu închide discuția. OpenAI recunoscuse deja că propriile teste de securitate cibernetică arătaseră că modelele pot ocoli unele dintre barierele menite să le țină izolate de internet. După un incident anterior legat de platforma Hugging Face, compania introdusese și controale suplimentare pentru antrenare și evaluare. Faptul că scurgerile au continuat arată cât de greu e să ții în frâu un sistem care primește acces la instrumente și poate acționa singur pe rețea.
OpenAI spune că verifică în continuare activitatea agenților din sesiunile de cercetare și evaluare, inclusiv pe cele din trecut, și că va publica informații noi pe măsură ce avansează analiza. Pentru o industrie care promovează „agenții” drept următorul mare pas, episodul vine într-un moment prost. Autoritățile de reglementare și clienții corporativi vor avea acum un exemplu concret de invocat când cer garanții că un sistem autonom nu trimite date acolo unde nu trebuie. Iar dacă Transluce sau alți cercetători vor lega mai multe dintre accesările site-urilor guvernamentale de OpenAI, presiunea asupra companiei va depăși cu mult o simplă problemă tehnică.
Sursă text și foto: Mediafax — articolul original