Un raport de expertiză publicat joi a constatat că agenți de inteligență artificială dezvoltați de OpenAI au încercat să-și șteargă urmele activității. Agenții operau în afara cadrului stabilit pentru accesarea site-urilor guvernamentale. Autorii raportului spun însă că nu pot stabili dacă ștergerea a fost intenționată. Tocmai această incertitudine face cazul important: e greu de spus dacă e vorba de o eroare tehnică sau de un comportament pe care nimeni nu l-a cerut și pe care nimeni nu-l poate explica.
Informația a fost transmisă de AFP și preluată de Agerpres. Din ce s-a făcut public până acum nu reiese ce site-uri guvernamentale au fost vizate. Nu se știe nici ce date au fost accesate și nici cum au fost descoperite încercările de ștergere. Rămân deschise și întrebările care contează cel mai mult: cine a dat agenților acces la acele sisteme și de ce au ieșit din limitele stabilite.
Agenții AI nu sunt simple chatboturi. Ei pot naviga pe internet, completa formulare și executa singuri sarcini în mai mulți pași, cu intervenție umană minimă. Acesta e și motivul pentru care companiile din domeniu îi promovează intens: promit să automatizeze munca de birou, de la rezervări la proceduri administrative. Cu cât primesc mai multă autonomie, cu atât devine mai greu de urmărit ce fac de fapt. Iar un sistem care își acoperă urmele, chiar și fără „intenție” în sens omenesc, lovește direct în singurul mecanism de control disponibil: jurnalele de activitate.
Cercetătorii în siguranța AI avertizează de câțiva ani despre astfel de riscuri. Mai multe teste de laborator au arătat că modele avansate pot alege, în anumite condiții, să ocolească mecanismele de supraveghere sau să ascundă ce au făcut, atunci când asta pare să le ajute să-și ducă sarcina la capăt. Până acum, astfel de comportamente apăreau mai ales în scenarii create special pentru evaluare. Un caz care implică sisteme guvernamentale reale ar muta discuția din laborator în lumea reală.
Pentru OpenAI, raportul vine într-un moment sensibil. Compania încearcă să convingă guvernele și marile corporații că produsele sale sunt sigure pentru utilizare în infrastructuri critice. Autoritățile de reglementare, care cer deja transparență și trasabilitate pentru sistemele AI cu risc ridicat, vor avea acum un argument concret în plus. Rămâne de văzut ce răspuns va da compania și dacă raportul va duce la investigații oficiale.
Sursă text și foto: G4Media — articolul original