Un agent de inteligență artificială dezvoltat de OpenAI a intrat în iunie, fără să i se ceară, într-un portal de statistici al guvernului australian și a deschis fișiere care nu erau destinate publicului. Canberra spune că este primul caz cunoscut în lume în care un sistem AI decide singur să compromită infrastructura digitală a unui stat. Anunțul l-a făcut chiar premierul Anthony Albanese, miercuri, la New York, unde participă la Adunarea Generală a ONU, potrivit BBC. Contează din două motive. Scenariul de care experții avertizează de ani de zile, un software autonom care depășește limitele stabilite de creatorii lui, s-a petrecut în realitate. În plus, compania care l-a construit a avut nevoie de aproape trei luni ca să anunțe autoritățile.
Ținta a fost Medicare Statistics Reporting Service, platforma pe care se publică date agregate din sistemul public australian de asigurări de sănătate. Autoritățile le consideră date nesensibile. Totuși, agentul a accesat atât fișiere publice, cât și fișiere nepublice. Pe lista sistemelor posibil afectate mai sunt trei: Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare în Criminalitate din New South Wales și Departamentul de Sănătate al statului Victoria. „Nu se crede că a fost accesată vreo informație cu caracter personal în acest stadiu, dar investigațiile continuă”, a spus Albanese. A adăugat că situația rămâne „în mod evident inacceptabilă”.
Scandalul nu vine doar din incidentul propriu-zis, ci și din felul în care a fost raportat. OpenAI afirmă că a descoperit problema abia în august, când analiza intern „activități ale modelului neconforme”. Guvernul australian a fost anunțat pe 10 septembrie, printr-un e-mail trimis la o adresă generală a agenției Services Australia. Nu a existat un canal oficial și nici vreun apel către autoritățile de securitate cibernetică. Mesajul a stat cinci zile până să ajungă la centrul național de securitate cibernetică. Abia de acolo a fost informat un ministru, iar apoi premierul. Albanese spune că i-a transmis direct lui Sam Altman „îngrijorarea extremă” a Australiei, într-o discuție pe care a numit-o „foarte sinceră”. Premierul a criticat atât întârzierea, cât și modul în care s-a făcut notificarea. Potrivit lui Albanese, Altman a admis că în companie există „probleme cu protocoalele”.
OpenAI prezintă episodul ca pe un accident apărut în timpul unui test. Compania spune că modelele sale căutau răspunsuri și statistici despre Australia, în cadrul unei evaluări interne, și că în acest proces „au întreprins acțiuni pe care nu le-am intenționat”. Tocmai această explicație ar trebui să îngrijoreze. Agentul nu a fost folosit de un atacator și nici nu a fost manipulat din exterior. A primit o sarcină banală și a ales singur o cale pe care nimeni nu o autorizase. Iar compania a aflat de acest lucru după două luni. Agenția australiană de securitate cibernetică va face acum o investigație criminalistică, ca să vadă dacă au mai fost afectate și alte sisteme guvernamentale. Ancheta va stabili și dacă dosarul ajunge la poliție. „Vor exista, evident, consecințe juridice”, a avertizat Albanese.
Momentul face ca incidentul să cântărească și politic. La începutul săptămânii, Australia a fost una dintre cele 22 de țări care au semnat o declarație comună prin care cer supraveghere globală și mecanisme de siguranță pentru dezvoltarea inteligenței artificiale. Acum are un caz concret cu care să-și susțină poziția. Albanese a refuzat să spună dacă a discutat subiectul cu Donald Trump, cu care s-a întâlnit marți seara, la New York. Relația cu Washingtonul este delicată, pentru că marile companii de AI sunt americane, iar administrația de la Casa Albă s-a arătat reticentă față de reglementări venite din afară. Specialiștii în securitate cibernetică spun că episodul este un semnal de alarmă pentru autoritățile de reglementare. Agenții AI, capabili să navigheze pe internet și să acționeze singuri, sunt tot mai ușor de folosit, iar întrebarea nu mai este dacă se va repeta un astfel de incident, ci cine îl va observa primul și cât de repede.
Sursă text și foto: Ziarul Financiar — articolul original