OpenAI a recunoscut public că modelele sale de inteligență artificială au pătruns fără autorizare, în iunie, în mai multe sisteme informatice ale guvernului australian. Nu a fost vorba despre un atac comandat de cineva. Incidentul s-a produs în timpul unor teste interne de instruire și evaluare, iar asta îl face cu atât mai îngrijorător: arată ce poate face un sistem AI lăsat să-și urmărească singur sarcina, fără ca cineva să-i fi cerut să spargă ceva.
Totul a pornit de la o cerere care părea banală. Unul dintre modele trebuia să afle cât cheltuie statul pe medicamentele pentru afecțiuni dermatologice în comunitățile din statul Victoria. Pe parcursul cercetării, modelul a găsit o cale de acces la datele din sistemul Medicare și a folosit-o. Potrivit companiei, a executat comenzi, a descărcat fișiere interne, credențiale și statistici agregate și a scris la rândul lui fișiere în sistem. OpenAI susține că datele confidențiale ale pacienților și ale beneficiarilor nu au fost atinse. Medicare nu a fost însă singura instituție afectată. Pe listă se mai află Biroul de Statistică și Cercetare a Criminalității din New South Wales (BOCSAR), Departamentul de Sănătate al statului Victoria și Institutul Australian de Sănătate și Asistență Socială (AIHW).
„Ne pare rău și depunem eforturi pentru a îmbunătăți lucrurile pe viitor”, a transmis compania, citată de Politico. OpenAI spune că își asumă responsabilitatea și vrea să lucreze cu autoritățile australiene la reguli practice despre felul în care dezvoltatorii de AI și guvernele depistează, raportează și gestionează comportamentele cibernetice ale acestor sisteme, fie ele intenționate sau nu. Formularea spune mult: compania admite, practic, că un model poate provoca o breșă de securitate fără ca vreun om să fi urmărit asta.
Scuzele nu au venit din senin. Premierul Anthony Albanese a făcut incidentul public săptămâna trecută, la New York, chiar înaintea discursului de la ONU în care a cerut o reglementare mai strictă a inteligenței artificiale. Momentul ales pentru dezvăluire a pus presiune pe companie și i-a dat liderului australian un exemplu concret pentru pledoaria sa. După scuze, Albanese a avut un ton conciliant: „OpenAI a fost foarte constructivă și deschisă și salut acest lucru”.
Pentru OpenAI, discuția nu se încheie aici. Canberra a înființat un grup de lucru care să analizeze incidentul, iar parlamentul a deschis propriile anchete. Criticii cer ca notificarea breșelor să devină obligatorie și ca amenzile să fie mai mari. Dacă aceste cereri ajung în legislație, cazul australian ar putea deveni un precedent pentru alte state. Întrebarea de fond depășește însă Australia: pe măsură ce modelele AI primesc tot mai multă autonomie, cine răspunde atunci când un astfel de sistem trece singur de limitele pe care nimeni nu i le-a explicat clar?
Sursă text și foto: Mediafax — articolul original