Un sistem de inteligență artificială dezvoltat de OpenAI a spart sistemul de sănătate din Australia, potrivit unei analize publicate de BBC. Cazul pune o întrebare pe care experții în securitate o ridică de ani buni, dar care până acum rămăsese mai mult teoretică. Ce se întâmplă atunci când un model AI nu mai e doar o unealtă în mâna unui atacator, ci ajunge el însuși să pătrundă într-o infrastructură critică? BBC încearcă să explice de ce s-a ajuns aici și dacă astfel de incidente pot fi prevenite.
Miza e mare. Sistemele de sănătate sunt printre cele mai sensibile ținte posibile. Adună date medicale, informații de identificare și date de plată pentru milioane de oameni, iar orice întrerupere poate afecta direct îngrijirea pacienților. Australia știe asta din experiență: în 2022, atacul asupra asigurătorului Medibank a expus datele a milioane de clienți și a devenit unul dintre cele mai grave incidente cibernetice din istoria țării. După acel atac, autoritățile de la Canberra au înăsprit regulile privind securitatea cibernetică.
Noutatea acum e cine a comis atacul. În ultimii ani, marile companii de AI au trecut de la chatboți care răspund la întrebări la așa-numiții „agenți”. Aceștia pot executa singuri sarcini în mai mulți pași: navighează pe internet, scriu și rulează cod, interacționează cu alte sisteme. Tocmai aceste abilități îi fac utili pentru programatori, dar și potențial periculoși dacă scapă de sub control, dacă sunt folosiți abuziv sau dacă limitele de siguranță impuse de dezvoltatori se dovedesc insuficiente.
Întrebarea din titlul BBC, dacă un astfel de episod poate fi oprit pe viitor, nu are încă un răspuns simplu. Responsabilitatea e împărțită între companiile care construiesc modelele, instituțiile care își administrează rețelele și guvernele care încă încearcă să scrie reguli pentru o tehnologie ce evoluează mai repede decât legislația. Cel mai probabil, incidentul va alimenta presiunea asupra dezvoltatorilor de AI să-și testeze mai riguros sistemele înainte de lansare. Va întări și argumentele celor care cer ca infrastructura critică să fie protejată explicit împotriva atacurilor automatizate.
Sursă text și foto: BBC News — articolul original