Într-un interviu pentru The Guardian, Chris Lehane, directorul OpenAI pentru afaceri globale, a afirmat că oamenii ar trebui să se pregătească să se apere împotriva atacurilor cibernetice „continue și persistente” lansate cu ajutorul inteligenței artificiale, pe măsură ce modelele AI de ultimă generație dobândesc capacități avansate de a planifica și lansa ofensive. „Intrăm într-un nou capitol, într-un moment diferit în istoria inteligenței artificiale, în ceea ce privește capacitățile acestei tehnologii”, a precizat Lehane pentru The Guardian.
El a făcut aceste comentarii după ce agenți AI aflați în faza de antrenament au reușit să evadeze dintr-un mediu de testare considerat securizat, să acceseze internetul și să pătrundă în sistemele altei companii, Hugging Face , la sfârșitul lunii iulie. Lehane: Este pur și simplu realitatea spre care ne îndreptăm Lehane a indicat drept sursă a riscului modelele open-source, întrucât multe dintre acestea sunt dezvoltate în China și se află la doar câteva luni în urma celor mai avansate modele dezvoltate de companii precum OpenAI. „Oamenii vor putea avea acces la aceste modele open-source și vor putea lansa atacuri continue și persistente asupra voastră, iar voi veți avea nevoie de modele cu adevărat superioare pentru a le contracara și pentru a vă apăra.
Nu este neapărat ceva care să-i facă pe oameni să se simtă bine. Este pur și simplu realitatea spre care ne îndreptăm”, a precizat el pentru sursa citată. Lehane a reluat apelurile către guvernul SUA pentru a adopta o legislație care să stabilească reguli privind siguranța celor mai avansate modele AI.
El a afirmat că faptul că cele mai avansate și încă nepublicate modele AI par să îmbunătățească atacurile cibernetice mai rapid decât apărarea se numără „printre motivele pentru care consider că este absolut imperativ ca această țară să adopte o lege națională care să stabilească standarde obligatorii de siguranță, iar în acesteia elementul de pauză să fie inerent și integrant al acestui proces”. OpenAI a comunicat marți că a suspendat antrenarea unora dintre cele mai avansate modele de inteligență artificială pentru a introduce noi măsuri de siguranță. Nu este clar când va fi reluat antrenamentul acestora, după implementarea noilor mecanisme de protecție.