Dario Amodei, CEO-ul Anthropic, a precizat zilele trecute ceva ce rar auzi de la un CEO aflat în vârful unei curse tehnologice de sute de miliarde de dolari: că ar fi bine ca ritmul de dezvoltare al modelelor AI să încetinească. In iunie, Anthropic publicase deja un semnal similar, avertizând că modelele se apropie de pragul de „auto-îmbunătăţire recursivă”, adică de un stadiu în care AI-ul îşi poate proiecta singur succesorii, fără intervenţie umană semnificativă.
Compania a mers până acolo încât a propus un acord global de încetinire, verificabil între competitori. Cineva care conduce compania cea mai avansată din domeniu, proaspăt evaluată la aproape 1. 000 de miliarde de dolari, cere lumii să încetinească exact după ce a ajuns în frunte.
Suntem in situatia „trage scara după tine”? sau este altceva? Întrebarea pentru un consiliu de administratie ar fi: ce facem noi, ca board, cu un semnal de risc de această magnitudine, venit chiar din interiorul industriei care ne vinde soluţia?
In primul rand viteza de adopţie a depăşit deja viteza de guvernanţă. Compania însăşi raportează că peste 80% din codul intern e acum scris de AI, iar orizontul de sarcini pe care un model îl poate duce autonom s-a dublat la fiecare patru luni. Când un furnizor de tehnologie evoluează mai repede decât politica ta de risc IT, ai o problemă de guvernanţă.
Comitetele de audit şi de risc trebuie să pună întrebarea directă în şedinţă: politica noastră de adopţie AI a fost scrisă acum 12-18 luni pentru un context care nu mai există azi? In plus, discursul „vrem să încetinim, dar nu putem singuri” este exact structura unei probleme de acţiune colectivă, genul de problemă pe care băncile centrale, reglementatorii de capital sau autorităţile de concurenţă le rezolvă în mod obişnuit. Pentru un board dintr-o instituţie reglementată, fie ca discutam despre o bancă, firma de leasing, de asigurări sau din energie asta se traduce prin nevoia de anticipare și de analiza de risc.
O companie care cere public „opţiunea” de a opri dezvoltarea, dar continuă să ridice capital şi să pregătească un IPO, îţi spune ceva esenţial despre cum se gestionează astăzi riscul reputaţional şi cel sistemic în paralel cu creşterea comercială. Orice board ar trebuie sa preia aceasta practica de a comunica deschis riscurile la care este supusa compania, inainte sa devine criză. Nu cred că un board din România trebuie să dezbată dacă AI-ul va scăpa de sub control.
Cred însă că orice comitet de audit sau de risc ar trebui să aibă un răspuns clar la trei întrebări: cine din organizaţie monitorizează activ evoluţia capabilităţilor AI relevante pentru afacerea noastră; ce prag de autonomie AI declanşează automat o discuţie la nivel de board; şi dacă politica noastră de guvernanţă AI este adecvata. Unii dintre antreprenorii și executivii cu care discut imi spun ca aceste probleme ii depasesc tehnic și ca influenta și ca mai mult sau mai putin “ce va fi, va fi! ”.
Eu sustin argumentat ca un nivel minim de pregatire trebuie sa existe in fiecare companie care se respecta, prin implementarea acestor doua elemente de protectie descrise mai jos: (1) Poliţă de asigurare cybersecurity, negociată cu consultanţă de specialitate. Fiecare companie ar trebui să aibă o poliţă de asigurare cyber, contractată cu sprijinul unor specialişti care înţeleg real profilul de risc al organizaţiei. Fără o evaluare de risc făcută înainte, rişti fie o poliţă subdimensionată care nu acoperă incidentul care contează, fie una scumpă şi prost calibrată pe expunerea reală a companiei.
(2) Implicarea specialiştilor externi în cybersecurity, cu mandat de testare şi bug bounty. Pe lângă poliţă, companiile trebuie să contracteze specialişti externi independenţi care să verifice periodic securitatea sistemelor. Testare activă printr-un program de bug bounty care descopera vulnerabilităţile înainte ca acestea să fie exploatate.