Bill Gates cere ca guvernele să intervină ferm în dezvoltarea inteligenței artificiale. Motivul, spus fără menajamente: tehnologia este deja suficient de puternică pentru a face posibile evenimente cu până la un miliard de victime. Într-un interviu pentru emisiunea „Meet the Press” de la NBC News, fondatorul Microsoft a spus că firmele din domeniu nu mai pot fi lăsate să-și stabilească singure regulile și că e nevoie de reglementare obligatorie, cu supraveghere din partea autorităților. „Nimeni nu crede că autoreglementarea este suficientă”, a rezumat el.
Trebuie spus clar ce a afirmat Gates și ce nu. Nu a spus că o catastrofă de asemenea proporții se va produce și nici nu i-a atribuit vreo probabilitate. A descris dimensiunea celui mai grav scenariu pe care IA l-ar face realizabil. Pericolul, în viziunea lui, nu stă atât în mașini, cât în oamenii care le folosesc. „Nu a existat niciodată o armă atât de puternică precum combinația dintre oameni cu intenții rele și cele mai noi instrumente de inteligență artificială”, a explicat miliardarul. Teama lui, repetată de mai multe ori în ultimii ani, este că modelele avansate scad pragul de acces la cunoștințe periculoase. Cineva fără pregătire de specialitate ar putea planifica un atac cibernetic, ar putea găsi vulnerabilități în sisteme sau, în cazul extrem, ar putea primi ajutor la proiectarea și răspândirea unui agent biologic.
Soluția propusă de Gates vine din domeniile în care omenirea a învățat deja, uneori pe pielea ei, să gestioneze riscuri majore. El a sugerat o structură internațională de supraveghere a IA, după modelul organismelor care controlează energia nucleară sau aviația. Concret, cele mai puternice modele ar urma să fie verificate înainte de lansarea pe scară largă, iar incidentele să fie raportate și investigate după proceduri clare. Gates recunoaște că asemenea reguli ar crește costurile companiilor, dar susține că nu ar opri progresul. Într-un interviu anterior, el enumerase printre riscurile pe care statele trebuie să le trateze serios bioterorismul, atacurile informatice, manipularea utilizatorilor și perturbarea masivă a pieței muncii.
Poziția lui Gates e interesantă tocmai pentru că nu vine de la un adversar al tehnologiei. Numele lui rămâne legat de Microsoft, una dintre companiile care au mizat cel mai mult pe IA, iar el continuă să vorbească despre beneficiile uriașe pe care aceasta le poate aduce în medicină, educație și agricultură, mai ales în țările sărace. Chiar în această săptămână a pledat pentru folosirea „inteligentă” a IA în reducerea inegalităților și în găsirea unor soluții care salvează vieți. Mesajul lui nu este deci „opriți-vă”, ci „nu mai conduceți fără centură”. Iar un asemenea mesaj cântărește mai greu la Washington sau la Bruxelles decât avertismentele venite din afara industriei.
Momentul nu e întâmplător. Declarațiile vin după o serie de semnale de alarmă venite chiar din laboratoarele care construiesc modelele de ultimă generație. La începutul lui septembrie, cercetătorul Jacob Coxon și-a anunțat plecarea de la Anthropic. El a acuzat marile laboratoare că se grăbesc să construiască sisteme capabile să se autoperfecționeze și că „se joacă cu viețile noastre”. Coxon a mai spus că cei care dezvoltă tehnologia cred sincer că aceasta „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Este o evaluare personală, nu o concluzie demonstrată științific, însă nu e izolată: colegul său Evan Hubinger a confirmat că echipa sa tratează dispariția omenirii drept o posibilitate reală.
Adevărata miză se va juca în ritmul în care legislatorii reușesc să țină pasul cu tehnologia. Companiile vor susține că regulile prea stricte le încetinesc și le lasă în urma rivalilor din alte țări. Criticii vor răspunde că exact această cursă face supravegherea urgentă. Faptul că unul dintre cei mai influenți oameni din industrie se alătură acum celor care cer reguli obligatorii mută dezbaterea. Întrebarea nu mai este dacă inteligența artificială trebuie reglementată, ci cine o va face, cât de repede și cu ce putere reală de control.
Sursă text și foto: Jurnalul Național — articolul original