Avertismentul vizează în special dezvoltarea unor sisteme de IA tot mai autonome, ale căror capacități ar putea depăși capacitatea oamenilor de a le controla. Comisarul ONU a făcut declarațiile luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului.
El a cerut instituirea rapidă a unui sistem de guvernanță pentru inteligența artificială, înainte ca tehnologia să devină mai dificil de controlat. „O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a avertizat Înaltul Comisar. El a subliniat că sunt necesare „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.
„Linii roșii” pentru dezvoltarea inteligenței artificiale Volker Türk consideră că toate statele care găzduiesc infrastructura de inteligență artificială și cele care participă la lanțurile de aprovizionare ar trebui să stabilească linii roșii comune privind dezvoltarea și utilizarea acestei tehnologii. „Avem nevoie, cel puțin, ca țările care găzduiesc IA și cele care participă la lanțurile lor de aprovizionare să convină asupra unor linii roșii comune”, a precizat oficialul ONU. Oficialul a cerut și verificarea independentă a sistemelor de inteligență artificială, precum și o cooperare mai strânsă între companiile din industrie în privința siguranței.
Türk a comunicat că intenționează să transmită în următoarele zile o scrisoare companiilor din sector, prin care le va îndemna să ia măsurile pe care le au la dispoziție pentru reducerea riscurilor. Modelele IA, capabile de acțiuni tot mai complexe Modelele generative sunt deja capabile să execute sarcini complexe și să ia anumite decizii fără intervenție umană permanentă. Unele sisteme pot identifica singure pașii necesari pentru îndeplinirea unei sarcini, în loc să urmeze doar instrucțiuni succesive primite de la utilizator.
Tocmai această autonomie tot mai mare ridică probleme privind modul în care comportamentul lor poate fi supravegheat și limitat. ONU despre miza IA: locurile de muncă și democrația Potrivit ONU, riscurile inteligenței artificiale nu se opresc însă la posibilitatea ca sistemele să devină tot mai autonome. Volker Türk atrage atenția și asupra efectelor pe care tehnologia le poate avea asupra vieții de zi cu zi.
El a cerut evaluarea impactului inteligenței artificiale asupra pieței muncii, democrației și mediului, precum și asupra drepturilor fundamentale. Türk a criticat și concentrarea puterii tehnologice în mâinile unui număr redus de companii și persoane, subliniind că dezvoltarea IA trebuie să fie însoțită de reguli care să protejeze drepturile oamenilor. „Un risc existențial pentru umanitate” Oficialul ONU a dat drept exemple măsurile adoptate de Uniunea Europeană și Coreea de Sud pentru limitarea riscurilor din mediul digital și din domeniul inteligenței artificiale.
În UE, Digital Services Act (DSA) obligă marile platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, să respecte cerințe de transparență și să ia măsuri împotriva conținutului ilegal. Companiile care încalcă regulile riscă amenzi de până la 6% din cifra de afaceri anuală globală. Coreea de Sud a introdus, la rândul său, reguli dedicate inteligenței artificiale.
Printre acestea se numără obligația de a informa utilizatorii atunci când interacționează cu anumite sisteme de IA și cerințe de transparență pentru conținutul generat artificial. El a avertizat însă că recunoașterea necesității unor reguli nu s-a transformat încă suficient în măsuri concrete. „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a afirmat Volker Türk.