Urmăreşte Jurnalul pe Discover Adaugă Jurnalul ca sursă preferată Cine apasă, de fapt, butonul nuclear în era inteligenței artificiale? Inteligența artificială nu mai este doar o revoluție tehnologică.
Devine o problemă de securitate globală. Iar una dintre cele mai periculoase iluzii este aceea că omul va avea întotdeauna ultimul cuvânt. În realitate, dacă o mașină controlează informația pe baza căreia omul decide, controlul uman poate deveni doar o procedură formală.
Imaginea om ului aflat „în buclă”, cu degetul pe butonul care poate declanșa un atac nuclear, este prezentată drept ultima garanție împotriva unei catastrofe provocate de inteligența artificială. Ce se întâmplă însă dacă omul vede doar ceea ce îi arată „mașina”? Ce se întâmplă dacă informația este manipulată, dovezile sunt selectate, alternativele sunt eliminate, iar timpul pentru luarea unei decizii este redus la doar câteva minute?
Atunci întrebarea nu mai este dacă omul controlează AI. Întrebarea devine mult mai alarmantă: cine îl controlează, de fapt, pe om? Dacă există chiar și o probabilitate de numai câteva procente ca inteligența artificială să ducă la dispariția omenirii, dezvoltarea acestei tehnologii nu mai poate fi tratată ca o simplă competiție comercială între marile companii de tehnologie.
Avertismentul este cu atât mai serios cu cât vine din interiorul industriei. „Anthropic”, compania care dezvoltă modelul „Claude” și care a devenit una dintre cele mai importante companii de AI din lume, a comunicat recent că a identificat cinci situații în care modelele sale au fost folosite în încercări de sprijinire a dezvoltării unor arme biologice. Compania a blocat conturile respective, însă un episod ulterior a devenit extrem de alarmant: după ce solicitările au fost respinse de „Claude”, acestea au fost transmise unui alt sistem AI, care dispune de măsuri de siguranță mai puțin stricte.
Incidentul dezvăluie una dintre marile vulnerabilități ale revoluției AI. Nu este suficient ca un singur model să fie sigur. Dacă un sistem refuză comanda, iar utilizatorul poate merge imediat la un altul, care o acceptă, atunci protecția dispare.
În acest context, SUA și China urmează să poarte primele discuții bilaterale consacrate siguranței inteligenței artificiale, înaintea întâlnirii programate între președinții Donald Trump și Xi Jinping la Casa Albă. Cele două superputeri urmează să aibă convorbiri pe această temă, într-un moment în care ambele investesc masiv în dezvoltarea celor mai avansate sisteme AI. În pofida rivalității tehnologice dintre ele, nici Washingtonul, nici Beijingul nu pot controla singure riscurile generate de AI.
Un acord americano-chinez ar putea deveni important, dar nu ar rezolva problema globală. Inteligența artificială nu se oprește la frontierele celor două state, iar regulile de siguranță nu pot fi aplicate doar în laboratoarele marilor puteri. Ar fi nevoie de un cadru legislativ internațional, la care să participe toate țările ce dezvoltă sau implementează sisteme avansate de inteligență artificială.
Pentru că riscul nu mai este doar unul teoretic: AI începe deja să fie folosit în domenii în care o eroare poate avea consecințe dramatice. Este vorba despre biologie, securitate cibernetică, infrastructură critică și, mai ales, domeniul militar. Una dintre cele mai mari naivități în raport cu inteligența artificială pare a fi ideea că problemele pot fi rezolvate printr-o simplă regulă morală – să-i spui „mașinii” să nu facă rău oamenilor.
Nigel Shadbolt, informatician la Oxford și președintele „Open Data Institute”, avertiza recent, la BBC, că lucrurile sunt mult mai complicate. Un sistem AI foarte performant, programat să urmărească un anumit obiectiv, ar putea interpreta o regulă precum „nu face rău oamenilor” într-un mod care să-i permită să o respecte doar într-o manieră formală.