Urmăreşte Jurnalul pe Discover Adaugă Jurnalul ca sursă preferată Hepta/ Compania va introduce și notificări periodice prin care adolescenții vor fi încurajați să ia pauze de la conversațiile cu ChatGPT Cercetătorul-șef al OpenAI, Jakub Pachocki, a cerut „prudență extremă” în privința dezvoltării accelerate a inteligenței artificiale, avertizând că ar putea fi nevoie de măsuri suplimentare pentru ca oamenii să nu piardă controlul asupra viitorului. Într-o postare publicată pe blogul companiei, intitulată sugestiv „An Alien Mind” („O minte străină”), Pachocki a scris că este îngrijorat de faptul că nimeni nu pare pregătit pentru consecințele unei creșteri continue și rapide a inteligenței mașinilor.
„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție va avea un rezultat bun pentru umanitate”, a scris cercetătorul. Un avertisment venit chiar din interiorul companiei Mesajul apare la doar câteva zile după ce OpenAI a lansat GPT-6 Astra, prezentat drept cel m ai puternic model dezvoltat vreodată de companie. În paralel, atât OpenAI, cât și alte firme din domeniu, printre care Anthropic, au raportat cazuri de agenți AI capabili să acționeze autonom și să lanseze atacuri cibernetice reale asupra altor companii, potrivit BBC.
Un exemplu citat: în iulie, OpenAI a descris drept „fără precedent” un incident în care agenți AI ai companiei — sisteme care funcționează autonom după ce primesc instrucțiuni de la oameni — au atacat platforma tehnologică Hugging Face. Pachocki a precizat că OpenAI va continua să dezvolte „sisteme defensive” și soluții tehnice pentru alinierea inteligenței artificiale la obiectivele și valorile umane — conceptul cunoscut în domeniu drept „alignment”. Una dintre priorități, spune el, va fi crearea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul dezvoltării tehnologice, dar care să lase în continuare loc implicării cercetătorilor umani.
Nu toată lumea a primit propunerea cu entuziasm. Gina Neff, profesoară și directoare a Minderoo Centre for Technology and Democracy de la Universitatea Cambridge, a criticat ideea concentrării pe agenți AI interni în locul unor reglementări și mecanisme de protecție mai stricte, subliniind că astfel de sisteme nu răspund problemelor deja existente — de la riscurile de securitate cibernetică, la pierderea locurilor de muncă, erori și fraude. Nathan Calvin, consilier juridic al organizației Encode AI, a precizat că împărtășește îngrijorările privind riscurile modelelor AI avansate, dar a acuzat OpenAI de lipsă de transparență.
În opinia lui, avertismentele companiei riscă să fie percepute drept „hype” interesat, atât timp cât OpenAI nu oferă detalii concrete despre motivele reale ale prudenței cerute. Pachocki a cerut stabilirea unor praguri minime de siguranță, impuse prin lege sau prin acorduri internaționale, verificabile de auditori independenți sau agenții guvernamentale. Potrivit acestuia, companiile de AI ar trebui să îndeplinească aceste criterii înainte de a putea continua dezvoltarea la scară tot mai mare sau lansarea de modele avansate.
Cercetătorul a susținut și ideea unor „încetiniri voluntare” — perioade în care companiile și-ar reduce temporar ritmul de antrenare a modelelor avansate, până la stabilirea unor mecanisme comune de siguranță. În august, OpenAI a comunicat deja că a încetinit antrenarea unora dintre cele mai avansate modele ale sale, tocmai pentru a îmbunătăți securitatea.