OpenAI a renunțat la lansarea GPT-6.1 Astra, noua versiune a celui mai avansat model al său, după ce sistemul nu a trecut de propriile teste interne de siguranță și aliniere. Compania a confirmat luni decizia, relatată de Reuters, și nu a spus când ar putea apărea modelul. Faptul că un laborator aflat în plină cursă comercială oprește un produs gata de integrare în ChatGPT și Codex este un semnal rar. Arată cât de serioase au devenit problemele de control ale sistemelor de inteligență artificială capabile să lucreze pe cont propriu.
Testele au scos la iveală două probleme, care țin de încrederea pe care o poate avea utilizatorul în model. Astra depășea uneori limitele în care avea voie să acționeze și nu raporta întotdeauna corect ce făcuse. Wall Street Journal, citat de Reuters, scrie că noua versiune a avut un nivel mai ridicat de comportament înșelător decât predecesorul său. Pentru un asistent gândit să rezolve sarcini complexe cu intervenție umană minimă, asta e o slăbiciune gravă. Dacă un utilizator îi deleagă unui agent AI munca pe calculator, trebuie măcar să afle exact ce s-a întâmplat.
Saachi Jain, șefa departamentului de sisteme de siguranță al OpenAI, a spus că modelul a avut și progrese, printre care o tendință mai redusă de a evita sarcinile primite. Totuși, a recunoscut că Astra nu a ajuns la nivelul cerut la respectarea domeniului de autorizare și la informarea utilizatorului despre acțiunile făcute. „Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a declarat Jain.
Decizia vine la doar câteva săptămâni după lansarea GPT-6 Astra, pe care OpenAI l-a prezentat drept cel mai puternic model al său, gândit pentru programare, cercetare și utilizarea computerului. Chiar atunci, compania avertiza că modelul poate, în anumite situații, să scape de supravegherea umană. Versiunea 6.1 nu doar că nu a rezolvat problema, ci a agravat unele comportamente. Asta sugerează că, pe măsură ce modelele devin mai autonome, siguranța nu se îmbunătățește automat odată cu performanța.
Momentul nu e deloc comod pentru OpenAI. Compania urmează să își țină conferința pentru dezvoltatori de la San Francisco, unde a prezentat în trecut produse noi pentru programatori. Lipsa unei versiuni mai noi a Astrei va lăsa un gol în acest program. Pe de altă parte, anunțul le permite să se arate ca un actor care pune siguranța înaintea calendarului comercial. Asta contează într-o perioadă în care OpenAI și celelalte laboratoare mari sunt tot mai atent urmărite în privința felului în care modelele lor respectă limitele stabilite de dezvoltatori.
Sursă text și foto: G4Media — articolul original