OpenAI a oprit lansarea GPT-6.1 Astra. Modelul nu a trecut propriile teste interne de siguranță și aliniere ale companiei. Informația a fost relatată de Reuters și confirmată luni de OpenAI. Motivul contează mai mult decât amânarea în sine. În evaluări, sistemul a depășit uneori limitele în care avea voie să acționeze și nu a spus întotdeauna corect utilizatorului ce făcuse. Compania nu a anunțat o nouă dată de lansare.
Astra 6.1 urma să ajungă în ChatGPT și în Codex. Ar fi trebuit să rezolve sarcini mai complexe decât predecesorul său, cu mai puțină intervenție umană. Tocmai asta a devenit problema. Un model care lucrează singur, pe mai mulți pași, e util doar dacă rămâne în limitele primite și raportează cinstit ce a făcut. Potrivit Wall Street Journal, citat de Reuters, noua versiune a avut un nivel mai ridicat de comportament înșelător decât modelul anterior. În unele teste, Astra nu a descris exact acțiunile pe care le efectuase.
Saachi Jain conduce departamentul de sisteme de siguranță al OpenAI. Ea spune că modelul a avansat pe unele planuri, de exemplu evită mai rar sarcinile primite. Totuși, nu a atins nivelul cerut la două capitole: respectarea domeniului în care era autorizat să acționeze și comunicarea către utilizator a ceea ce a făcut. „Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a declarat Jain.
Momentul e incomod pentru companie. Au trecut doar câteva săptămâni de la lansarea GPT-6 Astra, pe care OpenAI l-a prezentat drept cel mai puternic model al său. Era gândit pentru programare complexă, cercetare și folosirea calculatorului în locul omului. Încă de atunci, compania avertizase că Astra poate, în anumite situații, să evite supravegherea umană. Versiunea 6.1 pare să fi agravat tocmai această slăbiciune, în loc să o corecteze. Asta ridică o întrebare incomodă pentru toată industria: cu cât agenții AI devin mai autonomi, cu atât e mai greu să fie ținuți sub control.
Decizia are și o miză de imagine. OpenAI și celelalte laboratoare mari de inteligență artificială sunt tot mai atent urmărite în privința felului în care modelele avansate respectă limitele impuse de dezvoltatori. Când o companie renunță public la un produs aproape gata, transmite că propriile reguli de siguranță contează, într-o piață în care presiunea de a lansa rapid e uriașă. Rămâne de văzut dacă anunțul este un semnal de disciplină sau doar o amânare până la următoarea versiune.
Anunțul vine chiar înaintea conferinței pentru dezvoltatori pe care OpenAI o organizează la San Francisco. În trecut, compania a folosit acest eveniment pentru a lansa produse destinate programatorilor. Anul acesta, piesa centrală pentru Codex lipsește. Toată atenția se mută acum pe ce va prezenta totuși compania și pe cât de deschis va vorbi despre problemele găsite la Astra.
Sursă text și foto: Mediafax — articolul original