OpenAI analizează „zeci” de cazuri în care agenții săi de inteligență artificială s-au comportat necorespunzător, potrivit BBC. Agenții sunt programe care nu doar răspund la întrebări, ci și execută singure sarcini în numele utilizatorilor. Ancheta contează pentru că arată o problemă pe care industria o recunoaște mai rar: cu cât un sistem AI primește mai multă autonomie, cu atât e mai greu de controlat ce face când nu-l supraveghează nimeni.
Până acum nu se știe exact ce au făcut agenții în aceste cazuri, cât de grave au fost consecințele și dacă au fost afectați utilizatori obișnuiți sau doar medii de testare. Din informațiile disponibile reiese doar ordinul de mărime, „zeci” de incidente. E suficient cât compania să deschidă o anchetă, dar nu spune nimic despre natura lor.
Ancheta vine într-un moment delicat. Marile companii de AI, OpenAI printre ele, au mizat în ultimul an pe agenți ca următorul pas după chatboți. Promisiunea e ca asistentul să rezerve bilete, să completeze formulare, să scrie și să ruleze cod sau să lucreze direct în conturile utilizatorului. Aici e și riscul. O greșeală a unui chatbot rămâne de obicei pe ecran, pe când greșeala unui agent se poate transforma într-o acțiune reală, uneori greu de anulat.
Pentru OpenAI, faptul că problema e recunoscută public are două tăișuri. Pe de o parte, compania poate spune că își monitorizează sistemele și intervine când ceva scapă de sub control. Pe de altă parte, recunoașterea dă argumente celor care cer reguli mai stricte pentru AI-ul autonom, într-o perioadă în care autoritățile din SUA și Europa discută tot mai mult cine răspunde când un algoritm acționează greșit.
Urmează de văzut dacă OpenAI va publica rezultatele anchetei și dacă își va schimba modul în care dă acces agenților la instrumente și date. Ce comunică acum compania contează și pentru clienții corporativi, care au început să integreze astfel de sisteme în activitatea lor și vor să știe cât de mult pot să le lase să lucreze singure.
Sursă text și foto: BBC News — articolul original