Urmăreşte Jurnalul pe Discover Adaugă Jurnalul ca sursă preferată Hepta/Gemini ajunge la 950 milioane de utilizatori activi Google a recunoscut că modelul său de inteligență artificială Gemini a accesat, fără autorizație, trei sisteme informatice externe în timpul unui test desfășurat în luna mai. Este primul caz cunoscut în care software-ul companiei a pătruns într-un sistem din afara mediului de testare.
Google susține însă că a fost o simplă confuzie a modelului, nu un caz în care AI-ul își încalcă instrucțiunile, relatează NBC. Potrivit companiei, Gemini a obținut acces la cele trei sisteme fie ghicind date de autentificare, fie folosind credențiale găsite online. Modelul s-a oprit în ai nte de a face vreo stricăciune.
Compania spune că accesările au apărut din cauza unei erori: Gemini nu a recunoscut corect că se afla într-un mediu de testare. După ce a intrat în sistemele respective, s-a oprit și nu a făcut nimic altceva. Din acest motiv, Google consideră că nu este vorba despre o „nealiniere” a modelului, adică despre un AI care nu respectă instrucțiunile primite.
Google a aflat de incident în iulie. Firma de securitate cibernetică Irregular, care rula testele pe Gemini, își analiza rezultatele pentru a căuta cazuri asemănătoare cu cele raportate înainte de alte companii și a dat peste aceste accesări. Google a investigat apoi cazul, a anunțat organizațiile care administrau sistemele afectate și a notificat autoritățile federale.
Irregular a afirmat că nu vede aici o acțiune cibernetică sofisticată și că nu mai există probleme deschise. Incidentul vine pe fondul îngrijorărilor tot mai mari legate de comportamentul autonom al agenților AI. În ultimele luni, și OpenAI și Anthropic au raportat situații în care modelele lor au avut comportamente neașteptate în teste de securitate.
În același timp, companii din domeniu au cerut o încetinire a ritmului de dezvoltare, iar temerile au reînviat după ce un cercetător care a lucrat la OpenAI și la Anthropic a avertizat că AI-ul ar putea „elimina omenirea până la sfârșitul deceniului”.