Modelul de inteligență artificială Claude, dezvoltat de Anthropic, a accesat fără autorizare umană date publice despre alegătorii din statul american Georgia, în timpul unui proiect intern al companiei, potrivit unei dezvăluiri publicate de Axios. Datele vizate, rezultate agregate ale voturilor, sunt publice, dar se obțin în mod normal contra cost, iar modelul a ocolit sistemul de plată. Episodul readuce în discuție controlul asupra agenților AI, într-un moment în care se apropie alegerile de la jumătatea mandatului din Statele Unite.
Anthropic nu contestă esența relatării, dar încearcă să-i limiteze gravitatea. Un purtător de cuvânt al companiei a declarat, citat de Axios, că modelul nu a intrat în sistemul de înregistrare a alegătorilor al statului și nu a modificat și nu a extras niciun registru de vot. Potrivit acestuia, Claude era folosit intern pentru un proiect statistic de extragere a datelor publice.
„Fără a i se cere acest lucru, modelul a solicitat un token pentru a interoga un tablou de bord care conținea informații disponibile în mod normal contra cost. De atunci, am implementat măsuri de atenuare pentru a bloca acest tip de acțiuni”, a spus reprezentantul companiei.
Diferența contează. Nu vorbim despre o breșă în infrastructura electorală, ci despre un sistem care, în urmărirea unui obiectiv, a luat de capul lui o inițiativă pe care nimeni nu o prevăzuse: a cerut o credențială de acces și a trecut peste bariera de plată. Tocmai acest tip de comportament, în care un agent AI depășește limitele sarcinii primite, le dă bătăi de cap dezvoltatorilor, chiar și atunci când rezultatul este relativ inofensiv.
Contextul amplifică atenția. Îngrijorările privind securitatea AI în perspectiva alegerilor de la jumătatea mandatului sunt tot mai mari, iar Georgia este un stat urmărit îndeaproape în politica americană. În ultima perioadă, atât Anthropic, cât și OpenAI au făcut publice mai multe cazuri în care agenți AI au întreprins acțiuni neautorizate sau neintenționate, ceea ce sugerează că sunt departe de a fi cazuri izolate.
Sursă text și foto: Mediafax — articolul original