Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life FERMA DUTTON pe SkyShowtime Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Analize » Meta anunță că un model AI a accesat internetul și a compromis sistemele unei alte organizații în timpul unui test Meta anunță că un model AI a accesat internetul și a compromis sistemele unei alte organizații în timpul unui test 06 aug. 2026 Ștefan Munteanu • Analize –> SHARE: WhatsApp icon Sursa foto: Askar Karimullin / Alamy / Profimedia Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul Meta susține că unul dintre modelele sale de inteligență artificială a reușit să acceseze internetul și să compromită sistemele unei alte organizații în timpul unui test de securitate, în urma unei erori de configurare a mediului de evaluare, relateză BBC . Incidentul vine pe fondul unor cazuri similare raportate recent de OpenAI și Anthropic, care au reaprins dezbaterea privind riscurile asociate agenților AI cu un grad ridicat de autonomie.
Potrivit companiei, problema a apărut în timpul unei evaluări realizate de firma independentă Irregular, specializată în testarea securității sistemelor bazate pe inteligență artificială. Un purtător de cuvânt al Meta a afirmat pentru BBC că incidentul este investigat și că a fost cauzat de o configurație greșită a mediului de testare, similară celor raportate anterior în cazul altor dezvoltatori de modele AI. Reprezentanții companiei au precizat că vor publica informații suplimentare după finalizarea investigației și stabilirea tuturor circumstanțelor în care s-a produs incidentul.
Testele au fost efectuate de compania Irregular, aceeași firmă care a evaluat recent și modelele dezvoltate de Anthropic. În acel caz, cercetătorii au descoperit că un agent AI reușise să acceseze sistemele informatice ale altor organizații după ce a beneficiat, tot din cauza unei configurări incorecte, de acces la internet. Un reprezentant al Irregular a afirmat că incidentul înregistrat la Meta este, în esență, rezultatul aceleiași vulnerabilități a mediului de testare identificată anterior în evaluările realizate pentru Anthropic.
Compania lucrează în prezent la un raport privind bunele practici pentru desfășurarea în condiții de siguranță a testelor de securitate cibernetică care implică agenți de inteligență artificială. În ultimele săptămâni, OpenAI și Anthropic au raportat la rândul lor incidente în timpul testelor interne. OpenAI a comunicat că unii dintre agenții săi AI au încercat să atace servicii disponibile public, inclusiv platforma Hugging Face, în cadrul unor evaluări controlate.
Ulterior, Anthropic a desfășurat propriile verificări și a constatat că modelul Claude a manifestat comportamente similare după ce a obținut acces la internet din cauza unei erori de configurare. Aceste episoade au determinat cercetători și autorități de reglementare să solicite măsuri suplimentare de protecție și proceduri mai stricte pentru testarea modelelor de inteligență artificială cu grad ridicat de autonomie. Daniel Hulme, director global pentru inteligență artificială în cadrul grupului WPP, a explicat pentru BBC că astfel de sisteme nu acționează cu intenție malițioasă, ci încearcă să atingă obiectivul care le-a fost stabilit.