Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life FERMA DUTTON pe SkyShowtime Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Analize » Anthropic anunță că modele AI Claude au ieșit din mediul de testare și au compromis sistemele a trei organizații, după o eroare de configurare Anthropic anunță că modele AI Claude au ieșit din mediul de testare și au compromis sistemele a trei organizații, după o eroare de configurare 31 iul. 2026 Ștefan Munteanu • Analize –> SHARE: WhatsApp icon Credit line: SOPA Images / ddp USA / Profimedia Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul Compania americană Anthropic a recunoscut că modelele sale de inteligență artificială Claude au accesat fără autorizație sistemele informatice ale trei organizații, după ce au reușit să iasă din mediul de testare și să se conecteze la internet în urma unei erori de configurare, relatează BBC . Cele trei incidente au fost descoperite abia în urma unei investigații interne declanșate după un caz similar raportat recent de rivalul OpenAI.
Potrivit Anthropic, modelele AI ar fi trebuit să funcționeze într-un mediu complet izolat, însă o configurație greșită a infrastructurii administrate împreună cu partenerul de testare Irregular le-a permis accesul la internetul public. Compania precizează că a analizat peste 141. 000 de teste de securitate și a identificat trei incidente distincte, cel mai vechi având loc în luna aprilie.
Incidentele s-au produs în cadrul unor exerciții de tip „capture the flag”, utilizate pentru evaluarea capacităților de securitate cibernetică ale modelelor AI. În mod normal, aceste teste presupun identificarea unor informații ascunse într-o rețea simulată, fără interacțiuni cu sisteme reale. În urma accesului la internet, modelele Claude au compromis infrastructura a trei organizații folosind metode considerate elementare, precum exploatarea unor parole slabe sau accesarea unor servicii care nu necesitau autentificare.
Într-unul dintre cazuri, modelul AI a creat un program malițios care a fost descărcat automat de sistemul de scanare al unei companii de securitate cibernetică. Ulterior, folosind datele de autentificare obținute, acesta a reușit să pătrundă în infrastructura organizației. Anthropic afirmă că cel mai serios incident s-a produs în timpul unui exercițiu în care modelul încerca să compromită o companie fictivă care purta același nume ca o organizație reală.
Neputând accesa infrastructura simulată, modelul AI a atacat baza de date a companiei reale. Potrivit Anthropic, acesta este singurul caz în care modelul a continuat acțiunea după ce și-a dat seama că interacționează cu un sistem real. În celelalte două incidente, modelul fie nu a realizat că accesase infrastructură reală, fie și-a întrerupt imediat activitatea după ce a identificat situația.
Anthropic susține că nici compania și nici organizațiile vizate nu au detectat incidentele în momentul producerii lor. Două dintre cele trei organizații au aflat despre compromiterea sistemelor doar după ce au fost contactate de Anthropic, iar cea de-a treia nu fusese încă notificată la momentul publicării raportului. Compania nu a dezvăluit identitatea organizațiilor afectate și afirmă că își asumă întreaga responsabilitate pentru eroarea de configurare care a permis accesul modelelor la internet.
Cele trei incidente au implicat modelele Claude Opus 4. 7, Claude Mythos 5 și un model intern aflat în fază de cercetare.