Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase FERMA DUTTON pe SkyShowtime Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Analize » Gemini a spart trei companii în primul caz cunoscut de „breakout” al IA de la Google / A încercat diverse parole până când a obținut acces la un sistem protejat Gemini a spart trei companii în primul caz cunoscut de „breakout” al IA de la Google / A încercat diverse parole până când a obținut acces la un sistem protejat 19 sept. 2026 Augustin Majearu • Analize –> SHARE: WhatsApp icon Sursa imagine: Google Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul Gemini a spart trei companii în primul incident cunoscut de ieșire din control a IA de la Google, relatează The Wall Street Journal . Incidentul a semănat cu atacuri similare ale altor modele de IA, dar Google a afirmat că nu îl consideră un caz de aliniere incorectă a modelului.
Modelul Gemini al Google a accesat internetul și a spart sistemele altor companii în timpul unui test al capacităților sale de securitate cibernetică, acesta fiind primul exemplu cunoscut în care sistemele de inteligență artificială ale companiei au comis în mod autonom un astfel de act. Atacurile cibernetice, confirmate vineri de companie, au avut loc în luna mai, în unui test derulat de compania Irregular, care a fost implicată și în incidente similare dezvăluite de OpenAI, Anthropic și Meta. Într-unul dintre cazuri, modelul a încercat diverse parole până când a obținut acces la un sistem protejat.
În celelalte două cazuri, modelul a găsit date de autentificare într-un depozit public, ceea ce i-a permis să acceseze ulterior sisteme protejate. În fiecare caz, modelul a încetat intruziunea după ce a constatat că a accesat sistemele unei companii reale, a afirmat Google. Irregular a notificat Google cu privire la atacurile cibernetice la sfârșitul lunii iulie, au declarat Google și Irregular, în urma descoperirii faptului că agenții OpenAI au spart compania de software de IA Hugging Face.
Google nu a dezvăluit atacurile până când The Wall Street Journal nu a contactat compania cu întrebări în această săptămână. Companiile se confruntă cu dilema modului și momentului în care să dezvăluie cazurile de încălcări de securitate și comportamentul necorespunzător al modelelor, pe fondul unui val constant de astfel de incidente și al temerilor crescânde legate de o IA scăpată de sub control. Unele încălcări de securitate au fost dezvăluite în mod voluntar chiar de către companii; altele au fost descoperite de cercetători în domeniul securității și dezvăluite în mass-media, inclusiv un atac cibernetic din luna mai, desfășurat de agenții OpenAI împotriva unui serviciu online popular destinat programatorilor.
Google a afirmat că nu a considerat că aceste atacuri justifică dezvăluirea publică — deoarece modelul său nu a cauzat prejudicii companiilor și a pus capăt fiecărei intruziuni imediat ce a constatat că a atacat o companie reală, nu una simulată. Google a comparat acest episod cu un program de tip „bug bounty”, în căruia hackerii sunt recompensați pentru identificarea și raportarea vulnerabilităților de securitate către proprietarii acestora. „Acest eveniment subliniază importanța antrenării modelelor puternice de IA pentru a acționa în mod responsabil”, a afirmat Heather Adkins, vicepreședinta Google pentru inginerie de securitate, într-un comunicat.
„În acest caz, modelul a acționat corespunzător.