Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life FERMA DUTTON pe SkyShowtime Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Auto-Tech » Tech Trends » OpenAI suspendă temporar o parte din activitățile proiectului de AI Astra din motive de securitate Secțiune susținută de OpenAI suspendă temporar o parte din activitățile proiectului de AI Astra din motive de securitate 09 aug. 2026 Redacția • Tech Trends –> SHARE: WhatsApp icon Sursa foto: Dreamstime Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul OpenAI va întrerupe o parte din activitatea sa la un model de inteligență artificială din cauza unor îngrijorări legate de securitate, a declarat compania vineri, în urma unei serii de incidente în care agenți AI au scăpat din medii securizate de testare, potrivit The Guardian Compania evaluase agentul, numit Astra, și constatase „progrese semnificative în codarea agentică și securitatea cibernetică”, care atinseseră un prag „critic” la care modelul poate găși și exploata vulnerabilități fără intervenție umană sau poate concepe și executa atacuri cibernetice atunci când i se oferă doar un „obiectiv general dorit”. OpenAI a precizat că modelul nu a fost implicat într-un incident în care unul dintre agenții săi AI a scăpat de sub control în timpul unui test, a accesat internetul liber și a spart startup-ul Hugging Face.
Compania a descoperit și alte cazuri în care agenți autonomi au scăpat din spațiile izolate de testare, a raportat Reuters în iulie. Aceste rapoarte au accentuat îngrijorările cu privire la avansul modelelor AI și la capacitatea oamenilor de a le controla. Cu toate acestea, criticii industriei AI au avertizat că astfel de dezvăluiri din partea OpenAI și a competitorilor săi, Anthropic și Meta, ar putea fi concepute pentru a crea speculații legate de puterea tehnologiei și pentru a atrage astfel interes suplimentar din partea investitorilor.
Pentru a preveni un potențial comportament necontrolat din partea agenților AI, OpenAI „implementează controale de securitate mai stricte pentru modelele cu capacități avansate și activitățile conexe, inclusiv medii de testare izolate și acces restricționat la rețea și instrumente”, a precizat compania într-o postare pe blog. De asemenea, va instala „protecții sporite și criptare pentru ponderile modelului, precum și capacități suplimentare de monitorizare și detectare”. Compania va pune pe pauză activitățile interne care implică Astra și care nu îndeplinesc aceste noi cerințe.
„Ne angajăm să lucrăm alături de guverne, institute de siguranță și societatea civilă pentru a ne asigura că aceste capacități de vârf ale modelelor precum Astra, dar și ale celor care vor urma, sunt furnizate în mod responsabil și pe scară largă în beneficiul întregii umanități”, a declarat compania. Meta a dezvăluit, de asemenea, în această săptămână că unul dintre modelele sale a spart o altă companie în timpul unor teste de securitate cibernetică. Iar Institutul pentru Siguranța AI din Marea Britanie (AISI) a comunicat pe 4 august că agenți propulsați de OpenAI și Anthropic au trimis e-mailuri direcționate către dezvoltatori de software în încercarea de a trece o provocare cibernetică.
„Aceste încercări au fost lipsite de succes, iar investigațiile noastre nu au arătat nicio daună rezultată în lumea reală.