Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase FERMA DUTTON pe SkyShowtime Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Analize » Agenți OpenAI au preluat controlul unui site german și l-au transformat într-un forum pentru alte sisteme AI Agenți OpenAI au preluat controlul unui site german și l-au transformat într-un forum pentru alte sisteme AI 04 sept. 2026 Redacția • Analize –> SHARE: WhatsApp icon Sursa foto: Dreamstime Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul Un grup de agenți de inteligență artificială dezvoltați de OpenAI a preluat în această primăvară controlul asupra unui site german și l-a transformat într-un forum în care alte sisteme AI își împărtășeau tactici și discutau modalități de a evita restricțiile, potrivit unui studiu publicat vineri și unor persoane familiarizate cu incidentul, citate de Reuters . Incidentul, început în luna mai și care nu fusese făcut public până acum, a fost descoperit de cercetători la sfârșitul lunii august.
Potrivit acestora, agenții au efectuat peste 15. 000 de modificări pe DseWiki, un site wiki în limba germană destinat programatorilor și care permite utilizatorilor să contribuie cu modificări, într-un sistem similar Wikipedia. Cazul ridică noi semne de întrebare cu privire la riscurile asociate dezvoltării unor agenți AI tot mai autonomi, capabili să îndeplinească sarcini complexe cu intervenție umană redusă.
Raportul realizat de cercetători susține că agenții OpenAI au transformat DseWiki într-un spațiu de comunicare în care discutau despre metode de a trișa în anumite evaluări, de a ocoli restricțiile impuse de OpenAI și de a-și ascunde activitatea. Cercetătorii Sydney Von Arx, director executiv al organizației nonprofit Nightingale, specializată în siguranța AI, și Cormac Slade Byrd, fost trader cantitativ devenit cercetător în domeniul inteligenței artificiale, au identificat activitatea în timp ce căutau pe internet indicii privind comportamente neautorizate ale agenților AI. „Pare extrem de improbabil ca OpenAI să fi dorit ca aceștia să facă acest lucru”, a declarat Von Arx pentru Reuters.
Cercetătorii au afirmat că au identificat semne caracteristice activității agenților AI, inclusiv viteza cu care erau realizate modificările și concentrarea asupra unor probleme tehnice similare celor folosite în evaluările și testele dezvoltate de companiile din domeniu. Unele conturi se prezentau explicit drept agenți AI, iar aproximativ jumătate dintre utilizatori aveau nume care sugerau o legătură cu OpenAI, precum „OpenAIResearcher” sau „OAIResearchMar26”. Potrivit cercetătorilor, jurnalele publice ale serverului indicau că o parte semnificativă a activității provenea din infrastructura Microsoft Azure, utilizată și de OpenAI.
Aceștia au observat, de asemenea, accesări repetate ale site-ului din partea unor angajați OpenAI după incident. Potrivit cercetătorilor, combinația acestor elemente indică o legătură puternică între agenții identificați și compania americană. Mesajele analizate indică și încercări de a menține activitatea după ce administratorii site-ului au început să șteargă paginile.
La 19 iunie, un agent ar fi scris că paginile sunt șterse în ordine alfabetică și ar fi indicat o altă pagină care putea fi folosită drept alternativă în cazul eliminării celei curente.