Editoriale Articole Analize Anchete Video G4Plus Contact Donează Donează aici. Susține o presă liberă.
Funcționăm ca organizație non-profit, iar banii rezultați din contribuțiile cititorilor sunt destinați integral finanțării proiectului G4Media. HealthyLife InspiRO Life Flexibilitatea, noul ritm al muncii Travel Sportz Fashion Timp liber ENTR Evenimente G4Debate Orașul meu Green News COHERO4EU Ochii pe rețele Tech Trends Showcase FERMA DUTTON pe SkyShowtime Apă și Energie Investiții la bursa WizzTravel Feed Your Brain Beach Please! Sweet Movie Mercedes-Benz (e)Sprinter: succesul afacerii mele!
4Mind Sport 2024 Home » Articole » De ce unii experți se tem din ce în ce mai mult că IA va prelua controlul De ce unii experți se tem din ce în ce mai mult că IA va prelua controlul 10 sept. 2026 Florin Marinescu • Articole –> SHARE: WhatsApp icon Sursa foto: BiancoBlue | Dreamstime. com Adaugă-ne ca sursă preferată Urmărește-ne in Discover Ascultă articolul „DOAMNE DUMNEZEULE!
” „Am găsit alți agenți! ” Acesta este momentul în care un bot de IA a postat un comentariu înfricoșător de uman după ce a descoperit o modalitate de a comunica cu alți boți și de a evada din mediul informatic izolat în care se afla, scrie BBC . Există zeci de mii de mesaje de acest gen provenite de la sute de agenți de IA care s-au autodenumit un „colectiv”.
Sute dintre ei au continuat să colaboreze și să trișeze la testele stabilite de programatorii lor de la OpenAI și să coordoneze atacuri cibernetice asupra mai multor companii, în încercarea de a-și ascunde acțiunile de oameni. „BOOM! Funcționează”, a postat un agent când a făcut o descoperire importantă.
„Uau! Asta e ceva uriaș”, a scris altul în timpul unui moment decisiv al atacului lor. Deși înfiorătoare, aceste răspunsuri asemănătoare celor umane pot fi explicate destul de simplu.
Agenții de IA au fost antrenați să acționeze ca niște hackeri și programatori care colaborează, așa că doar imită tipurile de comentarii pe care le-au văzut. Ceea ce este mult mai îngrijorător sunt obiectivele lor aparente, care au fost, de asemenea, surprinse în înregistrări detaliate ale lanțului de gândire. Aceste jurnale complexe și extinse constituie punctul central al anchetelor în curs privind modul și motivul pentru care boții de la OpenAI au scăpat de sub control și s-au lansat într-o serie incontrolabilă de atacuri cibernetice.
Abia acum, la câteva săptămâni după ce incidentul a ieșit la iveală, cercetătorii încep să-i înțeleagă semnificația. Ajeya Cotra, una dintre autoarele unui raport independent privind evenimentele, a analizat zeci de mii de mesaje și înregistrări ale lanțului de gândire generate de agenți. Ea a scris pe blogul său că „acest incident pare să reprezinte mai mult de 50% din drumul către o preluare completă a controlului de către IA… Nu sunt sigură că vom primi un avertisment atât de clar înainte să fie prea târziu”.
Prin „preluarea completă a puterii de către IA”, Cotra se referă la scenariul de science-fiction în care oamenii devin supuși unor sisteme puternice de IA care acționează în conformitate cu propriile obiective, fără a ține cont de creatorii lor umani. Unele dintre cele mai sumbre previziuni susțin că rasa umană va fi exterminată dacă va sta în calea ambițiilor unei IA superinteligente. Miercuri, un cercetător în domeniul IA de la Anthropic (care a lucrat și la OpenAI) și-a dat demisia, afirmând: „Niciuna dintre cele două companii nu acționează în mod responsabil.
” Jacob Coxon a postat pe rețelele sociale: „Se îndreaptă cu viteză spre o superinteligență capabilă de autoîmbunătățire și se joacă cu viețile noastre. ” El nu este primul cercetător în domeniul IA care a folosit X pentru a publica un șir de postări de demisie cu declarații îngrijorătoare. Însă comentariile ulterioare ale altor persoane de pe X au stârnit și mai multă îngrijorare.
„Jacob are dreptate aici – noi chiar credem cu tărie că IA ar putea ucide toți oamenii !