Experții în biologie și terorism au analizat platforma ChatGPT și au constatat că unele întrebări sunt extrem de precise. Unele persoane au avut întrebări despre fabricarea de otrăvuri sau arme biologice, dezvăluie The Wall Street Journal.
OpenAI, compania mamă, a interzis aceste conturi de utilizator și altele care întrebau cum se fabrică otrăvuri și arme biologice, dar surpriză: nu a alertat autoritățile. SUA nu are legi federale care să oblige companiile de inteligență artificială să restricționeze sau să dezvăluie întrebări despre fabricarea de arme sau formularea de planuri care reprezintă o amenințare la adresa siguranței naționale. Există însă o creștere a numărului de solicitări din partea utilizatorilor care întreabă modelele de inteligență artificială cum să ucidă în masă iar chatboții răspund și ofertă planuri credibile pentru atacuri cu victime în masă , potrivit angajaților actuali și foștilor angajați ai principalelor laboratoare de inteligență artificială, inclusiv OpenAI.
Toată situația a fost descoperită după o serie de replici tulburătoare de la începutul anului 2026: utilizatorii au întrebat ChatGPT cum să aerosolizeze agenți patogeni, practic transformând germenii infecțioși într-o ceață mortală, respirabilă. Unul dintre ei voia să știe cum să modifice virusul rujeolei pentru a face un focar rezistent la vaccinul împotriva rujeolei. În aceste cazuri, chatbot-ul a oferit instrucțiuni.
Un alt utilizator a vrut să știe cum se prepară ricină, o otravă extrem de toxică , interzisă prin tratatele internaționale. Chatbot-ul a dat instrucțiuni detaliate, iar utilizatorul a spus ceva despre uciderea părinților săi. Potrivit dezvăluirilor, OpenAI a interzis aceste conturi, dar nu a alertat autoritățile.
Competențele avansate ale inteligenței artificiale — în special în ceea ce privește elaborarea de planuri biologice și cibernetice infame — îi alarmează pe directorii executivi ai companiilor de inteligență artificială și pe cei de la Casa Albă. Laboratoarele de inteligență artificială de top din lume se luptă cu modalitățile de prevenire sau atenuare a daunelor provocate de utilizatori răuvoitori. Utilizatorii care doresc instrucțiuni pentru fabricarea armelor biologice au adresat, de asemenea, întrebări companiei Claude de la Anthropic, companiei Gemini de la Google și companiei Grok de la Elon Musk, recent absorbită de SpaceX.
Nu a fost clar dacă solicitările au făcut parte din eforturi reale de a fabrica armele sau din exerciții de testare a capacităților aplicațiilor, potrivit unor persoane familiarizate cu schimburile de rețele. Oficiali de rang înalt ai Casei Albe și ai Departamentului Apărării au discutat despre amenințarea ca inteligența artificială să devină un ghid practic pentru armele biologice încă din era Biden, potrivit unor oficiali ai administrației Trump. Departamentul Comerțului a restricționat recent utilizarea în străinătate a două modele Anthropic, determinând compania să blocheze tot accesul la acestea.
OpenAI, Anthropic și alte companii de inteligență artificială spun că lucrează îndeaproape cu administrația pentru lansarea modelelor și au interzis utilizatorii sau au restricționat conturile care prezintă activități suspecte. Totuși, nicio regulă federală – nici prin ordin executiv, nici prin acțiune a Congresului – nu impune companiilor de inteligență artificială să raporteze utilizatorii care solicită sfaturi modelelor despre cum să rănească sau să ucidă. Chatboții au stârnit deja îngrijorări cu privire la ajutorul acordat utilizatorilor care plănuiesc atacuri cu arme de foc.