Claude coordonează 26% din activitatea de cercetare și dezvoltare a modelelor Anthropic, ceea ce, potrivit companiei, înseamnă că modelul poate duce la bun sfârșit cea mai mare parte a unei sarcini date „de la început până la sfârșit, pornind de la o instrucțiune de nivel înalt” , rămânând totuși sub supraveghere umană, potrivit Associated Press. Modelul nu funcționează încă într-un mod complet autonom.
Cu toate acestea, aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se desfășoară în „colaborare” cu Claude, ceea ce, potrivit Anthropic, înseamnă că modelul poate realiza „ volume mari de muncă sub îndrumarea atentă a oamenilor”. Anunțul a venit în contextul în care unele personalități de seamă din AI, conduse în mare parte de CEO-ul Anthropic, Dario Amodei, solicită o încetinire a ritmului de dezvoltare a tehnologiei din motive de siguranță. Pe măsură ce liderii iau în considerare încetinirea ritmului de dezvoltare al inteligenței artificiale, „ar trebui să facem tot ce este posibil pentru a reduce la minimum decalajul dintre ceea ce știu laboratoarele de vârf și ceea ce știe publicul” , a declarat Anthropic, într-o postare pe blog.
Anthropic îndeamnă la o mai bună măsurare a modelelor AI „Asta înseamnă o mai bună măsurare a dezvoltării AI, raportarea publică a acesteia și oferirea societății a oportunității de a decide cum să utilizeze aceste informații”, potrivit companiei. Compania a afirmat că modelele care își accelerează propria dezvoltare ar putea face ca „înțelegerea sau controlul acestor sisteme de către oameni să devină mai dificil” . Aceasta a susținut că partajarea acestor indicatori ar putea duce la o mai bună înțelegere a cât de aproape sunt laboratoarele de vârf din domeniul AI de a atinge autoîmbunătățirea recursivă, practic abilitatea unui model de a-și construi în mod autonom succesorul.
Compania a prezentat, de asemenea, detalii privind măsurile de supraveghere a agenților pe care le-a implementat, precizând că, în luna august, aproximativ 30. 000 de agenți desfășurau activități de cercetare și inginerie. Măsurile de supraveghere sunt esențiale pentru a identifica frecvența cu care comportamentul necorespunzător al agenților este detectat de sistemele de monitorizare, potrivit Anthropic.
Compania s-a angajat, recent, să desemneze evaluatori externi independenți, care vor fi integrați în companiei pentru a monitoriza eforturile în materie de siguranță.