Urmăreşte Jurnalul pe Discover Adaugă Jurnalul ca sursă preferată Dacă ai folosit versiunea gratuită a ChatGPT sau a unuia dintre rivalii săi din domeniul inteligenței artificiale, probabil că ai avut senzația că primești foarte mult pentru foarte puțin. Însă, în spatele unei conversații aparent simple cu un chatbot se află o industrie care investește sute de miliarde de dolari în dezvoltarea modelelor de inteligență artificială.
Companii precum Microsoft, Google și Anthropic au investit masiv în dezvoltarea modelelor lingvistice de mari dimensiuni, cunoscute drept LLM-uri, tehnologia care stă la baza unor servicii precum ChatGPT, Claude sau Gemini. Pentru utilizator, să ceară inteligenței artificiale să redacteze un discurs, să planifice o vacanță sau să scrie cod poate părea aproape banal. Pentru companiile care furnizează aceste servicii, însă, fiecare solicitare are un cost.
Iar odată cu extinderea AI-ului agentic (inteligență artificială care poate acționa singură și lua decizii pentru a atinge un scop dat, fără să aibă nevoie de ajutor pas cu pas de la un om), calcularea și controlul acestor costuri devin tot mai complicate, conform BBC . În paralel, companii terțe construiesc servicii comerciale bazate pe agenți AI. Aceștia folosesc de regulă unul sau mai multe modele lingvistice și sunt specializați pentru sarcini precise, de la securitate și contabilitate până la dezvoltare software și administrarea proceselor interne.
Problema apare atunci când aceste companii trebuie să le spună clienților cât vor costa serviciile respective peste șase luni sau peste doi ani. „Încercarea de a lega pe cineva de un model de cost pentru următoarele 12 luni, doi ani, trei ani nu are, sincer, niciun sens, pentru că nu știm”, spune Simon Gooch, reprezentant al companiei Saviynt, specializată în managementul identității și care integrează inteligența artificială agentică în propriile servicii. În centrul acestei probleme se află token ii.
Atunci când un utilizator îi adresează o întrebare unui model precum ChatGPT sau Claude, textul este împărțit în fragmente matematice numite tokeni. Modelul procesează aceste unități și generează, la rândul său, un răspuns alcătuit din tokeni, care sunt transformați ulterior în text, cod sau comenzi. În teorie, acest mecanism ar putea permite calcularea precisă a costului fiecărei solicitări.
În practică, lucrurile sunt mult mai complicate. O mică modificare a unei cereri poate schimba răspunsul generat. Același prompt nu produce întotdeauna exact același rezultat, iar modele diferite pot consuma cantități diferite de tokeni pentru aceeași sarcină.
Situația devine și mai dificilă atunci când sunt folosiți agenți AI. O companie poate utiliza simultan mai mulți agenți care analizează informații, iau decizii și execută acțiuni. Fiecare etapă poate genera noi solicitări și noi tokeni, ceea ce face consumul dificil de anticipat.
Costul individual al tokenilor sau al creditelor folosite pentru procesarea lor a scăzut puternic în ultimii ani. Paradoxal, însă, factura totală pentru inteligența artificială poate crește. Motivul este simplu: consumul de tokeni explodează.
Potrivit unei analize Goldman Sachs citate în material, consumul de tokeni ar putea crește de 24 de ori între 2026 și 2030, ajungând la 120 de cvadrilioane de tokeni pe lună, pe măsură ce companiile trec tot mai mult la utilizarea agenților AI. Pentru utilizatori, această creștere este greu de observat. O companie poate implementa un instrument AI fără să știe exact câți tokeni consumă angajații săi în fiecare zi.
Problema devine vizibilă abia când resursele sunt epuizate sau când apare factura lunară. Will Venters, profesor asociat de Inovație Digitală și Sisteme Informaționale la London School of Economics, avertizează că firmele întâmpină dificultăți în gestionarea costurilor atunci când experimentează cu AI sau introduc aceste tehnologii în procesele interne. „Oamenilor li se pare foarte greu să gestioneze acest cost…