Companii precum Microsoft, Google și Anthropic au investit masiv în dezvoltarea modelelor lingvistice de mari dimensiuni, cunoscute drept LLM-uri, tehnologia care stă la baza unor servicii precum ChatGPT, Claude sau Gemini. Pentru utilizator, să ceară inteligenței artificiale să redacteze un discurs, să planifice o vacanță sau să scrie cod poate părea aproape banal.
Pentru companiile care furnizează aceste servicii, însă, fiecare solicitare are un cost. Iar odată cu extinderea AI-ului agentic (inteligență artificială care poate acționa singură și lua decizii pentru a atinge un scop dat, fără să aibă nevoie de ajutor pas cu pas de la un om), calcularea și controlul acestor costuri devin tot mai complicate, potrivit BBC . În paralel, companii terțe construiesc servicii comerciale bazate pe agenți AI.
Aceștia folosesc de regulă unul sau mai multe modele lingvistice și sunt specializați pentru sarcini precise, de la securitate și contabilitate până la dezvoltare software și administrarea proceselor interne. Problema apare atunci când aceste companii trebuie să le spună clienților cât vor costa serviciile respective peste șase luni sau peste doi ani. „Încercarea de a lega pe cineva de un model de cost pentru următoarele 12 luni, doi ani, trei ani nu are, sincer, niciun sens, pentru că nu știm”, spune Simon Gooch, reprezentant al companiei Saviynt, specializată în managementul identității și care integrează inteligența artificială agentică în propriile servicii.
În centrul acestei probleme se află token ii. Atunci când un utilizator îi adresează o întrebare unui model precum ChatGPT sau Claude, textul este împărțit în fragmente matematice numite tokeni. Modelul procesează aceste unități și generează, la rândul său, un răspuns alcătuit din tokeni, care sunt transformați ulterior în text, cod sau comenzi.
În teorie, acest mecanism ar putea permite calcularea precisă a costului fiecărei solicitări. În practică, lucrurile sunt mult mai complicate. O mică modificare a unei cereri poate schimba răspunsul generat.
Același prompt nu produce întotdeauna exact același rezultat, iar modele diferite pot consuma cantități diferite de tokeni pentru aceeași sarcină. Situația devine și mai dificilă atunci când sunt folosiți agenți AI. O companie poate utiliza simultan mai mulți agenți care analizează informații, iau decizii și execută acțiuni.
Fiecare etapă poate genera noi solicitări și noi tokeni, ceea ce face consumul dificil de anticipat. Costul individual al tokenilor sau al creditelor folosite pentru procesarea lor a scăzut puternic în ultimii ani. Paradoxal, însă, factura totală pentru inteligența artificială poate crește.
Motivul este simplu: consumul de tokeni explodează. Potrivit unei analize Goldman Sachs citate în material, consumul de tokeni ar putea crește de 24 de ori între 2026 și 2030, ajungând la 120 de cvadrilioane de tokeni pe lună, pe măsură ce companiile trec tot mai mult la utilizarea agenților AI. Pentru utilizatori, această creștere este greu de observat.
O companie poate implementa un instrument AI fără să știe exact câți tokeni consumă angajații săi în fiecare zi. Problema devine vizibilă abia când resursele sunt epuizate sau când apare factura lunară. Will Venters, profesor asociat de Inovație Digitală și Sisteme Informaționale la London School of Economics, avertizează că firmele întâmpină dificultăți în gestionarea costurilor atunci când experimentează cu AI sau introduc aceste tehnologii în procesele interne.
„Oamenilor li se pare foarte greu să gestioneze acest cost… este un rezultat non-determinist, deci este și o valoare non-deterministă”, explică el. Problema este amplificată de faptul că un angajat poate utiliza mult mai mult AI decât era anticipat.
Spre deosebire de un software tradițional, unde numărul de operațiuni și resursele necesare pot fi relativ ușor estimate, un sistem AI poate genera răspunsuri diferite și poate consuma resurse diferite în funcție de complexitatea sarcinii.