Koliko energije troše AI podatkovni centri, a koliko jedan upit na ChatGPT-u?

Danas je ta brojka višestruko veća i kreće se oko 500 barela po jednom Bitcoinu. Bitcoin mreža trenutno troši između 138 i 175 teravat-sati (TWh) električne energije godišnje, zavisno od metodologije procjene.

Nakon posljednjeg „halvinga“ (prepolovljenja nagrade za rudare), godišnje se proizvede oko 164.000 novih Bitcoina. Kada se ukupna godišnja potrošnja energije mreže podijeli s brojem novih kovanica, dolazi se do procjene od približno 500 barela naftnog ekvivalenta po Bitcoinu, a prema višim procjenama i više od 600 barela.

No, Bitcoin je samo dio priče. Mnogo veći energetski izazov predstavlja umjetna inteligencija. Prema podacima Međunarodne agencije za energiju (IEA), podatkovni centri su tokom 2024. godine potrošili oko 415 TWh električne energije.

Kada se ta količina energije izrazi kroz naftni ekvivalent, dobija se približno 670.000 barela naftnog ekvivalenta dnevno. Drugim riječima, toliko energije troše podatkovni centri svakoga dana samo za rad servera, skladištenje podataka i izvršavanje kompjuterskih zadataka, uključujući sisteme umjetne inteligencije.

IEA procjenjuje da bi se do 2030. godine potrošnja podatkovnih centara mogla povećati na oko 945 TWh godišnje, što odgovara približno 1,5 miliona barela naftnog ekvivalenta dnevno.

To je količina energije uporediva s dnevnom proizvodnjom jedne srednje velike države proizvođača nafte, a koristila bi se za rad podatkovnih centara, treniranje AI modela i generisanje odgovora na korisničke upite. Pritom mnogi stručnjaci upozoravaju da postojeća elektroenergetska infrastruktura u brojnim državama nije projektovana za tako brz rast potražnje za električnom energijom, zbog čega će biti potrebna značajna ulaganja u proizvodne kapacitete i elektroenergetske mreže.

Zbog toga je investitor Kevin O'Leary podržao drugačiji pristup: korištenje prihoda od rudarenja Bitcoina za razvoj niskougljične energetske infrastrukture koja može snabdijevati podatkovne centre umjetne inteligencije.

O’Leary je investirao u Bitzero Holdings Inc., koju ne vidi samo kao rudara Bitcoina, već prije svega kao energetsku kompaniju. Kako je izjavio, među svojim kripto ulaganjima Bitzero smatra jednom od ključnih pozicija upravo zato što kompanija kombinuje rudarenje Bitcoina s razvojem energetskih kapaciteta.

Još prije naglog rasta umjetne inteligencije i povećane potražnje za električnom energijom, Bitzero je koristio prihode od rudarenja kako bi osigurao pristup velikim količinama povoljne električne energije u Norway, Finland i United States.

Ta strategija počela je donositi rezultate 5. maja, kada je Bitzero objavio sporazum s OneQode Networks o korištenju punog kapaciteta energije iz svojih norveških pogona u prvoj fazi projekta. Time je kompanija službeno ušla na tržište infrastrukture za velike AI podatkovne centre.

Koliko energije troši ChatGPT?

U istraživanju koje je proveo Josh You u saradnji sa Alex Erben i Ege Erdil navodi se da tipični ChatGPT upiti koji koriste GPT-4o vjerovatno troše približno 0,3 vat-sata, što je deset puta manje od ranije procjene prema kojoj je za pojedini ChatGPT upit bilo potrebno oko 3 vat-sata električne energije.

Ova razlika proizlazi iz efikasnijih modela i hardvera u poređenju s početkom 2023. godine, kao i iz pretjerano pesimistične procjene broja tokena u ranijim analizama. Za poređenje, 0,3 vat-sata manje je od količine električne energije koju LED sijalica ili laptop potroše za nekoliko minuta.

ChatGPT i drugi chatbotovi pokreću se modelima velikih jezika (LLM). Pokretanje ovih modela, poznato i kao inferencija, zahtijeva značajne računske resurse, a čipovi i podatkovni centri koji obrađuju te zadatke troše električnu energiju približno proporcionalno količini potrebne obrade podataka.

Ako se saberu svi parametri – jedna sekunda rada H100 procesora po upitu, 1.500 vati po H100 i faktor iskorištenosti energije od 70 posto – dobija se 1.050 vat-sekundi energije, odnosno oko 0,3 vat-sata po upitu. To je približno deset puta manje od često citirane procjene od 3 vat-sata, objasnio je You u istraživanju.

Najvažniji razlog zbog kojeg se ova procjena razlikuje od ranijih jeste korištenje realnijih pretpostavki o broju izlaznih tokena u tipičnoj upotrebi chatbotova. Također, istraživači su procjenu zasnovali na novijem i efikasnijem čipu (NVIDIA H100 umjesto A100) i modelu s nešto manjim brojem aktivnih parametara.

Ova procjena od 0,3 vat-sata zapravo je relativno pesimistična, odnosno pretpostavlja veću potrošnju energije. Moguće je da su mnogi ili čak većina upita energetski znatno jeftiniji. Ipak, to zavisi od načina upotrebe – upiti s dugim ulaznim tekstovima ili dužim odgovorima mogu biti znatno energetski zahtjevniji od prosjeka.

Kompanije koje razvijaju umjetnu inteligenciju danas se bore za istu stvar za koju su se nekada nadmetale naftne kompanije – siguran pristup energiji.

Prema procjenama kompanije JLL, globalni kapacitet podatkovnih centara mogao bi se gotovo udvostručiti do 2030. godine, što će zahtijevati gotovo 100 gigavata novih energetskih kapaciteta i oko tri biliona dolara ulaganja u infrastrukturu i GPU tehnologiju. Međunarodna agencija za energiju procjenjuje da bi globalna potražnja za električnom energijom u podatkovnim centrima mogla porasti na 945 TWh do kraja decenije.