Revolut kjører kinesisk modell lokalt, til en tiendedel av prisen

Med KI-revolusjonen det siste året, har også token-kostnaden ridd selskaper verden over som en mare. 

Noen begynte året med nærmest uendelige token-budsjetter, mens selskaper som britiske Revolut derimot har hatt strenge begrensninger.  

– Vi var svært skeptiske til KI-kostnadene. Vi så at utviklere brukte 1.000 dollar i måneden, 10.000 dollar i måneden med lite ROI, og da vi lanserte det, lanserte vi det med strenge budsjettbegresninger, sier David Abitbol, leder for drift og infrastruktur, ifølge The Register. 

ROI står for return of investment og måler lønnsomhet eller effektivitet i forhold til kostnad. 

De begynte først med Gemini i 2025 og Claude Code tidlig i 2026. 

Så fant selskapet ut at de likegodt kunne kjøre billigere modeller og hoste dem selv, som standard. Det har de spart penger på, og samtidig blitt mer effektive.

Fra Claude til GLM

Nylig fortalte Abitbol om KI-arbeidet deres på AI Engineer-konferansen i New York, og hvordan de har klart å programmere mye kjappere etter at de rullet ut self-hostede KI-verktøy til sine rundt 2.000 utviklere.  

De gikk fra å kjøre Claude som standard, til GLM på egne maskiner, laget av kinesiske Z.ai. Først begynte de med GLM-5.1, som kostet rundt en tiendedel av å bruke OpenAIs Codex eller Claude Code fra Anthropic. 

Nå er de over på GLM-5.3, som kjører på 56 Nvidia B200 GPU-er. 

«Token»-lengsel går viralt: Her får de så mange de vil

Mens folk verden rundt klager over begrenset KI-kreditt, får Stø-utviklere eksperimentere fritt. – Har økt forbruksgrensene fremfor å strupe innovasjonen.

Fortsatt Claude i loopen

Med billigere tokens, bekymrer man seg ikke like mye over hvor mange man bruker, skriver The Register: Revolut mener utviklerne nå programmerer rundt 60 prosent raskere. 

De største bruksområdene for dem skal være debugging og Jira og Confluence-oppgaver.

Men GLM har ikke erstattet skyverktøy som Claude og GPT totalt. Den kinesiske modellen takler bare tekst, og fungerer derfor dårlig til blant annet UI-arbeid.

Derfor ruter de visuelle oppgaver over til modeller som Gemini eller GPT Luna, mens blant alle programmeringsoppgavene fortsatt går gjennom GLM.