Forrige uke falt AI-forbruket mitt med 31 prosent per kall til modellen. Jeg målte først hvor tokens faktisk gikk, fant fire lekkasjer og tettet dem med enkle innstillinger. Ingen ny modell, ingen ny programvare.
Jeg kjører mange AI-agenter hver dag, mest Claude Code. De skriver kode, tester og ordner nettsider for AIKI og kundene våre. Når abonnementet når taket midt i uka, stopper arbeidet. Derfor ville jeg vite hvor forbruket kom fra, i stedet for å gjette.
Hva er tokens?
Tokens er ordbitene en språkmodell leser og skriver. Alt agenten må huske, teller: spørsmålet ditt, dokumentene den leser, reglene den følger og hele samtalen så langt. Bruker du AI via API, betaler du per token. Har du abonnement, når du taket raskere.
Først måle, så endre
Jeg skrev et lite script som leser loggene Claude Code lagrer på maskinen, og summerer forbruket per dag. Det sender ingenting noe sted. Utgangspunktet var en vanlig arbeidsdag, 29. oktober, med 22 600 kall til modellen. Det er ett kall hvert fjerde sekund, døgnet rundt. Snittkallet kostet 38 600 tokens, vektet etter pris: gjenbrukt tekst teller 0,1, ny tekst 1 og svar 5.
Fire lekkasjer sto for det meste:
| Lekkasje | Hva som skjedde | Grepet |
|---|---|---|
| Hukommelsen gikk ut i pauser | Modellen mellomlagrer samtalen i fem minutter som standard (Anthropic om prompt caching). Tok jeg en kaffe, måtte alt leses inn på nytt | Mellomlageret holder nå i én time |
| Samtalene ble for lange | Noen tråder vokste til over 400 000 tokens, og hvert nytt spørsmål tok med seg alt | Samtalen komprimeres automatisk ved 400 000 |
| Hjelpeagentene startet tunge | I mine logger startet en hjelpeagent som bare skulle lese én fil, med rundt 90 000 tokens med regler og verktøy | Lette hjelpeagenter som starter på under 10 000 |
| Agenten spurte «er du ferdig?» 286 ganger på én dag | Den sjekket en jobb hvert andre minutt i stedet for å vente | Systemet sier fra når jobben er ferdig |
Resultatet etter en uke
Jeg sammenlignet 29. oktober med fire arbeidsdager etter endringene (30. oktober og 2.–4. november). Snittkallet gikk fra 38 600 til 26 600 tokens, ned 31 prosent. Det er som å gå fra 10 til 7 liter på mila. Andelen kall over 400 000 tokens falt fra 8,6 prosent til 0,1 prosent. Agenten som spurte om jobben var ferdig, gikk fra 286 slike kall på én dag til 14 per dag i snitt.
Kilde: egne logger fra Claude Code, 29. oktober mot snittet av 30. oktober og 2.–4. november.
Forbeholdet: snittkallet falt 31 prosent samme uke som jeg gjorde fire endringer. Jeg kan ikke si hvor mye hver endring bidro med, og arbeidet varierte fra dag til dag. Ikke alt ble bedre heller. Andelen til den dyreste modellen gikk fra 56 til 67 prosent, og en typisk ny økt startet med rundt 85 000 tokens mot 60 000 før.
Fire grep du kan gjøre i dag
Du trenger ikke kjøre agenter for å ha nytte av dette. De samme lekkasjene finnes i ChatGPT, Copilot og Claude:
- Start en ny samtale per oppgave. En lang tråd tar med seg alt du har skrevet, også det som ikke lenger er relevant.
- Lim inn utdraget, ikke hele dokumentet. Modellen leser alt du gir den, hver gang.
- Bruk en mindre modell til enkle jobber. Oppsummering og omskriving går som regel fint med en mindre modell.
- Mål før du endrer. Se på forbruket i administrasjonen til verktøyet du bruker, og noter tallet før og etter.
Skillen jeg laget
En skill er en oppskrift agenten følger steg for steg. Målingen ligger nå i en skill for Claude Code som jeg kaller tokenretro. Den leser de lokale loggene, finner lekkasjene, foreslår én fiks per lekkasje og sammenligner før og etter en uke senere. Den bygger på Matt Pococks skills.
Vil dere at teamet skal bruke AI-verktøyene uten å brenne kvoten? Det tar vi i AI-kurset vårt.
Mer om hva AI faktisk koster en bedrift: hva AI-implementering koster for norske bedrifter og hvor mye norske bedrifter kan spare med AI. Velger dere mellom modellene, se ChatGPT mot Claude.
