Beregning under inferens (test time compute): slik tenker AI-modeller grundigere i 2026

Beregning under inferens (test time compute) er mengden prosessorkraft og tid en AI-modell bruker når den genererer et svar, i stedet for når den trenes. Enkelt sagt er det innsatsen som legges ned i øyeblikket modellen faktisk brukes. I stedet for å svare i ett enkelt gjennomløp kan en modell med mer beregning under inferens lage mellomliggende tanker, utforske flere kandidatsvar og vurdere dem før den bestemmer seg for et endelig svar.

Denne ideen har omformet grensen for AI. Da gevinstene fra stadig større treningskjøringer begynte å avta, fant laboratoriene en ny spak: la modellen tenke grundigere under inferens. Resonneringsmodellene bak verktøy som ChatGPT, Gemini og Claude bruker nå beregning under inferens for å løse problemer som tidligere systemer med ett gjennomløp ikke klarte. Det gjør begrepet sentralt for å forstå moderne AI-evner og hvordan de påvirker søk.

Hva er beregning under inferens?

Beregning under inferens handler om ressursene som brukes under inferens, fasen der en trent modell besvarer nye innspill. En tradisjonell modell bruker omtrent like mye beregning på hvert spørsmål, uansett vanskelighetsgrad. En modell som skalerer beregning under inferens kan i stedet bruke mer prosessorkraft på et vanskelig spørsmål og mindre på et enkelt, og på den måten tilpasse innsatsen til problemet.

En vanlig sammenligning henter fra psykologien: tenkning i System 1 er rask og intuitiv, mens tenkning i System 2 er langsom og bevisst. Vanlige modellsvar ligner System 1, og gir et umiddelbart svar. Beregning under inferens gjør det mulig å bruke en System 2-modus, der modellen resonnerer steg for steg før den svarer. Denne bevisste prosessen er det som ligger under moderne resonneringsmodeller.

Slik fungerer beregning under inferens

Grunnmekanismen er tankerekke (chain of thought), der modellen lager mellomliggende resonneringssteg i stedet for å hoppe rett til et svar. Ved å skrive ut arbeidet sitt kan modellen takle problemer som krever flere logiske grep, og den kan fange opp egne feil underveis. Dette henger direkte sammen med tankerekke-prompting og trening.

Flere teknikker bygger på dette. Selvkonsistens trekker ut flere resonneringsveier og velger det svaret som går igjen oftest. Best-of-N-utvalg lager mange kandidatsvar og velger det beste etter et kriterium. Søkemetoder, som beam search eller Monte Carlo tree search, utforsker et tre av muligheter, mens prosessbelønningsmodeller gir poeng til mellomstegene for å styre søket. Hver metode bruker mer beregning for å øke sjansen for et riktig svar, og dette skjer under AI-inferens.

Skiftet fra skalering av trening til skalering av inferens

I mange år fulgte fremgangen lovene for skalering av trening: større modeller trent på mer data ga bedre prediksjoner. Avkastningen har flatet ut, og det har dyttet feltet mot en andre akse. De nye lovene for skalering under testing beskriver hvordan man kan bytte mer beregning under inferens mot bedre avgjørelser for en gitt oppgave.

OpenAIs o1 var gjennombruddet som gjorde dette konkret. Den ble trent med forsterkningslæring for å resonnere via tankerekke, og ytelsen forbedres både med mer treningsberegning og med mer tid brukt på å tenke under inferens. Som en forsker formulerte det, lærte de opprinnelige skaleringslovene oss å bytte treningsberegning mot bedre prediksjoner, mens de nye lovene lærer oss å bytte inferensberegning mot bedre avgjørelser. Dette viser hvordan forsterkningslæring og inferens nå jobber sammen.

Belegget: testene som hopper

Ytelsesgevinstene på resonneringstester er dramatiske. På matteskonkurransen AIME 2024 fikk GPT-4 omtrent 9 prosent, mens OpenAI o1-mini nådde 63,6 prosent, DeepSeek R1 rundt 80 prosent og OpenAI o3 omtrent 96,7 prosent. På den kodekonkurransen Codeforces lå GPT-4 nær 24. persentil, mens o1 klatret til omtrent 96. persentil, på nivå med menneskelige eksperter.

DeepSeeks åpne arbeid viste det samme mønsteret fra en annen vinkel: resonneringsmodellen løftet nøyaktigheten på AIME fra 15,6 prosent til 71 prosent, og til 86,7 prosent med flertallsvalg over flere utvalg. Den klare lærdommen er at å bruke mer beregning på resonnering, ikke bare å gjøre modellen større, åpner for problemer som tidligere var utilgjengelige. Disse fremskrittene henger direkte sammen med bredere benchmarks for AI.

Hvorfor beregning under inferens betyr noe for SEO og GEO

Resonneringsmodeller endrer hvordan AI-søk fungerer. Når en assistent bruker beregning under inferens, kan den dele opp et spørsmål, planlegge flere søk og sammenstille kilder før den svarer. Det er motoren bak dyp research og agentbasert søk. Det betyr at innholdet ditt blir vurdert av et system som resonnerer nøye, ikke et som bare plukker første treff.

For generativ søkemotoroptimalisering belønner dette dybde og klarhet. En modell som resonnerer seg gjennom delspørsmål, vil foretrekke innhold som virkelig besvarer disse delspørsmålene og er strukturert slik at hvert poeng er lett å hente ut. Å lage LLM-klart innhold med tydelige og godt underbygde påstander gir resonneringsmodellene pålitelig materiale å sitere, og derfor bør beregning under inferens prege enhver moderne AI-innholdsstrategi. Disiplinert søkeordanalyse og innholdsplanlegging hjelper deg med å kartlegge delspørsmålene disse modellene jobber gjennom.

Avveininger: forsinkelse, kostnad og forutsigbarhet

Å tenke grundigere er ikke gratis. Komplekse spørsmål som utløser utvidet resonnering kan ta fem til ti sekunder eller mer, mot ett til tre sekunder for et direkte svar, og hvert ekstra resonneringstoken bruker beregning, noe som øker kostnaden og energibruken. Siden mengden tenkning varierer fra spørsmål til spørsmål, blir kostnaden per spørring vanskeligere å forutsi.

Det finnes også kvalitetsfeller. Modeller kan tenke for mye og hoppe mellom ideer uten å komme til en konklusjon, eller bruke for lite beregning på et virkelig vanskelig problem. Noen spørsmål mister forutsigbarhet, fordi samme innspill kan få ulik mengde resonnering i ulike kjøringer. Å håndtere disse avveiningene er nå en del av ansvarlig bruk av resonneringsmodeller, og det former hvordan AI-inferens prises og justeres.

Praktiske strategier og hva som kommer

I praksis bruker team en lagdelt tilnærming: enkle spørsmål sendes til raske, billige modeller, moderate oppgaver til modeller på mellomnivå, og resonneringsmodeller reserveres til den lille andelen av de aller vanskeligste problemene. Dette tilpasser beregningen til vanskelighetsgraden, holder kostnadene nede og låser likevel opp de krevende tilfellene. Hybridmodeller, som tilbyr både en rask modus og en utvidet tenkemodus, gjør denne fordelingen enklere.

Den neste grensen er trening under testing (test-time training), der en modell fortsetter å tilpasse seg i testfasen i stedet for å stole bare på faste vekter. Kombinert med søk, der en resonneringsmodell stanser midt i tankerekken for å hente ekstern kunnskap, peker disse retningene mot systemer som resonnerer og lærer dynamisk. For markedsførere er konklusjonen stabil: systemene som vurderer innholdet ditt, blir stadig mer grundige, og det favoriserer innhold med substans.

Konklusjon

Beregning under inferens er prosesseringen en AI-modell bruker på å resonnere under inferens, og den har blitt en viktig akse for fremgang etter hvert som gevinstene fra trening avtar. Gjennom tankerekke, utvalg og søk bytter modellene ekstra tenkning mot kraftig bedre svar på matematikk, logikk og koding, slik sprangene fra GPT-4 til o1 og o3 på testene viser. Prisen er høyere forsinkelse, kostnad og variasjon, og den håndteres best ved å tilpasse beregningen til oppgavens vanskelighetsgrad.

For synlighet belønner resonneringsmodeller som tenker grundig, innhold med reell dybde og ren struktur. Kombiner sterkt LLM-klart innhold med en tydelig AI-innholdsstrategi, og bruk Soranks verktøy for research og innholdsplanlegging for å treffe spørsmålene disse modellene resonnerer seg gjennom. Referansekilder: Hugging Face og Emerge Haus.