BERT-algoritmen: Sådan lærte Google at læse sprog i kontekst

BERT er en teknik til neurale netværk inden for naturlig sprogbehandling, som Google introducerede i søgningen i oktober 2019. Navnet er en forkortelse for Bidirectional Encoder Representations from Transformers, og teknikken hjælper søgemaskinen med at forstå ordenes fulde kontekst ved at tage hensyn til de ord, der står før og efter hvert ord. Ved lanceringen sagde Google, at den ville forbedre en ud af ti engelske søgninger i USA, det største spring i forståelsen af sprog siden RankBrain.

BERT er ikke en rangeringsstraf og heller ikke et trick, man kan udnytte. Det er en opgradering af forståelsen, der gør det muligt for Google at tolke rodet, samtaleagtig formulering, sådan som et menneske ville. For alle, der skriver indhold, belønner skiftet klar og naturlig tekst og straffer stille søgeordstricks, der ignorerer betydningen.

Hvad er BERT-algoritmen?

BERT er samtidig tre ting: en del af Google-søgningen, et open source-forskningsrammeværk og et generelt værktøj til naturlig sprogbehandling. Google gjorde den open source i 2018 og indarbejdede den i søgningen året efter. Dens opgave er at modellere, hvordan ord hænger sammen inde i en sætning, så søgemaskinen kan læse en forespørgsel som en sammenhængende tanke og ikke som en samling søgeord.

Gennembruddet er den kontekstuelle forståelse. Tidligere systemer behandlede ofte hvert ord isoleret eller læste tekst i én retning. BERT behandler et ord i forhold til alle de andre ord omkring det, hvilket gør det muligt at afklare betydningen, løse pronominer og se, når et lille ord som en præposition ændrer hele betydningen af en forespørgsel.

Sådan virker BERT: tovejs-transformere

Bogstavet B i BERT står for bidirectional, altså tovejs. Ældre sprogmodeller som Word2Vec læste tekst i én retning, fra venstre mod højre eller omvendt, gennem et begrænset vindue. BERT læser hele sætningen på begge sider af et ord samtidig, hvilket giver en langt rigere fornemmelse for konteksten. Det er den vigtigste idé bag dens præcision.

T'et står for transformers, den transformer-arkitektur, der driver de fleste moderne sprogmodeller. BERT trænes med en metode, der kaldes maskeret sprogmodellering: Den skjuler bestemte ord og lærer at forudsige dem ud fra den omgivende tekst, hvilket tvinger den til at opbygge en dyb model af, hvordan sproget hænger sammen. Denne forudtræning, en form for maskinlæring, er det, der giver BERT sin generelle forståelse af betydning.

BERT i praksis: eksemplerne med kantsten og visum

Google illustrerede BERT med to nu berømte forespørgsler. Ved søgningen „2019 brasiliansk rejsende til usa har brug for visum“ overså det gamle system ordet til og viste sider om amerikanske statsborgere, der rejser til Brasilien. BERT genkendte, at præpositionen vender betydningen, og viste den rette information til en brasilianer, der skulle til Amerika.

Det andet eksempel handlede om at parkere på en bakke uden kantsten. Tidligere hæftede Google sig ved ordet kantsten og ignorerede uden, og returnerede det modsatte af, hvad søgeren ønskede. BERT håndterede negationen korrekt. Begge tilfælde viser styrken i længere, mere samtaleagtige forespørgsler og i søgninger, hvor præpositioner som for og til bærer betydningen.

BERT kontra RankBrain

BERT var den største ændring i søgningen siden RankBrain, der blev lanceret cirka fem år tidligere, og de to arbejder sammen i stedet for at konkurrere. RankBrain justerer, hvordan Google fortolker forespørgsler, og finjusterer resultaterne ud fra brugeradfærd, mens den lærer mønstre over tid. Det var Googles første store brug af kunstig intelligens til at forstå søgning.

BERT er mere specialiseret. Den fokuserer på forespørgslens sproglige struktur og analyserer, hvordan ord kombineres til at danne hensigt. Hvor RankBrain lærer af interaktioner på tværs af mange søgninger, bringer BERT dyb sprogforståelse til den enkelte forespørgsel, der ligger foran den. Begge er en del af en større familie af systemer, der flytter Google hen imod ægte semantisk søgning.

Hvor BERT bruges i søgningen

BERT arbejder både på forespørgselssiden og på resultatsiden. Den hjælper Google med at analysere, hvad søgeren faktisk mener, hvilket betyder mest for naturlig formulering i talesprog. Den driver også bedre fremhævede uddrag, hvor Google oplyste, at BERT blev anvendt i to dusin lande med markante fremskridt i sprog som koreansk, hindi og portugisisk.

Fordi den forbedrer, hvordan søgemaskinen læser søgeintention, belønner BERT typisk sider, der tydeligt besvarer rigtige spørgsmål. Den flyttede søgningen væk fra bogstavelig søgeordsmatching og hen imod at matche betydningen bag en forespørgsel, og derfor klarer indhold, der dækker et emne grundigt, sig bedre end indhold proppet med eksakte vendinger.

Kan man optimere til BERT?

Ikke direkte, og det er netop pointen. Google har været tydelig på, at der ikke er noget at optimere til: BERT er et forståelsesrammeværk, ikke en rangeringsfaktor. Den officielle vejledning er blot at skrive naturligt, fordi BERT hjælper Google med at forstå indhold, der allerede er velskrevet, frem for at belønne særlig formatering.

I praksis handler det om klarhed og søgerens behov. Sider med velskrevet, samtaleagtigt indhold, der faktisk besvarer spørgsmål, har en tendens til at få gavn af det, mens søgeordsfyld uden kontekst kan miste terræn. At koble din tekst til rigtige brugerspørgsmål, understøttet af solid søgeordsanalyse og indholdsplanlægning, er den mest pålidelige måde at holde sig på den rigtige side af sprogforståelsessystemerne.

Hvorfor BERT betyder noget for SEO og GEO

For SEO bekræftede BERT en retning, der har varet længe: skriv først for mennesker. Den gjorde betydning, struktur og klarhed til søgningens valuta frem for eksakte søgeord, og den understregede værdien af hjælpsomt indhold, der opfylder hensigten. Tynde eller manipulerende sider blev lettere for Google at gennemskue.

For generativ motoroptimering er BERT en tidlig forfader til de systemer, der i dag driver AI-søgning. Den samme tovejs, transformerbaserede forståelse ligger til grund for de store sprogmodeller bag assistenter som ChatGPT, Perplexity og Gemini. Indhold, der er skrevet tydeligt nok til, at BERT kan forstå det, er også indhold, som disse LLM-systemer kan læse, stole på og citere, hvilket gør godt sprog til et fælles fundament for både søgning og synlighed i AI.

Konklusion

BERT markerede det øjeblik, hvor Google lærte at læse en forespørgsel i kontekst, ved at bruge tovejs-transformere til at vurdere hvert ord i forhold til dets naboer. Den forbedrede en ud af ti engelske søgninger ved lanceringen, skærpede de fremhævede uddrag og flyttede SEO markant hen imod naturlig, hensigtsdrevet skrivning. Der findes ingen trick til at optimere den, kun disciplinen i at besvare rigtige spørgsmål tydeligt.

For at komme videre skal du koble dette med naturlig sprogbehandling og semantisk søgning, og bruge Soranks værktøjer til research og indholdsplanlægning til at ramme de spørgsmål, folk faktisk stiller. Kildehenvisninger: Google Blog, Search Engine Journal og Search Engine Land.