A BERT algoritmus: hogyan tanulta meg a Google a nyelvet szövegkörnyezetben olvasni

A BERT a természetesnyelv-feldolgozás neurális hálózati módszere, amelyet a Google 2019 októberében vezetett be a keresésbe. A Bidirectional Encoder Representations from Transformers rövidítése, és segít a keresőmotornak megérteni egy lekérdezés szavainak teljes kontextusát azáltal, hogy minden szót a előtte és utána álló szavakhoz viszonyítva vizsgál. Bevezetésekor a Google azt mondta, hogy az amerikai angol nyelvű keresések tizedét javítja, és ez a nyelvértésben a RankBrain óta a legnagyobb ugrás.

A BERT nem rangsorolási büntetés, és nem is olyan trükk, amelyet ki lehet játszani. Ez egy értéséget javító fejlesztés, amely az összetett, beszélgetős megfogalmazásokat úgy értelmezi, ahogy egy ember tenné. Aki tartalmat ír, annak ez az elmozdulás a tiszta, természetes nyelvet jutalmazza, és csendben büntetni a jelentést figyelmen kívül hagyó kulcsszótrükköket.

Mi a BERT algoritmus?

A BERT egyszerre három dolog: a Google Keresés egyik összetevője, egy nyílt forráskódú kutatási keretrendszer, és általános természetesnyelv-feldolgozási eszköz. A Google 2018-ban tette nyílt forráskódúvá, a következő évben pedig beépítette a Keresésbe. Feladata, hogy modellezze, hogyan kapcsolódnak egymáshoz a szavak egy mondaton belül, így a motor a lekérdezést összefüggő gondolatként tudja olvasni, nem kulcsszavak halmazaként.

Az áttörés a kontextuális megértés. A korábbi rendszerek gyakran minden szót elszigetelten kezeltek, vagy egy irányban pásztázták a szöveget. A BERT egy szót a körülötte álló összes többi szóval összefüggésben dolgoz fel, ami lehetővé teszi a jelentés egyértelműsítését, a névmások feloldását, és annak felismerését, hogy egy kis szó, például egy elöljáró, hogyan változtat meg egy kérést.

Hogyan működik a BERT: kétirányú transzformerek

A BERT nevében a B a bidirectional, azaz kétirányú szót jelenti. A régebbi nyelvi modellek, mint a Word2Vec, egy korlátozott ablakon keresztül egy irányban olvasták a szöveget, balról jobbra vagy jobbról balra. A BERT egy szó mindkét oldalán lévő teljes mondatot egyszerre olvassa, így sokkal gazdagabb szövegkörnyezeti érzéke van. Ez a pontossága mögötti legfontosabb gondolat.

A T a transformers, azaz transzformerek, vagyis az a transzformer-architektúra, amely a legtöbb modern nyelvi modellt működteti. A BERT maszkolt nyelvi modellezés nevű módszerrel tanul: elrejt bizonyos szavakat, és a környező szövegből megtanulja megjósolni őket, ami kényszeríti, hogy a nyelv összeillő működésének mély modelljét építse fel. Ez az előtanítás a gépi tanulás egy formája, és ez adja a BERT általános jelentésértését.

A BERT a gyakorlatban: a járda és a vízum példája

A Google két mára híressé vált lekérdezéssel szemléltette a BERT-et. A „2019 brazil utazó az USA-ba vízum kell” keresésnél a régi rendszer kihagyta a „-ba” ragot, és az Egyesült Államok állampolgárainak Brazíliába utazásáról szóló oldalakat adta vissza. A BERT felismerte, hogy az elöljáró megfordítja a jelentést, és a megfelelő információt hozta az Amerikába igyekvő brazil számára.

A második példa egy dombon, járda nélkül történő parkolásról szólt. A Google korábban a „járda” szóra támaszkodott, és figyelmen kívül hagyta a „nem” szót, így a keresőnek épp az ellenkezőjét adta vissza, mint amit keresett. A BERT helyesen kezelte a tagadást. Mindkét eset azt mutatja, hogy erős a hosszabb, beszélgetősebb lekérdezéseknél, és azoknál a kereséseknél, ahol az olyan elöljárók, mint a „-nak” vagy a „-ba”, hordozzák a jelentést.

BERT vs RankBrain

A BERT volt a Keresés legnagyobb változása a körülbelül öt évvel korábban indult RankBrain óta, és a kettő inkább együttműködik, mintsem versenyezne. A RankBrain a felhasználói viselkedés alapján finomhangolja, hogyan értelmezi a Google a lekérdezéseket, és idővel tanulja a mintákat. Ez volt a Google első jelentős mesterséges intelligencia-alkalmazása a keresés megértésére.

A BERT specializáltabb. A lekérdezés nyelvi szerkezetére összpontosít, és azt elemzi, hogyan állnak össze a szavak szándékká. Míg a RankBrain sok keresés interakcióiból tanul, a BERT a mélyebb nyelvi megértést hozza a előtte álló egyedi lekérdezéshez. Mindkettő egy nagyobb rendszercsalád része, amely a Google-t a valódi szemantikus keresés felé mozdítja.

Hol alkalmazza a BERT a Keresésben?

A BERT a lekérdezés és az eredmények oldalán egyaránt működik. Segít a Google-nek értelmezni, mit ért valójában a kereső, ami a természetes, beszélt stílusú megfogalmazásoknál a legfontosabb. Emellett jobb kiemelt részleteket (featured snippet) is támogat: a Google jelentése szerint két tucat országban alkalmazta a BERT-et, a koreai, a hindi és a portugál nyelvnél különösen látványos eredményekkel.

Mivel javítja, hogyan olvassa a motor a keresési szándékot, a BERT általában azokat az oldalakat jutalmazza, amelyek világosan válaszolnak a valódi kérdésekre. A Keresést a szó szerinti kulcsszóillesztéstől a lekérdezés mögötti jelentéshez való illesztés felé mozdította el, ezért az a tartalom teljesít jobban, amely a témát alaposan kifejti, mint az, amelyet pontos kifejezésekkel tömnek tele.

Optimalizálhatsz a BERT-re?

Nem közvetlenül, és ez a lényeg. A Google egyértelműen kijelentette, hogy nincs mire optimalizálni: a BERT egy megértési keretrendszer, nem rangsorolási tényező. A hivatalos útmutatás egyszerűen az, hogy természetesen írj, mert a BERT azokat a tartalmakat segít megérteni, amelyek már jól olvashatók, nem pedig valamilyen különleges formázást jutalmaz.

A gyakorlatban ez a tisztaságra és a kereső igényeire való fókuszt jelenti. Azok az oldalak, amelyek jól megírt, beszélgetős tartalommal valóban válaszolnak a kérdésekre, általában profitálnak, míg a szövegkörnyezet nélküli kulcsszótömés veszíthet. Ha az írásodat a valódi felhasználói kérdésekhez igazítod, megbízható kulcsszókutatás és tartalomtervezés mellett, ez a legmegbízhatóbb módja annak, hogy a nyelvértő rendszerek jó oldalán maradj.

Miért fontos a BERT a SEO és a GEO szempontjából?

A SEO-ban a BERT megerősítette a régóta tartó irányt: először az embereknek írj. A jelentést, a szerkezetet és a tisztaságot tette a keresés valutájává a pontos egyezésű kulcsszavak helyett, megerősítve a szándékot kielégítő hasznos tartalom értékét. A vékony vagy manipulatív oldalakat a Google így könnyebben átlátta.

A generatív motoroptimalizálás szempontjából a BERT az AI-keresést ma működtető rendszerek korai elődje. Ugyanez a kétirányú, transzformer-alapú megértés áll a ChatGPT-hez, a Perplexity-hez és a Gemini-hez hasonló asszisztensek mögötti nagy nyelvi modellek alapjainál. Az a tartalom, amelyet elég tisztán írtak ahhoz, hogy a BERT megértse, olyan is, amelyet ezek az LLM-rendszerek fel tudnak dolgozni, megbízhatónak tekinteni és idézni, így a jó nyelvhasználat közös alapja lesz a keresésnek és az AI-láthatóságnak.

Összegzés

A BERT azt a pillanatot jelentette, amikor a Google megtanult egy lekérdezést szövegkörnyezetben olvasni: kétirányú transzformerekkel súlyozza minden szót a szomszédaival szemben. Bevezetésekor az angol nyelvű keresések tizedét javította, élesítette a kiemelt részleteket, és határozottan a természetes, szándékvezérelt írás felé terelte a SEO-t. Nincs trükk, amellyel rá lehetne optimalizálni, csak a valódi kérdések tiszta megválaszolásának fegyelme van.

A továbblépéshez kösd ezt össze a természetesnyelv-feldolgozással és a szemantikus kereséssel, és a Sorank kutatási és tartalomtervezési eszközeivel célozd azokat a kérdéseket, amelyeket az emberek valóban feltesznek. Forrásként: Google Blog, Search Engine Journal és Search Engine Land.