Merkingarleit: þegar leitin skilur hvað þú átt við

Þú leitar að "orlofshús" í skjalasafni fyrirtækisins og færð ekkert, þótt þar liggi tíu skjöl um sumarbústaði. Hefðbundin leit ber saman stafi, ekki merkingu. Merkingarleit (semantic search) leysir þetta með innfellingum (embeddings): texti er þýddur yfir í tölur þannig að setningar með svipaða merkingu lenda nálægt hver annarri, óháð því hvaða orð voru notuð. Fyrir fyrirtæki þýðir það að allt efnið sem þegar hefur verið skrifað, handbækur, tilboð, herferðir og svör, verður loksins finnanlegt.

Innfellingar: texti verður að punkti í rými

Innfelling er löng talnaruna, vigur, sem mállíkan reiknar út frá texta. Hugsaðu hana sem hnit: hver setning, málsgrein eða skjal fær punkt í rými með hundruðum vídda. Líkanið er þjálfað þannig að textar sem þýða svipaða hluti fá punkta sem liggja þétt saman, en ótengdir textar lenda langt hvor frá öðrum.

Þess vegna eru "sumarbústaður" og "orlofshús" nágrannar í þessu rými þótt orðin deili varla staf. Líkanið hefur séð þau notuð í sama samhengi, um sama fyrirbæri, og staðsetur þau því á sama svæði. Leit sem ber saman stafi getur aldrei séð þessi tengsl. Leit sem ber saman staðsetningu í merkingarrými sér þau strax.

Sama gildir um heilar setningar. "Hvernig segi ég upp áskriftinni?" og "Mig langar að hætta í þjónustunni" innihalda nánast engin sameiginleg orð en lenda nálægt hvor annarri, því merkingin er sú sama. Það er þetta sem gerir merkingarleit að öðru en fínni útgáfu af leitarorðaleit: hún vinnur með það sem þú átt við, ekki það sem þú slóst inn.

Hvernig er nálægð mæld?

Þegar textarnir eru orðnir að vigrum þarf tölu sem segir hve líkir tveir þeirra eru. Algengasta mælingin er kósínuslíking (cosine similarity):

$$\text{líking}(a, b) = \frac{a \cdot b}{\lVert a \rVert , \lVert b \rVert}$$

Formúlan lítur tæknilega út en hugmyndin er einföld. Hugsaðu um vigrana tvo sem örvar frá sama upphafspunkti. Kósínuslíkingin mælir hornið á milli þeirra: örvar sem benda í sömu átt fá líkingu nálægt 1, sem þýðir sama merking, en örvar sem benda í ólíkar áttir fá lága tölu. Teljarinn, innfeldið $a \cdot b$, mælir hve mikið örvarnar vinna saman, og nefnarinn leiðréttir fyrir lengd þeirra þannig að aðeins stefnan skiptir máli. Löng skýrsla og stutt setning um sama efni geta því mælst mjög lík.

Leitin sjálf er svo einföld í grunninn: spurning notandans er breytt í vigur, hann er borinn saman við vigra allra skjala í safninu og þau skjöl sem mælast líkust eru dregin fram.

Hvað geta fyrirtæki gert við þetta?

Verðmætasta gagnasafn flestra fyrirtækja er efnið sem starfsfólkið hefur þegar skrifað: eldri markaðsherferðir, vörutextar, verklagsreglur, handbækur og þúsundir svara við fyrirspurnum viðskiptavina. Vandinn er ekki að efnið vanti heldur að enginn finnur það. Merkingarleit breytir því, og sama grunntækni opnar fleiri dyr:

• Leit í eigin efni. Markaðsteymið finnur allar eldri herferðir um tiltekið þema, þjónustufulltrúi finnur rétta svarið þótt viðskiptavinurinn orði spurninguna öðruvísi en handbókin.
• Afritahreinsun. Tvö skjöl sem segja nánast það sama mælast með háa líkingu þótt orðalagið sé ólíkt. Þannig má finna tvítekið efni í skjalasafni eða vörulista og halda einni réttri útgáfu.
• Flokkun á endurgjöf viðskiptavina. Hundruð opinna svara úr könnun raðast sjálfkrafa í klasa eftir merkingu: allt sem snýst um afhendingartíma lendir saman, allt um verðlagningu saman, án þess að nokkur skilgreini flokkana fyrirfram.
• Aðstoðarmaður sem svarar úr eigin gögnum. Áður en mállíkan svarar spurningu er merkingarleit notuð til að sækja þau innri skjöl sem eiga við, og líkanið svarar svo út frá þeim í stað þess að giska. Þetta mynstur, að sækja fyrst og svara svo, kallast retrieval-augmented generation (RAG) og er algengasta leiðin til að láta gervigreind svara rétt um efni sem hún var aldrei þjálfuð á.

Það sem þarf að varast

Tæknin er öflug en ekki töfrar. Þrjú atriði skipta mestu í framkvæmd:

• Innfellingar eru bundnar við líkanið sem bjó þær til. Vigrar frá tveimur ólíkum líkönum eru ósamanburðarhæfir, eins og hnit úr tveimur ólíkum kortakerfum. Ef skipt er um líkan þarf að endurreikna allt safnið, og það borgar sig að vita það áður en safnið telur milljónir skjala.
• Gæði á íslensku þarf að prófa. Mörg innfellingalíkön eru þjálfuð að langmestu leyti á ensku. Sum ráða vel við íslensku, önnur ekki, og eina leiðin til að vita það er að prófa á eigin gögnum: taka raunverulegar fyrirspurnir og skoða hvort rétt skjöl koma efst.
• Gæði leitarinnar ákvarða gæði svarsins. Í RAG uppsetningu svarar líkanið út frá því sem leitin skilar. Ef leitin dregur fram rangt eða úrelt skjal skilar líkanið sjálfsöruggu svari byggðu á röngum grunni. Rusl inn, sannfærandi rusl út. Þess vegna er leitarhlutinn, ekki mállíkanið, oftast staðurinn þar sem mestu munar að vanda sig.