Forrás: Wikimedia Commons, CC BY 4.0 – Szóvektorok kétdimenziós vetülete t-SNE módszerrel
A természetes nyelvfeldolgozás kutatáson kívüli vetülete talán kevésbé látható, mégis naponta találkozunk vele: a keresőmotor szándékértelmezésétől a levélszemét-szűrőig, az automatikus fordítástól az élő feliratozásig. Ez a cikk néhány ilyen alkalmazáson keresztül mutatja be, milyen módszereket takar a hétköznapokban használt szoftverek háttere.
Szóvektorok és szemantikai közelség
Az egyik legkiterjedtebben alkalmazott NLP-eszköz a szóvektor (word embedding): egy olyan numerikus reprezentáció, amelyben minden szó egy többdimenziós vektortérben helyezkedik el, és a szemantikailag hasonló szavak vektorai közel találhatók egymáshoz. A Word2Vec és a GloVe modellek a 2010-es évek elején-közepén váltak elterjedtté; ezeket mára felváltották vagy kiegészítették a kontextusra érzékeny, transzformer-alapú reprezentációk.
Az ábrán látható vizualizáció egy t-SNE nevű dimenziócsökkentési módszerrel jeleníti meg, hogyan csoportosulnak a szemantikailag rokon szavak a vektortérben. Irodalmi szövegeken betanított modellek esetén a 19. századi lexika egymáshoz közel kerülő csoportjait lehet megfigyelni – például a természetleírásokhoz kapcsolódó szavak, az udvari élet terminusai vagy a mozgást kifejező igék külön klasztereket alkotnak.
t-SNE – t-elosztású sztochasztikus szomszédsági beágyazás
A t-SNE nagy dimenziójú adatokat vetít kétdimenziós síkra úgy, hogy a közelségi viszonyok megőrződjenek. Főleg vizualizációra alkalmas; a kapott elrendezés geometriai távolságait nem szabad közvetlenül mérési alapként kezelni.
Gépi fordítás
A gépi fordítás az NLP egyik leglátványosabb alkalmazása a széles nyilvánosság számára. Az ún. neurális gépi fordítás (Neural Machine Translation, NMT) szekvencia-szekvencia architektúrával dolgozik: a forrásnyelvű mondatot egy kódoló reprezentációvá alakítja, amelyből egy dekódoló előállítja a célnyelvű mondatot.
Magyar–angol és angol–magyar irányban a kereskedelmi fordítórendszerek teljesítménye az utóbbi évtizedben láthatóan javult, különösen rövid, egyszerűbb mondatoknál. Összetett, hosszú mondatoknál – amelyekben a főnévi bővítmények morfológiai illeszkedése döntő – a hibaarány még mindig magasabb, mint morfológiailag egyszerűbb nyelvpároknál.
Párhuzamos korpuszok szerepe
A fordítási modellek betanításához elengedhetetlen a párhuzamos korpusz: azonos tartalmú szövegek forrás- és célnyelven. Az Európai Unió intézményei által előállított jogi és adminisztratív dokumentumok (Europarl, DGT korpusz) a magyar vonatkozásban is fontos betanítási forrásként szolgálnak, de ezek a szövegtípusok nem feltétlenül reprezentatívak a köznyelvi kommunikáció szempontjából.
Véleményelemzés
A véleményelemzés (sentiment analysis) célja, hogy szöveges tartalmakból kinyerje a szerzői véleményt – pozitív, negatív vagy semleges osztályozással. Termékértékelések, közösségi médiás bejegyzések és sajtóanyagok elemzésénél alkalmazzák.
Magyar szövegeken alkalmazva a véleményelemzés kihívása részben a tagadás és az irónia kezelésében rejlik: egy negatív tartalmú mondatot tagadó módosítóval könnyen átfordíthatjuk pozitívba (és fordítva), amit egy egyszerű szózsák-alapú modell nem képes megbízhatóan azonosítani. A kontextusérzékeny modellek – például a HuBERT finomhangolt változatai – jobban kezelik ezeket a mintázatokat.
Keresőmotorok és szándékfelismerés
A keresőmotorok már évtizedek óta alkalmaznak egyszerű szövegfeldolgozási lépéseket (tőszó-egyeztetés, stopszó-szűrés), de a modern rendszerek jóval több réteget tartalmaznak. A szemantikus keresés nemcsak a szavak egyezésére, hanem a keresési szándékra reagál: az „időjárás Budapest holnap" lekérdezésre például nem egy oldalt keres, amely tartalmazza ezeket a szavakat, hanem előrejelzési adatokat.
Ehhez szükség van arra, hogy a rendszer képes legyen kinyerni a lekérdezés típusát (tájékoztató, tranzakcionális, navigációs), azonosítani az entitásokat (Budapest, időjárás, holnap), és a megfelelő típusú tartalmat előre rangsorolni. Mindez NLP-komponensek nélkül nem megoldható.
Összefoglalás
A felsorolt alkalmazások mindegyike mögött gépi tanulási modellek és NLP-infrastruktúra áll, amelynek minősége és megbízhatósága erősen függ a rendelkezésre álló betanítási adatoktól, az adott nyelv morfológiai sajátosságaitól és az alkalmazott architektúrától. Magyar szempontból a legnyilvánvalóbb fejlesztési tér a köznyelvi, spontán szövegekre vonatkozó modellek, a morfológiailag helyes gépi fordítás és a tartalomalapú keresés pontosítása.
Hivatkozások: e-magyar.hu · Nyelvtudományi Kutatóközpont
