Analyzer paruošia tekstą paieškai paversdamas jį tokenais – vienetais, dažnai žodžiais, kuriuos vėliau galima sutapatinti.
Stebėkite kiekvieną transformaciją
Sąmoningai nustatytam HTML šalinimo, žodžių skaidymo ir raidžių mažinimo pipeline:
<b>Blue Shoes</b>
-> Blue Shoes
-> [Blue, Shoes]
-> [blue, shoes]
