Un analizor pregătește textul pentru căutare transformându-l în tokenuri: unități, adesea cuvinte, care pot fi potrivite ulterior.
Urmărește fiecare transformare
Pentru un pipeline configurat deliberat să elimine HTML, să separe cuvinte și să le transforme în minuscule:
<b>Blue Shoes</b>
-> Blue Shoes
-> [Blue, Shoes]
-> [blue, shoes]
