Um analisador prepara texto para busca transformando-o em tokens: unidades, frequentemente palavras, que poderão ser comparadas depois.
Observe cada transformação
Para um pipeline configurado deliberadamente para remover HTML, separar palavras e convertê-las para minúsculas:
<b>Blue Shoes</b>
-> Blue Shoes
-> [Blue, Shoes]
-> [blue, shoes]
