Analyzer ტექსტს ძიებისთვის token-ებად გარდაქმნით ამზადებს: ეს ერთეულები, ხშირად სიტყვები, მოგვიანებით დამთხვევის შესამოწმებლად გამოიყენება.
დააკვირდით თითო გარდაქმნას
HTML-ის მოცილებისთვის, სიტყვების დაყოფისა და პატარა ასოებად გარდაქმნისთვის სპეციალურად დაყენებულ pipeline-ში:
<b>Blue Shoes</b>
-> Blue Shoes
-> [Blue, Shoes]
-> [blue, shoes]
