Ullmhaíonn analyzer téacs don chuardach trína thiontú ina tokens: aonaid, focail go minic, ar féidir iad a mheaitseáil níos déanaí.
Féach ar gach claochlú
Do pipeline atá cumraithe d'aon ghnó chun HTML a bhaint, focail a scoilt agus cás íochtair a chur orthu:
<b>Blue Shoes</b>
-> Blue Shoes
-> [Blue, Shoes]
-> [blue, shoes]
