Transformerul este o arhitectură de rețea neurală (introdusă în 2017) care a revoluționat AI, în special procesarea limbajului natural. Mecanismul de atenție al acestuia îi permite să proceseze secvențe în mod eficient, și este baza LLM-urilor moderne (GPT, Claude, etc.).
Ce sunt transformerele
TRANSFORMER → a neural network architecture for processing SEQUENCES (text, etc.):
→ introduced in the 2017 paper 'Attention Is All You Need'
→ uses an ATTENTION mechanism (instead of processing strictly sequentially)
→ the foundation of modern LLMs and much of modern AI
→ revolutionized NLP and enabled the LLM era
